本地推理

llama.cpp 是一个使用纯 C/C++ 编写的开源大语言模型推理框架，由 Georgi Gerganov 创建，专注于在消费级硬件（包括 CPU、Appl