llama.cppllama.cpp 是一个使用纯 C/C++ 编写的开源大语言模型推理框架,由 Georgi Gerganov 创建,专注于在消费级硬件(包括 CPU、Appl20AI项目# AI项目# C++# 开源
text-generation-webuitext-generation-webui 是一款开源的大语言模型 Web 界面工具,使用 Python(Gradio)构建,俗称「oobabooga」,支持在10AI项目# AI项目# LLM界面# 开源
MilvusMilvus 是一款专为 AI 应用设计的开源向量数据库,由 Zilliz 主导开发,使用 Go 和 C++ 编写,是云原生、高性能向量相似度搜索领域的代表性项20AI项目# AI基础设施# AI项目# 向量数据库
TransformersHugging Face Transformers 是目前最广泛使用的开源预训练模型库,使用 Python 开发,提供数千个预训练的 NLP、视觉、多模态模型(10AI项目# AI项目# NLP# 开源