下载中心
AI 开发工具、插件、模型、模板一站式下载
vLLM
SDK 安装包高性能 LLM 推理引擎,支持 PagedAttention、连续批处理、量化推理,生产级部署首选
0.7.0
40
175
推理引擎
LLM部署
高性能
unsloth
SDK 安装包大模型微调加速框架,训练速度提升 2x,显存节省 50%,支持 Llama、Mistral、Qwen 等主流模型
2024.12
44
717
微调
LoRA
QLoRA
LangChain
SDK 安装包LLM 应用开发框架
1.3.2
118.4 KB
66
788
framework
llm
rag
LlamaIndex
SDK 安装包LLM 数据框架
0.14.22
6.9 KB
61
726
rag
data-framework
Langfuse
SDK 安装包开源 LLM 可观测平台
3.31.0
29.6 KB
65
554
observability
monitoring