下载中心

本地 RAG 知识库工具，支持多种 LLM 和 Embedding 模型，一键将文档转换为可对话的知识库

开源自动化工作流平台，内置 AI 节点支持 LLM 调用、RAG、AI Agent 编排

高性能 LLM 推理引擎，支持 PagedAttention、连续批处理、量化推理，生产级部署首选

图形化本地模型运行工具，支持 HuggingFace 模型一键下载，内置聊天界面和本地 API 服务

本地 LLM 的开源 Web 管理界面，支持 Ollama 和 OpenAI 兼容 API，提供对话、文件上传、RAG 等功能

在本地运行大模型的最简方案，支持 LLama 3、DeepSeek、Qwen 等主流模型的一键下载和运行

开源 LLM 可观测平台

LLM 数据框架

LLM 应用开发框架

LLM 本地代码执行解释器

开源 LLM 应用开发平台

开源 AI 编程助手 VS Code 扩展，支持接入 Claude、GPT-4 等任意 LLM，提供代码补全、对话、内联编辑等功能。