高性能 LLM 推理引擎，支持 PagedAttention、连续批处理、量化推理，生产级部署首选
大模型微调加速框架，训练速度提升 2x，显存节省 50%，支持 Llama、Mistral、Qwen 等主流模型
LLM 应用开发框架
LLM 数据框架
开源 LLM 可观测平台