智元界 Zyentor AI 开发者社区

🔎

HuggingFace TGI

模型部署开源免费

0.0

工具简介

HuggingFace文本生成推理服务，高性能模型部署方案

数据信息

官网：https://huggingface.co/docs/text-generat...

信息更新：20天前

价格模式：开源免费

分类：模型部署

8 次浏览 0 人收藏

访问官网

相似工具

vLLM

高性能 LLM 推理引擎，PagedAttention 技术大幅提升吞吐量，支持连续批处理。