模型库 / Meta/LLaMA

LLaMA

Meta 开放许可

下载量

收藏数

浏览量

LLaMA 4 Community License

许可

简介

LLaMA 4 是 Meta 开源的大语言模型系列，提供多种参数规模（8B、70B、405B）供社区自由使用和部署。采用宽松的开源许可，支持本地部署、微调和定制化开发。凭借活跃的开源生态和广泛的框架支持（Ollama、vLLM、Transformers），成为自部署场景的首选模型。

能力特性

文本生成代码生成开源可部署微调支持多语言长上下文工具调用社区生态

Benchmark

MMLU: 84.5%, HumanEval: 81.2%

SDK 示例

from transformers import AutoTokenizer, AutoModelForCausalLM

model_name = "meta-llama/Llama-4-70B"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    device_map="auto",
    torch_dtype="auto"
)

inputs = tokenizer("Hello, how are you?", return_tensors="pt")
outputs = model.generate(**inputs, max_new_tokens=128)
print(tokenizer.decode(outputs[0]))

# 使用 Ollama 本地运行
ollama pull llama4

# API 调用
curl http://localhost:11434/api/chat \
  -d '{"model": "llama4", "messages": [{"role": "user", "content": "Hello"}]}'

# 使用 vLLM 部署 OpenAI 兼容 API
python -m vllm.entrypoints.openai.api_server \
    --model meta-llama/Llama-4-70B \
    --tensor-parallel-size 4 \
    --dtype auto

操作

详细信息

厂商: Meta
许可: LLaMA 4 Community License
上下文: 128K
开源: 是