Groq 提供商

Groq 使用自研 LPU(语言处理单元)硬件,提供极低延迟的超快推理服务。

认证

[auth]
provider = "groq"
api_key = "${GROQ_API_KEY}"

或设置环境变量:

export GROQ_API_KEY=gsk_...

console.groq.com 获取 API Key。

模型

模型说明适用场景
llama-3.3-70bLlama 3.3 70B通用任务
llama-3.1-8bLlama 3.1 8B快速简单任务
mixtral-8x7bMixtral MoE质量与速度平衡

配置

[model]
provider_id = "groq"
model = "llama-3.3-70b"

快速调用

savfox -m groq:llama-3.3-70b exec "重构这段代码"
savfox -m groq:llama-3.1-8b exec "快速解释"

常见问题

  • API Key 以 gsk_ 开头
  • 免费额度有限,超出后需升级计划
  • 模型列表参见 Groq 文档