Groq 使用自研 LPU(语言处理单元)硬件,提供极低延迟的超快推理服务。
[auth] provider = "groq" api_key = "${GROQ_API_KEY}"
或设置环境变量:
export GROQ_API_KEY=gsk_...
在 console.groq.com 获取 API Key。
[model] provider_id = "groq" model = "llama-3.3-70b"
savfox -m groq:llama-3.3-70b exec "重构这段代码" savfox -m groq:llama-3.1-8b exec "快速解释"
gsk_