量产落地

英伟达 Groq 3 LPX 推理系统进入全面量产。去年 12 月，英伟达以约 200 亿美元拿下 Groq 技术授权，并吸纳创始人 Jonathan Ross 等核心团队。8 个月后，该交易首款硬件问世。

性能数据

  • 单系统集成 256 颗 Groq 3 LPU 芯片

  • Artificial Analysis 测试中，Gemma 4 31B 模型输入 10 万 Token 后，输出速度达每秒 3431 Token

  • 同期市面最快公开 API 约 870 Token/秒，性能接近 4 倍


部署安排

实际场景中，Rubin GPU 负责重计算，Groq 3 LPX 专注提升 Token 生成速度，可显著缩短 Coding Agent 多次调用模型的等待时间。

Nebius 为首家采用该系统的 AI 云厂商。Groq 自身亦为首批用户之一，并将与 Dell 联合部署——去年授权技术给英伟达，今年用上英伟达造出的「Groq」。