2025-03-13
Arm 宣布将 AI 推理性能优化软件库 Kleidi 扩展到车用市场
3 月 12 日消息，Arm 今日宣布将其 AI 推理性能优化软件库 Kleidi 扩展到车用市场，透过 Arm Kleidi，合作伙伴将可充分发掘下一代特定应用 AI 模型在汽车中的优势，并加快其部署速度。 Arm Kleidi 于 2024 年推出，开发人员无需进行...
AI 推理
2024-08-28
Cerebras 推出全球最快 AI 推理解决方案，速度是英伟达方案的 20 倍
8 月 28 日消息，Cerebras Systems 今日宣布推出 Cerebras Inference，官方称这是全球最快的 AI 推理解决方案。该新解决方案为 Llama 3.1 8B 提供每秒 1800 个 token，为 Llama 3.1 70B 提供每秒 450 个 toke...