2024-11-20
d-Matrix首款AI芯片出货:数字存算一体DIMC技术、速度提升10倍
11月20日消息,微软投资的硅谷初创公司d-Matrix近日宣布,其首款人工智能芯片Corsair开始出货。 d-Matrix表示Corsair在单台服务器中为Llama3 8B提供每秒处理60000个tokens的性能,每个tokens的延迟为1毫秒。 该公司声称,与GPU和其他替代方案...
你的专属IT资讯
11月20日消息,微软投资的硅谷初创公司d-Matrix近日宣布,其首款人工智能芯片Corsair开始出货。 d-Matrix表示Corsair在单台服务器中为Llama3 8B提供每秒处理60000个tokens的性能,每个tokens的延迟为1毫秒。 该公司声称,与GPU和其他替代方案...