腾讯频道 - 科技发烧友 - Groq AI推理加速器：宣称三年内将超英伟达Gr...

1/8

我是大哥

Groq AI推理加速器：宣称三年内将超英伟达Groq推出了大模型推理芯片，以每秒500tokens的速度引起轰动，超越了传统GPU和谷歌TPU。该芯片采用了全球首个LPU方案，解决了计算密度和内存带宽的瓶颈，推理速度提高了10倍，成本降低十分之一，性价比提高了100倍。

2024-03-20

硬件科技

登录后评论