Groq AI推理加速器：宣称三年内将超英伟达Groq推出了大模型推理芯片，以每秒500tokens的速度引起轰动，超越了传统GPU和谷歌TPU。该芯片采用了全球首个LPU方案，解决了计算密度和内存带宽的瓶颈，推理速度提高了10倍，成本降低十分之一，性价比提高了100倍。