Groq​大模型推理芯片每秒500tokens超越GPU，喊话三年超过英伟达

划重点:1. Groq公司推出的大模型推理芯片，每秒500tokens的惊人速度超越了传统GPU，挑战谷歌TPU。2. 该芯片由初创公司Groq研发，由谷歌TPU团队原班人马打造，推理速度提高10倍，成本...