Groq CEO最新访谈:明年底将部署150万个LPU,占据全球推理需求半壁江山

AI新星Groq横空出世,凭借其独创的LPU芯片和令人瞠目结舌的处理速度,成为了科技界的新宠。

近期,风投基金Social Capital创始人兼CEO Chamath Palihapitiya 和Groq创始人兼CEO Jonathan Ross在RAISE AI峰会上展开了一场对谈,谈话内容包括,Groq当前的发展、对于AI未来的思考,英伟达和Groq间的对比,Groq的优势等等。

Ross表示,AI推理的成本高昂,他的公司因此专门为大模型提供了“超快”、更便宜的芯片选择,到明年年底,将部署150万个LPU ,而去年英伟达总共部署了50万个H100,150万意味着Groq可能占世界上一半的推理计算能力,以下为对谈要点:

以下为AI翻译的对谈原文