资讯

Groq表示,基于其LPU芯片的云服务器在Llama2或Mistreal模型在计算和响应速度上远超基于NVIDIA AI GPU的ChatGPT,其每秒可以生成高达500个 token。
但是,根据最新的报道显示,Groq CEO Jonathan Ross近日在接受采访时控诉NVIDIA阻碍公平竞争。 “我们见过的很多人都说,倘若双方见面的消息传到NVIDIA ...
几乎在你按下发送按钮的瞬间,大模型便以惊人的速度完成了回复的生成。这一次,Groq大模型以每秒500个token,彻底颠覆了GPT-4的40 tok/s的速度纪录!
然而,据最新的报道显示,Groq CEO Jonathan Ross近日在接受采访时控诉NVIDIA阻碍公平竞争。 他透露:“我们见过的很多人都说,倘若双方见面的消息传 ...