芯片制造商Nvidia周一宣布,其Spectrum-X网络技术帮助扩展了初创公司xAI的Colossus超级计算机,该计算机现在被公认为世界上最大的人工智能培训集群 Colossus位于田纳西州孟菲斯,是第三代Grok的训练场,Grok是xAI开发的一套大型语言模型,为X Premium用户提供聊天机器人功能。 巨像,完整的在短短122天内,该公司在安装19天后开始训练首批型号。英伟达在一份声明中表示,科技亿万富翁埃隆·马斯克的初创公司xAI计划将该系统的容量翻一番,达到20万个GPU陈述星期一。 Colossus的核心是一个巨大的互连GPU系统,每个GPU都专门处理大型数据集。当Grok模型被训练时,他们需要分析大量的文本、图像和数据来改善他们的反应 被吹捧作为世界上最强大的人工智能训练集群,Colossus使用统一的远程直接内存访问网络连接了100000个NVIDIA Hopper GPU。NVIDIA的Hopper GPU通过在多个GPU上分离工作负载并并行处理来处理复杂任务。 该架构允许数据直接在节点之间移动,绕过操作系统,并确保低延迟和大规模人工智能训练任务的最佳吞吐量。 虽然传统以太网经常遭受拥塞和丢包的困扰,将吞吐量限制在60%,但Spectrum-X在不降低延迟的情况下实现了95%的吞吐量 Spectrum-X允许大量GPU更顺畅地相互通信,因为传统网络可能会因数据过多而陷入困境 该技术使Grok能够更快、更准确地接受训练,这对于构建有效响应人类交互的人工智能模型至关重要。 周一的公告对英伟达的股价影响不大,该公司股价小幅下跌。截至周一,该公司的股价为141美元,市值为3.45万亿美元。 编辑人塞巴斯蒂安·辛克莱