资讯
在AI数据中心中,Scale Up(纵向扩展)是通过提升单台服务器的计算密度来增强算力,比如在一台机器上集成更多高性能GPU、更大内存或更快的存储,打造“超级节点”。它的特点是高带宽、低时延,特别适合AI推理的大显存并行计算以及训练中的张量并行(TP ...
面对挑战,在孙凝晖院士提出的C体系技术路线指引下,早在2022年7月,阿里云和中国科学院计算技术研究所联合开启高通量以太网(ETH+)协议的制定。此后一年,2023年7月,由阿里云和计算所发起的『高通量以太网联盟』应运而生。目前,『高通量以太网联盟』 ...
智通财经APP获悉,广发证券发布研报称,随着AI训练与推理对单节点计算密度、带宽与低延迟互连的需求不断攀升,提升单机性能已成为数据中心投资的优先选项,各大厂商正推出自研或深度定制的交换芯片与互连协议。整体来看,Scale up网络的快速发展正直接推动Scale ...
10 天on MSN
大模型时代算力挑战:Scale Up成破局关键,软硬协同激发潜能
随着人工智能技术的飞速发展,模型发展的两极化趋势愈发显著。在企业级应用层面,小参数模型凭借其高效性和实用性,迅速成为市场宠儿;而在另一端,通用大模型的参数规模不断攀升,正式迈入万亿参数的新纪元。 MoE(Mixture of ...
11 天on MSN
大模型时代算力挑战:Scale Up成破局关键,软硬协同共筑算力基石
在人工智能领域,模型发展的两极分化趋势愈发显著。一方面,企业级应用更倾向于采用小参数模型,因其在实际应用中展现出高效与便捷;另一方面,通用大模型的参数规模持续攀升,已迈入万亿参数的新纪元。 MoE(Mixture of ...
人工智能领域正经历一场前所未有的算力革命。随着 大模型 参数规模的指数级增长,从GPT-3的1750亿参数到万亿参数模型的涌现,对算力系统的需求呈现爆发式增长。传统计算架构已难以满足日益增长的算力需求,推动着业界探索新的解决方案。浪潮信息近日发布的元脑SD200超节点AI服务器,正是应对这一挑战的积极尝试。
规模化网络(Scale-up networking)成为关键战场:团队指出,在Scale-up架构中(即大规模AI集群内部高带宽、高吞吐互连),其单位系统中可贡献的 ...
管理。 Scale-up架构本身就是以单一系统的方式来进行管理的。 而Scale-out架构通常有聚合管理的能力,但每个厂商提供的产品可能会有所不同。 复杂性。 Scale-up架构的存储相对简单,而scale-out架构的系统会更复杂一些,毕竟每个节点都需要管理。 可用性。
只看Scale-up,博通CEO Hock Tan在2025年二季度的财报会议中认为,“Scale-up正在快速切换到以太网…博通在scale-up中的机会是scale-out的五到十倍”。
在本专栏的上下文中,每个机架可以被视为一个 AI Pod。 “Scale-Up”(又称“垂直扩展”)是指向单个 AI Pod 或节点添加更多资源,例如处理器和内存。 相比之下,“Scale-Out”(又称“水平扩展”)是指向系统添加更多 AI Pod 或节点并将它们连接在一起。
从数量和销量来看,800G和1.6T时代,重定时可插拔设备仍将是最大的市场,到了3.2T时代,LPO和CPO的优势将更加明显,技术也将更加成熟,同时CPO可能 ...
通过此次合作备忘录的签署,ODCC与UALink联盟将围绕Scale Up技术发展趋势、行业应用需求等话题进行更多探讨,并通过技术研讨、测试评估和产业活动 ...
当前正在显示可能无法访问的结果。
隐藏无法访问的结果