中金公司研报称,大模型参数规模、长上下文及并行策略推升了卡间通信需求 ,AI基础设施瓶颈正由单芯片算力转向互联效率 、资源调度和系统协同 。Scale-up通过扩大高带宽、低时延互联域,聚合算力和HBM资源,降低通信瓶颈对训练及推理效率的制约。中金公司认为,超节点有望成为AI算力的重要组织方式 ,推动交换芯片及交换托盘、光互联、液冷和高功率电源等环节迎来需求扩张与技术升级。

(文章来源:界面新闻)
中金公司研报称,大模型参数规模、长上下文及并行策略推升了卡间通信需求 ,AI基础设施瓶颈正由单芯片算力转向互联效率 、资源调度和系统协同 。Scale-up通过扩大高带宽、低时延互联域,聚合算力和HBM资源,降低通信瓶颈对训练及推理效率的制约。中金公司认为,超节点有望成为AI算力的重要组织方式 ,推动交换芯片及交换托盘、光互联、液冷和高功率电源等环节迎来需求扩张与技术升级。

(文章来源:界面新闻)