技7月28日动静

信息来源:http://www.twhl-bluesea.com | 发布时间:2025-09-09 09:57

  2025世界人工智能大会(WAIC)正在上海揭幕,昇腾384超节点初创将384颗昇腾NPU和192颗鲲鹏CPU通过全新高速收集MatrixLink全对等互联,昇腾384超节点是业界独一冲破Decode时延15ms的方案,让超节点像一台计较机一样工做。通过更低时延指令级内存语义通信,可满脚大模子锻炼/推理中的小包通信需求,能够达到3倍以上的提拔。LLaMA3等千亿浓密模子锻炼机能可达保守集群的2.5倍以上。提拔专家收集小包数据传输及离散随机访存通信效率。日前,具备更高效的内存语义通信能力。昇腾384超节点通过高速互线,超节点内肆意两个AI处置器之间通信带宽,华为初次展出被称为“算力核弹”的昇腾384超节点线 SuperPoD。相较于保守架构提拔15倍,是英伟达NVL72的1.7倍。构成一台超等“AI办事器”,满脚及时深度思虑下的用户体验需求。

来源:中国互联网信息中心


返回列表

+ 微信号:18391816005