AI 40%

电信阿里联手!打造10万卡智算集群:性能提升9.3倍!

凤凰网科技 ifeng
Document Text 819 characters
快科技4月8日消息,由中国电信广东公司联合阿里云共同建设的粤港澳大湾区首个基于“真武”芯片的万卡智算集群,近日在韶关数据中心集群正式上线。阿里云表示该集群预计扩容至10万卡规模。<br> 该集群实现了从芯片、云平台到模型应用的全链路自主研发,是国家“超大规模智算集群”新基建在大湾区的首个落地项目。<br> 技术上,集群通过卡间RoCE高性能组网与双平面多轨通信技术,端到端网络时延低至4微秒,网络峰值利用率超过95%。<br> 同时,真武芯片整机提供1.5T超大显存,卡间互联带宽超过700GB/s,为国产算力底座提供了坚实支撑。<br> 值得一提的是,相较传统单机部署模式,集群单卡吞吐性能提升达9.3倍,每秒Token生成总量提升近10倍。<br> 集群提供IaaS、PaaS、MaaS全栈AI智算云化产品服务,训练与推理效率提升超过30%。<br> 集群支持DeepSeek-V3.2满血版、Qwen3.5-397A-A17b等业内领先开源模型实现单机快速部署。<br> 目前,该集群已在多个行业场景落地。尤其是在医疗民生领域,上线的“全诊通”应用,已在中山大学肿瘤防治中心等医院开展国产化迁移与应用试点。<br> 为进一步推动算力普惠,集群资源已同步上架“广东电信算力超市”,面向中小企业提供按卡、按小时计费的算力零售服务。<br> “特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。<br> Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”
Metadata
Publisher 凤凰网科技
Site ifeng
Date N/A
CMS Category 媒体报道
Keywords 集群 算力 上线 万卡智 单机 落地 技术 性能 模型 部署 中心 芯片 广东 国产化 中国电信 医院 肿瘤 模式 网络 智算云 峰值 全栈 利用率 产品 韶关 行业 大湾 端网络 高性能 领域 民生 医疗 单卡 消息 公司 中山大学 领先 开源 计费 数据中心 底座 小时 国产 项目 场景 传统 真武 平面 资源 规模 智算 万卡 国家 卡间 平台 粤港澳 时延 试点 面向 广东电信 全诊通 链路