在近日举办的昇腾ai开发者峰会上，全球ai开发者齐聚一堂，共同探讨agentic ai时代的技术创新与生态建设。本次峰会以“一起昇腾 共绽光芒”为主题，华为展示了其在ai基础设施领域的最新突破，并宣布了一系列推动开发者生态繁荣的重要举措。
华为公司fellow、半导体首席科学家廖恒在主题演讲中指出，随着agentic ai的快速发展，ai芯片的核心指标需求呈现差异化特征。针对预训练、推理等不同场景，算力、内存带宽、容量及互联io带宽的优先级各不相同。他特别强调，互联能力是决定超节点性能的关键因素。通过昇腾950芯片的优异互联技术，可构建出更高带宽、更低延时的超节点系统，其综合性能与超节点规模和单芯片性能的乘积成正比。
在技术挑战方面，廖恒深入分析了moe模型推理对时延的严苛要求。当前，时延需压缩至毫秒级，而传统网络架构难以承载ep通信中细粒度、高频次的数据交互。为此，华为提出将ep通信限制在scale up域内完成，并根据通信颗粒度选择load&store或dma等优化方案。针对kv cache面临的模型调用频次和序列长度激增问题，华为创新设计了搭载ub端口的ssu单元，使带宽提升至少一个数量级，同时保持95%以上的高命中率。
华为昇腾计算产品部部长周斌详细介绍了软件生态建设的最新成果。cann作为昇腾软件底座，已实现全层级开源开放，提供50余个源码仓和完整的算子开发体系。针对不同开发者需求，昇腾提供了从ascend c到pypto的全栈编程工具，并推出cannbot算子智能体，将开发效率提升5倍以上。为降低开发门槛，昇腾全面兼容python生态，支持triton和tilelang等主流编程框架，覆盖超600个triton算子和300个tilelang算子。
在ai框架支持方面，昇腾与pytorch生态实现深度对齐，提供2300多个api和40余个模型入图能力。强化学习领域，通过与verl社区合作，训练效率提升2倍以上。推理场景中，昇腾成为vllm project和sglang主仓的唯一自主创新硬件九游会j9登录入口的合作伙伴，长序列场景首token时延降低30%。开源大模型推理引擎xllm负责人刘童璇表示，该引擎已实现全模态模型推理加速，未来将深度适配昇腾950超节点技术。
为进一步赋能开发者，昇腾宣布升级开发者使能计划。新计划提供一键自动部署环境，开发者可免费获得100卡时初始算力。通过搭建agent工作流，将复杂任务开发周期大幅压缩。同时设立创新激励基金，投放10000卡算力资源，重点支持算子、加速库等领域的创新探索。峰会现场，华为为11名杰出个人和14个优秀团队颁发了“昇腾开源贡献奖”，表彰他们在技术创新和生态建设中的突出贡献。
