昇腾已适配开源模型 Ling-3.0-flash,覆盖 A2 八卡和 A3 四卡部署,并开放标准镜像与完整工程。新的 CANN PyPTO 以 Tile 范式自动处理调度、搬运和代码生成,配套多智能体流程完成算子生成、验证与调优。
IT之家 8 月 6 日消息,蚂蚁百灵昨日正式开源新一代原生混合推理模型 Ling-3.0-flash,主打极致智能密度、全链路 Agent 闭环与低成本规模化落地。

华为官方今日宣布,昇腾同步完成百灵 Ling-3.0-flash 模型的 0 Day 适配。适配过程中还首次引入 CANN PyPTO 算子编程框架,可缩短复杂融合算子的交付周期,高效完成算子接入和推理框架性能调优,并同步开放完整部署工程。
本次适配全面兼容昇腾 A2、A3 系列产品,并提供官方标准化部署方案。开发者可通过官方镜像快速启动推理服务,硬件要求如下:
CANN PyPTO 编程框架基于 PTO ISA(虚拟指令集)构建 Tile 编程范式。开发者可通过 Tensor 级 API 精准定义计算逻辑,由框架自动完成分片调度、数据搬运和代码生成的全流程工作。

另外,CANNBot PyPTO Agent 构建了一套多智能体框架,将整个算子开发流程分解为 7 个阶段(Stage)并自动推进,每个阶段均由职责明确的子智能体协同执行。所有调度均由统一编排器 pypto-op-orchestrator 负责,子智能体之间通过记忆机制与机器可读状态交换信息,确保上下文能够无缝传递。
整个流程从输入自然语言描述的算子需求开始,历经自动化生成、验证与调优,直至产出精度达标、性能优化完成的可上板算子,全程无须人工介入各阶段的交接。这套工作流不仅全面提升了算子编程体验,还显著缩短了算子交付周期。IT之家附各阶段逻辑如下:

《蚂蚁集团发布百灵原生混合推理模型 Ling-3.0-flash:124B 总参数量,能力对标上一代旗舰 Ring-2.6-1T》
《蚂蚁集团发布百灵原生混合推理模型 Ling-3.0-flash:124B 总参数量,能力对标上一代旗舰 Ring-2.6-1T》
软媒旗下网站:IT之家、最会买-返利返现优惠券、iPhone之家、Win7之家、Win10之家、Win11之家
软媒旗下软件:软媒手机 APP 应用、魔方、最会买、要知