视频号
    标题 摘要 内容
    详情

    在CANNBench昇腾A3(910C)榜单中,由智子芯元与香港中文大学(深圳)王本友教授团队组成的KernelCAT联合团队,以8099.48分的综合成绩,在162个参评方案中位列第一。

    图片

    此次参评方案结合知识引导的演化搜索、硬件反馈驱动的迭代优化与RSI(Recursive Self-Improvement,递归自我改进),在统一的算子优化框架下,持续生成、验证和改进算子实现,并将经过验证的优化经验更新、复用于后续任务。KernelCAT团队提交的全部53项算子均通过编译,1060 个公开测试用例全部通过精度验证,未公开的隐藏测试集通过率达到99.4%;在全量测试用例上,几何平均加速比达到1.42×。

    CANNBench是由华为团队提出、在CANN官方代码仓库开源的昇腾NPU算子代码生成评测基准。评测从编译、功能正确性和执行性能三个维度综合评分,并结合公开与隐藏测试用例,检验生成算子在不同输入条件下的表现,为比较算子自动开发能力提供统一、可复现的标准。 

    其任务集横跨L1至L4四个难度等级,从基础向量计算延伸至复杂融合算子,覆盖注意力、MoE 路由、量化矩阵乘法等大模型推理中的关键计算环节。SparseFlashAttention、MLA、MoeFinalizeRouting、GroupedMatmul等代表性任务,需要处理复杂的数据访问与计算流程,并协调昇腾的多级存储和计算单元,对自动生成算子的正确性与性能优化提出了更高要求。


    从硬件反馈到知识演化:KernelCAT的技术路径

    高性能算子的开发,需要同时理解计算逻辑、芯片架构与数据访问方式。同一种计算策略,在不同输入形状和硬件条件下,可能产生不同的效果。面对不同算子与硬件条件,KernelCAT团队将任务理解、代码生成与搜索决策、资源分配相结合,构建由真实硬件反馈驱动的计算加速框架,既改进当前算子实现,也让优秀经验得以沉淀,服务于后续任务:

    • 知识引导的演化搜索:将芯片文档、社区实现与工程经验整理为可复用的调优知识,引导智能体探索多条实现路径。搜索过程综合考虑候选方案的优化潜力与验证成本,分配评估资源,选择值得继续深入的方向。

    • 硬件反馈驱动的迭代优化:在真实硬件上完成编译、精度验证与性能测试,根据实测结果定位瓶颈、调整实现、优化关键参数,形成“生成—验证—调优”的完整闭环。

    • RSI递归自我改进:通过执行轨迹回放,KernelCAT把检索知识、调优方案、预期效果与实测结果相关联,将有效实践加入策略池,并更新知识库中的适用条件与组合规则。Agent harness据此动态调整智能体的调优先验,改变后续行动策略,同时,优秀策略可在条件匹配时跨任务复用,持续改善其他算子的调优决策。这一机制帮助智能体将任务层面的优化成果转化为能力层面的持续演化,逐步形成能够自我完善、自我增强的智能系统。


    KernelCAT的技术能力不止于算子

    KernelCAT 是融合大模型与运筹优化能力的计算加速智能体,不仅在算子自动开发任务上表现优异,还支持跨平台的端到端模型部署、框架调优、集群训练等广泛计算加速任务。

    榜单成绩是对KernelCAT算子开发能力的验证,放眼更多的现实场景,KernelCAT早已将AI for Computing落实在了真实工程里:模型适配方面,KernelCAT在DeepSeek-OCR-2的昇腾适配任务中,仅用38分钟就完成了自动化适配、部署和推理验证;性能优化方面,根据昇腾CANN公布的结果,KernelCAT提供的优化方案相较原生Transformers方案,最高实现了139倍加速。除此之外,KernelCAT深入AI前沿探索,参与了在昇腾384超节点上进行的1.6万亿参数DeepSeek-V4-Pro的全参数后训练实践,实现超过1500步的稳定训练。

    此次登顶CANNBench,是对KernelCAT算子生成与优化能力的一次有力验证;能够在实际工程中,以 AI for Computing 推动计算效率的下一次跃迁,才是KernelCAT真正的方向。让AI真正理解并掌握计算系统,让AI优化加速计算任务,这也正是智子芯元正在做且长期要做的事。KernelCAT,仍在向前。


    🔹 团队介绍 | 智子芯元团队

    智子芯元专注于 AI for Computing 方向,致力于构建能够理解计算任务并持续优化计算系统的智能能力。团队具备从模型训练、模型能力提升、运筹优化到Agentic系统的全栈技术积累,依托深圳市大数据研究院与河套深港科技创新合作区的孵化支持,并聘请运筹优化领域权威专家罗智泉院士提供学术指导。在智子芯元的判断中,未来的计算系统将不再只是执行任务的基础设施,而是可以被持续优化、持续演进的智能系统。


    🔹 团队介绍 | 王本友教授团队

    王本友教授现任香港中文大学(深圳)数据科学学院助理教授、博士生导师,同时任深圳河套学院助理教授,带领团队开展前沿人工智能研究。团队长期深耕大模型、智能体及 AI 与运筹优化的交叉领域,在大模型训练、算法研究和实际部署方面积累了丰富经验,兼具前沿算法研究与工程实践能力。在王本友教授带领下,团队成员张睿劼、林灏榆、梁钜豪、张之渊、蒋友鑫、王嘉豪、闭嘉禧、杜艺航、张世奇,与智子芯元团队围绕昇腾算子自动生成与优化展开合作。