吐鲁番钢绞线 CUDA护城河破了? AI直出82算子, 开垦告别手搓期间

【新智元读】 在 Claude Code 30 分钟迁徙 CUDA 激发烧议的背后吐鲁番钢绞线，众智FlagOS社区依然给出了条系统的谜底：通过 KernelGen 与统编译器FlagTree，让算子在多种 AI 芯片上已毕自动生成、考据与化，信得过镌汰跨芯片软件迁徙资本。

围绕「CUDA 护城河是否松动」的筹办，本色指向个现实的问题：

算子能否在不同芯片上被自动生成、正确运转，并具备可用能？

算子生成综述（https://arxiv.org/abs/2601.15727）

算子自动生成，依然跑在多芯片上了

对此，众智 FlagOS 社区在2026年1月初出了升版 KernelGen——个支执多种 AI 芯片的能 Triton 算子生成自动化器具，并在的确多芯片环境下完成了系统评测。

从推行数据来看，KernelGen 已不再停留在观念或 Demo 阶段：

生成可编译运转算子的告成率(生成告成率）：82

合座算子数值准确通过（推行正确率）：62

隐蔽英伟达，以及华为、摩尔、海光、天数等多款国产 AI 芯片

这里所说的「生成告成率」，是指代码能编译、能运转。但与庸俗代码生成不同，算子生成对数学精度建议了为严苛的要求：需要在多种输入变化要求下，耐久保执精度、可复现的致数值恶果，这也恰是文中所强调的「推行正确率」。

淌若说「生成告成率」激情的是算子是否能编译、能运转，那么信得过的时候门槛在于是否能跑得对。在多种芯片架构并存的场景下，这挑战被跳跃放大——当同份算子代码需要同期适配华为、摩尔线程、海光、天数等架构差异的芯顷然，数值精度、舍入战术、辅导诊疗端正、缓存层等细小差异，皆可能致恶果偏差，以致激发正确失。

次生成、次编译，在多芯片平台上已毕数值致、恶果可考据，才是算子自动生成信得过需要跨越的中枢门槛。

这些恶果标明，算子自动生成在多芯片环境下依然具备可行与工程实用价值。

实验与已毕细节：KernelGen是如何责任的？

已毕旨趣：从「写算子」到「出产算子」

KernelGen 的场所并非补助开垦者写代码，而是隐蔽算子从需求到落地的无缺人命周期：

输入层：用户可通过当然讲话、数学公式或已有已毕神色算子需求

生成层：基于大模子与智能体时候，理解算子语义并自动生成 Triton 内核

考据层：自动构建测试用例，在场所芯片上与 PyTorch reference 已毕进行严格的数值致校验

评估与化层：对生成算子进行能评测，量化加快比，并通过自动化调执续化推行率

KernelGen 网站地址：https://kernelgen.flagos.io，用户在对话框里仅需输入当然讲话、数学公式或是已有已毕抒发算子开垦需求

这程的中枢场所是：

将算子开垦从「手工活」，飘摇为可复制、可延迟的工程过程。

为什么须与 FlagOS / FlagTree 协同？

在多芯片场景下，仅生成算子代码并不及以责罚工程问题，不同 AI 芯片在以底下差异权贵：

并行模子与计较单位组织式

内存层与访存语义

辅导集与编译牢固

因此，KernelGen 从诡计之初就被纳入 FlagOS 生态，并与统 AI 编译器 FlagTree 度协同：

由 FlagTree 提供统的硬件空洞与编译基础吐鲁番钢绞线

将硬件差异尽可能敛迹在编译器的中间暗意层

栽培算子在多芯片环境下的编译能与正确

这亦然算子自动生成次具备跨芯片工程可行的要道前提。

FlagTree：支执算子自动生成的统AI编译器底座

KernelGen 或者在多芯片环境下已毕算子自动生成与考据，并不仅仅模子才气的恶果，其要道支执来自统 AI 编译器 FlagTree。

FlagTree 是众智 FlagOS 社区耐久进的统编译器方式。从 2025 年 3 月发布 v0.1，到 2026 年 1 月 5 日发布 v0.4，已冉冉发展为面向异构 AI 计较的通用编译基础智商：

已支执 12 厂商、近 20 款 AI 芯片，隐蔽芯片包括华为昇腾、寒武纪、沐曦、摩尔线程、海光等

支执架构从 DSA、GPGPU，延迟到 RISC-V AI 芯片、ARM 等多种体系

在时候诡计上，FlagTree 主要责罚两类问题：

硬件差异阻隔：通过统的硬件中间暗意（计较单位、内存脉络、原子操作等），将芯片差异猛进程敛迹在编译器里面，而不是浮现给算子生成逻辑。

能与易用的均衡：在保留 Triton 语法的同期，引入硬件感知化，避「套代码跑扫数芯片」带来的能和牢固问题。

在 FlagTree v0.4 中，FlagOS 社区跳跃引入 TLE（Triton Language Extensions），预应力钢绞线以分层式延迟 Triton 的跨芯片抒发才气：

TLE-Lite：次编写，多后端运转，适用于快速考据与轻量化

TLE-Struct：面向算子开垦者的架构感知调接口

TLE-Raw：允许径直内联 CUDA、MLIR 等厂商原生代码，用于致能场景

通过 FlagTree 的编译支执，KernelGen 自动生成的算子才能在不同芯片上保执较的编译通过率和推行牢固。

FlagTree 方式地址：https://github.com/flagos-ai/flagtree

能想法与考据情况：多芯片、多模子、多轮评测

不同芯片上的生成与推行正确率（用户的确场景）

数据标明：

华为芯片在生成告成率上发达

英伟达芯片在推行正确率（数值准确）上发达佳

国产各样化架构下仍存在跳跃化空间

合座恶果考据了 KernelGen 在镌汰东谈主工开垦资本、栽培跨芯片适配率面的中枢价值。

110 个 Torch 算子的多芯片正确与能评测

为考据算子自动生成在的确工程场景下的可用，评测中式了 110 个代表 Torch API 算子，每个算子进行 5 轮迭代式自动生成，并在多芯片环境下完成无缺对比测试。

评测隐蔽华为、海光、天数、摩尔、Nvidia等平台，并在每个平台上远隔对比：

芯片原生 Triton 编译器

FlagOS / FlagTree Triton 编译器

评测激情两项中枢想法：

推行正确率：是否告成编译运转，并在多种输入 shape 下与 Torch reference 数值致

推行正确率与能汇总（110 个算子）

主要论断

FlagTree 在多芯片平台上合座推行正确率、牢固强

在海光、天数、摩尔及 Nvidia 等平台上，FlagTree 的通过率多量于原生 Triton，其中 Nvidia 平台达到 70，为各组中。

的「能跑通」比例，为后续能化保留了大空间

对限度化算子生成而言，推行正确率是门槛，FlagTree 在这维度上具工程势。

在推行正确率面，KernelGen 对不同数据类型设定了工业界要求的严格且可量化的精度管制：整型与布尔类型要求致（缺欠），而浮点与复数类型则依据其数值暗意才气设定明确的缺欠上限——举例 FP16/FP8 别限定在 1e-3，BF16 限定在 1e-2 量，FP32 与 Complex64 达到 1e-6 别。通过这种按数据类型精熟分的精度法度，KernelGen 在追求致能的同期，确保算子替换与跨后端生成具备可考据、可复现的数值正确。

注：评测基于110 个算子 × 多平台 × 双编译器的无缺恶果，算子明细已随 KernelGen / FlagOS 方式提供。

不同大模子在算子生成任务中的差异（以华为 Ascend 为例）

在算子自动生成场景中，大模子并非只承担「代码补全」的角，其对算子语义理解、shape 泛化以及范畴要求处理才气，皆会径直影响生成算子的可推行与牢固。

在统使用 FlagTree Triton 编译器、并以华为 Ascend平台为场所硬件的要求下，评测对比了多种主流大模子在 110 个 Torch API 算子生成任务中的发达，统计其推行正确率（数值准确通过）。

从评测恶果不错看到，不同大模子在算子生成任务中的才气差异较为显然，合座呈现出明晰的分层：

GPT-5 发达，在 110 个算子中有 65 个或者告成生成 Triton 已毕并通过多种输入 shape 的致校验，夸耀出其在算子语义理解、限定流生成和范畴要求处理面的综势。

GLM-4.7 位于二梯队，在部分复杂算子和 shape 泛化场景中仍存在不牢固情况，但已具备较强的自动算子生成才气。

Qwen3-Max 与 MiniMax-M2.1 在算子生成这管制场景下告成率相对较低，主要受限于对算子细粒度语义和底层 Triton 编程模式的理解才气。

这恶果标明，在算子自动生成这度结构化、强管制的任务中，模子自身的理与结构化生成才气，仍然是影响终工程果的要道成分之。

常识注入与算子能进化（英伟达）

在引入模子自反念念与外部常识后，KernelGen 的算子能执续栽培：

算子推行正确率可达 75.5

74.2 算子加快比 >0.8

68.5 算子加快比 >1.0

加快比中位数 1.04x，平均 1.07x

Baseline 为基于智能体自反念念的迭代法；IterOpt为面向化场所的反念念迭代法；v1_KNWL在化迭代中引入模子轨迹转头常识；v2_KNWL与v3_KNWL远隔在不同轮次跳跃融外部种子常识

这标明，算子自动生成已从「能跑」迈向「能用、可化」。

转头

Claude Code 的 30 分钟迁徙案例，让行业看到了 AI 正在改动「写代码」的式。

而 KernelGen 与 FlagOS 所展示的，是另层工程化的进展：

在硬件度碎屑化的期间，通过算子自动生成、统编译器与跨芯片生态协同，让算子开垦不再成为AI系统落地的中枢瓶颈。

这不是次演示的赢输吐鲁番钢绞线，而是条正在被考据、并执续演进的系统软件阶梯。