HN精选|AI写kernel提速232倍

Codex优化CUDA核,232x提速,竞赛12名

GPU 计算社区最近流行起一种新玩法:让 AI 智能体参加算法竞赛,自己”卷”出高性能内核。本周 HN 热帖的主角 sankalp 就用 Codex 完成了他的第一次 serious auto-research——在 GPU Mode 与 Core Automation 合办的竞赛中,把基线方案提速 232 倍,在 183 名参赛者中排名第 12。

竞赛任务:批量 Householder QR 分解

问题本身相当硬核:给定一批 FP32 方阵(batch x n x n,重要尺寸为 512,另有 1024、2048、4096 的大规模用例),要求实现与 torch.geqrf 一致的紧凑 Householder QR 表示——上三角存 R,下三角存 Householder 向量,外加 tau 系数。校验器会用 torch.linalg.householder_product 重建 Q 并验证 A ≈ QR、QᵀQ ≈ I。内部允许使用 FP16、FP8 甚至 NVFP4 低比特计算,但返回结果必须通过 FP32 精度检查。

为什么这个问题适合”自动研究”

作者复盘了关键因素:GPU Mode 提供了 agent 友好的 popcorn CLI,智能体可以直接测试、基准测试、提交成绩,并拿到逐 shape 的反馈与几何平均耗时。这种”紧反馈回路”正是智能体最擅长的 hill-climbing 环境——提交次数基本无限,只是需要错峰避免队列拥堵。数学上,作者借助 Householder 反射把第一列一次映射到坐标轴上,再用分块 Householder 算法(blocked Householder)把串行依赖做小,为并行化腾出空间。

Codex 的突破时刻

作者提到最关键的工程技巧是”想法多样性”(idea diversity):让模型同时探索多条技术路线,避免所有尝试一起陷入同一个局部最优,类似 beam search。低比特中间计算、块大小调优、向量化布局等改进逐层叠加,最终把几何平均性能推到基线的 233 倍。他也坦承这本质上是”loop engineering”——但谁说循环工程不是工程呢?

社区反响

HN 讨论区反应热烈。有开发者分享自己用 DeepSeek v4 对半废弃的视频编解码器跑同样的 benchmark→profile→verify→improve 循环,效果意外地好;有人感叹”如果单兵工程师就能做到这种程度,OpenAI/Anthropic 的大多数人看起来有点弱了”;也有人指出 GPU kernel 与 SIMD 恰好是训练数据最丰富的领域,模型在这个子域的表现可能被高估了。作者使用的 beam search 思路也获得了不少点赞。

原文:Auto-research with codex: How I achieved a 232x Faster Kernel · HN 讨论:news.ycombinator.com/item?id=49309549

Leave a Reply

Your email address will not be published. Required fields are marked *