HN精选|Karpathy新鹈鹕测试

Karpathy新测试:1M token让Opus5演绎指环王

8月2日,Andrej Karpathy 在 X 上发布了一条配着 92 秒视频的推文:他把《指环王》的第一段文字交给 Anthropic 的 Opus 5,附上 100 万 token(约 10 美元)的预算,看模型能交出怎样的答卷。推文不到一天收获 2.3 万点赞,相关讨论以 401 分、315 条评论冲上 Hacker News 首页第一。

从”骑自行车的鹈鹕”说起

长期以来,社区测试新 LLM 有一个经典土法:让模型”画一只骑自行车的鹈鹕的 SVG”。这个由 Simon Willison 发扬光大的测试任务小到能在一次回复内完成,却又足够考验模型的空间想象、代码生成和常识。几乎每家新模型发布,都要被拉来画一次鹈鹕。

Karpathy 的判断是:我们正在离开这个测试的适用区间。前沿模型的能力已经超越这种一次性小探针,社区需要更具一般性的评测思路。

一百万 token 的开放式命题

作为”一般化”的一种尝试,Karpathy 给出的新任务是:输入《指环王》开篇第一段,配上 1M token(约 $10)的预算,让 Opus 5 自由演绎,最终产出一段 92 秒的视频成果。这把评测从”单次响应”拉向”长程 agentic 任务”——模型需要自行规划、调用工具、迭代数十上百步。

与鹈鹕测试的本质区别在于:考察的不再是”能不能做到”,而是”在巨大自由度下,模型的品味、规划与执行力能走多远”。

为什么这个思路重要

其一,传统静态基准日益饱和,越来越难区分前沿模型;开放式长任务提供了新的区分度。其二,约 10 美元的固定预算让评测变成可量化、可复现的工程实验,而非玄学感受。其三,这类任务同时考察长上下文管理、工具使用、多模态生成与审美判断——正是 agent 时代的核心能力。

社区反响

高赞评论 c0rruptbytes 调侃这是”完美的烧钱基准”。matchagaucho 认为这证明我们距离”为个人而非大众生成 1:1 超个性化娱乐”只差几个数量级。skippyfish 则泼冷水:AI 图像已近乎完美,却并未改变人类表达,大多沦为垃圾博客和营销物料。artisin 分享了一则轶事:当地图书馆用了一年 AI 海报后换回 Word 剪贴画风格,原因是活动参加人数掉了 40-60%。

也有尖锐批评。quantumleaper 认为 Karpathy 从”AI 领域最理性的声音”变成了为 Anthropic 带货——8 个月前他还说可靠 agent 至少还需十年;azan_ 反驳称这 8 个月 agent 确实进步巨大。cocoa19 提醒版权问题:”换我试,Opus 5 多半会因版权拒绝。”w rxd 的评价最为中肯:”比预期好?当然。令人印象深刻?绝对。但最终成果算好吗?”

结语

鹈鹕测试的意义在于它足够小,一次调用见分晓;Karpathy 新测试的意义在于它足够大,大到必须动用 agent 的全部本领。当评测任务本身需要百万 token 才能完成,”评测”与”真实工作”的边界正在消失。

原文:Karpathy on X | HN 讨论(401 分 / 315 评论)

Leave a Reply

Your email address will not be published. Required fields are marked *