HN精选|Anthropic谈开放权重

Anthropic:开放权重不该禁,芯片与蒸馏要管

过去一周,”开放权重模型”成为美国科技政策争论的焦点。有报道称,部分美国官员正考虑禁止美国企业使用来自中国的开放权重模型;多家科技公司随即联署公开信力挺开放权重;甚至有人指责 Anthropic 想借禁令保护自家生意。7月27日,Anthropic CEO Dario Amodei 亲自撰文澄清立场,迅速登上 Hacker News 首页榜首(307分,363条评论)。

核心立场:从未主张封杀开放权重

Amodei 开门见山:Anthropic 从未倡导禁止开放权重模型。他认为,不具备危险能力的开放权重模型是一种”公共产品”——除了运行所需的算力外零成本,却能为企业、开发者和研究者创造价值。保护主义式的禁令既无必要,也打偏了靶子。

两个”噩梦场景”

Amodei 重申了他在半年前《技术的青春期》一文中的两大担忧:

其一,威权政府造出比美国更强的模型,用于获取永久军事优势或对本国人民实施深度镇压。他引用副总统万斯在巴黎的警告和美国情报界《2026年度威胁评估》佐证这一担忧的官方共识。关键在于:这个威胁与模型是否开放权重毫无关系——最危险的模型可能是在秘密中训练、直接交给军方用于无人机和监控的那一个。

其二,强模型被滥用于网络攻击或生物攻击,并存在对齐风险。他承认开放权重模型在这方面风险确实更高:难以施加护栏、无法监控用途、权重一旦发布便不可撤回。但禁止美国合法企业使用这些模型无助于应对风险——因为恶意行为者本来就不是合法企业。这样做只会保护美国AI公司免于竞争,”而这从来不是他的目标”。

他真正支持的三项措施

第一,芯片与芯片制造设备禁运,并严打猖獗的走私和变相获取渠道。由于中国本土产能有限,根据扩展定律(scaling laws),没有美国芯片就无法训练出超越美国的模型——这是阻断威胁一最直接的手段。

第二,打击工业级蒸馏(distillation)行为。蒸馏比从头训练省算力得多,能让中国在芯片受限的情况下把前沿水平追到距美国仅几个月,等于部分绕过芯片禁令。他指出,许多从事这类蒸馏的公司确实发布开放权重模型——但问题不在开放权重本身,而在其背后是”寻求在前沿超越美国的威权国家”。

第三,所有足够强的模型——无论开放还是闭源——都必须接受强制安全测试。他认为这已接近行业共识:特朗普政府近几个月正朝此方向推进,行业提案也主张对最强模型一视同仁地测试(同时完全豁免初创和学术界的弱模型)。模型是否更危险、风险可否缓解,应由测试实证回答,而非事先假定。他还提到 Anthropic 在模块化训练策略上的研究可能提升开放权重模型的安全性。值得注意的是,他承认测试要有效就必须全球化,”甚至需要中国配合”——在防止AI生物武器方面合作符合中方自身利益。

对联署公开信:同意大半,保留两点

对于科技界力挺开放权重的公开信,Amodei 表示同意其中大部分:开放权重扩大了AI经济的准入、至少在部分场景增强了竞争、让客户拥有更大控制权;对蒸馏的担忧也应通过有针对性的法律和商业框架解决。但他不同意信中两个断言:开放权重必然让安全防护更容易建立,以及广泛获取能力必然对防守方更有利。”至少同样可能的是相反的情形。”他以生物学为例:足够强的模型也许能用随处可得的材料快速武器化大流行级病毒,而防御即便在最顺利的情况下也是以年计的工程(参考”曲速行动”)。这类攻防不对称问题,只能靠发布前的严格测试来实证检验。

社区反响:质疑多于掌声

363条评论中,高赞声音并不客气。”不出所料,他们会拼命利用政府杀死竞争对手。””禁蒸馏这一条很虚伪——典型的’我上车了,关门’。”也有人抓住表述漏洞:”‘没有危险能力的模型是公共产品’——可哪个模型没有危险能力?”还有评论直言:”张口闭口中国中国,老剧本了。”当然也有中立派认为:”立场看起来公道——确实利己,但他们陈述的风险我并不反对。”

分析:从”形态管制”转向”能力管制”

这份声明的实质,是把监管对象从”模型是否开放”重新锚定到三件事上:算力从哪来、怎么训练出来、发布前测没测。芯片管制是 Amodei 多年来一以贯之的核心主张;对”工业级蒸馏”的点名虽含蓄,指向却不言而喻。最值得开源社区留意的是第三条——一旦”足够强的模型须强制安全测试”成为法规,开放权重模型的发布将首次面临与闭源模型相同的合规门槛,”发了再说”的时代可能就此终结。这场关于开放与安全的拉锯,才刚刚开始。

原文:Our position on open-weights models – Anthropic
HN 讨论(363条):news.ycombinator.com/item?id=49076057

Leave a Reply

Your email address will not be published. Required fields are marked *