Anthropic CEO回应公开信：不主张禁止开放权重模型 但倡导老三件

按：Kimi K3发布后引发美国对开源AI模型的争议，美国出现大批声音要求美国政府禁止开源AI模型，但英伟达、微软、Huggingface、a16z、Dell、Palantir、Y Combinator等签署联合信表态支持开源AI模型。但作为主要反方的Anthropic一直没有表态，今天Anthropic CEO Dario Amodei发文了，Anthropic从未主张禁止开放权重模型，但还是强调老三件：禁止向中国出售强大的芯片或芯片制造设备、反对蒸馏和安全测试。全文如下，金色财经编译：

过去几天，关于开放权重模型——尤其是来自中国的开放权重模型——有很多讨论。有报道称，美国一些官员正在考虑禁止美国企业使用中国的开放权重模型。作为回应，许多科技公司签署了一封支持开放权重模型的公开信，甚至有人指责Anthropic想要禁止开放权重模型以保护自身业务。任何读过我过去文章的人都应该知道，我并不认为这类禁令是有用的措施，但让我在此明确表态，以免有任何疑问：Anthropic从未主张禁止开放权重模型。

不具备危险能力的开放权重模型是一种公共产品：除了运行它们所需的算力之外没有任何成本，它们为企业、开发者和研究人员提供了价值。

保护主义禁令并不能解决我最严重的国家安全担忧。具体来说，我担心两种噩梦情景。我在六个月前发表的《技术的青春期》一文中阐述了这些担忧，并且多年来一直坚持这些立场：

我的首要担忧是威权政府构建出比美国更强大的AI模型，并利用这些模型实现永久的军事优势或对其人民实施极其深度的镇压。这一担忧在美国政府内部被广泛认同：万斯副总统去年在巴黎警告称“威权政权窃取并利用AI来强化其军事、情报和监控能力”，而情报界《2026年度威胁评估》发现“其他全球大国在AI领域的强劲进展正在挑战美国的经济竞争力和国家安全优势”。这些模型是否以开放权重发布无关紧要，它们是否被美国企业使用当然也无关紧要。事实上，最危险的模型可能是秘密训练后仅交给中国人民解放军用于无人机、交给国家安全部用于监控和镇压的模型。

我的次要担忧是强大的AI模型可能被滥用来实施网络攻击或生物攻击，并可能存在严重的对齐问题。开放权重模型——无论来自中国还是其他地方——确实可能比封闭模型构成更高的风险，因为很难对它们应用护栏或监控其使用情况，而且一旦权重发布就无法撤回。但禁止美国企业使用这些模型并不能解决这一风险，因为恶意行为者不太可能是合法的美国企业。这样做只会保护美国AI公司免受竞争，但这从来不是我的目标。

为了解决这些担忧，我确实支持以下三项措施，这也是我和Anthropic一贯倡导的：

一、我们不应向中国出售强大的芯片或芯片制造设备，并应打击猖獗的走私和变相获取此类芯片的行为。中国国内产能有限，因此根据Scaling法则，没有美国芯片就无法构建比美国更强大的模型。这是阻断威胁#1最高效、最直接的方式，而且通过阻碍训练超出美国法律管辖范围的模型，它间接地也有助于应对威胁#2。

二、我们应打击工业规模的蒸馏操作。蒸馏比从头训练模型所需的算力效率高得多。它使得中国能够构建出远比其芯片数量原本所能支撑的更优秀的模型，从而部分规避芯片禁令。蒸馏无法获得与美国相当或超越的AI能力，但它可以将中国的前沿水平拉近到与美国前沿相差几个月之内。诚然，进行这些操作的许多公司确实发布了开放权重模型——但开放权重远不如以下事实重要：这些操作的背后是一个试图在前沿领域超越美国的威权国家。我们应该采取政策干预来威慑这种行为。对开放权重模型的一刀切禁令既不是正确的补救措施，也不是我们所呼吁的。

三、所有足够强大的模型，无论开放还是封闭，都应通过强制性安全测试。应对威胁#2的最佳方式就是在发布前直接测试模型的网络、生物和对齐风险。我认为这个想法实际上已接近共识：让我感到鼓舞的是，特朗普政府近几个月已朝这个方向迈进，而且最近业界的一些提案也提出，应将此类测试应用于最强大的模型——无论其来源国或开放封闭——同时完全豁免能力较弱的模型（如来自初创公司和学术界的模型）。开放模型是否确实构成更高的风险，以及这种风险是否可被缓解，这些都应该从测试中得出，而非事先决断——而且可能存在有前景的方法来提高开放权重模型的安全性，包括Anthropic最近关于模块化训练策略的研究。需要注意的是，为了有效，测试需要是全球性的。我认为这实际上是可能的：正如我在《技术的青春期》中所写的，在防止AI生物武器方面达成有限的合作是可能的，因为这符合中国的利益。

这让我回到那封公开信。我同意其中的大部分内容：开放权重扩大了AI经济的可及性，它们至少在某些用例中加强了竞争，并给予客户更大的控制权。对蒸馏的担忧应通过有针对性的法律和商业框架来解决——即我上述的措施。但我不同意公开信中关于“开放权重模型必然使安全防护措施更容易建立”或“广泛的能力可及性对防御者的帮助必然大于攻击者”的论断。在我看来，至少同样可能的是相反的情况。例如，我担心生物学具有强烈的攻防不对称性——足够强大的模型可能能够利用广泛可得的材料快速将大流行级别的病毒武器化，而对这类病原体的防御即使是在最理想的情况下也是一项多年的行动任务（正如我们在“曲速行动”中所看到的）。这类问题应该通过严格的发布前测试来实证回答，而非预先假设。

总结我和Anthropic的立场：我们没有、也没有主张将开放权重模型作为一个整体类别来禁止。我们应该专注于：将强大芯片挡在威权政权之外，阻止工业规模的蒸馏，以及要求所有足够强大的模型（无论开放还是封闭）通过安全测试。