特朗普对人工智能的重大举措

温州温网时事新闻，特朗普总统周五表示，他已下令所有联邦机构停止使用Anthropic公司的技术，此前该公司与五角大楼就人工智能安全问题发生了罕见的公开争论。

特朗普发表上述言论时，距离五角大楼要求Anthropic公司允许其人工智能技术不受限制地用于军事用途，否则将面临后果的最后期限仅一个多小时——而就在不到24小时前，该公司首席执行官达里奥·阿莫迪表示，他的公司“无法昧着良心接受”国防部的要求。

特朗普表示，大多数机构必须立即停止使用Anthropico的人工智能，但给了五角大楼六个月的时间来逐步淘汰已经嵌入军事平台的这项技术。

“我们不需要它，我们不想要它，以后也不会再和他们做生意了！”特朗普写道。

国防合同的争议焦点在于人工智能在国家安全中的作用，以及人们对日益强大的机器如何在涉及致命武力、敏感信息或政府监控的高风险情况下被使用的担忧。

此举可能有利于埃隆·马斯克的竞争对手聊​​天机器人Grok，五角大楼计划让Grok访问机密军事网络，这可能对另外两个竞争对手谷歌和OpenAI起到警告作用，这两家公司也与军方签订了提供人工智能工具的合同。

开发聊天机器人Claude的Anthropic公司或许能够承受失去这份合同的后果。但本周国防部长皮特·赫格塞斯发出的最后通牒，却给这家公司带来了更广泛的风险。当时，Anthropic正处于飞速发展的巅峰时期，它从旧金山一家名不见经传的计算机科学研究实验室一跃成为全球最有价值的初创公司之一。

如果阿莫迪不肯让步，军方官员表示，他们不仅会取消Anthropic的合同，还会“将其视为供应链风险”，这一认定通常用于外国敌对势力，可能会破坏该公司与其他企业的关键合作关系。

特朗普周五的声明中并未明确指出Anthropic公司将面临何种处罚，但他表示，如果该公司在逐步淘汰阶段不配合，可能会面临“严重的民事和刑事后果”。Anthropic公司尚未就特朗普的言论作出回应。

如果阿莫迪屈服了，他可能会失去蓬勃发展的人工智能行业的信任，尤其是那些被该公司承诺负责任地构建比人类更优秀的人工智能所吸引的顶尖人才的信任，因为如果没有安全措施，这些人工智能可能会带来灾难性的危险。

人为因素公司曾表示，他们寻求五角大楼做出有限的保证，即克劳德无人机不会被用于大规模监视美国公民或制造完全自主的武器。但经过数月的私下谈判演变为公开辩论后，该公司在周四的一份声明中表示，新的合同条款“表面上是妥协之举，实则充斥着法律术语，使得这些保障措施可以被随意无视。”

此前，五角大楼首席发言人肖恩·帕内尔在社交媒体上发帖称，军方“对使用人工智能对美国人进行大规模监视（这是非法的）没有兴趣，我们也不想使用人工智能来开发无需人类参与即可运行的自主武器”。

他强调五角大楼希望“将Anthropic的模型用于所有合法用途”，但他和其他官员尚未详细说明他们希望如何使用这项技术。

在硅谷，来自Anthropic的主要竞争对手OpenAI和Google的越来越多的科技工作者在周四晚些时候发表的一封公开信中表示支持Amodei的立场。

OpenAI、谷歌以及马斯克的xAI也与军方签订了合同，向军方提供其人工智能模型。

周五，马斯克在其社交媒体平台X上发表声明，支持特朗普的共和党政府，称“Anthropic仇恨西方文明”。所有主流人工智能模型，包括马斯克的Grok和OpenAI的ChatGPT，都预先设定了一套指令，用于指导聊天机器人的价值观和行为。Anthropic将这些指令称为“宪法”。

虽然一些与特朗普结盟的科技领袖也加入了这场争论——包括马斯克和国防承包商Anduril的联合创始人帕尔默·拉基——但围绕“觉醒人工智能”的两极分化辩论让其他人陷入了困境。

“五角大楼正在与谷歌和OpenAI谈判，试图让他们同意Anthropic拒绝的条件，”一些OpenAI和谷歌员工在一封公开信中写道。“他们试图离间这两家公司，让另一家担心会屈服。”

但令人意外的是，阿莫迪最强劲的竞争对手之一——OpenAI首席执行官萨姆·奥特曼（SamAltman）周五在接受CNBC采访时，公开支持Anthropic公司，并质疑五角大楼的“威胁性”举动，暗示OpenAI和大多数人工智能领域的公司都拥有相同的底线。阿莫迪曾就职于OpenAI，后于2021年与其他OpenAI领导人一起离职，创立了Anthropic公司。

“尽管我和Anthropic公司存在一些分歧，但我总体上还是信任这家公司，而且我认为他们确实很重视安全，”奥特曼告诉CNBC。“我很高兴他们一直在支持我们的作战人员。我不确定这件事最终会如何发展。”

一些议员和国防部人工智能计划的前负责人也对五角大楼的做法表示担忧。

参议院情报委员会首席民主党议员、弗吉尼亚州参议员马克·沃纳表示，此举“再加上攻击该公司的煽动性言论，令人严重担忧国家安全决策是由谨慎分析驱动还是由政治考量驱动”。

退役空军上将杰克·沙纳汉在社交媒体上写道：“把矛头指向人类公司会博得耸人听闻的头条新闻，但最终每个人都会输。”

沙纳汉表示，克劳德已经在政府内部广泛使用，包括在机密环境中，而Anthropic公司设定的底线是“合理的”。他还表示，驱动克劳德等聊天机器人的AI大型语言模型“尚未准备好在国家安全领域广泛应用”，尤其不适用于完全自主的武器。

“他们不是在耍花招，”他周四在领英上写道。

周二，当赫格塞斯和阿莫迪会面时，军方官员警告说，他们可能会将Anthropic指定为供应链风险，取消其合同，或者援引冷战时期的法律《国防生产法》，赋予军方更广泛的权力来使用其产品，即使该公司不批准。

阿莫迪周四表示，“后两种威胁本质上是自相矛盾的：一种将我们视为安全威胁；另一种则将克劳德无人机视为国家安全的关键。”他说，鉴于克劳德无人机对军方的价值，他希望五角大楼能够重新考虑，但如果五角大楼不这样做，安特罗皮克公司“将努力促成平稳过渡到其他供应商”。