人工智能领军企业OpenAI已同意对其与美国政府达成的协议进行修改，该协议涉及其技术在机密军事行动中的应用。公司首席执行官萨姆·奥特曼于周一表示，OpenAI将在其协议中增加明确条款，禁止其系统被用于监视美国公民。

这项协议最初于上周五浮出水面，此前OpenAI的竞争对手Anthropic与美国国防部之间发生了一系列分歧。OpenAI与五角大楼合作的消息一经公布，立即引发了用户的强烈反弹。市场情报公司Sensor Tower的数据显示，自上周五宣布合作以来，ChatGPT的日均卸载率与正常水平相比飙升了200%。与此同时，Anthropic的人工智能模型Claude则在Apple应用商店的排名中跃居榜首，并于本周二保持领先地位。

奥特曼在周一通过社交媒体平台X发文称，公司正在进行进一步的修改，以确保其系统不会被“故意用于对美国公民和国民进行国内监视”。他承认，公司在上周五急于发布这份协议是一个错误。

“这些问题极其复杂，需要清晰的沟通。”萨姆·奥特曼表示。他还补充说：“我们真心实意地试图缓和局势，避免更糟糕的结果，但我认为这看起来只是投机取巧和草率。”

根据新的修正条款，包括国家安全局（NSA）在内的情报机构，若要使用OpenAI的系统，将需要对合同进行“后续修改”。OpenAI此前在周六的一份声明中声称，其与五角大楼的协议比任何先前的机密人工智能部署协议都拥有“更多的防护措施，包括Anthropic的协议”。然而，公众的强烈反应促使了这些进一步的调整。

此次事件也再次将人工智能在军事领域的应用及其伦理边界推向了风口浪尖。人工智能在军事中有着多种用途，例如简化后勤流程或快速处理大量信息。然而，大型语言模型也可能出现错误，甚至会“幻觉”——即凭空捏造信息，这在军事决策中可能带来严重后果。

在OpenAI与国防部合作协议浮出水面之前，Anthropic曾因拒绝放弃其“红线”原则——即其技术不应被用于制造完全自主武器——而被特朗普政府列入黑名单。尽管如此，据BBC News的美国合作伙伴CBS News报道，Anthropic的Claude模型仍被用于美国与以色列在伊朗的冲突中，并且截至本周二仍在被使用。五角大楼拒绝对其与Anthropic的交易发表评论。

除了OpenAI和Anthropic，另一家美国公司Palantir也在军事人工智能领域扮演着重要角色。美国、乌克兰和北约都使用Palantir的技术，该公司为政府客户提供数据分析工具，用于情报收集、监视、反恐和军事目的。英国国防部最近与Palantir签署了一份价值2.4亿英镑的合同。

Palantir的AI驱动防御平台Maven能够整合从卫星数据到情报报告的各种军事信息，然后由Claude等商业AI系统进行分析，以帮助做出“更快、更高效，并在适当情况下更具杀伤力的决策”。Palantir英国业务负责人路易斯·莫斯利如是说。与Anthropic不同，Palantir不支持全面禁止自主武器，但主张应始终“有人类参与”。

北约Maven特遣部队首席数据官阿曼达·古斯塔夫中校强调了人类监督的重要性。她表示，他们“始终引入人类参与”，并且“绝不会出现”人工智能“为我们做出决定”的情况。这反映了军事领域对人工智能决策自主性的谨慎态度。

牛津大学教授玛丽亚罗萨里亚·塔德奥在接受BBC采访时指出，随着Anthropic退出五角大楼的合作，意味着“最注重安全的参与者”现在“离开了房间”。这引发了人们对未来军事人工智能发展中伦理考量和安全保障的深层担忧。