Anthropic发布AI模型Claude Mythos引发全球警惕:网络安全面临新挑战

人工智能领域近日因领先公司Anthropic发布其最新AI模型Claude Mythos而掀起波澜。这款模型在某些黑客攻击和网络安全任务上的表现已超越人类水平,其强大能力迅速引发了监管机构、立法者和金融机构的广泛讨论,各方担忧其可能对全球数字服务构成潜在威胁。Anthropic公司表示,Mythos是其更广泛的Claude人工智能系统的一部分,旨在与OpenAI的ChatGPT和谷歌的Gemini等领先模型展开竞争,标志着AI技术在网络安全攻防领域的又一里程碑式发展。
Anthropic于4月初以“Mythos预览版”的形式首次披露了该模型。据负责测试AI模型处理特定请求或任务的“红队”研究人员报告,Mythos在计算机安全任务方面“表现出惊人的能力”。他们发现,该工具能够独立定位潜藏在数十年前旧代码中的休眠漏洞,并能够轻易地利用它们进行攻击,其中包括一个已存在数十年的漏洞,急需立即采取行动。这种深入挖掘并利用深层、陈旧漏洞的能力,揭示了现有关键基础设施中可能存在的巨大风险。
鉴于Mythos的强大能力及其潜在的破坏性,Anthropic并未将其广泛开放给所有Claude用户。相反,公司通过一项名为“玻璃翼计划”(Project Glasswing)的倡议,向12家主要科技公司提供了访问权限。Anthropic将此举描述为“一项旨在保护关键软件的努力”,其核心目标是帮助这些公司加强自身系统抵御Mythos模型攻击的韧性,从而在未来可能的网络攻击面前构建更坚固的防线。
参与“玻璃翼计划”的科技巨头阵容强大,其中包括云计算巨头亚马逊网络服务(Amazon Web Services)、设备制造商苹果(Apple)、微软(Microsoft)和谷歌(Google),以及芯片制造商英伟达(Nvidia)和博通(Broadcom)。值得注意的是,网络安全公司Crowdstrike也在合作伙伴之列,该公司曾因2024年7月一次有缺陷的软件更新,导致全球范围内的重大服务中断。这些公司的参与凸显了业界对Mythos能力及其潜在影响的高度重视。
Mythos的出现引发了金融界和各国政府官员的严重担忧。一些国家的财政部长、中央银行行长和金融家们担心,该模型可能破坏全球金融系统的安全和稳定性。加拿大财政部长弗朗索瓦-菲利普·香槟(François-Philippe Champagne)向媒体透露,在华盛顿特区举行的国际货币基金组织(IMF)会议上,与会者已就Mythos的潜在风险进行了深入讨论。英格兰银行行长安德鲁·贝利(Andrew Bailey)也表示,他们正“非常谨慎地审视”这一最新AI发展可能对网络犯罪风险意味着什么。欧盟方面也表示,正就Mythos相关担忧与Anthropic公司进行磋商。
英国国家网络安全中心前负责人夏兰·马丁(Ciaran Martin)本周早些时候表示,Mythos能够迅速发现关键漏洞的说法“确实震惊了人们”。他进一步指出,Mythos是一个非常优秀的黑客,即使是针对那些已知但组织可能尚未修补或防御不周的现有漏洞,它也能够有效利用。然而,许多独立的网络安全分析师和专家尚未能亲自测试该模型,因此部分人对Mythos的实际性能及其宣传的惊人能力仍持谨慎的怀疑态度。
Anthropic公司首席执行官达里奥·阿莫迪(Dario Amodei)在“玻璃翼计划”发布时发布了一段视频,他在其中表示,公司已主动向美国政府官员提出合作意向,旨在“帮助防御这些模型带来的风险”。Anthropic强调:“Mythos预览版已经发现了数千个高危漏洞,其中包括所有主要操作系统和网络浏览器中的一些漏洞。”公司同时警告:“鉴于人工智能的发展速度,这类能力将很快普及开来,可能超越那些致力于安全部署的参与者。”
英国人工智能安全研究所(UK's AI Safety Institute)最近得出结论,尽管Mythos是一个非常强大的模型,但其最大的威胁将针对防御薄弱、存在漏洞的系统。该研究所的研究人员表示:“我们无法确定Mythos预览版是否能够攻击防御严密的系统。”因此,在存在良好网络安全措施的理论情况下,该模型应该能够被有效阻止。英国国家网络安全中心(NSCS)也建议,当前最重要的是不要恐慌,而是专注于加强基本的网络安全措施,因为许多简单的攻击往往就能得逞。
尽管AI模型带来了新的安全挑战,但夏兰·马丁也提出了一个建设性的中期展望。他认为,存在利用Mythos这类AI工具来修复互联网底层漏洞的机会。通过将这些强大的AI能力应用于防御端,可以自动化地发现并修补现有系统中的弱点,从而将潜在的威胁转化为提升全球网络安全水平的强大盟友。
《美华快报》根据BBC Technology综合报道。
评论
加入讨论
请登录后发表评论
还没有评论
登录成为第一个评论的人。