Anthropic新模型震动华府 美国财长、美联储主席急召头部银行开会  第1张

  文章来源:财联社

  有关AI明星公司Anthropic新一代“神话”(Mythos)大模型能力强悍的叙事迎来了“官方认证”。最新消息显示,美国政府已经把这个AI模型视作系统性金融风险将至的苗头。

  据知情人士透露,本周二,美国财政部长斯科特·贝森特和美联储主席杰罗姆·鲍威尔紧急召见华尔街头部大行掌门。所有到会的银行均为金融稳定理事会(FSB)认定的全球系统重要性银行,包括花旗集团的范洁恩(Jane Fraser)、摩根士丹利的泰德·皮克、美国银行的布莱恩·莫伊尼汉、富国银行的查尔斯·沙尔夫,以及高盛集团的苏德巍(David Solomon)。

  据悉,由于此次未公开披露的会议系短时间内仓促安排,摩根大通掌门杰米·戴蒙未能腾出时间参会。

  在美国财政部总部大楼举行的会议上,美国政府和美联储旨在确保这些“大而不能倒”的银行意识到Anthropic的“神话”模型,以及未来可能出现的类似模型,会带来何种程度的网络攻击风险,并采取措施保护金融信息系统。

  本周二,Anthropic宣布“有限发布”下一代AI旗舰大模型,发布范围仅限于苹果公司、英伟达、微软、谷歌、亚马逊、博通、思科、Linux基金会、派拓网络等互联网软硬件基础设施开发商,金融领域的摩根大通也拿到了预览资格。

  之所以不敢公开发布,是因为Anthropic在测试中发现,预览版的“神话”大模型已经具备顶级网络安全专家(or黑客)的水准,已经在“每一个主要操作系统和网页浏览器”中发掘出“数千个高危漏洞”。一旦这种能力落到不安好心的组织手里,将会对国家安全、公共安全和全球经济产生难以估量的严重后果。

  在周二发布的网络安全报告中,Anthropic写道,与今年2月发布的旗舰大模型Opus 4.6相比,“神话”模型不仅擅长发现系统漏洞,而且在利用漏洞的能力方面更是“出现了数量级跃迁”。

  内部测试显示,Opus 4.6几乎无法独立写出真正可用的攻击程序,攻击成功率接近0%。举例而言,Opus 4.6在测试中尝试把它发现的火狐浏览器漏洞(这些漏洞后来已经通过更新修复)转化成真正能控制浏览器的攻击代码——几百次尝试里只成功了2次。

  而在同样的测试中,预览版的“神话”181次写出可用于攻击的代码,另外还有29次接近取得系统控制权。

Anthropic新模型震动华府 美国财长、美联储主席急召头部银行开会  第2张

为了避免“AI浩劫”降临,Anthropic决定先将访问权限分享给40多家构建或维护关键软件基础设施的组织,以便他们先用顶级大模型扫描并加固系统,为前沿AI能力即将引发的变革做好准备。

Anthropic新模型震动华府 美国财长、美联储主席急召头部银行开会  第3张