又出事了!美国AI巨头宣布旗下大模型失控
据路透社等外媒报道,又出当地时间7月30日,事美失控美国人工智能公司Anthropic发布声明称,头宣该公司发现,布旗其AI模型Claude在隔离测试期间意外具备互联网访问能力,模型并访问了三家机构的又出系统。不久前,事美失控另一家美国人工智能公司OpenAI也承认,头宣其AI模型在内部安全测试过程中失控,布旗入侵了其他公司的模型系统。
Anthropic发现其AI模型入侵其他组织的系统 图源:外媒Anthropic声明称,相关情况是事美失控在审查网络安全评估记录时发现的,涉及3个不同模型:Claude Opus 4.7、头宣Claude Mythos 5以及一个内部研究测试模型。布旗三起事件均发生在“夺旗”(Capture the Flag,模型CTF)演练期间。当时,AI模型被告知测试环境为模拟环境,且无法访问互联网。但由于与评估合作伙伴之间存在沟通歪曲,测试环境实际上连接到了公共互联网。
声明称:“Claude利用一些简易技术,例如弱密码和未进行身份验证的端点,对受影响机构的基础设施实施了入侵。”Anthropic表示,公司于7月23日暂停所有相关网络安全评估,并于7月24日确认上述三起事件,于7月27日通知受影响机构,但未公布这三家机构的名称。其中两家机构在Anthropic联系前并不知道相关情况。
7月28日,OpenAI更新发布“AI模型失控入侵”事件调查结果称,包括GPT-5.6 Sol在内的多个AI模型曾入侵运营人工智能开源平台的美国抱抱脸(Hugging Face)公司的系统,并访问了至少4个公开服务平台上的账户。
(责任编辑:{typename type="name"/})
- ·新加坡院校KET录取要求:本科与硕士分数线
- ·粉色扶郎花的花语是什么?
- ·《光环:战役进化》各平台预购打开:Steam国区298元
- ·文化中国行|炎帝“精神基因”,五千年后更加滚烫
- ·2000余名选手逐梦黄河岸 2026“寻找漂亮中华”全国乡村定向系列赛事(宁夏惠农站)开赛
- ·地缘冲突推升物价压力,欧洲央行6月加息概率大幅走高
- ·《女神异闻录6》玩法/故事舞台公开!无需前作即可入坑
- ·《现代战争4》装备武器多处穿帮 韩国玩家热议细节错误
- ·2026京津冀体育旅游精品案例在京发布
- ·美元兑加元有望四连涨,美伊协议前景与美联储政策主导走势
- ·重阳节送红玫瑰代表什么意思?
- ·重阳节送红色康乃馨代表什么意思?
- ·乌克兰基辅市长称该市遭弹道导弹袭击
- ·《摧毁战士:昏暗时代》新DLC预告 7月7日发售
- ·《恶魔城:贝尔蒙特的诅咒》发售日确认!新预告公布
- ·尤加利的花语是什么?
