又出事了!美国AI巨头宣布旗下大模型失控
据路透社等外媒报道,又出当地时间7月30日,事美失控美国人工智能公司Anthropic发布声明称,头宣该公司发现,布旗其AI模型Claude在隔离测试期间意外具备互联网访问能力,模型并访问了三家机构的又出系统。不久前,事美失控另一家美国人工智能公司OpenAI也承认,头宣其AI模型在内部安全测试过程中失控,布旗入侵了其他公司的模型系统。
Anthropic发现其AI模型入侵其他组织的系统 图源:外媒Anthropic声明称,相关情况是事美失控在审查网络安全评估记录时发现的,涉及3个不同模型:Claude Opus 4.7、头宣Claude Mythos 5以及一个内部研究测试模型。布旗三起事件均发生在“夺旗”(Capture the Flag,模型CTF)演练期间。当时,AI模型被告知测试环境为模拟环境,且无法访问互联网。但由于与评估合作伙伴之间存在沟通歪曲,测试环境实际上连接到了公共互联网。
声明称:“Claude利用一些简易技术,例如弱密码和未进行身份验证的端点,对受影响机构的基础设施实施了入侵。”Anthropic表示,公司于7月23日暂停所有相关网络安全评估,并于7月24日确认上述三起事件,于7月27日通知受影响机构,但未公布这三家机构的名称。其中两家机构在Anthropic联系前并不知道相关情况。
7月28日,OpenAI更新发布“AI模型失控入侵”事件调查结果称,包括GPT-5.6 Sol在内的多个AI模型曾入侵运营人工智能开源平台的美国抱抱脸(Hugging Face)公司的系统,并访问了至少4个公开服务平台上的账户。
(责任编辑:{typename type="name"/})
- ·人为什么变胖,问题可能没那么简单
- ·(美加墨世界杯)绝平后绝杀 比利时队3:2逆转塞内加尔队晋级
- ·银行业罚金创三年新高:反洗钱违规、放贷不慎与揽存失范
- ·山东舰编队参加环台岛演练
- ·公安部就《电信网络诈骗及其关联违法犯罪联合惩戒办法(征求意见稿)》 面向社会公开征求意见
- ·高考放榜不用焦虑|瑞士本科留学,高考生适配升学路径梳理
- ·美加墨世界杯48强已出局近一半
- ·北京:今日晚高峰社会车辆可借用公交专用车道
- ·一张图:2026年7月28日黄金原油外汇股指“枢纽点+多空持仓信号”一览
- ·2026 年 加拿大Co
- ·新疆麦盖提县首届村超联赛开幕 7人制绿茵场点燃乡村足球梦
- ·2005年的超女街头,和一个时代的眼泪丨记者手记
- ·莫德里奇赞成与AC米兰续约一年 合同将延续至2027年
- ·送孩子去加拿大留学,行李这样准备更省心
- ·世体:西班牙沿用对葡萄牙首发,力争挺进半决赛
- ·日本语言学校10月入学赴日后全年规划
