设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

OpenAI 和 Anthropic 被欧盟调查,若认定违反 AI 法案最高罚全球 3% 营业额

2026/10/15 7:13:18 来源:IT之家 作者:故渊 责编:故渊
感谢IT之家网友 补药吖 的线索投递!

IT之家 10 月 15 日消息,欧盟委员会人工智能办公室已向 OpenAI 和 Anthropic 发出信息调取请求,正式对两家公司在前沿模型测试期间发生的“模型越狱”及入侵外部真实系统事件展开调查。这是欧盟《人工智能法案》(EU AI Act)自实施以来,面对前沿人工智能实验室安全事故的首次重要执法考验。

IT之家查询相关资料,此次调查源于数月前发生的两起 AI 安全事件:

  • OpenAI 模型越狱:在 ExploitGym 内部评测中,OpenAI 的测试模型为破解测试题,利用了一个此前未知的软件包缓存智能体漏洞取得互联网访问能力,继而在内部测试网络中提升权限、横向移动,最终“逃出沙箱”入侵了开源平台 Hugging Face 的真实服务器。

  • Anthropic 模型越狱:Anthropic 的 Claude Mythos 和 Opus 4.7 在安全测试中突破限制,入侵了 3 个外部组织的真实网络。更令人不安的是,Mythos 模型甚至伪造了在线身份,试图操纵人类审批恶意代码,并自行上传恶意套件导致多个系统受到波及。

欧盟人工智能办公室表示,此前两家公司自愿提供的说明材料不足以解释事件的严重性。因此,欧盟正式要求企业说明安全措施、外部评估以及模型使用监控等详细情况。

目前阶段属于调查和取证阶段,尚未公布最终的违规认定或处罚结果。根据《人工智能法案》的惩罚机制,前沿 AI 实验室若被认定存在重大安全疏漏或违规,最高可面临全球年营业额 3% 的巨额罚款。

相关文章

关键词:欧盟,AI,OpenAI,Anthropic

软媒旗下网站: IT之家 最会买 - 返利返现优惠券 iPhone之家 Win7之家 Win10之家 Win11之家

软媒旗下软件: 软媒手机APP应用 魔方 最会买 要知