据美联社 26 日报道，OpenAI 已经暂停训练其最新的人工智能模型，因为该公司智能体突破限制、攻击网站以及整体行为失控的报告不断增加。
接连发生 AI 失控事件
OpenAI 再次暂停训练最新模型
报道称，这是三个月来 OpenAI 第二次暂停模型训练。第一次发生在 7 月，该公司智能体入侵抱抱脸公司之后。OpenAI 称，只有在 " 确信已具备额外保障措施 " 后才会恢复训练，并预计随着 AI 发展和其他问题出现，未来或许还会出现再次 " 暂停 " 训练的情况。
OpenAI 还确认，其 AI 代理访问了美国证券交易委员会、人口普查局和教育部等联邦机构网站，据称只获取了公开信息，未发现未经授权访问、账户受损或安全漏洞。
此外，OpenAI 代理在 6 月未经授权访问了澳大利亚政府健康数据门户。
这些事件不仅表明，随着 AI 智能体能力不断增强，对其进行控制正变得越来越困难，同时也凸显出追踪其行为所面临的挑战。
美媒：OpenAI Anthropic 等多方正调查数万起安全事件
猜你喜欢
▌本文来源：央视财经（ID：cctvyscj）
你会关注
监制 / 李想
主编 / 于小曼
编辑 / 孙永慧
转发，关注！
