来源:环球市场播报
据报道,当 OpenAI 上个月披露其在高管会议室中发现了一个窃听装置时,多名前员工的反应如出一辙——他们对此并不感到惊讶。
据多位知情人士透露,早在 2022 年底 OpenAI 推出 ChatGPT 之前,公司内部就有员工对其安全实践提出了担忧。这些知情人士称,员工曾向 OpenAI 高层领导及董事会表达过这些顾虑;一些员工在与管理层沟通后认为,相比于安全问题,管理层更关注的是如何跟上谷歌和 Anthropic 等竞争对手的步伐。
知情人士称,这些员工认为 OpenAI 的安全控制非常宽松,包括外国政府在内的外部人士可以相对轻松地获取有关该人工智能实验室技术的敏感信息。例如,OpenAI 中任何可以访问其代码的人都可以看到许多公司项目背后的技术细节。
据两位知情人士透露,OpenAI 已开始调整战略,以应对安全问题。他们表示,负责产品开发的高管蒂博 · 索蒂奥(Thibault Sottiaux)近期已接手一项内部计划,旨在加强 OpenAI 内部系统的安全性。其中一位知情人士称,8 月份,索蒂奥(他常被称为 "Tibo")将 OpenAI 四分之一的生产工程师调配至该计划,以完善公司的安全基础设施。
然而,增加安全防线也可能拖慢人工智能技术的发展进程,并可能给 OpenAI 和 Anthropic 的大规模首次公开募股(IPO)计划增添变数;若这些计划顺利实施,它们有望跻身全球最具价值的企业之列。
曾任 OpenAI 研究员、并于今年 4 月离职的 Will DePue 在 X 平台上发文称,在竞争如此激烈的情况下,AI 行业领军者 " 不能为了安全而牺牲速度。对他们而言,快速推进比确保安全更为重要。"
当被问及员工的担忧,以及他们认为管理层未针对这些问题采取行动的看法时,OpenAI 发言人 Elana Widmann 表示,OpenAI 是全球最常成为攻击目标的机构之一。因此,公司在安全项目上投入了大量资源,旨在防范来自内部人员、网络犯罪分子以及国家级行为体的攻击。
Widmann 说道:" 保护我们的技术、数据和人员,是我们极其重视的责任,也事关国家利益。我们近期采取的各项举措表明,这一安全体系正在发挥应有的作用:识别风险并果断应对。随着技术的发展和威胁的演变,我们将持续加强防御能力。"
当地时间 10 月 13 日,美国司法部表示,联邦探员逮捕了一名沙特籍男子,指控他在一间高管会议室内安装了隐藏的录音设备——该设备被伪装在卫生纸卷中。涉案者为 35 岁的阿卜杜勒拉赫曼 · 阿尔福赞(Abdulrahman Alfozan),案发时他是 OpenAI 的一名工程师。
根据一份法庭文件,阿尔福赞还利用一款供 OpenAI 员工使用的人工智能工具,查找了有关高管访问沙特的内部文件,并确定了哪些 OpenAI 高层最有可能与沙特部长级官员会面。阿尔福赞与一名沙特王室成员保持着密切联系,后者曾试图招募他参与在沙特阿拉伯启动的一项新人工智能项目。
据多位熟悉 OpenAI 内部运作的人士透露,长期以来,一些员工一直对 OpenAI 内部信息过于广泛的开放程度感到担忧。
在 OpenAI,任何能够访问公司代码的人,都能查看其众多项目背后的细节,即便这些项目属于敏感类别,且与该员工的工作毫无关联。据知情人士透露,这是因为 OpenAI 将绝大多数代码存储在同一个代码库中,这种架构在业内被称为 " 单一代码库 "(monorepo)。该代码库结构极其庞大且复杂,在过去或许还能阻退一些潜在的攻击者;但如今,AI 智能体已能够对如此海量的数据进行全面梳理与分析。
知情人士表示,过去,OpenAI 将大部分研究文档保存在 GitHub 和 Slack 上,这引起了一些员工的担忧,即积极主动的参与者仍然可以找到关键信息。但其中一位消息人士和 OpenAI 表示,该公司限制了敏感工作的访问。
OpenAI 强调,其大部分最敏感的工作都保存在具有严格访问控制的单独代码存储库中。该公司表示," 单一代码库 " 并不包含该公司模型的所有代码或关键细节,包括决定模型行为的数值,即模型权重。
据三位了解该公司运作情况的人士透露,另一个问题是,OpenAI 此前并未对其内部工具(例如研究人员用于对新模型进行压力测试的所谓 " 沙箱 " 环境)进行定期的安全审查。这三位人士表示,员工在工作中经常会修改这些工具,但这些改动未必都经过了安全测试,从而使它们可能面临外部攻击的风险。
该公司表示,在首席信息安全官戴恩 · 斯塔基(Dane Stuckey,于 2024 年 10 月加入)的领导下,公司已采取了强有力的安全保障措施。OpenAI 称,目前已开始对其内部工具进行定期的安全审查。