来源:环球市场播报

OpenAI 周一在博客文章中表示,为了安全地发展人工智能,有必要制定国际技术标准,特别是帮助界定涉及 AI 模型的哪些类事件应当通报,明确各国如何开展 AI 发展合作,以及改善开发此类技术所需算力的获取。
" 要让 AI 的持续进步安全有益,既需要推进对齐研究,也需要制定共同标准,为各实验室和各国的 AI 开发提供指引,"OpenAI 表示。
OpenAI 称,其首席执行官 Sam Altman 计划周三在联合国安理会就 AI 和国际安全问题发表讲话。
美国财政部长贝森特上周末表示,美国提出建立一套通报机制,涵盖具有国家安全影响的 AI 事件。
OpenAI 在博客文章中强调,各国应共同制定相互补充的国家和国际标准,用于开发能力最强的 AI 模型。OpenAI 建议,可以通过多个国家现有的 AI 安全机构推进这项工作,包括美国商务部下属的 AI 标准与创新中心(CAISI),该机构协助测试 AI 模型并制定相关指引。
OpenAI 还呼吁制定标准,以应对 AI 日益增强的自主工作能力,并指出不应追求 " 完全自主 " 的递归自我改进 —— 即 AI 最终能够在无需任何人为干预的情况下修改自身代码或提升其能力 —— " 除非且直到能够确保安全 "。