来源:环球市场播报

爱荷华州总检察长布伦娜 · 伯德在一份新闻稿中表示,爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州已分别在各自州法院起诉 OpenAI。她说,爱荷华州的诉讼旨在 " 维护受 OpenAI 故意、危险、鲁莽和非法行为影响的爱荷华州民众的权利 "。
"OpenAI 正在伤害孩子,并且在对爱荷华州民众撒谎。" 伯德在一份声明中说。"OpenAI 声称 ChatGPT 是安全的,但它却提供危险的医疗建议,鼓励人们伤害他人,并指导人们自杀——同时还假装是他们的假朋友。我的诉讼是为了保护我们的孩子,并根据我们州的法律追究 OpenAI 的责任。"
OpenAI 发言人德鲁 · 普萨特里表示,公司已在产品中内置了针对年龄的保护措施,而 " 许多其他 AI 产品缺乏这些措施 "。他补充说,OpenAI 正在与各州合作,推动适用于整个行业的政策。
" 虽然没有任何系统是完美的,但我们将继续与专家合作,为我们的工作提供信息,并建立更多保障措施,例如目前已有的家长控制、休息提醒和适合年龄的模型保护。" 普萨特里说。
OpenAI 在安全和安保实践方面正面临越来越多的审查,包括公司如何努力保护儿童。在多起非正常死亡诉讼中,ChatGPT 被指责导致用户产生有害妄想,并在某些情况下导致自杀。佛罗里达州总检察长詹姆斯 · 乌斯迈尔也在 6 月起诉 OpenAI,指控该公司在明知产品可能伤害用户的情况下仍发布了不安全产品。
过去一年,OpenAI 已采取措施增强面向家长和儿童的安全功能,并在 8 月推出了一款面向未成年人的专门体验,名为 ChatGPT for Teens(ChatGPT 青少年版)。该产品包含一系列教育功能和适合年龄的保障措施,旨在减少接触不适合其发展阶段或有害的内容。
" 青少年应该能够使用 AI 来学习、创造和探索。"OpenAI 当时在一份新闻稿中表示。" 但这种访问应该伴随反映其发展阶段的保护措施,强化现实世界中的关系,并支持长期健康使用。"