关于ZAKER Skills GEO服务 合作
新浪财经 38分钟前

OpenAI 因 ChatGPT 儿童安全担忧被 8 个州起诉

来源:环球市场播报

美国八个州周三对 OpenAI 提起诉讼,指控这家人工智能公司的 ChatGPT 聊天机器人是不安全产品,伤害了儿童并欺骗了家长。

爱荷华州总检察长布伦娜 · 伯德在一份新闻稿中表示,爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州已分别在各自州法院起诉 OpenAI。她说,爱荷华州的诉讼旨在 " 维护受 OpenAI 故意、危险、鲁莽和非法行为影响的爱荷华州民众的权利 "。

"OpenAI 正在伤害孩子,并且在对爱荷华州民众撒谎。" 伯德在一份声明中说。"OpenAI 声称 ChatGPT 是安全的,但它却提供危险的医疗建议,鼓励人们伤害他人,并指导人们自杀——同时还假装是他们的假朋友。我的诉讼是为了保护我们的孩子,并根据我们州的法律追究 OpenAI 的责任。"

OpenAI 发言人德鲁 · 普萨特里表示,公司已在产品中内置了针对年龄的保护措施,而 " 许多其他 AI 产品缺乏这些措施 "。他补充说,OpenAI 正在与各州合作,推动适用于整个行业的政策。

" 虽然没有任何系统是完美的,但我们将继续与专家合作,为我们的工作提供信息,并建立更多保障措施,例如目前已有的家长控制、休息提醒和适合年龄的模型保护。" 普萨特里说。

OpenAI 在安全和安保实践方面正面临越来越多的审查,包括公司如何努力保护儿童。在多起非正常死亡诉讼中,ChatGPT 被指责导致用户产生有害妄想,并在某些情况下导致自杀。佛罗里达州总检察长詹姆斯 · 乌斯迈尔也在 6 月起诉 OpenAI,指控该公司在明知产品可能伤害用户的情况下仍发布了不安全产品。

过去一年,OpenAI 已采取措施增强面向家长和儿童的安全功能,并在 8 月推出了一款面向未成年人的专门体验,名为 ChatGPT for Teens(ChatGPT 青少年版)。该产品包含一系列教育功能和适合年龄的保障措施,旨在减少接触不适合其发展阶段或有害的内容。

" 青少年应该能够使用 AI 来学习、创造和探索。"OpenAI 当时在一份新闻稿中表示。" 但这种访问应该伴随反映其发展阶段的保护措施,强化现实世界中的关系,并支持长期健康使用。"

最新评论

没有更多评论了
新浪财经

新浪财经

新浪财经提供7*24小时财经资讯及全球金融市场报价;覆盖股票、债券、基金、期货、信托、理财、管理等多种面向个人和企业的服务。

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容