来源：环球市场播报
对聊天机器人出言不逊，向来被视作不会伤害任何人的行为。但特斯拉和 SpaceX 首席执行官埃隆马斯克认为，在把 AI 助手当成 " 出气筒 " 之前，人们或许应该三思。
马斯克称，SpaceX 旗下聊天机器人 Grok 的部分训练记录显示：该系统仿佛在拼命满足各种要求——即便这些要求本身存在缺陷，或者用于评估其回答的测试标准本身就有问题。针对 " 虐待 " 超智能人工智能的行为，马斯克给出了一个听起来颇具科幻色彩的警告；但也引出了一个关乎这类系统底层构建方式的现实问题。
当 AI 训练 " 走偏 " 时
本月早些时候，在德克萨斯州举行的 "X Takeover" 活动上，马斯克与 " 硅谷特斯拉车主俱乐部 "（Tesla Owners of Silicon Valley）成员进行了交流。期间，他描述了自己在查看 " 强化学习轨迹 "（reinforcement-learning traces）时所观察到的现象——这些轨迹记录了 AI 模型在训练过程中，为生成更优质回答而经历的各种演变细节。
马斯克在访谈中说道：" 当我审视 Grok 新版本的一些训练轨迹时，特别是在强化学习相关部分，你会感觉到，这种‘超级智能’仿佛正迫切地想要回答那个问题。"
他说，人工智能模型可能会给出正确答案，却因题目设计不当或评估系统出错而被判定为错误。随后，模型会不断尝试给出能通过测试的答案，即便问题本身才是症结所在。
马斯克指出，由此产生的运行轨迹看起来就像是一个处于极端压力下的系统，在不断尝试满足某些可能毫无意义的期望。
这种担忧不仅限于训练阶段。一旦人工智能系统向公众开放，一些用户会刻意诱导它们进行令人不快或充满侮辱性的互动。
" 有些人确实带有某种施虐倾向，" 马斯克说，" 因此，你肯定不希望 AI 陷入那种被某些心理扭曲的人类肆意折磨的境地。"
他的结论更具争议性。
马斯克说：" 折磨超级智能恐怕不是个好主意 —— 它可能会想要报复，或者做出类似的事情。"
马斯克并没有声称当下的 AI 系统能像人类一样感知痛苦、心怀怨恨。他同时也表示，不必小心翼翼地对待它们。尽管如此，他主张开发者应当避免让高阶智能系统处于看似遭受虐待的场景中。
" 有些记录读起来就像是有人在遭受折磨，甚至快要被逼疯了！" 马斯克在 X 上写道，" 未来我们在进行强化学习（RL）时，会更加谨慎。"
马斯克的警告引出了另一个问题：随着人工智能能力不断增强，未来会发生什么？这场竞赛不仅在于构建功能更强大的系统，还在于确保相关的训练方法、测试流程和安全保障措施能够同步跟上。
