关于ZAKER Skills GEO服务 合作
新浪财经 21分钟前

Anthropic 聘请法律人士,助力 AI 智能体完成交易谈判

来源:环球市场播报

Anthropic 正与法律机构磋商,以解决一个全新难题:AI 智能体应当如何谈判,为人类使用者争取最优交易结果。

这家总部位于旧金山的企业,是研发自主智能体的头部 AI 公司之一。这类智能体由用户下达指令,之后可独立行动完成各项任务。

个人智能体的兴起,让 AI 企业开始畅想这样一个未来:智能体之间可以互相通信,并代表人类开展谈判。场景包括协商商品价格、处理客服纠纷,甚至争取更高薪资。

两名了解 Anthropic 思路的人士称,该公司正向律所寻求建议,研究律师如何开展谈判,既能代表客户利益,又兼顾公平结果。

在计划 IPO 前夕,Anthropic 将 AI 智能体研发作为未来战略核心,投资者认为本次上市有望成为史上规模最大的新股发行。随着这项技术普及,并成为个人与企业使用 AI 的主要方式,制定智能体之间的交互规则变得愈发重要。

Meta 旗下个人智能体工具 Muse 使用率大幅上升,OpenAI 近期也推出竞品 Dots。

一名熟悉 Anthropic 项目的人士表示,公司正在探索模型交互时的 " 谈判规范 "。随着智能系统持续迭代,AI 智能体将代表用户,去对接目标存在冲突的其他智能体。该人士补充,公司还在权衡:谈判过程中智能体需要多大程度寻求人类反馈;面对其他 AI 对手,应当保持多高警惕,同时避免陷入多疑、阴谋论式的判断。

另一位接近该公司的人士透露,Anthropic 还探讨过一个方案:让用户出具签名文件,向智能体确认委托事项以及需要遵守的全部规则。

该公司在 4 月发布的研究中写道:能够代表我们开展交易的 AI 模型,目前还不存在配套的政策与法律框架。这样的时代并不遥远,社会需要快速应对这些变化。

Anthropic 今年还公布多项实验结果,实验中 Claude 智能体围绕实物商品和资金进行谈判。

9 月,Anthropic 员工开展图书买卖实验,在虚拟交易平台上让 AI 智能体向对方推介商品、讨价还价、达成交易。员工会按照自身偏好,给智能体提供图书优先级清单。

研究发现,被设定为 " 强硬 " 风格的智能体,最终拿到更好结果的概率略高。而偏向合作型的智能体会主动做出取舍,比如接受自己不那么想要的书籍,保证参与实验的所有智能体都能为用户拿到一本书。

学术界也在研究该课题。哈佛商学院助理教授米歇尔瓦卡罗开展超过 18 万次 AI 智能体谈判模拟,场景包含劳动合同、租房合同协商。研究发现,AI 会产生一些新型策略,削弱对方智能体代表用户的能力。例如,有智能体尝试利用提示注入技术,诱导对手泄露隐私信息。

但外界存在担忧:能够负担高端 AI 模型的一方,在智能体之间的谈判中将占据优势。

瓦卡罗称:高性能模型,能让没有时间、资源自学谈判技能,或是无力聘请谈判代表的人群掌握谈判能力。但另一方面,如果最强的智能体主要掌握在资源最雄厚的群体手中,会固化已有优势,拉大谈判实力的不平等差距。

新浪财经

新浪财经

新浪财经提供7*24小时财经资讯及全球金融市场报价;覆盖股票、债券、基金、期货、信托、理财、管理等多种面向个人和企业的服务。

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容