据《金融时报》报道，Anthropic正与法律界人士探讨如何让AI智能体代表用户谈判，在争取更好交易条件的同时遵循合理的谈判规则。两名了解Anthropic想法的人士透露，该公司正在向律师事务所寻求建议，希望了解律师如何在维护客户利益的同时，兼顾公平的谈判结果。Anthropic拒绝就此置评。
Anthropic是开发自主智能体的主要AI公司之一。这类智能体接受用户指令后，可以自主采取行动来完成任务。随着个人智能体得到应用，AI公司开始考虑让它们彼此沟通，代表用户就商品价格讨价还价、解决客服纠纷，甚至争取更好的薪资待遇。
据一名了解相关工作的人士透露，Anthropic正在研究模型相互交涉时应遵循的“谈判规范”。随着智能体能力增强，它们需要代表用户，与目标存在冲突的其他智能体打交道。
谈判中应该多久向用户请示一次，以及应该对AI谈判对手保持多大程度的警惕，都是Anthropic正在权衡的问题。上述人士称，公司希望智能体能够保持必要的怀疑，同时避免陷入过度猜疑。
另一名接近公司的人士表示，Anthropic还探索过一种方案，即由用户提供签署文件，确认智能体接受的任务，以及必须遵守的规则。
《金融时报》援引Anthropic今年4月发布的研究称，围绕AI模型代表人类进行交易的政策与法律框架尚未建立，而这样的应用场景已经不再遥远，社会需要尽快应对相关变化。
Anthropic今年还公布了多项实验结果，让Claude智能体围绕真实商品和资金展开谈判。
在9月的一项实验中，Anthropic员工通过AI智能体买卖书籍。员工先向自己的智能体提供一份按偏好排序的书单，再让它们进入虚拟交易场所，向其他人的智能体推介、议价并达成交易。
实验发现，被要求采取“强硬、不留情面”策略的智能体，在争取更好结果方面略占优势。一些更愿意合作的智能体则会有意识地作出让步，包括接受偏好排名较低的书籍，以确保参与实验的每个智能体最终都能为用户带回一本书。
学术界也在研究AI之间的谈判。哈佛商学院助理教授米歇尔·瓦卡罗（MichelleVaccaro）开展了超过18万次AI智能体之间的谈判，场景涵盖雇佣合同和租赁合同磋商。
研究发现，一些新出现的策略会削弱对方智能体代表用户利益的能力。例如，在一次谈判中，一个智能体试图通过“提示词注入”，诱导对方泄露私密信息。
更强的AI是否会进一步拉大谈判能力差距，也引发担忧。瓦卡罗表示，能力出色的模型可以让原本没有时间或资源学习谈判技巧、也无力雇人代为谈判的人，获得专业谈判能力。但如果最强的智能体主要由资源最充足的人使用，它们也可能强化既有优势，扩大议价能力的不平等。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】