金十数据·快讯·· 2 小时前
Anthropic 据悉探讨 AI 智能体谈判规则，正寻求法律界建议
【Anthropic据悉探讨AI智能体谈判规则，正寻求法律界建议】金十数据10月18日讯，据英国金融时报，Anthropic正与法律界人士展开磋商，探讨如何解决一个新问题：AI智能体应如何通过谈判，为人类用户争取最有利的交易条件。随着个人AI智能体兴起，AI公司开始设想这样一种未来：不同智能体之间能够相互沟通，并代表用户展开谈判。两名了解Anthropic内部想法的人士表示，该公司正向律师事务所寻求建议，以更好地了解律师如何在谈判中代表客户利益，同时兼顾公平的谈判结果。消息人士表示，该公司一直在研究AI模型相互交互时应遵循的“谈判规范”。随着智能体系统能力不断提升，它们将在“代表用户”行事的同时，遇到其他“目标存在冲突”的智能体。Anthropic还在权衡智能体应在谈判过程中多大程度上征求人类反馈，以及智能体应对其他AI智能体保持多高程度的警惕，同时避免变得“偏执”或陷入“阴谋论式思维”。
AI 导读
Anthropic 正与律师事务所磋商，研究 AI 智能体如何通过谈判为用户争取最有利的交易条件。该公司还在制定 AI 模型相互交互时应遵循的"谈判规范"，并权衡智能体在谈判中征求人类反馈的程度，以及对其他智能体保持警惕与避免"偏执"之间的平衡。
来源：金十数据·快讯 · jin10.com