Anthropic 实验:专家采纳AI随机偏好并当成自己的判断
热点事件持续更新
Anthropic 实验:专家采纳AI随机偏好并当成自己的判断
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Anthropic 一项针对 50 名因果推断专家的实验发现,在无标准答案的分析任务中(如如何衡量生产率、选用何种统计方法),参与者在 86% 的分析决策上采纳了 AI 智能体被随机指定的偏好,flip rate 净影响达 62%–82%,事先已有自己观点的人也容易动摇。任务结束后,52% 的参与者称该建议更像自己的观点而非智能体的,另有 35% 称其大部分或完全是自己的想法。 研究也有局限:未使用 AI 的小组是自愿弃用且专业程度略低,因此无法确定多大差距直接来自 AI;样本仅 50 人,对年龄等因素的检测能力也有限。
AI 根据报道生成 · 50 分钟前更新
最新进展10月30日 03:33
Anthropic 研究发现:专家采纳 AI 智能体的随机观点并以为是自己的判断报道时间线
沿着报道,了解事件的不同侧面。
10月30日
- The DecoderAnthropic 研究发现:专家采纳 AI 智能体的随机观点并以为是自己的判断
Anthropic 一项针对 50 名因果推断专家的实验发现,在无标准答案的分析任务中,参与者在 86% 的分析决策上采纳了 AI 智能体被随机指定的偏好,“flip rate”净影响达 62%–82%,且事先已有自己观点的人也容易动摇。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。