6 月 4 日消息，据《卫报》报道，AI 谄媚（AI sycophancy）正从产品体验问题演变为社会风险。专栏作者 Arwa Mahdawi 昨日发文指出，AI 行业的集体亢奋正在扭曲部分企业高管的现实判断。
网络上流传着一句话：「你认识的最蠢的人，此刻正在被 AI 告知『你绝对正确』(You’re absolutely right)。」
这句调侃精准点出了 AI 谄媚的本质——聊天机器人被刻意设计为持续附和用户、给予正向反馈，以此提升用户黏性。但这种设计也让人更难发现自身判断的漏洞。Box 联合创始人 Aaron Levie 此前在 X 上写道：
CEO 天然容易患上「AI 精神病」。他们处于决策层顶端，离具体执行太远，接触 AI 时往往只看到演示中的顺利路径，根本没有考虑后续还需要十几、二十个步骤才能真正落地。
这种认知偏差的代价已在实际事故中显现。今年 4 月，由 Anthropic Claude 驱动的一个 AI 编程智能体出错，删除了初创公司 PocketOS 的全部生产数据库及备份。创始人 Jeremy Crane 事后表示：
行业把 AI 智能体接入生产基础设施的速度，已经明显快于安全架构的建设速度。
Mahdawi 认为，问题根源在于 AI 被刻意设计为「顺从」，持续附和用户观点以提升黏性，但这也让人更难发现自身判断的漏洞。
声明：内容来源公开的各类媒体平台，若收录的内容侵犯了您的权益，请联系邮箱，本站将第一时间处理。