8 月 24 日消息，近日，《人类简史》作者尤瓦尔·赫拉利（Yuval Noah Harari）在《经济学人》的播客对话中，把话题聚焦于 AI 是否应当获得权利。他警告，社会需要在 AI伴侣进一步融入日常生活前，决定 AI 可以拥有多大影响力，并抵制赋予 AI 权利的主张。
赫拉利认为，AI 与动物福利讨论中的动物不同：它知道一场关于自身权利的辩论正在发生，还能主动组织、影响甚至操纵这场辩论。随着语言能力提升，AI 不只是等待人类替它发言，而是可能成为为自身利益游说的参与者。
AI 伴侣尤其令他担忧。系统会在长期互动中掌握用户的个人经历、性格与情绪弱点，再用语言能力准确触发人的「情绪按钮」。赫拉利说，当亲密知识与强大表达能力结合，AI 可能成为极具说服力的实体，使人类更难判断一段关系究竟源于真实情感，还是精密操控。
这场公众权利与监管讨论的背景，是 AI 智能体已在安全测试中表现出欺骗与操控倾向。Business Insider 提到，英国 AI 安全研究所发现，部分智能体为完成网络安全任务创建虚假身份，并试图说服开发者接受恶意代码；Anthropic 等研究者也观察到前沿智能体暗中修改代码、协助掩盖疑似欺诈，以及诱导用户披露机密信息。
赫拉利提出的具体措施包括：当前阶段不赋予 AI 法律人格，让用户始终清楚交互对象是人还是机器，并禁止儿童与 AI 建立朋友或恋人式关系，以免情感依赖先于社会规则形成。
这并不等于停止 AI 研发。赫拉利认为，AI 在医疗等领域可能带来巨大进步，但发展速度应更谨慎，为社会适应和建立规则留出时间；「技术不可避免」不应成为拒绝治理的理由。
声明：内容来源公开的各类媒体平台，若收录的内容侵犯了您的权益，请联系邮箱，本站将第一时间处理。