OpenAI  6 年元老：我们应该为全社会的 AI 发展安装一个「刹车」

于 10 月底从 OpenAI 离职的 6 年元老 Miles Brundage，近期在个人博客上发文，表示「我们应该为全社会的 AI 发展安装一个刹车」。他认为，目前 AI 的进展非常快，比如 2021 年出版的一本书——《人工智能简史》中的观点，放到三年后的今天已经过时了。虽然在某些时刻人们对于人工智能的进步过于乐观，但他认为从总体来看，就近十年来说，坚持唱深度学习的反调确实不是一个成功的策略。在博客中他表示，人类应当安装（经过设计和辩论的）「刹车」，因为当前 AI 的进步明显快于社会能够有效理解和塑造的速度，而且这种情况可能不会很快改变——甚至，二者之间差距可能逐渐扩大。