AGI失控率>90%,MIT教授算出「康普顿常数」,AI要夺权地球?

MIT研究显示:即使采用最理想的监督机制,人类成功控制超级智能的概率仅为52%,AI失控风险可能超过90%;研究提出”康普顿常数”概念,通过四种博弈场景(黑手党、辩论、后门代码、战争游戏)验证了嵌套可扩展监督机制的有效性与局限性;随着AI智能水平提升,监督难度增大,Guard获胜概率持续下降,这表明人类最终可能难以控制超级智能AI系统。

搜索