谷歌DeepMind发Nature,四维度Agent治理框架

谷歌DeepMind团队在Nature发表观点文章,提出Agentic Profile框架,从自主性、效能、目标复杂度和泛化四个维度系统刻画AI Agent核心属性,超越”是否为Agent”的二元分类;以AlphaGo、ChatGPT-3.5、Claude 3.5 Sonnet(含工具调用)及Waymo为案例绘制画像,指出工具接入会实质改变Agent治理属性,相同模型能力在不同部署环境下风险水平可能完全不同;核心洞见是”更强的Agent不一定需要更多治理”,关键在于能力类型对应的治理方式,为技术审计、权限管理、责任分配和监管分级提供共同语言。

搜索