OpenAI「备战负责人」官宣上任,加速布局前沿模型风险防护

2 月 5 日消息,昨天,OpenAI CEO 山姆 · 奥特曼(Sam Altman)宣布 Dylan Scand 加入公司,出任全新的「备战负责人」(Head of Preparedness)一职,负责前沿模型的高风险场景评估与缓解工作。

OpenAI「备战负责人」官宣上任,加速布局前沿模型风险防护

该职位此前因最高可达 55.5 万美元的薪酬(另含股权)在业内引发讨论。

奥特曼表示,OpenAI 即将进入「与极其强大的模型共事」的阶段,进展速度会「非常快」,因此需要与之匹配的安全保障体系。

奥特曼称 Scandrett 是该岗位「迄今为止最合适的人选」,并强调他将主导 OpenAI 针对潜在高影响风险的准备与防护工作,包括对前沿 AI 系统可能带来的严重威胁进行评估、建模与应对。

他肩上的任务非常艰巨,但我今晚会睡得更踏实。

Scand 同日在 X 上发文表示,对在 Anthropic 的经历「深感感激」,并强调 AI 正在快速发展,「潜在收益巨大,但风险同样可能极端甚至不可逆」。

与此同时,OpenAI 近期宣布三位前研究人员 Barret Zoph、Luke Metz 与 Sam Schoenholz 回归公司,他们此前短暂加入了前 CTO Mira Murati 创办的 AI 初创公司 Thinking Machines。

《商业内幕》提到,OpenAI 内部在安全路线上的紧张关系已持续一段时间,多名早期员工(包括前安全团队负责人)近年相继离职。此外,OpenAI 也面临用户诉讼,指控其工具导致有害行为。

今年 10 月,OpenAI 表示每周约有 56 万名 ChatGPT 用户呈现「可能的心理健康紧急迹象」,公司正与心理健康专家合作优化相关应对机制。

据此前报道,OpenAI 去年 12 月宣布以 55.5 万美元年薪招聘备战负责人,岗位隶属于 Safety Systems 团队,负责能力评估、威胁建模与防护机制设计。

奥特曼当时强调该职位压力巨大,将「几乎立刻被丢进深水区」,并指出大模型在心理健康与网络安全领域的潜在风险已开始显现。

声明:内容来源公开的各类媒体平台,若收录的内容侵犯了您的权益,请联系邮箱,本站将第一时间处理。
资讯

AI 开始「雇佣人类」:RentAHuman.ai 爆火,数百人排队上架

2026-2-5 12:55:46

资讯

黄仁勋:AI 不会取代软件,市场恐慌「不合逻辑」

2026-2-5 12:58:20

搜索