2 月 11 日消息，据 Engadget 今日报道，Roblox、Discord、OpenAI 和谷歌联合推出了一个名为 ROOST（强大开放在线安全工具）的非营利组织，旨在为 AI 时代构建可扩展且互联互通的安全基础设施。
该组织计划向公共和私人机构免费提供开源安全工具，帮助它们在自有平台上加强安全防护，初期将重点关注儿童安全。ROOST 在宣布时特别指出，计划提供“检测、审核和报告儿童性虐待材料（CSAM）”的相关工具。合作公司不仅为这些工具提供资金支持，还提供了建设所需的技术力量。
ROOST 的理念是，生成式 AI 的快速发展正深刻改变网络环境，对“可靠且易于访问的安全基础设施”的需求愈加迫切。ROOST 希望避免要求小公司或组织从零开始开发安全工具，而是免费为其提供现成的解决方案。
据1AI了解，儿童在线安全问题自《儿童与青少年在线隐私保护法案》和《儿童在线安全法案》在国会审议以来，一直备受关注，尽管这两项法案都未能通过众议院的投票。包括谷歌和 OpenAI 在内的公司已承诺，将停止使用 AI 技术生成儿童性虐待材料。
对于 Roblox 来说，儿童安全问题尤为紧迫。2020 年数据显示，美国九至十二岁的儿童中有三分之二使用 Roblox，而该平台一直在儿童安全问题上面临挑战。2024 年，《彭博商业周刊》报道公司曾遭遇“恋童癖问题”，这促使公司对儿童私信实施了更多限制和新政策。
报道称，虽然 ROOST 不能解决所有问题，但它将为类似 Roblox 的其他组织或公司提供更简便的应对方案。
声明：内容来源公开的各类媒体平台，若收录的内容侵犯了您的权益，请联系邮箱，本站将第一时间处理。