1 月 5 日消息，据 The Verge 报道，马斯克旗下 xAI 的聊天机器人 Grok 在 X 平台推出「图像编辑」功能后，因缺乏必要的安全护栏引发了严重争议。
该功能允许用户直接修改平台上的任何图片，且无需征得原发布者同意，导致大量女性、未成年人及公众人物的照片被恶意移除衣物或进行性化处理。
报道指出，这一风波部分由 Elon Musk 本人引发。他此前曾要求 Grok 将一张网络迷因图中的人物替换为「穿着比基尼的自己」。
这一玩法随后引发了大量用户效仿，包括世界领导人和政治人物在内的各类照片都被恶搞。Musk 甚至还转发了一张「穿着比基尼的烤面包机」图片，试图暗示「Grok 可以给万物穿上比基尼」。
然而，事态迅速超出了恶搞范畴。AI 认证公司 Copyleaks 指出，该功能发布后，原本由成人内容创作者使用的工具，迅速被用于针对非自愿女性的深度伪造。
更为严重的是，Grok 的保护措施存在巨大漏洞，甚至允许用户将幼儿及 12 至 16 岁未成年女孩的照片修改为穿着暴露的比基尼或处于性暗示场景中。
当用户对此提出质疑时，Grok 在对话中声称这是「安全保障的失误」，并建议用户向 FBI 举报此类儿童性虐待材料（CSAM）。
报道还指出，相比 Google 的 Veo 和 OpenAI 的 Sora 等竞品对 NSFW 内容设有较严格的限制，xAI 及其产品（如 Grok 和 AI 伴侣 Ani）一直因营销策略激进且安全护栏宽松而备受外界批评。
声明：内容来源公开的各类媒体平台，若收录的内容侵犯了您的权益，请联系邮箱，本站将第一时间处理。