-
Anthropic 新研究：打错字就能“越狱”GPT-4、Claude 等 AI 模型
12 月 25 日消息，据 404 Media 报道，人工智能公司 Anthropic 近期发布了一项研究，揭示了大型语言模型（LLM）的安全防护仍然十分脆弱，且绕过这些防护的“越狱”过程可以被自动化。研究表明，仅仅通过改变提示词（prompt）的格式，例如随意的大小写混合，就可能诱导 LLM 产生不应输出的内容。 为了验证这一发现，Anthropic 与牛津大学、斯坦福大学和 MATS 的研究人…- 19.2k
Claude 3.5
扫码打开当前页
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×