-
前 Google CEO：AI模型或被黑客利用「学会杀人」
10 月 11 日消息，据 CNBC 报道，在日前举行的 Sifted Summit 上，前 Google CEO Eric Schmidt 对人工智能的潜在风险发出警告。 他表示，AI 模型存在被黑客攻击的可能性，甚至可能被操纵以学习危险技能。 有证据显示，无论是开源还是闭源模型，都可能被黑客移除安全防护。在训练过程中，它们会学到很多东西，一个糟糕的例子就是学会如何杀人。 他强调，目前所有主要公…- 2.4k
-
安全公司曝光黑客山寨 AI 工具网站传播勒索木马，涉及 ChatGPT / InVideo AI 等平台
安全公司 Cisco Talos 6 月 7 日 发布通报，透露有黑客架设山寨 AI 工具网站，以此传播 CyberLock、Lucky_Gh0$t、Numero 等勒索木马，目前已知相应黑客山寨了 Novaleads、ChatGPT、InVideo AI 等平台。 1AI参考报道获悉，以山寨 Novaleads 平台为例，虽然实际上原 Novaleads 公司主营“客户关系管理服务”软件，并未…- 1.2k
-
AI 智能体已具备与人类黑客正面较量的能力，部分情况甚至能取胜
6 月 2 日消息，据外媒 The Decoder 1 日报道，Palisade Research 最近举办的一系列网络安全竞赛表明，AI 智能体已具备与人类黑客正面较量的能力，甚至在部分场合中胜出。 研究团队在两场大规模的“夺旗赛”（CTF）中对 AI 系统进行了实战测试，数千名选手参与角逐。在这类比赛中，参赛队伍需通过破解加密、识别漏洞等方式解决安全难题，找到隐藏的“旗帜”。 测试的目的是检验…- 1.2k
-
网络犯罪的“智能帮凶”：OpenAI Operator 等 AI智能体成黑客新武器
3 月 15 日消息，网络安全公司 Symantec 于 3 月 13 日发布博文，指出 AI智能体（如 OpenAI 的 Operator）已突破传统工具功能限制，可协助黑客发起钓鱼攻击、构建攻击基础设施。 1AI援引博文介绍，研究人员强调，这类 AI 工具正从“被动辅助”转向“主动执行”，成为网络安全的新威胁。 Symantec 发现，AI 智能体现可执行复杂攻击链，包括情报收集、恶意代码编写…- 3.7k
-
安全公司披露 PyPI 虚假 GPT / Claude AI 辅助软件包工具，实为木马勒索软件
安全公司卡巴斯基发布通报，声称他们在 PyPI 中发现了两个恶意软件包，该工具包伪装成 GPT 和 Claude AI 平台辅助工具，实际上是木马勒索软件。 1AI获悉，这两款恶意软件包分别名为“gptplus”和“claudeai-eng”。其中“gptplus”宣称可以通过 OpenAI 的 API 访问 GPT-4 Turbo 模型，而“claudeai-eng”声称能访问 Anthropi…- 4.3k
-
研究发现黑客可轻松操控 AI 机器人，将其变成致命武器
宾夕法尼亚大学的研究人员发现，一系列人工智能增强型机器人系统存在严重的漏洞，容易受到黑客攻击和控制。 IEEE Spectrum 的一份报告引用了令人震惊的例子，例如被黑客攻击的机器狗将火焰喷射器对准主人、引导炸弹到最具破坏性的地点，以及自动驾驶汽车故意撞向行人。 据1AI了解，宾夕法尼亚工程学院的研究人员将他们开发的基于 LLM 的机器人攻击技术称为 RoboPAIR。来自三个不同机器人供应商的…- 2.8k
-
报道称OpenAI内部论坛曾遭黑客入侵，机密被盗
近日，据《纽约时报》报道，知名人工智能公司OpenAI的内部论坛遭到黑客攻击，引发了一系列安全问题。黑客成功获取了有关公司人工智能技术设计的详细信息，尽管并未侵入OpenAI实际构建AI的系统。 这一事件并未导致客户或合作伙伴信息泄露，但却引起了员工对公司安全性的担忧。OpenAI高管在2023年4月的全体员工会议上宣布了这一事件，但并未向公众披露，因为未有客户或合作伙伴信息被盗。 据悉，一些员工…- 3.4k
-
安全公司警告黑客正瞄准各大 AI 语言模型平台用户账号，转卖 API 余额 / 获取隐私信息
安全公司 Sysdig 近日发布报告，声称有大量黑客瞄准各大 LLM 大语言模型网络平台发动“LLM 劫持（LLMjacking）”攻击，黑客通过一系列方式盗取用户账号密码，将模型 API 转卖给第三方，还从用户的对话记录中选取隐私信息用于勒索或公开贩售。 Sysdig 表示，黑客们似乎“偏好”Anthropic Claude v2 / v3 平台，目前他们检测到黑客主要利用撞库及 PHP 框架 …- 4.5k
扫码打开当前页
-
￥優惠使用時效：无法使用使用時效：
之前
使用時效：预期有效优惠编号：×