据公安部网安局5 月 31 日援引新京报贝壳财经消息，上海警方侦破一起利用人工智能技术编造、传播网络谣言损害企业权益案，抓获姚某、陈某等 8 名犯罪嫌疑人。
年初，上海长宁警方接辖区茶饮企业报案称，多个自媒体平台出现大量针对该企业及创始人的不实信息，损害了企业品牌形象，影响了企业正常运营，部分区域门店单日营业额同比下降超 20%。接报后，长宁警方立即成立专案组开展侦查。
根据企业提供的相关材料及相关政府部门信息，证实网传文章内容皆不属实，警方遂对百余个自媒体账号开展溯源分析，很快发现多条谣言传播链条，于 3 月组织警力分赴相关省市将 8 名犯罪嫌疑人抓获归案。
长宁分局网安支队副支队长纪美云向贝壳财经记者介绍，“嫌疑人姚某系职业自媒体人，运维某财经类账号，靠文章植入广告赚取广告费，但长期以来收入不佳。为提高账号流量获取广告收益，姚某花费 800 元在网上找到卢某代笔。”卢某接单后，利用 AI 生成了一篇涉及霸王茶姬茶饮的文章，文中包含大量不实信息。姚某未经核实便在十余个自媒体平台账号上发布，全网浏览量迅速上涨，引发网民对该茶饮企业的质疑。
其余嫌疑人也分别通过 AI洗稿、盲目转载等方式参与谣言传播，以达到引流博取热度、实现快速涨粉等目的。
目前，8 名犯罪嫌疑人均已被长宁警方依法采取刑事强制措施。
1AI查询获悉，根据《互联网信息服务深度合成管理规定》，任何组织和个人不得利用深度合成（AI）服务制作、复制、发布、传播虚假新闻信息，转载基于深度合成服务制作发布新闻信息的，应当依法转载互联网信息稿源单位发布的新闻信息。
深度合成服务（AI）提供者和技术支持者违反《互联网信息服务深度合成管理规定》的，依照有关法律、行政法规的规定处罚；造成严重后果的，依法从重处罚。构成违反治安管理行为的，由公安机关依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。