4 月 13 日消息，据CCTV新闻报道，近期多地出现利用人工智能生成Fake Videos并散播网络谣言的事件，相关发布者虽在部分内容中标注“由 AI-generated”，仍因扰乱公共秩序受到行政处罚。
央视指出，标注 AI 生成绝非违法行为的挡箭牌，编造虚假信息最终都将承担法律后果。
今年 3 月 9 日，重庆市南岸区委网信办工作人员注意到一段在短视频平台发布的立交桥倒塌画面。该视频发布于 3 月 8 日，时长仅 10 秒，画面中的立交桥指示牌写有“南岸”字样，上线约 12 小时即获得点赞 5700 余次、转发 1100 余次、留言 1100 余次，引发大量网友将事件与重庆南岸区关联。
经网信办向消防、应急部门核实，近期南岸区并未发生立交桥倒塌事故。进一步调查发现，视频中的车辆文字及车牌并非通用阿拉伯数字与文字，车辆受损及行人反应也存在明显异常，AI 造假痕迹较重，最终确认该视频系 AI 生成。
发布者在发布时虽打上了“作者声明：内容由 AI 生成”的标注，但警方仍依法对其作出行政拘留 6 日的处罚。
重庆市互联网违法和不良信息举报中心工作人员表示，根据治安管理处罚法，网民不得故意散布谣言、谎报险情、扰乱公共秩序；标注 AI 生成仅是内容标识的合规要求，不能作为start a rumor传谣的免责条款，《生成式人工智能服务管理暂行办法》亦明确规定使用 AI 也不能生成传播虚假有害信息。
类似案例在重庆涪陵区和四川武胜县也有发生。3 月 18 日凌晨 4 时 30 分，涪陵区网民蒋某在短视频平台发布标题为“涪陵灌溪沟农贸市场对面房子倒塌”的视频，上线约三个半小时后于早上 8 时左右主动删除。
涪陵区网信办经与应急部门核实，确认当地未发生房屋倒塌事件，将该线索转交公安机关。因蒋某主动删除视频且在线时间短、未造成重大网络影响，警方对其进行了批评教育。
在四川武胜县，网安大队在网络巡查中发现两段视频：一段显示一名男子身着特种兵服装、身后出现爆炸画面；另一段显示“大量军机飞越沿口古镇”。两段视频发布后浏览量迅速攀升至 4 万余次。
警方调查确认，视频发布者杨某为寻求消遣、博取流量，使用 AI 软件合成视频发布，其账号共发布 792 条视频，大部分为 AI 快速生成（IT之家注：杨某在发布视频时不但未标注 AI 生成，反而声称“是现实的”“要打仗了”）。警方依据治安管理处罚法对杨某作出行政处罚。
据重庆当地数据，仅 2025 年重庆互联网辟谣平台辟谣的内容中，AI 生成信息占比近 20%。专家分析认为，AI 造谣频发的原因在于制作门槛低、视觉冲击强、溯源难度大。目前网民常用的 AI 生成视频软件可免费生成 5 至 10 秒的事故类视频，灾难谣言因直击恐惧本能和社交传播规律，成为网络谣言的重灾区。
根据《生成式人工智能服务管理暂行办法》，使用生成式人工智能服务不得生成虚假有害信息。
对于 AI 工具是否担责，中国社科院大学互联网法治研究中心主任刘晓春表示，AI 工具生成事故画面本身不算违规，因为工具无法判断用户用途，但若用户要求生成具体地点或特定建筑物的事故视频，提供者有可能意识到存在谣言风险，应对用户进行风险警示，并对明显具有造谣意图的信息进行去除。
中国政法大学人工智能法研究院院长张凌寒认为，在此情况下更多义务压到了传播端，传播平台需花更大力气进行鉴别、打标甚至下架。专家同时提醒用户，不得首发上传 AI 生成的虚假信息视频，转发前应核实信息真实性，避免助长谣言传播并承担相应责任。