10 月 13 日消息，据央视新闻日前报道，近段时间，在一些手机平台的网络直播间，一些打着樟树港辣椒旗号的种子，成了主播推销带货的重点。记者注意到，这些直播间的销售人气很旺，不时有人咨询或下单购买。
据悉，湖南岳阳的樟树港辣椒属国家地理标志农产品，有 400 多年的种植历史，因量少质优，特级产品可卖到 300 元一斤。
而在这些网络直播间，记者看到，画面中展示的辣椒成串垂挂，产量奇高。当记者在直播间询问辣椒种子是否保真，种出来有没有这么大时？主播纷纷表示「所见即所得。」
奇怪的是，就在主播回答提问的时候，背景视频却出现了农户站在快要没过膝盖的深水中采摘辣椒的场景，这样的场景显然不符合常理，而类似的画面在其他直播间也有出现。当记者追问这些场景是不是 AI 生成的时，主播并没有正面回应。
针对上述「怪异现象」，奇安信集团副总裁刘浩表示，内容中的「女士」出现了有悖真实世界规律的画面，而这种情况通常被称为「穿模」。刘浩进一步解释，数字世界内容的建模现在核心还是基于语言，而对于真实世界的物理规律，它是没有办法感知和预测的。而「穿模」是典型的 AI 生成视频中容易出现的纰漏。
法律专家指出，利用 AI 制作不符合现实或不存在的商品内容，甚至冒用品牌进行牟利，涉嫌民事侵权甚至刑事犯罪。
另外，除了利用 AI 技术仿冒知名产品、驰名品牌带货；不法商家还利用 AI 技术仿冒名人非法牟利，一些专家学者，奥运冠军、影视明星等公众人物成为「被代言」的对象。
据悉，今年 9 月 1 日，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》正式施行，该办法明确所有 AI 生成的文字、图片、视频等内容都要「亮明身份」，需要添加显式标识和隐式标识。
其中明确，平台在服务提供者的内容上架或上线时要进行审核，核验生成合成内容标识，对未标识或疑似生成内容要添加风险提示，力求在传播端阻断虚假信息的扩散。