AI换脸生成淫秽视频等违法行为将被重罚！两高一部文件出台

9月25日，南都记者从最高人民法院获悉，最高人民法院、最高人民检察院、公安部印发《关于依法惩治网络暴力违法犯罪的指导意见》（下称《意见》）。《意见》指出，对实施网络暴力违法犯罪，包括利用“深度合成”等生成式人工智能技术发布违法信息等情形，依法从重处罚。

南都此前报道，随着生成式AI在国内得到越来越广泛的应用，不少问题也开始逐渐显现。例如，曾有人使用“AI换脸”技术生成女明星淫秽视频，并进行售卖。2021年3月，在一个名叫“AI明星换脸”的QQ群中，一名客服向南都记者发来一份名为“AI换脸最新说明”的文本文件。文件中介绍，该工作室共有四种消费套餐，价格在28元至138元不等。其中，68元可购买一套AI技术明星换脸淫秽视频，包含换成了迪丽热巴、刘诗诗、刘亦菲、杨颖等当红女明星的视频，共500部左右。

此次印发的《意见》指出，应依法严惩网络暴力违法犯罪。对网络暴力违法犯罪，应当体现从严惩治精神，让人民群众充分感受到公平正义。坚持严格执法司法，对于网络暴力违法犯罪，依法严肃追究，切实矫正“法不责众”的错误倾向。要重点打击恶意发起者、组织者、恶意推波助澜者以及屡教不改者。实施网络暴力违法犯罪，具有下列情形之一的，依法从重处罚：针对未成年人、残疾人实施的；组织“水军”、“打手”或者其他人员实施的；编造“涉性”话题侵害他人人格尊严的；利用“深度合成”等生成式人工智能技术发布违法信息的；网络服务提供者发起、组织的。

采写：南都记者 敖银雪