网信办启动专项行动第二阶段

中国中央网信办近期推进「清朗·整治 AI 应用乱象」专项行动第二阶段，重点打击利用 AI 生成虚假信息、暴力低俗内容、假冒仿冒他人及侵害未成年人权益等行为。

治理成效数据

截至目前，专项行动已累计清理违法违规信息 561 万余条，查处账号 4.9 万余个，处置违规网站、应用程序等 2400 余个。

平台协同整治

  • 内容平台：抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎等强化多模态识别，累计发布治理公告 46 期。

  • AI 平台：豆包、元宝、千问、文心一言等严把原始语料审核关，限制违规内容输出，强化 AI 生成内容标识。

  • 应用商店：华为、小米、OPPO、vivo 等加强开发者准入审核，对在架应用抽检复测。


典型案例通报

官方通报案例涵盖 AI「魔改」经典名著、生成虚假灾害信息、AI 换脸假冒公众人物、批量制作暴力内容等。违规产品或应用将面临警告、罚款、下架或关闭等处罚。