整治AI毒动画、炒作网红儿童等乱象 “清朗”行动划定监管红线

如今，看手机、刷视频，早已不是成年人的专利。你平时刷手机时，有没有刷到过那种扭曲改编的毒动漫，或是把小朋友当成流量工具进行炒作的网红儿童视频？不少家长都为此揪心不已。而这些内容大多藏在早教、亲子的内容里，隐蔽性特别强，稍不留意就会给孩子带来不良影响。

为进一步加强未成年人网络保护，营造风清气正的网络空间，近日，中央网信办印发通知，在全国范围内部署启动为期4个月的“清朗·未成年人网络保护”专项行动，覆盖内容生产传播全流程、全链条。

此次专项行动具体将如何展开，对网络平台、违规账号、MCN机构分别划定了怎样的监管红线？

中央网信办发布通知明确，在发布环节，将整治编造毒动画，利用AI技术恶搞经典动画形象，刻意放大暴力恐怖元素，发布窒息挑战等鼓动危险行为，还要整治包装炒作“神童转世”“早熟小美女”等，打造争议儿童人设。还有整治摆拍逃学旷课、厌学躺平等，宣扬不良价值观等视频内容。

北京师范大学法学院教授、中国互联网协会研究中心副主任吴沈括介绍：

AI毒动画的危害主要在于其隐蔽性和精准性，常常通过伪装成儿童动画来实施精神侵害。事实上它通过迷惑家长们，给自己套上益智早教的标签，对孩子用熟悉的动画形象来吸引注意力，暗中的植入各种消极元素，比如暴力、低俗和错误的三观。

这种精准瞄准未成年人的隐性侵害，具有非常深的危害性。同时AI技术的应用大幅降低了作恶的门槛，因为它可以通过简单的操作批量生成魔改的动画和邪恶视频，这种内容再沿着算法的精准投放，可能会形成灰色链条，同时还会对孩子造成深度伤害。

在互动环节，此次专项行动还将重点整治以“找闺蜜”等为幌子，诱骗未成年人发送私密照片，以及部分群组以“二次元福利”为噱头，向未成年人定向传播色情漫画等违法内容，以及在未成年人出镜视频下发布性暗示表情包等黑话烂梗，对未成年人造成侵扰等乱象。

北京青少年法律援助与研究中心网络保护部负责人陈强介绍：

如今部分“网红儿童”相关账号内容存在争议性，比如宣扬早恋、儿童软色情等内容，容易引发粉丝互掐行为以及用户在评论区发布恶俗、低俗评论等，从而导致对未成年人群体的网络暴力伤害。此外，视频内容也可能违背未成年人意愿，给未成年人带来现实社交压力。

未成年人频繁参与网络推广，在这一类账号当中，所谓的父母感情、亲子关系、日常生活都成为可能会植入广告的场景，以及可能被用来随意调侃歪曲解读的元素。儿童本人就变成一个为了实现广告反差效果的道具，长此以往，可能会对儿童的价值观以及对待生活、家庭、金钱的态度造成负面影响。

在营销环节，此次专项行动还将重点整治部分直播间采取限量发售、绝版溢价等话术，诱导未成年人购买盲盒抽卡；部分商家利用暗语诱导售卖电子烟，以及提供AI换脸等技术，教未成年人破解人脸识别验证，还有商家利用“预售享优惠”等话术诱导未成年人转账汇款，实施网络诈骗等。

据介绍，此次专项行动将分为两个阶段开展：

第一阶段将抓住暑期这一关键时间节点集中整治；

第二阶段将突出“长效化规范”，压实网络平台主体责任。

对此，吴沈括介绍，通过这样先治标后治本的两步走模式，一个是回应了暑期这个特定时间窗口的紧迫需求，同时为后续常态化监管奠定了基础，体现以集中整治推动长效机制建设的深层次考虑。

第二阶段将着力规范平台推荐行为，指导平台优化算法推荐服务机制，不得设置诱导网络沉迷、过度消费等算法模型。吴沈括表示算法治理的难点主要包括穿透算法黑箱、审查算法价值取向等挑战。

吴沈括介绍，在举措上也需要多管齐下尝试，比如说将“未成年人模式”从用户的选项变成一种默认的底线，在源头上将不良内容排除未成年人视野。另外还需要对于关键词建立必要的审核和隔离机制，切断擦边内容、违法内容和未成年人兴趣标签之间的关联。此外还需要建立分类分级的推荐机制，比如说对于疑似未成年账号和低龄类的内容，采取更高标准的推荐、隔离措施。

此外，专项行动在第二阶段还明确，要合理限制账号发布未成年人出镜内容时长频次，MCN机构不得利用旗下账号包装炒作网红儿童等。对此陈强指出，对于那些打着亲子、母婴旗号实则将未成年人作为流量工具和牟利手段的账号，以及那些存在宣扬流量至上、庸俗媚俗等不良价值观的行为，都需要加强限制。

陈强介绍，目前还没有对网红儿童相关问题具体进行认定规范，比如未成年人出镜的次数多少算多？借助未成年人牟利的具体行为和标准是什么？这些没有具体规定，这种情况下就需要更加具体的立法进行规范。

专家指出，网络平台应履行内容治理的主体责任，制定内部网络内容认定标准，加强算法推荐、内容审核、商业营销等方面管理；而家长要尊重未成年人子女的意见，避免将功利化思维传达给孩子。

陈强介绍，从大众角度来说，在看到网络上未成年人相关问题的时候，当我们刷短视频刷到这些信息的时候，不要只是简单滑走，你可以积极向平台反馈作为用户的意见，来督促平台重视问题，进行改变。