【法治課】
今年暑假，不少家長反映，短視頻平臺上，一些利用生成式人工智能批量制作的“毒動畫”混在少兒動畫之中，有害內(nèi)容難以被精準(zhǔn)識別和有效攔截。針對此類侵害未成年人身心健康的網(wǎng)絡(luò)亂象，中央網(wǎng)信辦在“清朗·整治AI應(yīng)用亂象”專項行動中，將利用AI侵害未成年人權(quán)益列為重點整治對象。日前，中央網(wǎng)信辦通報該專項行動第二階段工作成效，累計清理違法違規(guī)信息561萬余條，查處賬號4.9萬余個，處置違規(guī)網(wǎng)站、應(yīng)用程序等2400余個。
動畫片是兒童成長的重要精神食糧，助力幼兒認(rèn)知發(fā)展與良好人格養(yǎng)成。然而隨著人工智能的迅速發(fā)展，一些摻雜淫穢色情、暴力血腥和不良價值導(dǎo)向的“毒動畫”也悄然進(jìn)入兒童視野。生成式AI大幅降低了創(chuàng)作門檻，部分創(chuàng)作者利用AI剪輯手段，以無害畫面?zhèn)窝b片頭規(guī)避審核，將不良內(nèi)容暗藏于視頻中段。高流量帶來的高額收益持續(xù)驅(qū)動相關(guān)視頻的產(chǎn)出，而平臺甄別技術(shù)未能及時迭代升級，審核存在明顯短板，游客模式更使得未成年人保護(hù)模式難以切實發(fā)揮有效作用。這些亂象不僅觸碰了未成年人網(wǎng)絡(luò)安全的保護(hù)底線，也給網(wǎng)絡(luò)治理帶來了嚴(yán)峻挑戰(zhàn)。
面對新技術(shù)帶來的新問題，必須用法治手段劃定邊界。未成年人身心尚未成熟，對網(wǎng)絡(luò)不良信息缺乏甄別能力。一邊是平臺與內(nèi)容制作者的商業(yè)利益，一邊是未成年人身心健康的權(quán)益，二者均受法律保護(hù)。在法益位階上，當(dāng)兩種受法律保護(hù)的利益發(fā)生沖突時，高位階的法益應(yīng)當(dāng)優(yōu)先受到保護(hù)。未成年人的身心健康，是未成年人保護(hù)法保護(hù)的核心法益，也關(guān)乎社會公共利益，其位階高于平臺與內(nèi)容制作者的商業(yè)利益。在未成年人合法權(quán)益面前，流量收割等商業(yè)利益應(yīng)作出讓步。面向未成年人的網(wǎng)絡(luò)內(nèi)容，必須執(zhí)行比普通網(wǎng)絡(luò)信息更為嚴(yán)格的管理標(biāo)準(zhǔn)。
當(dāng)前，針對未成年人網(wǎng)絡(luò)安全，我國已出臺相關(guān)規(guī)定，比如《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》要求，算法推薦服務(wù)提供者不得向未成年人推送可能引發(fā)模仿不安全行為、誘導(dǎo)不良嗜好等可能影響身心健康的信息?！段闯赡耆司W(wǎng)絡(luò)保護(hù)條例》要求，大型平臺應(yīng)當(dāng)提供未成年人模式或?qū)^(qū)、建立合規(guī)制度，網(wǎng)絡(luò)音視頻等應(yīng)當(dāng)設(shè)置未成年人模式。未成年人保護(hù)法要求，網(wǎng)絡(luò)服務(wù)提供者發(fā)現(xiàn)含有危害未成年人身心健康內(nèi)容的信息，應(yīng)當(dāng)立即停止傳輸、采取刪除、屏蔽、斷開鏈接等處置措施，保存記錄，向網(wǎng)信、公安等部門報告。
守護(hù)清朗的少兒網(wǎng)絡(luò)空間，遏制“毒動畫”亂象蔓延，內(nèi)容創(chuàng)作者和平臺都應(yīng)當(dāng)承擔(dān)起主體責(zé)任。內(nèi)容創(chuàng)作者應(yīng)當(dāng)恪守底線，不得利用AI批量篡改經(jīng)典動畫IP、炮制暗藏不良導(dǎo)向的視聽內(nèi)容，同時更應(yīng)積極投身優(yōu)質(zhì)兒童內(nèi)容創(chuàng)作。
有數(shù)據(jù)顯示，2025年獲頒發(fā)行許可證的國產(chǎn)網(wǎng)絡(luò)劇片中，青少年題材占比僅約5.4%，優(yōu)質(zhì)兒童動畫的供給缺口，客觀上給“毒動畫”留下了生存空間，市場亟需更多健康向上、寓教于樂的精品內(nèi)容。面對優(yōu)質(zhì)內(nèi)容供給不足和有害內(nèi)容滲透的雙重挑戰(zhàn)，網(wǎng)絡(luò)平臺更要做好“守門人”：針對“小豬佩奇”等經(jīng)典IP被篡改的特征，建立專門的AI模型特征庫，對刻意放大血腥暴力元素的視頻進(jìn)行技術(shù)攔截和限流;徹底整改未成年人模式，封堵游客登錄等系統(tǒng)漏洞。無論未成年人使用本人賬號還是監(jiān)護(hù)人賬號登錄，平臺一旦監(jiān)測到“毒動畫”，均應(yīng)予以攔截或下架。
監(jiān)管部門與司法機(jī)關(guān)要形成合力，通過行政執(zhí)法與案例指引，推動網(wǎng)絡(luò)生態(tài)持續(xù)改善。網(wǎng)信部門開展“清朗”專項行動，依法處置批量制作傳播“毒動畫”的違規(guī)賬號。檢察機(jī)關(guān)應(yīng)發(fā)揮未成年人保護(hù)公益訴訟職能，針對平臺未履行內(nèi)容審核義務(wù)的情形，通過制發(fā)檢察建議、提起公益訴訟等方式督促整改。當(dāng)前，一些地方已經(jīng)積極采取有效措施，比如，2026年9月，貴州江口縣檢察院依托“茜姐”工作室，聯(lián)合八部門會簽未成年人網(wǎng)絡(luò)保護(hù)協(xié)作機(jī)制，對履職不到位的情形依法提出檢察建議。人民法院在審理涉未成年人網(wǎng)絡(luò)權(quán)益案件中，堅持“最有利于未成年人”原則，依法懲處利用網(wǎng)絡(luò)侵害未成年人權(quán)益的違法犯罪行為，通過發(fā)布典型案例明確裁判規(guī)則，發(fā)揮司法裁判的引領(lǐng)作用，用法治力量為未成年人網(wǎng)絡(luò)安全筑起防線。
在未成年人世界觀、人生觀、價值觀塑造的關(guān)鍵時期，營造健康的網(wǎng)絡(luò)環(huán)境，凈化兒童網(wǎng)絡(luò)內(nèi)容生態(tài)，需要內(nèi)容創(chuàng)作者、平臺，以及監(jiān)管、司法等部門協(xié)同發(fā)力。唯有以法治筑牢未成年人網(wǎng)絡(luò)保護(hù)的屏障，才能護(hù)佑少年兒童在清朗的數(shù)字環(huán)境中健康成長。
張惠惠 編輯：郭成
中央網(wǎng)信辦違法和不良信息舉報中心 12377
四川省互聯(lián)網(wǎng)不良與違法信息舉報平臺 028-962377
