警惕“AI魔改”給青少年帶來認(rèn)知混淆
“林黛玉”上演倒拔垂楊柳，“關(guān)羽”為一雙假皮鞋踏上維權(quán)路……近日，一些荒誕的“AI魔改”內(nèi)容在短視頻平臺上流傳，引發(fā)公眾對文化傳承、法律邊界與技術(shù)倫理的關(guān)注。中青報·中青網(wǎng)記者采訪多位法學(xué)專家，深入剖析“AI魔改”現(xiàn)象背后法律風(fēng)險與有效治理路徑。
“AI魔改”并非簡單的“圖一樂”，背后潛藏的法律風(fēng)險呈現(xiàn)多層次、交叉性特點?！啊瓵I魔改’主要涉及兩大類作品?！敝袊ù髮W(xué)知識產(chǎn)權(quán)法研究所所長付繼存指出，一類是對已進(jìn)入公有領(lǐng)域的經(jīng)典作品（如文學(xué)名著）進(jìn)行篡改，這可能侵害作者的保護(hù)作品完整權(quán)，即禁止他人歪曲、篡改其作品的權(quán)利?！凹幢阍鏅?quán)保護(hù)期屆滿，其獨創(chuàng)性的角色形象與精神內(nèi)核仍受法律保護(hù)?！?/p>
他以“關(guān)羽”形象為例解釋，歷史人物關(guān)羽的事跡屬于公共素材，但作者在《三國演義》中塑造的“忠義關(guān)羽”經(jīng)典形象，是受法律保護(hù)的獨創(chuàng)性表達(dá)。“AI魔改”將這一形象置于荒誕的劇情中，是對該藝術(shù)形象的扭曲，可能構(gòu)成侵權(quán)。
另一類則是對仍在著作權(quán)保護(hù)期內(nèi)的作品進(jìn)行“魔改”，比如當(dāng)代影視劇，涉及的法律問題更為復(fù)雜。付繼存稱，這類“魔改”行為可能同時侵犯著作權(quán)人的復(fù)制權(quán)、改編權(quán)、信息網(wǎng)絡(luò)傳播權(quán)等多項財產(chǎn)權(quán)，以及保護(hù)作品完整權(quán)等著作人身權(quán)。
中國政法大學(xué)副教授朱巍認(rèn)為，“魔改”行為突破法律邊界，往往不止于著作權(quán)范疇，還可能侵入人格權(quán)領(lǐng)域?！叭绻Ц摹瘍?nèi)容使用了影視劇中演員的肖像、聲音，涉嫌侵犯演員的肖像權(quán)、聲音權(quán)；即便演員已故，其近親屬仍有權(quán)尋求法律保護(hù)?！彼麖娬{(diào)，若是對英雄烈士的形象進(jìn)行惡意篡改，可能觸犯英雄烈士保護(hù)法，損害社會公共利益，檢察機關(guān)可依法提起公益訴訟。
值得注意的是，若“魔改”行為涉及商業(yè)屬性，法律規(guī)制更為嚴(yán)格?！耙砸鳌⒆儸F(xiàn)為目的，利用他人知名形象進(jìn)行‘魔改’創(chuàng)作的，可能構(gòu)成不正當(dāng)競爭?！备独^存說。
中青報·中青網(wǎng)記者注意到，與傳統(tǒng)惡搞內(nèi)容不同，“AI魔改”的內(nèi)容制作更為逼真，比如，“林黛玉”神態(tài)靈動、口型精準(zhǔn)對位，“關(guān)羽”的語音語調(diào)幾乎能以假亂真。技術(shù)的迭代升級，讓一些惡搞內(nèi)容真假難辨。
“這類由新技術(shù)生成的內(nèi)容隱蔽性更強，有的看似真實又權(quán)威，對未成年人的誤導(dǎo)性更大?！北本┣嗌倌攴稍c研究中心執(zhí)行主任于旭坤注意到，AI生成內(nèi)容形態(tài)多變，用傳統(tǒng)關(guān)鍵詞過濾手段難以有效識別，且這類內(nèi)容制作門檻低，一經(jīng)算法推薦，極易形成病毒式擴散。
“一些未成年人分不清虛構(gòu)與現(xiàn)實的邊界。”于旭坤說，很多00后、10后青少年并未讀過《紅樓夢》原著，也沒看過87版經(jīng)典電視劇，他們對“林黛玉”的初次認(rèn)知，或許就是那個“倒拔垂楊柳”的“AI魔改”版本，這可能造成他們深層的認(rèn)知混淆。
朱巍對此表示認(rèn)同，“當(dāng)四大名著、革命歷史被戲謔、解構(gòu)，一個民族共同的文化記憶和歷史史實會在無形中被侵蝕。這絕非危言聳聽，而是關(guān)乎文化自信根基的嚴(yán)肅問題?！?/p>
于旭坤指出，更需要警惕“AI邪典”，即利用AI生成的恐怖、暴力內(nèi)容，偽裝成兒童動畫傳播?！斑@類內(nèi)容制作門檻低，傳播速度快，會對未成年人心理健康造成直接損害?！?/p>
面對海量AI違規(guī)內(nèi)容，傳統(tǒng)治理框架面臨挑戰(zhàn)。共青團中央維護(hù)青少年權(quán)益部聯(lián)合北京青少年法律援助與研究中心專家團隊編寫的《AI科學(xué)使用手冊》，于1月19日正式發(fā)布，旨在引導(dǎo)青少年提升AI使用技能、科學(xué)有序用好AI、自覺防范AI沉溺，提升自主學(xué)習(xí)能力，回歸真實社會交往。
監(jiān)管層面在持續(xù)發(fā)力。今年年初，國家廣電總局開展專項行動，重點整治以四大名著、歷史題材、革命題材、英模人物等相關(guān)電視劇作品為藍(lán)本的“AI魔改”內(nèi)容。2025年9月，國家網(wǎng)信辦等部門聯(lián)合制定《人工智能生成合成內(nèi)容標(biāo)識辦法》，要求AI生成內(nèi)容必須強制亮明“數(shù)字身份證”。
記者采訪中，專家一致認(rèn)為，平臺不應(yīng)再以“技術(shù)中立”和被動的“通知-刪除”規(guī)則作為擋箭牌。于旭坤強調(diào)，平臺須承擔(dān)起與自身技術(shù)能力相匹配的主體責(zé)任，主動搭建AI內(nèi)容識別機制，對高風(fēng)險賬號和內(nèi)容實施重點監(jiān)管，同時暢通舉報渠道、完善快速處置通道。
付繼存提出要打好平臺系統(tǒng)性治理的“組合拳”：平臺可主動獲取經(jīng)典IP授權(quán)，為用戶提供合規(guī)二創(chuàng)素材，引導(dǎo)創(chuàng)作生態(tài)走向規(guī)范，同時探索收益分成模式；優(yōu)化算法機制，對低質(zhì)、惡搞、篡改歷史的內(nèi)容實施限流、降權(quán)，切斷其流量變現(xiàn)的利益鏈條；構(gòu)建創(chuàng)作者AI版權(quán)信用檔案，對頻繁侵權(quán)者采取封號、禁止重新注冊等懲戒措施，提高違法成本。
朱巍指出，治理“AI魔改”需要“用技術(shù)對抗技術(shù)”，發(fā)展更智能的AI識別系統(tǒng)，應(yīng)對海量內(nèi)容審核。針對涉及重大歷史、英烈等特殊內(nèi)容，必須保留必要的人工審核環(huán)節(jié)，確保價值判斷的準(zhǔn)確性?！岸蝿?chuàng)作是文化創(chuàng)新和經(jīng)典傳承的重要形式，不能因治理‘魔改’而扼殺健康的創(chuàng)作活力?！敝煳娬{(diào)。
在朱巍看來，當(dāng)前法律框架已基本完備，英雄烈士保護(hù)法、民法典等都有相應(yīng)規(guī)定?！瓣P(guān)鍵在于執(zhí)法與司法環(huán)節(jié)充分、有效運用。”他認(rèn)為，治理“AI魔改”的核心，是在鼓勵創(chuàng)新與保護(hù)經(jīng)典、技術(shù)自由與法律規(guī)范、個人表達(dá)與公共利益之間，找到動態(tài)、可持續(xù)的平衡點。
付繼存建議，構(gòu)建監(jiān)管部門、平臺、行業(yè)組織、用戶多方參與的共治體系，可借鑒著作權(quán)集體管理模式，探索建立經(jīng)典文化符號的正規(guī)授權(quán)渠道；同時未來立法中進(jìn)一步細(xì)化對“深度合成技術(shù)”應(yīng)用的規(guī)制，對涉及經(jīng)典文化符號、歷史人物等的內(nèi)容設(shè)置更高保護(hù)層級，針對惡意牟利的“AI魔改”行為，引入更嚴(yán)格的懲罰性賠償機制。
“唯有在嚴(yán)明的法律框架內(nèi)，在技術(shù)向善的導(dǎo)向下，才能讓AI真正成為賦能文化繁榮的利器?！敝煳≌f。（韓飏）
編輯：遲明緒
京公網(wǎng)安備 11010502000576號