央廣網(wǎng)北京1月3日消息（總臺(tái)中國(guó)之聲記者周益帆）據(jù)中央廣播電視總臺(tái)中國(guó)之聲《新聞縱橫》報(bào)道，一段時(shí)間以來(lái)，類似由“AI魔改”而來(lái)荒誕劇情，快速在網(wǎng)絡(luò)蔓延。中國(guó)之聲此前也持續(xù)關(guān)注了“AI魔改”視頻的相關(guān)新聞。近日，國(guó)家廣播電視總局在全國(guó)范圍內(nèi)啟動(dòng)了為期一個(gè)月的“AI魔改”視頻專項(xiàng)治理行動(dòng)。此次治理的重點(diǎn)非常明確——基于四大名著、歷史題材、革命題材、英模人物等電視劇作品進(jìn)行“AI魔改”的內(nèi)容；此外，同步清理將少年兒童所熟知、所喜愛的動(dòng)畫形象進(jìn)行改編生成的各類邪典動(dòng)畫。
當(dāng)經(jīng)典被深度重構(gòu)，當(dāng)童真被涂抹上灰暗的色彩，我們的文化認(rèn)知在經(jīng)歷著怎樣的顛覆？未成年人的價(jià)值觀如何被誤導(dǎo)？如何更好地規(guī)范生成式人工智能工具的應(yīng)用？
所謂的“AI魔改”視頻，指的是利用生成式人工智能工具，打著“幽默”“二創(chuàng)”的旗號(hào)，在保留經(jīng)典影視作品的人物形象前提下，在內(nèi)容上完全顛覆、解構(gòu)原有劇情，將經(jīng)典名著變成低俗惡搞。從2024年開始，多模態(tài)大模型的發(fā)展不斷推動(dòng)著文生視頻、換臉換聲技術(shù)的普及，用戶只要花上幾十元或數(shù)百元成為會(huì)員就可以根據(jù)文字描述生成視頻，“AI魔改”視頻批量涌現(xiàn)。在短視頻平臺(tái)，所謂的“二創(chuàng)”“魔改”教程也層出不窮。
還有商家將這些教程和電視劇的無(wú)字幕高清素材打包掛在電商平臺(tái)銷售。
商家稱，花幾毛錢，買了教程，兩個(gè)小時(shí)就能學(xué)會(huì)“AI魔改”（網(wǎng)絡(luò)截圖）
商家號(hào)稱，花幾毛錢，買了教程，兩個(gè)小時(shí)就能學(xué)會(huì)“AI魔改”；還有商家說，一條視頻能輕松收獲上千元收益?！斑@是制作視頻的教程，很簡(jiǎn)單，可能兩個(gè)小時(shí)就學(xué)會(huì)了，網(wǎng)盤里的教材跟著學(xué)就可以，視頻和提示詞都有。別人掙錢的方法有很多?！?/p>
可查公開資料顯示，魔改視頻主要是以“顛覆經(jīng)典”制造強(qiáng)反差來(lái)獲取高播放量，以此賺取分成。中國(guó)青年劇作家、導(dǎo)演向凱接受中國(guó)之聲采訪時(shí)認(rèn)為，此類魔改視頻不僅涉嫌侵犯著作權(quán)、肖像權(quán)，同時(shí)還擠壓優(yōu)質(zhì)原創(chuàng)空間，對(duì)影視作品的藝術(shù)價(jià)值及創(chuàng)作生態(tài)產(chǎn)生著巨大傷害。
他表示：“除了侵權(quán)之外，它改變了原創(chuàng)作者的思想和內(nèi)涵，本來(lái)原創(chuàng)作者很嚴(yán)謹(jǐn)?shù)乇憩F(xiàn)一個(gè)故事的內(nèi)容或者某一個(gè)情節(jié)，但是通過AI魔改進(jìn)行娛樂化，是對(duì)原創(chuàng)內(nèi)容巨大的傷害，尤其是給再觀看這些影視作品的人，（讓）他們產(chǎn)生一個(gè)巨大的內(nèi)容差異?！?/p>
“低投入、高回報(bào)”，“AI魔改”視頻還侵蝕著未成年人的文化認(rèn)知。深受小朋友們喜愛的經(jīng)典動(dòng)畫作品也被惡意魔改。江西南昌的小學(xué)生潘蓉?zé)樃嬖V記者，自己和同學(xué)都看過邪典動(dòng)畫。他說：“我覺得這樣的動(dòng)畫怪怪的，有的改得臉歪歪的，好嚇人?！?/p>
中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春表示，這種視覺上的沖擊，對(duì)于心智尚未成熟的未成年人來(lái)說，極易造成文化認(rèn)知混亂和價(jià)值觀的錯(cuò)位。
她說：“涉及傳統(tǒng)文化內(nèi)容的傳播、包括它的價(jià)值觀傳播，經(jīng)過魔改之后，跟原來(lái)相比，很可能面目全非。另外，像革命題材、英模人物，這些內(nèi)容是少年兒童對(duì)于歷史的了解，如果基于魔改動(dòng)畫，一是可能造成他們對(duì)于傳統(tǒng)文化和歷史歪曲性理解；在價(jià)值觀層面，可能非常不利于少年兒童形成正確向上的價(jià)值觀的建立；另外一方面，魔改會(huì)呈現(xiàn)出一些設(shè)計(jì)比較恐怖、血腥甚至不符合常理的內(nèi)容出現(xiàn)，對(duì)于未成年的身心健康可能也會(huì)產(chǎn)生不利影響?！?/p>
根據(jù)國(guó)家廣播電視總局發(fā)布的內(nèi)容，此次為期一個(gè)月的專項(xiàng)治理重點(diǎn)清理基于四大名著、歷史題材、革命題材、英模人物等電視劇作品進(jìn)行“AI魔改”的下列視頻：一是嚴(yán)重違背原作精神內(nèi)核和角色形象，顛覆基本認(rèn)知，解構(gòu)普遍共識(shí)；二是內(nèi)容渲染血腥暴力、獵奇低俗，宣揚(yáng)錯(cuò)誤價(jià)值觀，違背公序良俗；三是存在對(duì)中華文化挪用、篡改的突出問題，導(dǎo)致對(duì)真實(shí)歷史時(shí)空、中華文明標(biāo)識(shí)產(chǎn)生明顯錯(cuò)位認(rèn)知，沖擊文化認(rèn)同。專項(xiàng)治理同步清理將少年兒童所熟知、所喜愛的動(dòng)畫形象進(jìn)行改編生成的各類邪典動(dòng)畫。
中國(guó)政法大學(xué)副教授朱巍認(rèn)為，這意味著此次治理將更多地圍繞著文化精神建設(shè)層面的內(nèi)容展開。他說：“以前我們對(duì)此類問題的討論一般都集中在版權(quán)領(lǐng)域，這次跟以前不太一樣，重點(diǎn)清理的主要是四大名著、革命歷史題材、英雄模范人物這樣的作品，這些人、這些作品本身具有公序良俗的價(jià)值體現(xiàn)?，F(xiàn)在的魔改是以電視劇外表作為一個(gè)殼子，里面包括但不限于低俗、惡搞、戲謔的內(nèi)容，它與我們的價(jià)值觀，包括文化、意識(shí)形態(tài)、歷史觀等沖突了。”
平臺(tái)仍是主要抓手。專項(xiàng)治理將要求網(wǎng)絡(luò)視聽平臺(tái)落實(shí)主體責(zé)任，強(qiáng)化內(nèi)容審核把關(guān)，堅(jiān)決清理違規(guī)內(nèi)容，處置亂象突出的賬號(hào)，扭轉(zhuǎn)“AI魔改”視頻蔓延的不良態(tài)勢(shì)，為青少年健康成長(zhǎng)營(yíng)造良好網(wǎng)絡(luò)空間。有平臺(tái)工作人員表示，共同制定具體可行的治理標(biāo)準(zhǔn)將是接下來(lái)的工作重點(diǎn)。朱巍認(rèn)為：這也將為治理的常態(tài)化、長(zhǎng)效化提供經(jīng)驗(yàn)。
他表示：“這個(gè)專項(xiàng)治理主要是針對(duì)平臺(tái)，短視頻傳播上去的審核，責(zé)任都在平臺(tái)。這次專項(xiàng)行動(dòng)也是督促平臺(tái)要對(duì)AI魔改加大審核力度，通過一個(gè)月的時(shí)間把這類作品中的AI審核關(guān)口、模板做好。因?yàn)楝F(xiàn)在作品上傳靠AI來(lái)審，把這次整改的一些內(nèi)容，要在AI審核的工具里面進(jìn)行體現(xiàn)，以后專項(xiàng)行動(dòng)的成果就落實(shí)在了AI審核的一套模板里。”
