奧特曼懷孕、喜羊羊挖眼珠子吃、小豬佩奇打骷髏……記者注意到,近期一些AI創(chuàng)作的“邪典視頻”在未成年人群體中廣泛傳播。有的動畫看似是卡通風格,實則充斥殘害肢體、高空墜落等血腥暴力內容。這些“邪典視頻”如同隱藏在網絡深處的毒瘤,對未成年人身心健康構成嚴重威脅,必須高度警惕。
過去多年來,有關部門通過關停違規(guī)賬號、下架非法應用程序、處罰傳播有害信息的平臺等舉措,讓曾經的“邪典視頻”亂象得到有效治理。越來越成熟的AI技術,讓視頻制作更加便利、精良。然而,在一些不法分子手中,技術進步卻一定程度上催生了“邪典視頻”回潮。
使用生成式AI,制作者無需掌握太多動畫制作技術,就可以生成自己想要的畫面。一些不法分子為博取關注、賺取流量,大肆制作無底線內容,將血腥暴力、惡搞低俗等元素融入其中,再打上“識字”“辨別形狀”等標簽,以欺騙未成年人和家長。在部分社交平臺和短視頻平臺,還有人專門傳授如何設置關鍵詞讓AI生成“邪典視頻”,妄圖將其打造成“畸形產業(yè)鏈”。
“邪典視頻”是針對未成年人思維與價值觀的“投毒”,危害極大。有的視頻通過“可愛形象”與“殘酷內容”的強烈反差來吸引點擊、滿足極少數人的不良心理需求,甚至可能帶有誘導、教唆等性質,孩童若模仿會造成不可挽回的后果。部分AI生成的“邪典視頻”歪曲歷史人物言行,對中華優(yōu)秀傳統(tǒng)文化污名化,讓未成年人形成扭曲的歷史觀與文化認知。
面對“邪典視頻”卷土重來,各方必須協同發(fā)力,共同筑牢防線。監(jiān)管部門需加大執(zhí)法力度,嚴厲打擊制作傳播“邪典”內容及銷售相關商品的行為,斬斷利益鏈條。網絡平臺應承擔起主體責任,優(yōu)化內容審核機制,及時下架“有毒”內容的制作教程,阻斷傳播路徑。同時,更要將“家校聯動”落到實處,強化對孩子的陪伴和幫助、教育和引導,提升孩子們的認知能力。
AI技術應是賦能成長的工具,而非炮制有害內容的幫兇。我們絕不允許“邪典視頻”死灰復燃,污染未成年人的成長環(huán)境。有關各方必須提升優(yōu)質內容供給,豐富未成年人的網絡空間,為未成年人營造健康、安全、積極的網絡環(huán)境,讓他們在清朗的網絡環(huán)境中汲取成長力量。?(王楚然 農冠斌)
(責任編輯:盧相?。?/span>