?　　

2017年,YouTube兒童頻道上,突然出現(xiàn)大量以“艾莎公主”形象呈現(xiàn),卻包含大量色情、血腥暴力等兒童不宜情節(jié)的視頻。(資料圖片)

　　1月22日,迪士尼經(jīng)典卡通人物“米妮”在好萊塢星光大道印上屬于自己的那顆星。然而,在某一個(gè)陰暗的角落,有一些人正用充滿暴力、血腥和色情的改編“動(dòng)畫(huà)”荼毒著電子設(shè)備前的孩童。騰訊視頻23日回應(yīng)新華社記者證實(shí),截至當(dāng)天,騰訊下架涉兒童“邪典”原視頻1464條,對(duì)23萬(wàn)條存疑視頻作批量下架處理,對(duì)53萬(wàn)余條視頻撤回復(fù)審,封禁惡意賬號(hào)621個(gè)。相關(guān)視頻的清理工作還會(huì)持續(xù)進(jìn)行。

　　技術(shù)難以完全鑒別

　　同樣來(lái)自迪士尼的“艾莎公主”是“兒童邪典視頻”里出現(xiàn)頻率最高的人物之一。近兩年,國(guó)外知名視頻網(wǎng)站“優(yōu)兔”(YouTube)曝出“邪典視頻”,被媒體稱為“艾莎門(mén)”。

　　這些視頻情節(jié)簡(jiǎn)單粗暴,多在手機(jī)和平板電腦客戶端上播放。美國(guó)媒體認(rèn)定,視頻由成人制作,目標(biāo)瞄準(zhǔn)不太識(shí)字、極易受畫(huà)面影響的學(xué)齡前兒童。試想,一個(gè)三四歲的孩子看到艾莎公主做開(kāi)顱手術(shù),會(huì)對(duì)心理造成什么影響?

　　頗具迷惑性的是,這些動(dòng)畫(huà)大多配以歡快音樂(lè)和兒童笑聲,上傳者把視頻標(biāo)簽定為“卡通”“教育”等,與正常動(dòng)畫(huà)視頻混雜在兒童頻道中。除非家長(zhǎng)“一陪到底”,否則粗看之下難以發(fā)現(xiàn)異樣,防不勝防。

　　“優(yōu)兔每分鐘上傳的內(nèi)容達(dá)到300小時(shí),一秒一秒地審查每部視頻不可能,”美國(guó)技術(shù)倫理學(xué)者波爾格接受記者采訪時(shí)說(shuō)。

　　“為簡(jiǎn)化流程,優(yōu)兔等主要平臺(tái)結(jié)合使用人工智能工具、用戶報(bào)告和版主。然而,不少家長(zhǎng)可能會(huì)想當(dāng)然地認(rèn)為,優(yōu)兔兒童頻道等完全由人工挑選并審查。壞人正是利用這個(gè)漏洞,故意把不良內(nèi)容標(biāo)記為看似適合兒童的內(nèi)容。”長(zhǎng)期從事兒童發(fā)展心理學(xué)和早期教育研究的心理咨詢師高璇告訴記者,在畫(huà)面、聲音和文字三種傳播途徑中,低幼兒童是最易受畫(huà)面影響的,因?yàn)閺膬和l(fā)展心理學(xué)來(lái)看,孩子一直到八九歲,都是“畫(huà)面處理信息優(yōu)先”。

　　高璇說(shuō),畫(huà)面帶來(lái)的影響,在孩子記憶中儲(chǔ)存的時(shí)間比文字和聲音都要長(zhǎng)。孩子因?yàn)闊o(wú)法理解和處理看完恐怖畫(huà)面后產(chǎn)生的害怕、焦慮情緒,常常出現(xiàn)睡眠障礙。

　　更讓人心驚膽戰(zhàn)的是,在“算法”推波助瀾下,只要不慎點(diǎn)開(kāi)類似視頻一次,后續(xù)視頻就會(huì)源源不斷推送至用戶。“艾莎門(mén)”曝光后,“優(yōu)兔”迫于各方壓力,去年11月宣布刪除超過(guò)15萬(wàn)個(gè)視頻。

　　國(guó)內(nèi)視頻網(wǎng)站紛紛中招

　　這些“精神垃圾”早已大規(guī)模流入國(guó)內(nèi),優(yōu)酷、愛(ài)奇藝等國(guó)內(nèi)高流量視頻網(wǎng)站的兒童頻道紛紛中招。更有甚者,包括動(dòng)畫(huà)及真人的“本土”視頻已然出現(xiàn),部分視頻甚至有兒童出鏡,一些視頻點(diǎn)擊量頗高。

　　有網(wǎng)友在社交網(wǎng)站上寫(xiě)道,這些視頻飽含來(lái)自成人世界的“惡意”。網(wǎng)絡(luò)平臺(tái)行業(yè)人士認(rèn)為,恐怕不止“惡意”這么簡(jiǎn)單。“兒童邪典視頻”的背后,潛藏一條外人難見(jiàn)的利益鏈條。

　　國(guó)內(nèi)外視頻網(wǎng)站通行規(guī)則是,只要視頻點(diǎn)擊達(dá)到一定數(shù)量,網(wǎng)站就會(huì)自動(dòng)在視頻開(kāi)頭或中間插入“貼片廣告”。只要用戶打開(kāi)視頻,廣告就會(huì)自動(dòng)播放,視頻上傳者由此獲得廣告收入分成。

　　全國(guó)“掃黃打非”辦公室22日說(shuō),已部署開(kāi)展深入監(jiān)測(cè)和清查。多個(gè)網(wǎng)站也開(kāi)始自查和清理相關(guān)內(nèi)容。騰訊視頻表示,已第一時(shí)間成立了集運(yùn)營(yíng)、安全、技術(shù)等在內(nèi)的專項(xiàng)清理小組,北京、成都、深圳三地聯(lián)合,投入超過(guò)100人,24小時(shí)不間斷處理有害視頻,并且與其他視頻網(wǎng)站保持緊密聯(lián)絡(luò),共享關(guān)鍵字和有害樣本。

　　騰訊視頻認(rèn)為,此次“兒童邪典視頻”在國(guó)內(nèi)呈現(xiàn)總量大、分布廣、密集上線、變種類型多等特點(diǎn),大部分上傳賬號(hào)多為個(gè)人賬號(hào)和搬運(yùn)類賬號(hào),一些搬運(yùn)賬號(hào)有上傳熱點(diǎn)以吸引點(diǎn)擊的動(dòng)機(jī)。不過(guò),如此大規(guī)模的集中爆發(fā),涉及賬號(hào)較多,還需要進(jìn)一步分析和調(diào)查。目前,騰訊已采用音視頻指紋、ES搜索等技術(shù),以快速處置有害視頻。“針對(duì)少兒內(nèi)容,我們將重新制定審核標(biāo)準(zhǔn)和尺度,運(yùn)用人工智能(AI)學(xué)習(xí)有害的視頻樣本,打擊后續(xù)有害內(nèi)容的上傳和傳播。”　　　　　　　據(jù)新華社

　　全國(guó)“掃黃打非”辦:

　　制作傳播邪典視頻必嚴(yán)懲

　　據(jù)新華社北京1月24日電　針對(duì)網(wǎng)絡(luò)制作傳播涉兒童“邪典”視頻相關(guān)情況,全國(guó)“掃黃打非”辦公室24日通報(bào),已緊急部署約談相關(guān)互聯(lián)網(wǎng)企業(yè)要求深入開(kāi)展清查,同時(shí)追根溯源嚴(yán)查制作傳播源頭。

　　根據(jù)相關(guān)線索,全國(guó)“掃黃打非”辦公室部署廣東省“掃黃打非”辦公室對(duì)廣州胤鈞貿(mào)易有限公司制作傳播涉兒童有害視頻一案依法進(jìn)行調(diào)查。1月22日,在廣東省及廣州市“掃黃打非”辦公室的協(xié)調(diào)下,廣州市公安、文化執(zhí)法等部門(mén)對(duì)該公司進(jìn)行了執(zhí)法檢查并調(diào)取相關(guān)證據(jù)。經(jīng)查,該公司未經(jīng)許可,擅自從事網(wǎng)絡(luò)文化經(jīng)營(yíng)活動(dòng),且產(chǎn)品內(nèi)容涉嫌違反相關(guān)法律規(guī)定。根據(jù)調(diào)查取證情況,執(zhí)法部門(mén)已要求該公司將其所有相關(guān)視頻下線,并依法查封兩處生產(chǎn)經(jīng)營(yíng)場(chǎng)所,扣押用于生產(chǎn)經(jīng)營(yíng)的專用工具和設(shè)備,責(zé)令當(dāng)事人停止生產(chǎn)經(jīng)營(yíng)活動(dòng)。目前,該案正在進(jìn)一步調(diào)查處理中。

　　廣州胤鈞貿(mào)易有限公司22日晚間在其官方微博上稱,是“為了沖視頻流量做了一個(gè)錯(cuò)誤的示范——制作可怕視頻”,“創(chuàng)作了一些帶有恐怖題材的視頻帶給小朋友傷害和影響”,并向“小朋友還有家長(zhǎng)們”“深深道歉”。

　　廣州市文化市場(chǎng)綜合行政執(zhí)法總隊(duì)副總隊(duì)長(zhǎng)江南表示,據(jù)執(zhí)法總隊(duì)掌握的情況,廣州目前尚未發(fā)現(xiàn)別的企業(yè)涉及兒童“邪典”視頻,而被查封的廣州胤鈞是網(wǎng)絡(luò)兒童“邪典”視頻的一個(gè)制作部門(mén)。他表示,視頻網(wǎng)站對(duì)此類視頻的傳播,在節(jié)目?jī)?nèi)容的把關(guān)上也存在很大的責(zé)任,需要進(jìn)一步進(jìn)行整治。

　　全國(guó)“掃黃打非”辦公室有關(guān)負(fù)責(zé)人表示,針對(duì)利用經(jīng)典卡通形象制作傳播涉暴力、恐怖、殘酷、色情等妨礙未成人健康成長(zhǎng)的有害視頻情況,全國(guó)“掃黃打非”辦公室已部署約談相關(guān)互聯(lián)網(wǎng)企業(yè)開(kāi)展深入監(jiān)測(cè)和清查。“掃黃打非”部門(mén)將持續(xù)關(guān)注,對(duì)不履行企業(yè)主體責(zé)任,造成有害視頻及信息傳播的企業(yè),一經(jīng)查實(shí),必予嚴(yán)懲。

　　據(jù)了解,廣大網(wǎng)民可通過(guò)全國(guó)“掃黃打非”辦公室舉報(bào)電話12390,或通過(guò)中國(guó)掃黃打非網(wǎng)、“掃黃打非”微信公眾號(hào)在線舉報(bào)。今年全國(guó)“掃黃打非”辦公室將繼續(xù)開(kāi)展“護(hù)苗2018”專項(xiàng)行動(dòng),重點(diǎn)清理涉未成人有害出版物及信息,嚴(yán)厲打擊相關(guān)違法犯罪活動(dòng)。

　　[編輯: 張珍珍]