DeepSeek崩上熱搜

內(nèi)部人員回應(yīng)：

正在處理中，請(qǐng)稍后嘗試

隨著AI技術(shù)的不斷發(fā)展，其生成的文章、圖片和視頻作品越來(lái)越多，比如我們?cè)谒⒍桃曨l時(shí)，常常會(huì)看到這樣的提示：內(nèi)容疑似AI生成。每次看到這，有人難免產(chǎn)生疑問(wèn)，平臺(tái)是怎么識(shí)別出來(lái)的？肉眼看到的明明是真人啊，為啥懷疑是AI作品呢？

AI生文

一般情況下，單純由AI生成的文章可能較難被直接識(shí)別出來(lái)。然而，AI生成的文字往往在語(yǔ)言表達(dá)和邏輯結(jié)構(gòu)上展現(xiàn)出一種模式化的特征，一旦大量復(fù)制此類內(nèi)容，或是作品的語(yǔ)言風(fēng)格、結(jié)構(gòu)等與AI生成的典型模式高度吻合，就有可能被識(shí)別出來(lái)。

機(jī)器的思考偏向“統(tǒng)計(jì)性”，而人類的思考里除了“統(tǒng)計(jì)性”，還有“因果性”。人類能從經(jīng)驗(yàn)中提煉因果邏輯，而AI缺乏這種認(rèn)知深度。具體體現(xiàn)在當(dāng)遇到困難，人類會(huì)反思，但這種能力大模型尚不具備。

以寫文章為例，AI的寫法是學(xué)習(xí)現(xiàn)有的數(shù)據(jù)，從中挑選最“安全”的詞，也就是按照概率高低來(lái)選詞，這和人類寫作的創(chuàng)造性有本質(zhì)區(qū)別。例如在“我吃了一頓……”這個(gè)句式中，機(jī)器往往會(huì)在“吃”這一動(dòng)詞后使用搭配概率較高的“飯”，但人類可能會(huì)說(shuō)：“我吃了一頓美味。”

AI生圖

早期，AI生圖的技術(shù)并不完美，經(jīng)常會(huì)留下操縱跡象。信也科技算法科學(xué)家呂強(qiáng)表示，通過(guò)肉眼分辨圖片是否為合成，可以重點(diǎn)觀察圖片中的細(xì)節(jié)，例如觀察圖片中的手指數(shù)量是否正常、眼神是否怪異、發(fā)絲看起來(lái)是否真實(shí)等，如果一個(gè)眼睛看前、一個(gè)眼睛看左就有問(wèn)題。另外，生成的照片通常在光影上存在瑕疵，并缺乏照片基本參數(shù)，例如曝光等。但隨著AI的進(jìn)步，這種觀察變得困難。

不過(guò)，研發(fā)這些AI圖片檢測(cè)軟件的工作人員尤其注意到，如果要辨別一張人像的真?zhèn)危ㄟ^(guò)分析圖像中人物的眼睛細(xì)節(jié)會(huì)是一種非常有效的方法。

人類的眼睛構(gòu)造非常復(fù)雜，在光的折射下，人眼的反射角度、瞳孔的變化都會(huì)有很多細(xì)節(jié)的不同。現(xiàn)在的技術(shù)已經(jīng)發(fā)展到可以從一段真實(shí)視頻中的人物眼睛反射的“鏡中像”，來(lái)分析人物所處環(huán)境甚至看到人物對(duì)面站著的人臉等細(xì)節(jié)。但目前“AI生成”的圖片中，人像的眼睛是不可能保存這樣的細(xì)節(jié)的，簡(jiǎn)單地說(shuō)，看一張“AI生成”人像的眼球瞳孔的形狀就可以一眼辨別真?zhèn)危驗(yàn)檎鎸?shí)的照片中人眼瞳孔形狀通常是規(guī)則的圓形或者橢圓形，而AI照片中瞳孔形狀大多是不規(guī)則的。

一種更高效的方法是采用AI對(duì)抗AI。通過(guò)AI識(shí)別，首先需要構(gòu)建一個(gè)包括真圖和假圖的訓(xùn)練數(shù)據(jù)集，再利用大模型學(xué)習(xí)兩類圖片的不同特征，例如用AI學(xué)習(xí)圖片曝光細(xì)節(jié)，“一張很灰暗的圖片出現(xiàn)了一張整體偏白的人臉，這張圖片可能就是經(jīng)過(guò)人臉替換的。但有些人對(duì)光線不敏感，人眼可能就識(shí)別不出來(lái)。”當(dāng)大模型擁有了各類細(xì)節(jié)的識(shí)別能力后，“把這些能力匯總起來(lái)，就構(gòu)成了一個(gè)真假圖片的辨別矩陣，然后對(duì)矩陣結(jié)果打分，最終給出來(lái)一個(gè)真假圖片的評(píng)判結(jié)果。”不過(guò)，他也表示，利用AI識(shí)別生成圖片，算法復(fù)雜度并非難點(diǎn)，挑戰(zhàn)在數(shù)據(jù)：一是可能沒(méi)有那么多假樣本，二是要想讓假樣本覆蓋到很多領(lǐng)域也有挑戰(zhàn)。

AI生視頻

目前，大多數(shù)視頻都可以用AI生成，只不過(guò)這里很讓人頭疼的當(dāng)屬“換臉”視頻，令人防不勝防，特別是對(duì)那些不太了解AI的人，一騙一個(gè)準(zhǔn)兒，事后還要搖著腦袋說(shuō)，這肯定不是AI。

事實(shí)上，AI 偽造視頻所用的技術(shù)并不是最近才出現(xiàn)的，上世紀(jì)九十年代學(xué)術(shù)界就開(kāi)始了面部替換和圖像生成相關(guān)技術(shù)的研究。2014 年，伊恩·古德費(fèi)洛（Ian Goodfellow）提出了生成對(duì)抗網(wǎng)絡(luò)（GAN，Generative Adversarial Network），使得計(jì)算機(jī)可以生成更為逼真且高質(zhì)量的圖像。隨著相關(guān)技術(shù)不斷進(jìn)步，AI不僅生成的視頻分辨率更高、面部表情同步更自然，而且所需的數(shù)據(jù)更少、訓(xùn)練時(shí)間更短。

那么如何識(shí)別和檢測(cè)一段視頻的真?zhèn)文兀孔詈?jiǎn)單的方法還是我們的“經(jīng)驗(yàn)判斷”——即用肉眼仔細(xì)分辨，還是能看出視頻中人物的一些異常，比如面部表情的扭曲或眼神的不自然、眨眼次數(shù)過(guò)少、人物面部邊緣模糊或者與背景的過(guò)渡明顯不自然，甚至是人臉的光影效果與周圍環(huán)境的光線情況不符等。

另外，在視頻通話時(shí)，如果你無(wú)法分辨眼前與你視頻通話的人是真是假，可以要求對(duì)方用手指按一按自己臉頰或鼻翼，因?yàn)槟壳耙阎娜四樂(lè)旅凹夹g(shù)，還不能仿冒人臉在受到外部壓力時(shí)產(chǎn)生的變形，如果變形明顯不正常，就可以判定對(duì)方是“換臉人”。或者可以在自己的手機(jī)上安裝相關(guān)的“打假”軟件，來(lái)檢測(cè)視頻的對(duì)方皮膚的顏色是否會(huì)隨正常的人類心跳頻率保持一致地有規(guī)律變化。

在國(guó)內(nèi)，有些企業(yè)將特定信息嵌入到多模態(tài)的數(shù)字載體中，支持圖像、視頻、音頻、文本等多模態(tài)數(shù)字載體，可以隱蔽嵌入水印信息，不影響原始內(nèi)容質(zhì)量和用戶感知，同時(shí)抵御攻擊，以免被刪除或修改。這類技術(shù)應(yīng)用到軟件中，那么識(shí)別AI視頻就會(huì)變得更加容易。

盡管當(dāng)前的技術(shù)大幅提高了對(duì)AI生成文本識(shí)別的準(zhǔn)確性，不久的將來(lái)，AI可能會(huì)發(fā)展出“反偵察”技術(shù)，從而提高內(nèi)容識(shí)別難度，人與機(jī)器之間這種“矛”與“盾”的攻防角色會(huì)不斷互換、演進(jìn)。

令人擔(dān)憂的是，當(dāng)人類吸收的語(yǔ)料中越來(lái)越多混雜入AI生成內(nèi)容，人類的語(yǔ)言會(huì)不會(huì)越來(lái)越接近AI？隨著互聯(lián)網(wǎng)上AI生成內(nèi)容的不斷增加，一批與AI相伴而生的年輕人可能會(huì)逐步學(xué)習(xí)AI的表達(dá)風(fēng)格。但人類的表達(dá)始終具有“因果性”，目前與AI還存在本質(zhì)區(qū)別。而未來(lái)，AI可能學(xué)會(huì)像人一樣思考，屆時(shí)識(shí)別難度可能更高。

用AI生成的圖片，著作權(quán)歸我嗎？

在前一個(gè)問(wèn)題基礎(chǔ)上，如果生成的圖片屬于“作品”，那么，它的著作權(quán)屬于我嗎？

《著作權(quán)法》對(duì)作者的定義是：“創(chuàng)作作品的自然人是作者。由法人或者非法人組織主持，代表法人或者非法人組織意志創(chuàng)作，并由法人或者非法人組織承擔(dān)責(zé)任的作品，法人或者非法人組織視為作者。” 故人工智能模型本身無(wú)法成為我國(guó)著作權(quán)法上的作者。

排除了人工智能模型本身，那么是不是就意味著我就是作者了呢？不一定，還要看人工智能模型的使用協(xié)議。“春風(fēng)案”中，原告使用的Stable Diffution軟件在用戶使用協(xié)議中明確，“除非在本許可證中另有規(guī)定，許可證人不對(duì)您使用模型生成的輸出聲稱任何權(quán)利。您對(duì)生成的輸出及其后續(xù)使用負(fù)有責(zé)任。輸出的使用不得違反許可證中的任何規(guī)定。”筆者使用的某AI軟件亦規(guī)定，“在你和公司之間，在適用法律允許的范圍內(nèi)，你提供的輸入的知識(shí)產(chǎn)權(quán)歸屬于你或者依法享有這些知識(shí)產(chǎn)權(quán)的權(quán)利人。公司不主張輸出內(nèi)容的所有權(quán)。如果輸入和/或輸出本身包含了公司享有知識(shí)產(chǎn)權(quán)或其他合法權(quán)益的內(nèi)容，則前述無(wú)輸入和/或輸出的相應(yīng)權(quán)利仍由公司享有，不因包含在輸出當(dāng)中而改變其權(quán)屬。”當(dāng)然也有AI軟件或模型是主張權(quán)利的，還有的需要購(gòu)買會(huì)員才能享有輸出內(nèi)容的所有權(quán)，不一而足，需要仔細(xì)閱讀用戶協(xié)議。除此之外，這些軟件、模型往往都保留了對(duì)輸出內(nèi)容免費(fèi)使用的權(quán)利。

用AI生成的圖片，可能涉及侵權(quán)嗎？

可能。這里存在兩方面的侵權(quán)可能。

一是選用的圖片本身侵權(quán)。AI生成圖片，本質(zhì)上是原圖片的修改，所以如果選用的圖片沒(méi)有得到相應(yīng)的授權(quán)，那么在用該圖片生成新圖片的過(guò)程中，就可能涉嫌侵權(quán)。當(dāng)然，如果AI生成的圖片跟原圖已經(jīng)大相徑庭，估計(jì)原作者也很難認(rèn)出是自己的圖片改編而來(lái)。

二是用的AI模型侵權(quán)。AI生成的效果一定程度上看訓(xùn)練的內(nèi)容，需要AI的運(yùn)營(yíng)方前期“喂”圖片給它。這就導(dǎo)致AI模型生成的圖片，跟訓(xùn)練的圖片風(fēng)格有很高的相似度。如網(wǎng)友“弱冠年華”在社交平臺(tái)個(gè)人主頁(yè)以“插畫師的悲哀，我被Ai刺（赤）裸裸地抄襲了”為題，講述了自己作品被AI生圖侵權(quán)的經(jīng)歷，插畫博主“CZH-時(shí)光機(jī)”也發(fā)文稱，自己創(chuàng)作的童年插畫系列，被AI“抄襲”了。當(dāng)然，這種情形AI模型是否真構(gòu)成侵權(quán)還尚無(wú)定論，至于用戶侵權(quán)，筆者認(rèn)為更是小概率事件。

大眾·半島新聞綜合自澎湃新聞、科普中國(guó)、鈦媒體、科創(chuàng)板日?qǐng)?bào)等