AI“復活”逝者成完整產業鏈,誰有權利使用?應用邊界在哪?專家解讀
在一段視頻中,奶奶笑容慈祥,聲音略微沙啞,帶著濃濃的湖北口音,可實際上,這位奶奶已經去世幾個月了,我們看到的影像,只不過是依靠AI技術“復活”的虛擬人。一段段毫無表情的數字代碼,就編出了奶奶生前的音容笑貌,這是目前AI界超級炫酷的“復活黑科技”。
其實,這類靠AI技術“復活”親人的案例遠不止這一個,這種用AI技術讓逝者“歸來”的行為,是在傳遞思念還是消費逝者?有哪些潛在風險?是否涉嫌違法?應用的邊界又在哪?
“穿越生死只為‘見’一面”已成完整產業鏈
記者通過搜索發現,在短視頻平臺上發布AI復活人物視頻的博主,有不少都在經營AI復活業務,還有的培訓收徒。不少開展此類業務的賬號,有的聲稱可以“定制數字親人視頻,只需1張照片,用時1天內”,有的賬號甚至還制作了教程視頻。
記者調查發現,目前“AI復活親人”已經形成相關產業鏈,有代理發布相關視頻吸引目標客戶,有制作團隊專門收費制作相關視頻。有從業者說,AI“復活”已故的親人,一個月甚至能接到七十多單,這個市場的需求難以想象。
從業者:一張照片一段錄音就能“復活”
所謂“AI復活”,是指利用人工智能技術將逝去親人的文字描述、圖片、視頻和聲音資料輸入AI算法模型,從而模擬生成一個數字人形象,擁有逝者的性格、記憶、圖像、視頻和聲音。
記者發現,目前在一些電商平臺有部分商家已經推出了AI“復活”親人的服務,其中有的商家寫著:只需一張照片+一段錄音,讓你愛的人,永遠陪伴你,此類的服務價格也是從幾十元到上百元不等。
北京航空航天大學法學院副教授 趙精武:如果能夠及時獲得死者近親屬的同意,這種技術的應用方法,也未嘗不是一種緬懷親人的方式,尤其是對于普通民眾而言,比如說在老照片模糊,或者生前沒有留下任何影像的情況下,以AI技術修復老照片或者這些視頻,反而能夠在一定程度上彌補死者近親屬內心的遺憾。
據記者了解,目前利用AI技術制作的虛擬數字人除了能實現親人“復活”、老照片復原等功能外,虛擬數字人這項技術已經在影音娛樂、電商帶貨、虛擬社交等行業領域廣泛應用。專家表示,無論技術以何種方式創新,都不應當以犧牲公民的基本權利為代價,技術發展的前提應當是“技術服務于人,服務于社會”。
北京航空航天大學法學院副教授 趙精武:雖然AI技術“復活”死者的爭議很大,但是如果這樣的技術應用在尋找拐賣兒童領域,未嘗不是造福社會的一種技術方法。因為兒童的成長可能會導致原有的舊相片難以發揮尋人作用,因為孩子會越長越大,那么利用AI技術預估被拐兒童長大后的樣子,或許更有助于發現被拐賣的兒童,實現技術的良性治理。
“數字人”技術尚不成熟 警惕過度依賴
AI“復活”技術,對很多人來說是一劑良藥,專家也表示,如果僅僅是滿足個人的思念,既沒有突破人倫道德的底線,也沒有用于商業甚至犯罪目的,就無需過度焦慮。但是“數字人”技術尚不成熟,如果過度依賴也會適得其反。
中國科學院自動化研究所人工智能倫理與治理中心主任曾毅介紹,采用人工智能去模擬或者是克隆真人的技術,專業領域稱為“數字人”或是“數字克隆”。基于人工智能技術構建的所謂的“數字人”其實只是一個信息處理的工具,它與真人或者真人擁有的智慧是沒有任何關系的,“數字人”并不能看作是真實人類的復刻。
中國科學院自動化研究所人工智能倫理與治理中心主任 曾毅:現在的科學技術遠遠達不到這樣的水平,現在的“數字人”技術就是真實人的一個非常淺層的、表象的數字映像,但是其實跟真實社會當中的人,以及他所擁有的智慧,以及你在跟他對話的時候你期待原本的這個人表現出來的智慧,其實都是有千差萬別的。
據介紹,目前的“數字人”技術很容易讓公眾產生一些幻想,甚至走進一個心理誤區。假如一些人是希望通過與“數字人”交流的方式來達到慰藉自己心靈的目的,這種方式本身就存在很多隱患。
中國科學院自動化研究所人工智能倫理與治理中心主任 曾毅:比如說,擁有了“數字逝者”的時候,會不會使得人長期沉迷于與“數字逝者”之間的交互,從而對心理產生非常負面的影響。這個是“數字逝者”的這項人工智能的應用技術可能給社會帶來的長期的、潛在的隱患,也是我們是否應當開發這樣的人工智能技術必須去思考的倫理道德的問題。
“網友用AI復活已逝明星”引發爭議
“黑科技”賦予逝者“數字化永生”的能力,讓我們可以和想念的人以新的方式“重逢”,慰藉相思之苦。不過,現在也有從業者將這門生意對準了已逝的明星。
近日,“網友用AI復活李玟”的話題登上了微博熱搜,閱讀量超過8000多萬。在這個話題相關的視頻中,已經去世8個月的李玟被網絡博主利用AI數字技術“復活”,畫面中還原出了李玟生前的聲音和影像。
記者發現,網絡上被AI復活的還有張國榮、高以翔、喬任梁等已經逝去的公眾人物,雖然畫面中他們衣著各異,但是面對鏡頭時表達的內容都大同小異,首先是向粉絲問好,再訴說對粉絲的思念等暖心、激勵的話語。
“復活”視頻再傳播 家屬表達強烈不滿
針對網絡上出現大量被AI“復活”的已逝明星視頻,他們的家屬表達了強烈的不滿。
3月15日,高以翔生前經紀人轉達高以翔家人的意見稱,不希望高以翔肖像被他人任意使用,嚴厲地譴責并堅決抵制該行為,若不立即停止侵權行為,家人會采取法律行動。同時,其家人也呼吁粉絲朋友們保持理智,切勿輕易相信涉事博主發布的信息。
3月16日,針對兒子肖像被侵權使用一事,喬任梁的父親表示不能接受,這讓家人感到不適,希望制作該視頻的網絡博主盡快下架相關內容。
專家解讀:到底誰有權利用AI“復活”逝者
AI復活親人這項技術和服務,用來撫慰和緩釋遺憾的同時,情感、倫理和法律方面的爭論,也隨之而來。比如,誰有權利用AI“復活”逝者?產生的數據屬于何種權益?而一些無關人員未經親屬同意,擅自用公眾人物逝者信息制作AI視頻,是不是有打著懷念的名義有侵權炒作之嫌?使用AI技術“復活”逝世明星,這種行為到底合法不合法?
北京航空航天大學法學院副教授 趙精武:如果沒有經過死者近親屬同意的話,那么擅自利用AI技術復活死者的行為就屬于非常典型的侵權行為。因為逝者的肖像、名譽權仍然受到法律的保護。
我國民法典第九百九十四條明確規定,死者的姓名、肖像、名譽、榮譽、隱私、遺體等受到侵害的,其配偶、子女、父母有權依法請求行為人承擔民事責任;死者沒有配偶、子女且父母已經死亡的,其他近親屬有權依法請求行為人承擔民事責任。
中國人民大學未來法治研究院執行院長 法學院副教授 張吉豫:在法律里面特別規定了,逝者可以由他的配偶、子女、父母來去行使相應的權利,去保護他的肖像權。同時實際上也要去看生成的內容,如果生成的內容里面明顯帶有侮辱性,或者是進行了一些明顯會有損于已逝明星的名譽的行為,還可能涉及到侵犯他的名譽權等其他的問題。如果再用這種明星的口去說出一些虛假的信息、誤導公眾的信息等等,制造者、傳播者要承擔相應的傳播虛假信息的法律責任。
專家介紹,數字復活是生成式AI技術落地應用的一個細分領域,在新技術被廣泛應用的同時,也要充分保障及尊重個體情感和人格尊嚴。
北京航空航天大學法學院副教授 趙精武:在沒有取得近親屬同意的情況下,AI視頻的生成人需要承擔相應的責任,這些責任的類型可能包括對逝者的肖像權的侵犯,對于逝者的生前的著作權的侵犯,比如逝者生前一些拍攝的視頻,也會受到國家著作權法的保護,同時這些相關的內容也構成了對逝者的個人信息權益的侵犯。這三種權益按照我們國家的法律規定,生成AI視頻的人都需要承擔相應的民事責任,包括不限于賠禮道歉以外的停止侵權、賠償損失等方式。
我國出臺系列政策措施規范人工智能
隨著人工智能技術的發展,也帶來了一些風險。為此我國先后出臺了一系列政策措施,引導人工智能走上“科技向善”的健康發展道路。
2019年,中國就發布了《新一代人工智能治理原則》,2021年進行細化,發布了《新一代人工智能倫理規范》;此外,在2023年正式實施的《互聯網信息服務深度合成管理規定》和《生成式人工智能服務管理暫行辦法》中,為深度合成服務劃定了“底線”和“紅線”。
專家建議AI技術產品應用前進行倫理審查
專家表示,AI技術風險的預防需要通過立法、技術更新、行業自律等方式實現協同治理,要引導人工智能產業按照以人為本的方向良性發展,可以通過科技倫理審查制度、人工介入制度等措施來填補治理方面的空白,規范人工智能技術的應用發展。
北京航空航天大學法學院副教授趙精武表示,在人工智能技術產品投入應用之前進行倫理審查,并且進行一個動態化的跟蹤,對于一些高危可能涉及對人身權益有重大侵害的人工智能,需要及時提供人工可以隨時介入的渠道。
專家也建議,針對數據隱私、AI詐騙、倫理爭議等問題,一方面要不斷完善相應的法律法規,另一方面,相關的行業領域也要保持自律,每一位從業者都應守住法律和道德底線。