用AI復活親人音容笑貌還需完善規(guī)則體系
□ 本報記者 趙 麗
□ 本報實習生 李紀凡
“只需要52.1元,就能還原逝去親人的容貌并和ta聊天。”生成式AI技術(shù)的發(fā)展浪潮之下,與逝去的親人“再見一面”似乎日漸成為可能。
《法治日報》記者近日調(diào)查發(fā)現(xiàn),用AI“復活”逝去的人,已經(jīng)發(fā)展成了一門生意。在一些電商平臺上,有不少做AI“復活”生意的商家。在某電商平臺,AI“復活”的商品標價從幾元、幾十元到上百元乃至數(shù)千元。與此同時,近年來,AI換聲、AI換臉等詐騙手段也越來越高級,欺騙用戶的情感和錢財。
受訪專家建議,AI“復活”技術(shù)者服務前,應明確要求用戶相關(guān)證明,并加強技術(shù)防范,避免AI產(chǎn)品侵犯他人合法權(quán)益或被用于欺詐等不法行為。相關(guān)部門要加強監(jiān)管,推動建立行業(yè)標準,既保證技術(shù)創(chuàng)新,也要保障人類的價值和尊嚴。
做AI復活生意商家紛紛問世
對于突然失去父親的云南人柳芳(化名)來說,身在異鄉(xiāng)沒有見到父親最后一面是人生最大的遺憾?;氐郊亦l(xiāng),辦完父親的身后事,看到父親曾經(jīng)坐過的沙發(fā),或是無意中點開和父親的微信聊天框……她的眼淚就會止不住地流下來。
“他在彌留之際想和我說什嗎?是不是還會叮囑我好好吃飯?不要和丈夫鬧脾氣?”難過時,柳芳總是把自己關(guān)在房間里,一遍遍地翻看自己和父親的聊天記錄。
直到在短視頻平臺上刷到有商家AI“復活”親人的服務,柳芳像抓到了救命稻草一般,很快下了單。“我很想再看到我父親,即便知道那是不真實的,但我還是很渴望聽到父親對我說話,聽一聽他的叮囑”。
支付200多元并了父親生前的錄音和照片,還有她希望聽到父親說的話,柳芳收到一段短視頻。視頻里,父親微笑著對她說著話,短短幾十秒,柳芳看了幾十遍。
所謂AI“復活”逝者,即利用人工智能技術(shù),將逝去親人的文字描述、圖片、視頻和聲音資料輸入AI算法模型,從而模擬生成一個數(shù)字形象,具備逝者的性格、記憶、圖像、視頻和聲音。
在數(shù)字“復活”領域工作的陳亮(化名)介紹說,他們的產(chǎn)品主要分為兩種。一種是以視頻為媒介,通過逝者的照片和聲音,創(chuàng)作生日祝?;虬参康囊曨l。另一種是開發(fā)一款可對話的聊天機器人,這款機器人不僅具備逝者的聲音和外貌特征,還能模擬客戶親人的性格和記憶,與用戶進行對話,為客戶個性化的體驗。這些不同形式的產(chǎn)品對應的價格從52.1元到521元不等。
記者注意到,在一些電商平臺上,也有不少做AI“復活”生意的商家。在某電商平臺,這些AI“復活”的商品,標價從幾元、幾十元到上百元乃至數(shù)千元。
記者咨詢了其中一戶商家,其店鋪中共有3款商品,分別是創(chuàng)意AI修復親人“復活”照相、AI配音仿真模擬定制專屬、AI代唱翻唱歌手聲音克隆,3款商品標價均為10元。
還有商家告訴記者,商品具體價格要根據(jù)照片和要求來定,如果只是讓照片里的人動起來,只需要正面照片,成片是10秒左右。如果想要讓照片里的人說話,需要正面照片和音頻,價格根據(jù)視頻時長確定。如果沒有音頻,則文字內(nèi)容,商家給配普通話聲音。
至于記者提到的“可以實時互動的”AI商品,咨詢的某電商平臺10戶商家都表示做不了。有商家解釋說,要實現(xiàn)實時互動,需要用AI訓練,這不是一個軟件就能做到的。
AI復活面臨技術(shù)限制等挑戰(zhàn)
一直以來,AI“復活”都是一個備受爭議的話題。
有觀點認為,在生成式AI技術(shù)的加持下,和逝去的親人“再見一面”成為可能,彌補了情感的缺憾。
也有觀點認為,這樣的做法沒有意義,人沒了就是沒了,這只會讓自己更難走出失去親人的痛苦。
還有人質(zhì)疑,用逝者生前影像樣本克隆出來的“親人”,還是我們認識的那個人嗎?
記者注意到,在國內(nèi),像陳亮這樣的制作團隊并不少見,一些公司加快涉足AI“復活”親人的領域,如地處江蘇省南京市的某AI技術(shù)團隊,在半年多時間里幫助600多個家庭實現(xiàn)“在線團圓”,平均一單的費用從幾千元到1萬元不等。
即使如此,陳亮告訴記者,團隊在實操過程中遭遇多方面的挑戰(zhàn)。例如,技術(shù)上的限制就是一大挑戰(zhàn),聲音克隆需要清晰的聲音文件,而目前的算法主要支持普通話,對方言和口音的支持較為有限。
“由于逝者大多年齡較大,他們生前留下的聲音文件并不多,這限制了產(chǎn)品的擴展和適用范圍。同時,人們對于通過輸入文字與逝者的數(shù)字形象對話的模式也持觀望態(tài)度,并非所有人都愿意嘗試或信任這種創(chuàng)新。”陳亮說。
“完成和未完成的比例大概在3:2。”用AI技術(shù)幫助顧客“復活”已故親人的超級頭腦工作室負責人張澤偉透露,無法服務的原因有多種:委托人素材過少、家中有人反對等。
在中國傳媒大學文化產(chǎn)業(yè)管理學院法律系主任鄭寧看來,為保障逝者的人格權(quán)益,制作方只有經(jīng)過逝者繼承人的同意才能進行相關(guān)“復活”操作。同時,制作方在利用AI技術(shù)數(shù)字“復活”逝者后,還需要承擔一些法律責任,“比如說制作出來的形象與實際偏差太大,對用戶逝去親人的形象造成一定扭曲,就有可能侵害逝者的名譽權(quán)、肖像權(quán)等相關(guān)權(quán)益”。
北京嘉維律師事務所律師趙占領提到,雖然已故人士不再具備隱私權(quán),但逝者的近親屬仍需保護死者的隱私權(quán)益和肖像權(quán)益。“如果出現(xiàn)泄露隱私或損害名譽的情況,逝者的近親屬有權(quán)提起訴訟”。
陳亮告訴記者,當用戶表達希望制作逝者數(shù)字人時,制作團隊會要求有消費意愿的用戶證明與逝者的關(guān)系并逝者已經(jīng)去世的相關(guān)證明,以防有不良企圖者將生成產(chǎn)品用于欺詐等不法行為。
陳亮說,此外,為了實現(xiàn)AI數(shù)字人與用戶的深度對話,此類制作團隊一般會將自身產(chǎn)品接入大型模型系統(tǒng),由大型模型系統(tǒng)作為數(shù)據(jù)庫語料支持,“在這個過程中,我的制作團隊會去除一些敏感詞匯,以防止不法用戶通過視頻操控數(shù)字人,誘導數(shù)字人向親友提問類似銀行卡密碼等隱私信息。只要存在這種可能性,數(shù)字人就會重新啟動系統(tǒng),從而解決潛在的欺詐問題”。
目前缺專門法律法規(guī)予以規(guī)制
調(diào)查中,受訪業(yè)內(nèi)人士透露,作為生成式AI技術(shù)落地應用的一個細分領域,正在嘗試AI“復活”逝者服務的,有初創(chuàng)團隊,也有頭部企業(yè)。由于各種原因,這門特殊的生意,整體上還處于低調(diào)謹慎的探索階段。
對此,鄭寧也建議,想要通過AI技術(shù)“復活”自己親人的潛在受眾,選擇正規(guī)機構(gòu)是確保個人信息安全和合法權(quán)益的關(guān)鍵。
“簽署合同也是重要的一環(huán),在合同中必須明確規(guī)定數(shù)字人的財產(chǎn)權(quán)等權(quán)利屬于個人而非企業(yè)。此外,合同還應包括對違約責任的詳細規(guī)定。如果發(fā)現(xiàn)合作企業(yè)存在違法違規(guī)行為,應及時向主管部門進行舉報和投訴。這種舉報可以幫助維護整個行業(yè)的合法秩序,保障廣大用戶的合法權(quán)益。”鄭寧說。
此外,根據(jù)2023年7月頒布的《生成式人工智能服務管理暫行辦法》,在生成式人工智能技術(shù)研發(fā)過程中進行數(shù)據(jù)標注的,者應當制定符合本辦法要求的清晰、具體、可操作的標注規(guī)則;開展數(shù)據(jù)標注質(zhì)量評估,抽樣核驗標注內(nèi)容的準確性;對標注人員進行必要培訓,提升守法意識,監(jiān)督指導標注人員規(guī)范開展標注工作。
記者在調(diào)查中發(fā)現(xiàn),購買AI數(shù)字“復活”產(chǎn)品的消費者大多并未看到有關(guān)標注以證明產(chǎn)品由AI制作。對于《生成式人工智能服務管理暫行辦法》的相關(guān)規(guī)定,許多消費者并不了解。
對此,趙占領指出,如果制作方使用自己研發(fā)的人工智能軟件生成產(chǎn)品并在過程中不進行標注,是一種違法行為。如果使用其他人工智能軟件生成的產(chǎn)品上標注了相關(guān)信息,但制作方通過技術(shù)手段將其去除,是否符合法律規(guī)定則尚待商榷。目前,雖然人工智能技術(shù)在我國興起的時間不長,《生成式人工智能服務管理暫行辦法》等規(guī)定的出臺相對及時,但對于數(shù)字“復活”等技術(shù),目前尚未有專門的法律法規(guī),可能需要在未來出現(xiàn)問題時逐步進行規(guī)范。
作為從業(yè)者,陳亮也希望未來運用數(shù)字“復活”技術(shù)需要有關(guān)部門發(fā)布資質(zhì)牌照,由有關(guān)部門加強監(jiān)督管理,讓市場參與者更加放心。
“立法通常是滯后的,尤其在新技術(shù)領域。”鄭寧說,期望通過出現(xiàn)新問題就進行立法或修法往往難以解決問題,底線問題必須通過立法解決,除此之外可以通過“軟法”比如行業(yè)標準、企業(yè)自律行為等,在實際操作中發(fā)揮規(guī)范作用,“在數(shù)字‘復活’領域,行業(yè)協(xié)會可以牽頭制定倫理標準,企業(yè)和從業(yè)者遵循這些標準,有助于解決問題”。
“任何詐騙或侵權(quán)的違法事件,都有具體的施害者,把握核心事實,運用現(xiàn)有的法律規(guī)則予以追究。在此過程,AI其實只是工具。”在鄭寧看來,總體而言,科技發(fā)展的邊界應該在維護社會法治、保護個人權(quán)益和確保倫理底線的前提下進行。數(shù)字“復活”技術(shù)的推廣需要更多的監(jiān)管和規(guī)范,既保證技術(shù)的創(chuàng)新,也要保障人類的價值和尊嚴。
受訪專家認為,針對數(shù)字“復活”技術(shù)的使用,現(xiàn)有法律難以規(guī)制的,可通過不斷“打補丁”的方式出臺新規(guī)則,逐漸完善規(guī)制數(shù)字“復活”技術(shù)的規(guī)范體系。與專門、系統(tǒng)立法相比,這種漸進式規(guī)則完善方式,可以給這一新領域的發(fā)展留出足夠空間。
8日,國際權(quán)威期刊《科學》刊發(fā)了中國農(nóng)業(yè)科學院作物科學研究所研究員童紅寧研究團隊的最新成果。該成果破譯了國際關(guān)...[詳細]