用AI“複活”逝者,倫理和法律的邊界在哪?專家解讀

北京日報客戶端 2024-04-06 09:00:55

AI數字“複活”,您聽說過嗎?當然,這裏的複活是加引號的,簡單來說,就是指用逝者生前的照片、視頻、文字記錄等曆史數據,使用人工智能技術、數字化模擬再現已故人物的聲音、影像、行爲等。

那麽,目前AI“複活”技術發展到什麽程度?一個人的“數字複活權”歸誰擁有?未經授權AI“複活”明星是否觸犯法律?使用逝者數據生成數字人,倫理和法律的邊界在哪裏?我們現有的法律是如何規定的?首先來認識一位金女士,不久前,她借用AI技術、數字“複活”了一名已故的小女孩,她的女兒,小睿睿。

跨越時空的對話 媽媽的小女兒“回來了”

屏幕裏懂事乖巧的小女孩名叫小睿睿,時隔近三年,再次以這樣特殊的方式與女兒對話,金女士難掩激動。這個和自己女兒有著同樣外表和聲音的數字形象是金女士委托南京的一家AI工作室定制而成。抱著試試看的心態提供了女兒的視頻和文字介紹等資料後,金女士沒有想到僅僅一個月時間,她就可以和女兒隔著屏幕進行對話。

小睿睿媽媽金女士:我感覺好像她又回到我身邊一樣,而且聲音和性格完全符合,跟她生前幾乎是一模一樣的。

2021年,年僅9歲的小睿睿因患膠質母細胞瘤不幸去世,在她離世後,她的家人對女兒的思念與日俱增,在看到網絡上有人爲自己去世的親人用人工智能手段進行數字重生後,金女士也動了心。

小睿睿媽媽金女士:我一個人,比如說在家裏的時候,平時就拿個照片看,不能産生互動,不能聊天。然後數字人可以根據她的性格,還有她的聲音來模仿,我就可以跟她進行互動,能夠感覺到她的存在感。我覺得這是延續了孩子對我的愛,還有我對孩子的愛,這是兩個愛的相互延續。

從AI換臉到“複活” 記者探訪數字人工作室

在南京高新技術開發區的某産業園,記者找到了這家名爲“超級頭腦”的AI工作室,負責人張澤偉告訴我們,成立之初他們從事的是AI培訓和教育的相關業務,而真正開始接收“AI複活”逝者的訂單,是緣于朋友的一個請求。

“超級頭腦”工作室創始人張澤偉:我的一個朋友,他父親因爲意外離世了,然後他們全家人一直瞞著他的奶奶。因爲時間有點長了,老人家就是一直在問,所以說大家也看是瞞不下去了。所以說我朋友才找到我,問我可不可以有這項技術去複刻一下他父親的聲音跟形象,跟老人進行一個實時的通話,給老人報一個平安。

出于好友的請求,張澤偉的團隊接下了這個任務,利用AI換臉換聲技術,張澤偉扮演了朋友去世的父親與老人進行了視頻通話,視頻裏張澤偉並沒有太多的言語,僅僅只是點點頭微笑,而對于聽力不太好的老人而言,這已經足以讓她相信視頻裏的人是她許久未見的兒子。自這以後,越來越多的人找到他,希望以各種形式幫助他們“複活”親人。從去年三月份到現在,張澤偉已經接到了一千多個訂單。

在已經建構好的模型裏,只要攝像頭能夠捕捉到扮演者的臉部圖像,只需動動鼠標,換臉僅僅是一瞬間的事情。用AI技術換臉變聲去爲不知親人離世的老人們編織一場善意的謊言,而對于不得不接受這個消息的人而言,讓逝者的數字分身成爲自己偶爾的陪伴和慰藉,成了另一部分人的選擇。

家住南京的王先生在去年委托張澤偉利用AI技術扮演去世的舅舅與自己的外婆視頻聊天,暫時瞞住了舅舅意外去世的消息。但王先生也意識到,這樣善意的謊言也許不可能一直編織下去,看到張澤偉的工作室有數字生命的服務,他也在考慮爲去世的親人訂制一個。

采訪中張澤偉告訴記者,甚至有一些殡葬行業機構也主動找到工作室,希望能與他合作,爲客戶推出逝者數字生命的訂制服務。

“超級頭腦”工作室創始人張澤偉:比如說後人去祭奠他、去看他,其實你並沒有特別直接的印象。一個人他代表可能一段曆史,可能是這個家族的一些重大事迹。當他的後人再去祭奠他,不管他的碑、墓地以後還在不在,至少他的數字生命是永遠都在的。

AI“複活”已逝公衆人物是否觸犯法律?

近日,複活已故明星李玟的視頻在網絡上引起了廣泛關注,記者發現,除了李玟外,還有包括張國榮、喬任梁等去世公衆人物也被網友進行了AI數字“複活”,一些網友利用這些已逝明星生前的影像資料讓他們重新對粉絲說話。

北京航空航天大學法學院副教授趙精武:在沒有取得近親屬同意的情況下,就對逝者的信息進行商業化利用或者其他目的,顯然構成了對死者以及近親屬合法權益的侵犯。因爲在我們看來,死者的複活並非真正意義上的複活,更多的是對于死者的一種消費。

而對這類網絡上大量出現的“複活”視頻,這些名人的家屬表達了強烈的不滿。

3月16日,對于網上傳播開的“喬任梁被複活”影像,他的父親公開表示,不能接受,希望對方盡快下架。

3月28日,已故知名歌手李玟的母親公開發布了一則律師聲明。該聲明稱,近期部分網絡用戶未經李玟女士近親屬同意,利用李玟肖像制作、發布“AI複活李玟”系列短視頻,此類視頻的廣泛傳播已經對李玟母親及其家人的工作和生活造成了嚴重幹擾,同時也給本就深陷痛苦的李玟母親及家人帶來了巨大的心理沖擊和二次傷害。要求涉嫌侵權責任人,于聲明發布之日起7日內下架、刪除含有上述侵權內容的相關圖片、視頻及文章,立即停止實施相應侵權行爲。

北京航空航天大學法學院副教授趙精武:這種合法性取決于是否取得了死者近親屬的同意。如果近親屬已經同意,那麽這樣的行爲可能能夠豁免他的法律責任。我們國家的民法典第994條也做出了非常明確的規定,對于死者的肖像隱私這些相關的信息,由父母、子女、配偶請求相應的權利救濟,如果沒有這些相應的主體,則由其他近親屬來行使合法權益。

如何避免逝者數字人侵權或用于不法用途?

采訪中“超級頭腦”工作室團隊告訴我們,近年來利用人工智能技術從事電詐等不法活動的案例屢見不鮮,如何避免數字人或者換臉換聲服務成爲某些人非法逐利或從事其他違法行爲的工具是他們一直在著力解決的難題。

張澤偉告訴記者,僅僅從溝通上判斷客戶的意圖顯然並不夠,團隊成員正在從合同和證明文件中慢慢摸索出一套法律流程。

“超級頭腦”工作室創始人張澤偉:從協議跟合同上去做約束,就是去做數字生命這一塊,是不可以用于任何違法違規的途徑的,一旦知道我們立刻會報警或者是向相關機構進行舉報。然後再一塊就是說會從他的一個授權,對授權和關系證明上去做證明跟約束,比如說你要給自己做,你必須自己授權給我們。你要給別人做,你需要得到別人的授權。如果是別人已經去世了,你必須要得到逝者的直系親屬的授權來做。

使用逝者數據 倫理和法律的邊界在哪裏?

據記者了解,自去年1月10日起施行的《互聯網信息服務深度合成管理規定》要求,“深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的,應當提示深度合成服務使用者依法告知被編輯的個人,並取得其單獨同意。”我國民法典第994條規定,死者的肖像等受到侵害的,其配偶、子女、父母有權依法請求行爲人承擔民事責任。

中國人民大學未來法治研究院執行院長張吉豫:特別在民法典制作的編纂的過程之中,就已經非常明確地考慮到了,當時就已經産生的像深度合成這樣的一些技術可能帶來的風險。任何人都不能夠用信息技術來去僞造這樣的方式去侵害他人的肖像權,而且也特別關注到對于聲音也可以去進行合成,所以在民法典裏面也規定了那聲音相關的權利也是參照著肖像權一起來去進行保護的。

專家表示,目前的人工智能在面對如此複雜的人文關懷時,還存在諸多的技術限制以及難以解決的倫理道德問題,對于我國目前已出台或者正在研究制定出台的法律法規和管理辦法,尊重人格尊嚴,防止侵害他人受保護權益是最基本的倫理和法律底線。

北京航空航天大學法學院副教授趙精武:爲了解決這類問題,科技部也在2023年9月發布了科技倫理審查辦法,那麽通過建立一個科技倫理審查制度來預防科技倫理層面的風險,那AI逝者“複活”也在被規制的對象裏邊。近期也有專家學者推出了人工智能法學者建議稿,其中基本的原則就是建立人工智能領域的科技倫理審查,強調人工智能技術必須以人爲本,尊重人身自由和人格尊嚴。

中國科學院自動化研究所人工智能倫理與治理中心主任曾毅:我們可以想象到有些人是希望采用這樣的數字逝者來達到慰藉自己心靈的目的。但是它還有很多的隱患,比如說擁有數字逝者的時候,會不會使得人長期沉迷于與數字逝者之間的交互,從而對心理産生非常負面的影響。這個是數字逝者的這項人工智能的應用技術,可能給社會帶來的長期潛在的隱患,也是我們是否應當開發這樣的人工智能技術必須去思考的倫理道德的問題。

除了出台人工智能監管相關的法律法規以外,不少專家也表示,我們還需要采用人工智能的技術手段去治理人工智能發展。

中國科學院自動化研究所人工智能倫理與治理中心主任曾毅:未來我們人工智能的産品和服務在推向市場的時候,經過人工智能倫理安全的檢測,我們給人工智能的産品和服務去打分,讓它符合人工智能和我們的社會對于人工智能的期待。在産品和服務發布之前,避免當中的可能的潛在的倫理安全的隱患。

0 阅读:13