5元也能做,粗制濫造的“AI複活”服務不買也罷|新京報快評

新京報評論5 2024-03-28 23:40:30
對那些粗制濫造的“AI複活”,也依舊需要保有警惕。 ▲ 在電商平台上搜索“AI複活”,很多相關店鋪定價最低只需10元。圖/電商平台截圖 文 | 江城

一段時間以來,“AI(人工智能)複活”這門此前隱秘而小衆的生意,開始受到廣泛關注。據解放日報報道,隨著相關需求的不斷增加,“AI複活”的業務,已經開始有流水線化的傾向。

在電商平台上,此項服務的價格從5元至上萬元不等,價格越高,效果越豐富。除了提供“複活”服務,“複活師”們還在尋找學徒和代理,從而將單一的産業向更遠端延伸。

相比于此前“複活”公衆人物,人們“複活”自己的至親,似乎從倫理上更容易被接受。尤其是考慮到清明將至,人們的思念之情需要有一個寄托,此時,AI帶來一種新的解決方案,也不失爲技術紅利的一個部分。

然而,人們依然要面臨的一個現實是,即現在的AI技術依然不算成熟,尤其是一些“低價AI複活”的生意,技術可能更加粗糙。因此,如果依賴粗糙的AI技術貿然“複活”出親人,很有可能會帶來情感上的二次傷害。

一個典型的案例是,在電商平台上輸入“AI複活”,就會彈出一大片商家。而在實際體驗中,很多消費者發現不少“AI複活”粗制濫造,反倒讓人倍感不適。

在媒體報道裏,有人曾花費萬元在網上“AI複活”了自己的爺爺,但稍後就從神態表情和只言片語中看出了“濃厚的AI味”,讓她“瞬間出戲”。後來她刪除了這個數字人,並大哭了一場,突然感到有所釋懷。

這並非個例,事實上,連業內人士也承認,受限于素材不多,以及算力、成本的考量,目前很多數字人的視頻和産品看起來還是很“假”。粗糙“複活”之後,當AI産品以逝者的身份出現在親人面前時,也可能會帶來巨大的心理沖擊。

而更大的問題或許還是隱私問題。由于行業發展太快,一些商家也難言資質齊全。同時,逝者信息是否能得到妥善保護並定時清理,這些定制出來的音視頻內容,是否會被濫用,人們心裏其實並沒有底。

去年,國家互聯網信息辦公室發布了《生成式人工智能服務管理暫行辦法》,其中提到,“提供者對使用者的輸入信息和使用記錄應當依法履行保護義務,不得收集非必要個人信息,不得非法留存能夠識別使用者身份的輸入信息和使用記錄,不得非法向他人提供使用者的輸入信息和使用記錄”“提供者應當依法及時受理和處理個人關于查閱、複制、更正、補充、刪除其個人信息等的請求”。

但可以想象的是,這些面向大衆市場如雨後春筍一般突然大量湧現的商家,是否履行了這些義務,消費者又是否可以核實和監督,目前尚未有非常清晰的方案。這也是“AI複活”不可回避的潛藏風險。

人們選擇“AI複活”,心情是可以理解的,不過是一種強烈的思念,一種無法割舍的親情,一種再見一面的願望,也是人之常情。死生之際,自古以來是一種困擾了無數人的哲學命題,悲傷與通透,萎頓與超越,人們永遠在尋覓一種可能的應對方案。

無法回避的事實是,天人永隔,人們依然很難看到技術跨過這道關隘的充分可能。因此,在面對技術變革所帶來的新的可能性時,也要對因技術不成熟所造成的潛在風險保有警惕,尤其是短期內面向大衆市場推出的産品。與其讓粗制濫造的“AI複活”傷害情感,公衆不妨再等等技術進步的腳步吧。

撰稿 / 江城(媒體人)

編輯 / 馬小龍

校對 / 李立軍

新京報評論,歡迎讀者朋友投稿。投稿郵箱:xjbpl2009@sina.com 評論選題須是機構媒體當天報道的新聞。來稿將擇優發表,有稿酬。 投稿請在郵件主題欄寫明文章標題,並在文末按照我們的發稿規範,附上作者署名、身份職業、身份證號碼、電話號碼以及銀行賬戶(包括戶名、開戶行支行名稱)等信息,如用筆名,則需要備注真實姓名,以便發表後支付稿酬。
0 阅读:8