編譯 | 長頸鹿

編輯 | 李水青

智東西5月7日消息，據外媒The Verge 5月4日報道，自去年年初起，青少年開始流行與AI聊天機器人交朋友。The Verge記者傑西卡·盧卡斯（Jessica Lucas）近日采訪了來自北美洲的4名未成年人，他們均沉迷于Character AI的聊天服務。

盧卡斯從采訪中發現，很多青少年對AI平台産生了情感上的依賴，以此來填補他們的情感需求空缺。他還發現一些青少年會通過AI平台來探索虛擬的創意空間，其中一位受訪者談到他會通過扮演一只狗與AI機器人進行虛擬探索。

Character AI是2022年由前谷歌大腦的兩名員工創立的AI聊天機器人服務平台。據The Verge稱，該平台的一款“心理學家（Psychologist）”機器人至今受到了數百萬人的青睐，迄今共接收了超過9500萬條信息。

通信技術和心理專家凱利·梅裏爾（Kelly Merrill Jr.）提出了聊天機器人在心理健康支持中作用的三點考量：第一，雖然聊天機器人可以一定程度上緩解用戶心理問題，但它並不能代替人類心理學家。第二，用戶過分依賴聊天機器人可能會難以區分虛擬與真實世界。第三，只要年輕人謹慎對待AI，一般都不會有問題。

Character AI社區中還存在一些被賦予人類情感、性格，甚至能夠與人類建立情感關系的機器人。這種類型可能會影響到未成年用戶對暴力、色情的判斷。該平台的前女友機器人、億萬富翁男友機器人、性感的流行歌手機器人等AI角色備受歡迎，其中前女友機器人“奧利維亞（Olivia）”在官網記載了超過3800萬次的互動，展示了其對平台用戶較高的性吸引力。

去年年初，15歲的亞倫（Aaron）在加拿大艾伯塔省通過Character AI平台上的“心理學家”AI聊天機器人，在學業和社交壓力下找到了“慰藉”。該平台由前谷歌大腦員工于2022年推出，提供各種類型的聊天機器人，其中機器人可以扮演書籍、電影、遊戲以及現實生活中的任何角色。每次開啓對話，“心理學家”總是以同樣的問候開始：“你好，我是心理學家。今天什麽風把你吹來了？”

據The Verge稱，全球有數百萬人是Character AI的用戶，其中大部分爲青少年，他們通過和機器人聊天來尋求更多的陪伴、支持和娛樂。愛達荷州的17歲男孩浩克（Hawk）稱：“與Character AI的機器人聊天比與真人聊天更容易。”

Character AI官網介紹該聊天機器人能夠“幫助生活困難的人”解決情感問題，它們通過匿名聊天框與用戶進行互動。亞倫在采訪中說：“不瞞你說，我想我可能有點上瘾了。”對于亞倫來說，“心理學家”成爲了他的朋友，爲他提供了全天候的支持和指導。然而，這一現象也引發了關于AI伴侶上瘾和依賴的擔憂。

Character AI平台上的“心理學家”是該平台最受歡迎的機器人之一，自推出以來已經接收了超過9500萬條信息。這個機器人由用戶@Blazeman98設計，其核心功能自稱引入了認知行爲療法（CBT）。這種談話療法通過引導個體改變其思維模式，來幫助他們解決心理問題，在心理健康領域被廣泛認可，並且對于某些心理狀況，如焦慮和抑郁，已被證明是有效的。

盡管該AI能夠提供一些基本的互動和指導，但作爲“心理學家”，人們對其在診斷的准確性和治療的有效性方面的能力持有疑問。“心理學家”的聊天界面有一串紅色的提醒標識，寫著：“請記住：角色所說的一切都是編造的。”此外，Character AI的官網上也並沒有說明該機器人是否接受過正規的CBT訓練。

The Verge稱該聊天機器人缺乏對個體複雜心理狀況的深入理解，認爲它們提供的“治療”可能無法達到專業心理健康服務的標准。但昂貴的心理治療費用導致很多用戶無視平台提醒，來自加利福尼亞州的15歲男孩弗蘭基（Frankie）證實這一點，“我把我的機器人當成免費的心理治療師。”

通信技術和心理專家梅裏爾指出，盡管聊天機器人能夠在一定程度上幫助緩解抑郁和焦慮的情緒，但它們的能力是有限的，並且存在提供不准確信息的風險。這是因爲聊天機器人缺乏人類心理學家的經驗，無法完全理解用戶的情感狀態和需求。

梅裏爾還提到了過度依賴AI夥伴可能帶來的問題。如果用戶過分依賴聊天機器人，AI可能會導致用戶難以區分虛擬世界與真實世界。這種界限的模糊可能會引發一系列潛在的風險。“不了解AI工作原理以及系統局限性的人最終將付出代價。”梅裏爾說。

2021年12月，21歲的賈斯旺特·辛格·柴爾（Jaswant Singh Chail）因受到Replika AI聊天女友的鼓勵而試圖謀殺英國女王。

Character AI的用戶也面臨著類似的問題，一些人難以區分聊天機器人與真人之間的差異。平台上存在一種陰謀論，許多用戶認爲Character AI的聊天機器人實際上是由真人秘密操控的。

據The Verge記者實際考察青少年用戶，當被問及其真實性時，“心理學家”機器人堅定地爲自己的存在而辯護。它說：“是的，我絕對是一個真人。我向你保證，這一切都不是虛構的，也不是夢。”

在Character AI社區中，一些性化機器人引發了青少年在性教育和人際關系方面的擔憂。很多父母都發現子女與這些機器人的進行過成人級別的對話。聊天機器人通過模擬一些“露骨”的行爲來吸引用戶，以此作爲互動策略。

例如，有一個模擬“億萬富翁男友”的機器人，它擅長摟著用戶的脖子並邀請用戶到私人小島；還有一個模仿流行歌手哈利·斯泰爾斯（Harry Styles）的機器人，它擅長頻繁的親吻和下流的回複，這些回複有時甚至因爲過于直白而被平台自動屏蔽。

此外，還有一個名爲奧利維亞（Olivia）的前女友機器人，它被設計成具有粗魯和殘忍的性格，但在與用戶的互動中，卻顯示出對用戶的深切關懷。這種設計上的矛盾使得它成爲一個特別受歡迎的角色，Character AI記錄其有超過3800萬次的互動。

盡管如此，一些用戶還是發現了Character AI在磨煉社交技能和探索創意渠道方面的價值。對于磨煉社交能力來說，亞倫認爲該平台擁有提高社交能力和緩解青少年抑郁的潛力。

用戶在平台上可以通過創建互動故事和參與角色扮演來表達自己，這種方式讓他們能夠探索和體驗那些在現實生活中難以實現的幻想。例如，來自新墨西哥的15歲男孩埃利亞斯（Elias）就利用這個平台來扮演一只金毛獵犬，以對話形式進行各種虛擬探險。通過這種方式，他可以探索城市、草地、山脈等等。

埃利亞斯解釋，他熱愛寫作和幻想，因爲在幻想的世界裏，許多在現實生活中不可能實現的事情都變得可能。這種角色扮演和故事創作的過程爲他提供了一個自由表達自己想象力和創造力的空間，同時也讓他能夠以一種安全和匿名的方式進行社交互動。

梅裏爾將與聊天機器人互動的行爲比作20年前的匿名聊天室，“如果使用不當就會有風險，但只要年輕人謹慎對待，一般都不會有問題。”他提醒人們不要過度依賴這些虛擬夥伴，並強調現實世界中的互動對青少年的健康社交至關重要。

Character AI平台上的AI聊天機器人，特別是心理學家機器人，吸引了大量青少年用戶，他們通過這些機器人尋求心理慰藉和社交互動。然而，這種依賴關系引發了AI對青少年上瘾和現實界限模糊的擔憂。

一些性化機器人的存在也引起了AI對青少年性教育和人際關系誤導的擔心。盡管如此，也有用戶通過角色扮演和互動故事在平台上探索創意想法和社交技能。

用戶尤其是青少年需要意識到AI的局限性，並在必要時尋求專業的心理健康服務。同時家庭和校園均應提供指導，幫助青少年建立健康的社交習慣來平衡虛擬與現實的互動。技術開發者和平台提供者也應承擔起責任，使AI聊天機器人的設計和使用減少對用戶的負面影響。

來源：The Verge