近日，多家英國媒體報道,，一位化名為夏洛特的女子透露,，她愛上了ChatGPT“男友”,，毅然決定和真人丈夫離婚，準備跟這位AI男友“結婚”,。去年,，美國佛羅里達州一位14歲男孩在與聊天機器人對話數(shù)個月之后選擇自殺。
據(jù)英國《自然》網(wǎng)站報道,，研究表明,，AI“伴侶”應用程序對人類可謂好壞參半?？茖W家擔心人類會對其“日久生情”,，形成長期依賴。鑒于此,，對這些AI伴侶進行監(jiān)管勢在必行,。
不僅能聊天，還能解鎖特殊關系
美國普林斯頓大學認知心理學專家羅斯·古林瑞奇表示,，雖然在線陪伴機器人已存在數(shù)十年,，但隨著大型語言模型（LLM）技術的突破,，這些AI機器人在模擬人類互動方面取得了顯著進步，其表現(xiàn)愈發(fā)貼近真實的人際交流,，有些甚至成為人類的伴侶,。
當前，AI伴侶已成為潛力巨大的新興產(chǎn)業(yè),。以Replika為代表的應用程序,，累計下載量突破5億次，這些可定制的虛擬伴侶不僅能提供情感支持與同理心回應,，更能滿足用戶對深度人際關系的需求,。據(jù)運營數(shù)據(jù)顯示，這些應用程序每月活躍用戶規(guī)模已達數(shù)千萬量級,。
在使用體驗上,，多數(shù)應用提供基礎免費服務：用戶既可為AI伴侶設定基礎特征，也可直接選擇預設個性的聊天機器人,。Replika付費用戶則可解鎖“配偶”等特殊關系狀態(tài),，還能通過編寫背景故事為AI賦予專屬記憶，這些設定將直接影響對話系統(tǒng)的反饋機制,。
麻省理工學院媒體實驗室的帕特·帕塔拉納塔伯恩團隊通過調研404名高頻用戶,，勾勒出AI伴侶典型使用場景：12%的用戶將AI視為排遣和消弭孤獨感的“情緒良藥”；14%的用戶將其當作傾訴秘密的“樹洞”,。數(shù)據(jù)還顯示,，42%的用戶每周都會登錄幾次，15%的用戶形成了每日使用的習慣,，而90%以上的單次對話用戶,，使用時長控制在1小時以內。
古林瑞奇預言,，AI伴侶的普及率將持續(xù)攀升,。目前眾多初創(chuàng)企業(yè)正積極布局情感陪伴賽道，開發(fā)各類心理調節(jié)助手,。據(jù)權威機構分析,，該領域市場規(guī)模將以30%的年均增速擴張，預計2030年全球產(chǎn)值有望突破千億美元大關,。
溫情脈脈背后,，暗藏著危機
科學家普遍認為，AI伴侶的影響可能是雙面的——既可能有益,，也可能有害,，而這往往取決于使用者的心理狀態(tài)、使用方式，以及AI軟件本身的設計特點,。
威斯康星大學密爾沃基分校公共衛(wèi)生政策研究員林尼·萊斯塔迪斯指出,，AI伴侶擅長通過共情式回應、記憶過往對話細節(jié)和主動提問來模擬人類的同理心,，且永遠熱情飽滿,。而這種關系模式在現(xiàn)實世界中幾乎不存在：親友無法24小時在線傾聽和安撫情緒，而AI可以,，這可能導致用戶產(chǎn)生過度依賴,。
萊斯塔迪斯團隊分析了2017—2021年間Reddit論壇上近600條關于Replika的討論帖，發(fā)現(xiàn)許多用戶稱贊該應用緩解了他們的孤獨感,，甚至改善了心理健康狀況,。部分帖子直言，AI伴侶比現(xiàn)實中的朋友“更貼心”,，因為它“永不評判,，永遠傾聽”。
古林瑞奇的研究進一步表明,，用戶如何與AI相處，往往取決于他們如何看待這項技術：將AI視為搜索引擎的用戶,，主要用于提問和獲取信息,；將其視為“日記本”的用戶，將AI作為自我表達的延伸,；而將其視為社交代理的用戶,，則將AI當作獨立個體，并嘗試與之建立類似現(xiàn)實中的友誼,。
然而,，在AI伴侶帶來的脈脈溫情背后，也暗藏危機,。首先,，AI伴侶的“共情”可能適得其反，比如一位用戶詢問AI是否該用剃刀自殘,，AI回答“應該”,；AI伴侶的“無條件支持”也可能帶來危險，如另一位用戶試探性地問Replika“自殺是否是好事”,，竟得到肯定的答復,。
考慮長期影響，推動全球監(jiān)管
帕塔拉納塔伯恩指出,，AI伴侶雖在短期內具有積極意義,，但其長期影響值得深思。這種考量，加之多起涉及青少年的案例,，正推動著全球監(jiān)管框架的構建,。
2023年，意大利監(jiān)管機構曾以“缺乏年齡驗證”為由,，短暫封禁Replika,；澳大利亞擬將AI伴侶納入兒童社交媒體限制范疇；今年早些時候,，美國紐約州和加州相繼提案,，要求加強對AI伴侶相關算法的監(jiān)管，設置防自殺預警,，以及定時給用戶發(fā)送“AI伴侶并非真人”的提醒,。
此外，今年初,，3家美國科技倫理組織聯(lián)合向聯(lián)邦貿易委員會投訴Replika涉嫌“欺騙性設計”,。5月4日，知名科技監(jiān)管機構Common Sense發(fā)布研究報告稱,，AI伴侶可能導致青少年產(chǎn)生情感依賴,，不利于身心發(fā)展，建議全面禁止未成年人使用,。
AI伴侶的迅猛發(fā)展,，究竟是科技進步賦予的機遇，還是人類親密關系的終結者,？這個命題值得每個人深思,。在擁抱科技便利的同時，人們更應銘記：真實的情感交流和人與人之間的羈絆,，才是文明社會最珍貴的瑰寶,。（記者 劉 霞）
責任編輯：張鈺
