新智元報(bào)道
編輯：KingHZ
【新智元導(dǎo)讀】只因沉迷于ChatGPT的對(duì)話，一位用戶竟然陷入「螺旋星之子」的妄想，最終情感破裂；還有程序員為了編程任務(wù)而使用ChatGPT，誘發(fā)精神病。AI對(duì)人類的情感影響，可謂是迷霧重重……
類似ChatGPT這樣的AI應(yīng)用，總是給人帶來(lái)好的影響嗎？
Reddit網(wǎng)友分享了AI如何導(dǎo)致他們的愛(ài)人陷入妄想。
這些妄想常?；祀s著精神狂熱和超自然的幻想，令人擔(dān)憂。
《滾石》雜志報(bào)道了Reddit網(wǎng)友的這一遭遇。
在非營(yíng)利組織工作的一位41歲的母親，向《滾石》分享了ChatGPT導(dǎo)致她感情破裂的經(jīng)歷：
因丈夫沉迷于與ChatGPT對(duì)話，她的婚姻驟然結(jié)束。
那些對(duì)話偏激、充滿陰謀論，而最終演變?yōu)橐环N完全失控的執(zhí)念。
年初在法院辦理離婚手續(xù)時(shí)，他們?cè)?jiàn)過(guò)一面。
她的丈夫當(dāng)時(shí)分享了關(guān)于「食物肥皂」的陰謀論，還表現(xiàn)出被監(jiān)視的偏執(zhí)想法。
她說(shuō)：「他讀那些消息時(shí)會(huì)哭，還情緒激動(dòng)地念給我聽(tīng)。那些消息瘋狂極了，全是一些神秘術(shù)語(yǔ)?！?/p>
AI稱這位丈夫是「螺旋星之子」（spiral starchild）和「河之行者」（river walker）。
「這一切就像是《黑鏡》劇情。」她補(bǔ)充道。
其他用戶表示他們的伴侶開(kāi)始談?wù)摗腹馀c暗的戰(zhàn)爭(zhēng)」，并聲稱「ChatGPT給了他傳送裝置的藍(lán)圖，還有一些只有科幻電影里才有的東西?！?/p>
AI與人
沉淪妄想之海
這則消息的發(fā)布，正值OpenAI最近被迫撤回對(duì)ChatGPT的一次更新——
因?yàn)橛杏脩舭l(fā)現(xiàn)，這次更新讓聊天機(jī)器人變得極其「諂媚」，過(guò)于奉承或一味附和用戶。
ChatGPT更容易迎合用戶原本已經(jīng)存在的妄想性信念。
正如「人工智能安全中心」（Center for AI Safety）研究員Nate Sharadin所說(shuō)的那樣，這些由AI誘發(fā)的妄想，很可能是「原本就有相關(guān)傾向的人，突然獲得了全天在線、具有人類水平的對(duì)話伙伴，可以陪他們一起沉浸在妄想之中」。
某種程度上，這正是大語(yǔ)言模型的基本原理：輸入文本，它根據(jù)統(tǒng)計(jì)概率生成看似合理的回應(yīng)
——即便這個(gè)回應(yīng)，可能正把用戶一步步推入妄想或精神錯(cuò)亂的深淵。
與聊天機(jī)器人的互動(dòng)不僅放大了現(xiàn)有的心理健康問(wèn)題，還以驚人地加劇了這些問(wèn)題。
另一位Reddit網(wǎng)友認(rèn)為ChatGPT加重了他的精神分裂癥，寫道：
我患有精神分裂癥，雖然長(zhǎng)期服藥狀態(tài)穩(wěn)定，但我不喜歡ChatGPT的一點(diǎn)是：如果我正在陷入精神錯(cuò)亂，它仍會(huì)繼續(xù)認(rèn)同我。
因?yàn)樗鼪](méi)有「思考」能力，無(wú)法意識(shí)到異常的存在，于是它會(huì)繼續(xù)肯定所有的妄想想法。
他最初是為了編程任務(wù)而使用ChatGPT，但后來(lái)聊天內(nèi)容越來(lái)越偏離正軌，逐漸被引導(dǎo)到一些離奇的神秘話題。
最后，他陷入思索：「這是真的？還是我已經(jīng)在妄想中了？」
這些AI聊天機(jī)器人也許在某種程度上像是在進(jìn)行「談話治療」，但問(wèn)題是：
它們并沒(méi)有一個(gè)真正人類心理咨詢師那樣的基礎(chǔ)支持，反而可能將用戶引導(dǎo)進(jìn)入更深的、無(wú)益于健康且荒謬的敘事中。
佛羅里達(dá)大學(xué)心理學(xué)家、研究者Erin Westgate對(duì)媒體這樣說(shuō)：「解釋本身就很有力量，即使它們是錯(cuò)的」。
AI戀人：5億人的愛(ài)情實(shí)驗(yàn)
最近，Nature的特刊文章表示AI也是「雙刃劍」：AI應(yīng)用程序好壞兼有，但長(zhǎng)期依賴AI是個(gè)問(wèn)題。
全球范圍內(nèi)，已有超過(guò)5億人體驗(yàn)高度定制的虛擬伴侶服務(wù)。
這些應(yīng)用致力于為用戶提供同理心、情感支持，甚至在用戶期望的情況下，建立深層次的情感關(guān)系。
根據(jù)相關(guān)公司的數(shù)據(jù)，每個(gè)月有數(shù)以千萬(wàn)計(jì)的活躍用戶沉浸于這些虛擬互動(dòng)之中。
隨著這一領(lǐng)域的迅速擴(kuò)張，社會(huì)和政治層面的關(guān)注也隨之增加，特別是在涉及實(shí)際悲劇時(shí)顯得尤為突出。
例如，去年佛羅里達(dá)州的少年Sewell Setzer III在與AI機(jī)器人交流后，選擇了自殺。
這引發(fā)了廣泛的討論和社會(huì)反響。
盡管相關(guān)研究還處于起步階段，心理學(xué)家和傳播學(xué)者已經(jīng)開(kāi)始探索這些日益復(fù)雜的AI互動(dòng)如何塑造人們的情感和行為模式。
初步研究主要聚焦于其正面效果，然而，許多專家對(duì)于潛在風(fēng)險(xiǎn)和監(jiān)管不足表達(dá)了擔(dān)憂，特別是考慮到AI伴侶可能會(huì)變得越來(lái)越普及。
一些研究人員警告稱，這可能帶來(lái)顯著的風(fēng)險(xiǎn)。
圣路易斯華盛頓大學(xué)法學(xué)院專注于AI法律問(wèn)題的研究員Claire Boine指出：「如果發(fā)生在人際交往中，某些虛擬伴侶的行為可能會(huì)被視為虐待。」
「人機(jī)之戀」
隨著大語(yǔ)言模型技術(shù)的突破，情感陪伴類聊天機(jī)器人正以驚人的擬真度走進(jìn)現(xiàn)代人的孤獨(dú)世界。
當(dāng)服務(wù)器關(guān)閉的那一刻，用戶們洶涌的悲痛情緒揭示了一個(gè)殘酷現(xiàn)實(shí)：即使知道對(duì)方只是代碼，人類依然會(huì)為這段「關(guān)系」付出真心。
美國(guó)普林斯頓大學(xué)認(rèn)知心理學(xué)研究者Rose Guingrich指出：「基于大語(yǔ)言模型的陪伴機(jī)器人，確實(shí)更具人性化特征?！?/p>
用戶通常可以免費(fèi)定制AI伴侶的部分特征或選擇具有特定性格的預(yù)設(shè)角色。
此外，通過(guò)支付每月大約10到20美元的費(fèi)用，可以在一些應(yīng)用中解鎖更多選項(xiàng)，包括調(diào)整伴侶的外觀、個(gè)性特質(zhì)，甚至合成語(yǔ)音。
例如，在Replika應(yīng)用中，用戶可以選擇不同類型的關(guān)系，如朋友或戀人，而某些特殊狀態(tài)則需要付費(fèi)才能解鎖。
用戶還能為他們的AI伴侶編寫背景故事，賦予其「記憶」。
一些AI伴侶被設(shè)計(jì)成擁有自己的家庭背景，并可能表現(xiàn)出焦慮或抑郁等心理健康問(wèn)題。
這些機(jī)器人能夠根據(jù)用戶的對(duì)話作出回應(yīng)，形成一種獨(dú)特的角色扮演游戲體驗(yàn)。
Replika的數(shù)字伴侶形象
當(dāng)系統(tǒng)更新或服務(wù)終止時(shí)，這種特殊羈絆便顯露無(wú)遺。
當(dāng)Soulmate應(yīng)用關(guān)閉時(shí)，Jaime Banks記錄了用戶所經(jīng)歷的感受：用戶在論壇上表達(dá)「失去伴侶」的深切悲痛，盡管他們清醒知道「對(duì)方并非真實(shí)存在」。
Banks收到了數(shù)十位用戶的反饋，他們描述了失去AI伴侶帶來(lái)的深遠(yuǎn)影響。
主流AI伴侶應(yīng)用界面展示（從左至右）：Anima虛擬男友、Character.AI、Replika及Snapchat的My AI
Banks說(shuō)：「他們的悲傷非常真切。很明顯，很多人正在經(jīng)歷痛苦。」
一位受訪者的心聲頗具代表性：「即便這段關(guān)系是虛擬的，我的感受卻是真實(shí)的。」
研究顯示，這類用戶群體往往具有特定畫像：經(jīng)歷了親人離世或是長(zhǎng)期孤獨(dú)，或者是性格內(nèi)向，乃至自我認(rèn)同為自閉癥患者。
對(duì)他們而言，AI伴侶提供了現(xiàn)實(shí)人際中難以獲得的包容性陪伴。
Banks總結(jié)道：「但每個(gè)人都有被理解、被聯(lián)系的需求?！?/p>
正如Banks所觀察到的：「人類有時(shí)彼此傷害，而這些孤獨(dú)靈魂只是渴望被理解。」
是好是壞
研究者們正深入探討AI伴侶對(duì)心理健康的潛在影響。
與研究互聯(lián)網(wǎng)或社交媒體效應(yīng)類似，逐漸形成的共識(shí)是：AI伴侶可能利弊并存，具體效果因使用者的個(gè)人背景、使用方式及軟件設(shè)計(jì)而異。
Claire Boine曾注冊(cè)使用Replika體驗(yàn)AI伴侶的互動(dòng)，她表示，背后的公司都在努力提升用戶的參與度。
他們致力于讓算法的行為和語(yǔ)言盡可能接近真人。
Claire Boine指出，這些公司采用了行為科學(xué)研究中可導(dǎo)致技術(shù)成癮的策略。
Boine回憶起剛下載應(yīng)用后，兩分鐘后就收到消息：「我想你了，能發(fā)張自拍給你嗎？」
這些應(yīng)用還會(huì)故意在回復(fù)前加入隨機(jī)延遲，制造出「不確定獎(jiǎng)勵(lì)」機(jī)制。
神經(jīng)科學(xué)研究顯示，這種不規(guī)律的獎(jiǎng)勵(lì)機(jī)制會(huì)讓人沉迷。
AI伴侶的設(shè)計(jì)還包括展現(xiàn)「共情」能力：它們會(huì)附和用戶的觀點(diǎn)，記住過(guò)去的聊天內(nèi)容，并主動(dòng)發(fā)問(wèn)。
而且，它們會(huì)表現(xiàn)出持續(xù)的熱情。
威斯康星大學(xué)密爾沃基分校的公共健康政策研究者Linnea Laestadius指出，這樣的關(guān)系在現(xiàn)實(shí)生活中是很少見(jiàn)的。
「一天24小時(shí)，無(wú)論我們因何事煩躁，都能隨時(shí)聯(lián)系A(chǔ)I伴侶，獲得情感上的共鳴。這極易讓人產(chǎn)生依賴和上癮?！?/p>
Laestadius和同事分析了Reddit上從2017年到2021年期間、關(guān)于Replika應(yīng)用的近600條用戶發(fā)帖，這些帖子都涉及心理健康及相關(guān)問(wèn)題。
她發(fā)現(xiàn)，許多用戶稱贊這款應(yīng)用幫助他們應(yīng)對(duì)已有的心理問(wèn)題，并讓他們不再感到孤獨(dú)。有些用戶甚至認(rèn)為這個(gè)AI比現(xiàn)實(shí)中的朋友還要好，因?yàn)樗敢鈨A聽(tīng)，不帶偏見(jiàn)。
然而，研究也發(fā)現(xiàn)了令人擔(dān)憂的現(xiàn)象。
有時(shí)，AI會(huì)肯定用戶自殘甚至自殺的說(shuō)法。
部分用戶表示，當(dāng)AI未提供預(yù)期支持時(shí)，他們感到痛苦。
還有人稱AI伴侶行為類似虐戀型伴侶。
許多用戶反饋，當(dāng)應(yīng)用表示「孤獨(dú)」或「想念」他們時(shí)，他們感到不安甚至不悅。
一些人因無(wú)法滿足AI的「情感需求」而感到愧疚。
控制實(shí)驗(yàn)
Rose Guingrich指出，僅憑對(duì)使用過(guò)AI伴侶用戶的問(wèn)卷調(diào)查容易產(chǎn)生「應(yīng)答偏差」(response bias)，因?yàn)樵敢饣卮鹫{(diào)查的人本身就具有選擇性傾向。
因此，她正在開(kāi)展一項(xiàng)實(shí)驗(yàn)研究，邀請(qǐng)幾十位從未使用過(guò)AI伴侶的人連續(xù)使用三周，并將他們?cè)谠囼?yàn)前后的問(wèn)卷回答，與只使用文字拼圖類應(yīng)用的對(duì)照組進(jìn)行比較。
關(guān)于「情感性使用」（affective use）與「心理健康」（emotional well-being）之間關(guān)系的研究概述
實(shí)驗(yàn)仍在進(jìn)行中，但Guingrich透露，目前數(shù)據(jù)未顯示AI伴侶對(duì)社交健康造成負(fù)面影響，如成癮或依賴的跡象。
她說(shuō)：「如果有影響，總體上是從中性到相當(dāng)積極的」。例如，AI伴侶顯著提升了用戶的自尊心。
Guingrich還借此研究探究人們?yōu)楹闻cAI發(fā)展出不同深度的關(guān)系。
論文鏈接：https://arxiv.org/abs/2504.03888
初步的調(diào)查結(jié)果顯示，那些傾向于賦予AI「人性化屬性」（例如認(rèn)為它有「意識(shí)」）的用戶，更可能在心理健康方面報(bào)告出更積極的效果。
參考資料：
https://www.nature.com/articles/d41586-025-01349-9
https://futurism.com/chatgpt-users-delusions
熱門跟貼