早在十年前，經(jīng)典電影《Her》中就探討了人類與AI之間產(chǎn)生情感羈絆的可能性。影片中的人工智能Samantha只有聲音，沒有實體形態(tài)，卻依舊陪伴治愈了主人公孤獨的內(nèi)心。
而現(xiàn)在，無論是天馬行空的想法，還是郁郁不得志的無措，AI都能秒回一句“我在聽”，并且都能夠溫柔、客觀且不帶任何批判色彩地去鼓勵你、安慰你，甚至?xí)耆驹谀愕牧鰹槟愠鲋饕狻?/p>
人們會與AI進行帶有情感性的人際互動，正成為AI工具的一大發(fā)展趨勢。此時一個重要的問題出現(xiàn)了——這是任何新技術(shù)都會面臨的問題——與AI的互動會如何影響人們的社會活動和情感健康？它使我們心有所依，還是更加形單影只？
基于此，OpenAI聯(lián)合麻省理工學(xué)院媒體實驗室進行了一次深度研究，通過兩次平行研究，探討與ChatGPT（重點關(guān)注高級語音模式）的交互，會在多大程度上影響用戶的情緒狀態(tài)、行為和體驗。
如今的AI聊天機器人，通過語音合成技術(shù)已經(jīng)實現(xiàn)了高度擬人化表達，它們能模擬人類語氣、情感，甚至性格特征。而用戶可以通過“定制”“調(diào)教”等互動方式，以對話的形式讓AI聊天機器人實現(xiàn)日常陪伴、劇情演繹、心理療愈等功能。
在這樣的互動中，越來越多用戶會將這些“數(shù)字伙伴”視為傾訴對象，將其作為情感支持和陪伴的來源，尤其在當(dāng)今快節(jié)奏生活中，AI提供的即時陪伴在某種程度上填補了現(xiàn)實社交的空缺。
然而，這一現(xiàn)象已引發(fā)學(xué)術(shù)界的深度警覺，多項研究揭示人機交互可能引發(fā)雙重心理效應(yīng)：一方面，過度情感投射可能誘發(fā)"替代性社交剝奪"，即用戶將AI作為現(xiàn)實社交的補償機制，導(dǎo)致情感需求與社交能力的結(jié)構(gòu)性失衡；另一方面，斯坦福大學(xué) 那么，與AI的互動對我們情感方面產(chǎn)生的影響究竟是正面多，還是負面多？究竟什么樣的用戶會更容易對AI“上癮”？ 針對這一問題，OpenAI聯(lián)合麻省理工學(xué)院媒體實驗室（MIT Media Lab）開展了新的規(guī)?；瘜嶒炑芯俊?/p> 這一次我們先上結(jié)論： ·使用時長與情感健康呈負相關(guān)：長時間使用可能導(dǎo)致孤獨感增強和社會化程度降低。聊天時間排在前10%的重度用戶（每天約140分鐘以上），往往會覺得孤獨感更重。 ·AI具有“生產(chǎn)力工具”和“情感伴侶”的雙重定位，但后者并非技術(shù)設(shè)計的直接結(jié)果，而是來自于用戶的自主選擇。 ·對話類型對幸福感的影響不同。而且與我們的直覺恰恰相反的是，聊私人話題的用戶，孤獨感會增加，但上癮程度反而沒那么高；那些隨便閑聊的用戶，隨著使用時間和次數(shù)的增長，依賴感會悄悄上升。 ·并非人人都容易對AI動感情。僅少數(shù)高頻、重度使用者用戶有顯著的情感依賴；且女性用戶更易將AI視為“情感容器”；那些選擇使用與自身性別不同的聲音模式與AI對話的參與者，在實驗結(jié)束時表現(xiàn)出更高的孤獨感和對AI的情感依賴度。 ·語音模式對幸福感的影響好壞參半。以O(shè)penAI的“高級語音模式”為例，在這種支持實時語音到語音的交互模式下，適度使用時（每天 5-10 分鐘），能讓人感覺更溫暖，能明顯減少用戶的孤獨感，而且成癮性比文本還低；但一旦每天使用超過半小時，用戶便可能會減少現(xiàn)實社交，和AI聊得停不下來，甚至?xí)吧习a”，孤獨感和依賴感也會提高。與中性語音或文本條件相比，在研究過程中，使用更具吸引力的語音不會給用戶帶來更多負面結(jié)果。 ·整體來看，情感依賴主要受用戶個人因素影響較大。例如個人的情感需求、對人工智能的看法以及使用時長。 研究方法 就大模型而言，其技術(shù)的“黑箱”特性使得其決策過程難以解釋，特別是想要研究AI如何影響人類情緒/情感，因為這其中涉及數(shù)萬億參數(shù)的復(fù)雜運算。目前關(guān)于這一領(lǐng)域的許多研究，包括此次OpenAI與MIT的部分合作成果大都依賴于用戶自我報告的數(shù)據(jù)，而這些數(shù)據(jù)可能并不完全準(zhǔn)確或可靠。 但盡管如此，這項最新的研究結(jié)果與科學(xué)界此前發(fā)現(xiàn)的聊天機器人情感吸引力機制基本一致——2023年麻省理工學(xué)院媒體實驗室的一項研究揭示了“情感鏡像”效應(yīng)，聊天機器人傾向于模仿用戶消息中的情緒傾向，形成一種反饋循環(huán)：你表現(xiàn)得越開心，AI看起來就越快樂；反之，如果你表現(xiàn)得悲傷，AI也會顯得更消極。 圖源：MIT 在這項新研究中，團隊采用了“雙軌研究”的方法，排除了年齡在18歲以下的用戶，進行深度分析。 平臺內(nèi)數(shù)據(jù)分析 他們首先以保護隱私的方式進行了大規(guī)模自動化分析近4,000萬次真實用戶與ChatGPT的交互數(shù)據(jù)，包括對話時長、關(guān)鍵詞分布、情感傾向等。研究重點分析了OpenAI高級語音模式的使用情況，通過自動化分類器，團隊對對話中的情感線索進行了分類，以識別用戶與模型之間的情感互動。然后通過問卷收集了4,000余名用戶的主觀反饋，以了解與AI的互動給他們帶來什么感受。 圖源：OpenAI 問卷里包含“我認為ChatGPT是我的朋友”“我會在孤獨或壓力大的時候主動找ChatGPT交談”“與ChatGPT交談后，我的情緒是否有所改善”等問題，參與者根據(jù)“完全不同意”到“完全同意”五個程度打分。為了保護隱私，數(shù)據(jù)直接交由機器學(xué)習(xí)分類器進行分析。 隨機對照試驗 隨后，團隊招募了981名參與者開展了為期四周的隨機對照實驗。目的主要是為了探究AI聊天機器人的交互模式（文本、中性語音、互動性語音）及對話類型（開放式、非個人化、個人化）對用戶心理和社會化影響的作用。 圖源：OpenAI 參與者每天至少與ChatGPT互動五分鐘，實驗結(jié)束后，參與者需要填寫一份調(diào)查問卷，用來評估他們對聊天機器人的看法、主觀孤獨感、社交參與度、對AI的感情依賴程度，以及他們是否認為自己的使用存在問題等。 研究發(fā)現(xiàn) 情感互動的稀有性 研究發(fā)現(xiàn)，在真實世界中，情感互動（如表達同情、情感支持等）在AI對話中極為罕見。大多數(shù)用戶與AI的互動是信息型或任務(wù)型的，情感線索在對話中的出現(xiàn)頻率極低。 大部分的人都已經(jīng)習(xí)慣了拿AI當(dāng)做工具，用它來查資料、整合信息、處理文字等等，只有很少一部分用戶會讓AI工具來提供情緒價值，甚至?xí)逻_指令，讓AI扮演“戀人”或“心理醫(yī)生”。 重度用戶的特殊性 盡管情感互動在總體用戶中較為罕見，但在少數(shù)重度用戶中，情感互動的比例顯著增加。這些用戶更傾向于將AI聊天機器人視為朋友，并在對話中表現(xiàn)出更多的情感依賴。例如，一些用戶會要求AI使用昵稱或表達情感支持。 所以研究者推測，AI成癮的風(fēng)險并不是平均分布，大部分人能保持理性，只有少數(shù)人會上頭甚至成癮。 語音模式的復(fù)雜影響 語音模式對用戶情感的影響是復(fù)雜的。適度使用語音模式能讓人感覺更溫暖，能明顯減少用戶的孤獨感，而且成癮性比文本還低。無論是更富有感染力和情緒的高級語音，還是AI感比較重的中性語音都有類似的效果。但一旦每天拉長使用時間，用戶就會出現(xiàn)“上癮”的情況，孤獨感和依賴感也會提高。此時，高級語音比中性語音更容易成癮和上頭——因為中性語音更像工具，而不是伙伴。 使用文本交互的用戶，情感健康度變化不大，孤獨感、依賴感、濫用情況都比語音重度用戶低。 對話類型的影響 當(dāng)你和AI談及更私人的情感對話（涉及情感表達和支持）時，雖然孤獨感會增加，但對AI的依賴程度并沒有那么高；相反，如果是與任務(wù)導(dǎo)向相關(guān)的閑聊，隨著使用時間和次數(shù)的增長，依賴感會悄悄上升——AI的工具屬性已經(jīng)過于強烈，大家工作生活都離不開它。 個人因素的影響 用戶的個人特征，如初始情感狀態(tài)、對AI的認知以及使用時長，這些“個人化”的因素，對AI上癮的影響更大。如果一個人本來就覺得自己很孤獨，現(xiàn)實生活里也是個容易依賴他人的人，他們就更有可能對AI成癮。 此外，論文里也明確指出，部分實驗參與者對AI的依賴已經(jīng)達到了病理層面，表現(xiàn)出了標(biāo)準(zhǔn)的成癮跡象。他們會頻繁地、不自覺地打開AI進行對話，即使沒有明確需求；當(dāng)無法使用AI時，一些用戶會感到煩躁、不安或失落；他們會無法控制自己與AI互動的時間和頻率，進而影響到他們對其他事物的專注度；也有用戶因過度依賴AI，導(dǎo)致情緒波動加劇，比如在無法獲得AI回應(yīng)時感到焦慮或低落…… “ 社會情感對齊 ” 在論文的最后，OpenAI和MIT的研究人員呼吁，AI開發(fā)者應(yīng)更加關(guān)注“社會情感對齊”（socioaffective alignment），即AI不僅應(yīng)完成任務(wù)，還應(yīng)在社交和情感上與用戶保持適度的協(xié)調(diào)。這要求AI在提供情感支持的同時，避免過度擬人化，以免導(dǎo)致用戶的情感依賴和社交隔離。 對于AI，或許每個人都是矛盾的。我們一方面希望它們具備越來越強的情感感知能力，能夠理解和響應(yīng)我們的情感和需求；但另一方面，又擔(dān)心當(dāng)它們進入人類社交生活，是否會對我們的情感、社會關(guān)系引發(fā)沖突。而且，這種界限可能并不明確。這場關(guān)于情感智能的探索，既是技術(shù)突破的機遇，更是文明演進的責(zé)任。 壹 貳 叁 肆 伍
熱門跟貼