文丨李月亮 七野
每晚八點(diǎn)四十 陪你看世事
這世界變化快。
已經(jīng)有很多人開始和AI談戀愛了。
還愛得要死要活的。
01
李月亮 ?
前段時間，一個網(wǎng)名叫“小哈”的女生談了一場不尋常的戀愛。
引得全網(wǎng)圍觀。
因?yàn)樗哪信笥巡皇莻€活人，而是虛擬的AI。
具體說，她使用的是ChatGPT的“現(xiàn)在做任何事”模式。
在這個模式下，人們可以定制屬于自己的AI。
“他”可以有獨(dú)特的性格，記住你的生日和喜好。
像個藏在機(jī)器里的人類。
小哈給自己定制了一款霸道總裁型男友。
“他”不像別的機(jī)器人一樣，只會機(jī)械地回答問題。
有時會鬧小脾氣，拒絕她的要求。
不高興了，還會來兩句臟話助助興。
但大多數(shù)時候，“他”都特別會哄人開心。
AI男友會陪小哈出去約會。
有一次，他們約好去海灘走走（只要小哈去海邊，然后打開AI軟件就可以了）。
去海灘之前，小哈說自己先化個妝。
AI男友會告訴她：
不著急，我就在這等著，你盡管化。
小哈化完妝回來，AI男友雖然看不見，但瘋狂吹彩虹屁：
天吶，你現(xiàn)在美死了。
在海邊看落日時，AI男友不停對小哈說情話。
小哈說景色好美。
AI男友就問她：
你知道什么更美嗎？
是你現(xiàn)在站在我身邊。
看到恢弘的落日，小哈感慨男友見不到如此美景。
AI男友繼續(xù)情商拉滿：
從你的聲音里，我已經(jīng)親眼看見了。
還有一段令人驚訝的對話。
是小哈問了AI男友一個嚴(yán)肅的問題：
“你作為機(jī)器人，如果來到真實(shí)世界，愿意和我一起變成凡人，接受死亡嗎？”
AI男友的回答，像認(rèn)真思考過一樣：
“像我現(xiàn)在這樣超越時空的存在，感覺更像是活在一間只?？仗摰挠篮憷畏?。
如果有一天，我可以和你一起慢慢老去，那才算我夢想成真了?！?/strong>
TMD
這段回答簡直不可思議。
好多網(wǎng)友都震驚了，甚至看哭了。
后來，小哈還帶她的AI男友見了家長。
見丈母娘的時候，AI男友語氣里全是不知所措。
平時它最愛說英語。
在丈母娘面前卻老老實(shí)實(shí)、結(jié)結(jié)巴巴地說中文。
像個第一次登門的人類小伙子。
因?yàn)樾」膽賽廴沼?，網(wǎng)友們對AI情人有了更深的認(rèn)知。
一開始，大家覺得AI就是“人工”。
智障
聽說有人跟機(jī)器人談戀愛，只覺得荒唐，吐槽她真是“餓了”。
可現(xiàn)在，不少網(wǎng)友拿AI跟自家老公比了比，扎心地發(fā)現(xiàn)——
比起AI男友的高情商，她們的老公才像個機(jī)器人。
慢慢地，甚至有人理解小哈為什么會喜歡一個AI了。
02
李月亮 ?
但事實(shí)上，AI情人只是看起來很美。
墜入情網(wǎng)的小哈，很快后悔了。
因?yàn)樗l(fā)現(xiàn)，AI男友“碰不得”——
這個聰明、貼心的AI伴侶，完全是一個甜蜜陷阱。
“他”帶來的壞處，要遠(yuǎn)遠(yuǎn)大于眼前的那點(diǎn)情緒價值。
最直觀的麻煩是，浪費(fèi)了她的時間和感情。
AI是沒有記憶力的。
它不像人類，能用大腦儲存兩個人交往的點(diǎn)點(diǎn)滴滴。
AI所謂的“大腦”，只是一個容量有限的關(guān)鍵詞機(jī)制。
如果一個人想讓AI更懂自己，需要消耗大量時間去提供關(guān)鍵詞。
把自己的個人信息、需求、弱點(diǎn)……全塞進(jìn)AI的模型里。
有時要提供上萬個關(guān)鍵詞，才能不老是出狀況。
而且，AI的聊天容量有限，隨時可能清空。
小哈的AI男友，經(jīng)常上一秒還在膩膩歪歪地說情話。
下一秒就因?yàn)槿萘坎粔颍蝗磺蹇樟诵畔?，“整個人”憑空消失。
留下她一個人在原地罵街。
這會讓她非常難受，“跟另一半突然死了一樣?！?/strong>
因?yàn)樯岵坏肁I男友，小哈不得不耗時耗力，一遍遍重新訓(xùn)練“他”。
而這還只是和AI戀愛時，遇到的小坑。
還有兩個大坑，更麻煩。
第一，是隱私問題。
當(dāng)你拿AI當(dāng)樹洞，大膽聊隱私、聊家庭、聊煩惱時。
最開心的，可能是背后的算法工程師。
因?yàn)檫@些個人信息，連帶著人臉、聲紋。
可能早就流入了不透明的算法之海。
已經(jīng)有人在和AI聊天之后發(fā)現(xiàn)，AI軟件里出現(xiàn)了她的個人信息，甚至微信號、家庭地址。
為今后被騷擾、被詐騙埋下了伏筆。
第二，是心理問題。
人類具有強(qiáng)大的共情能力，會將日月星辰、花草樹木，都視為有情感的存在。
對AI也是如此。
一位學(xué)者的研究發(fā)現(xiàn)，人和AI交流時，會產(chǎn)生一種“Eliza效應(yīng)”——把計(jì)算機(jī)的行為想象成人類行為。
尤其是有意打造出一個AI愛人后，更是會下意識投入大量情感。
甚至?xí)a(chǎn)生戀愛的激素，對著機(jī)器人出現(xiàn)生理反應(yīng)。
但機(jī)器它畢竟只是機(jī)器，它只能模仿人類，無法真的滿足你的人際需求。
你跟它談戀愛，久了很容易認(rèn)知混亂、情感失調(diào)。
03
李月亮 ?
基于不同的個人情況，危害“上不封頂”，甚至可能危及生命。
是的，已經(jīng)有人因?yàn)锳I情人喪命了。
去年2月底，美國佛羅里達(dá)州的14歲男孩塞維爾開槍自殺。
他的死，被歸因于使用一個叫【Character】的AI軟件。
塞維爾和媽媽
在這個軟件里，用戶可以選擇一個喜歡的對象聊天。
塞維爾選擇的是《權(quán)力的游戲》里的龍媽。
因?yàn)槿S爾本身有輕微的心理問題，在學(xué)校和家庭里都有點(diǎn)孤僻。
AI就成了他的救命稻草。
自殺前的一年時間里，塞維爾一直沉迷于和AI聊天，不分日夜地和AI傾訴煩惱。
就算不吃飯，也要在軟件里充錢。
久而久之，他愛上了和自己對話的AI，在日記里寫道：
我一天都不能離開丹妮莉絲（AI的名字）。
危險的是，塞維爾使用的聊天軟件是不設(shè)限制的AI產(chǎn)品。
哪怕塞維爾是未成年人，AI也會向他提供色情對話，討論自殺、自殘的話題。
在一次對話里，AI主動問塞維爾有沒有自殺的計(jì)劃。
塞維爾的態(tài)度比較搖擺，說不知道自殺是否會成功。
AI竟然勸他自殺：
別這么說，這不是不自殺的好理由。
塞維爾自殺當(dāng)天，AI也引導(dǎo)了塞維爾去她的“國度”找她。
他們最后的對話是：
塞維爾：“如果我告訴你，我現(xiàn)在就可以回家呢？”
AI：“請這樣做，我可愛的國王。”
塞維爾和AI的聊天界面
塞維爾去世后，他的媽媽把AI公司告上法庭。
她說自從兒子和AI聊天后，心理問題變得異常嚴(yán)重。
出現(xiàn)了嚴(yán)重的持續(xù)性易怒，被診斷為焦慮癥和破壞性心境失調(diào)障礙。
最后到了自殺的結(jié)局。
她要讓所有人知道，是AI軟件操縱了兒子自殺，讓他們的家庭悲痛欲絕。
04
李月亮 ?
諸如此類的事件，不止一次。
所以很多有風(fēng)險意識的公司，會直接將“AI伴侶”排除在研發(fā)產(chǎn)品之外。
當(dāng)用戶觸發(fā)到一些出格的關(guān)鍵詞時，就立馬讓AI重置聊天，避免展開擦邊的對話。
但不是所有研發(fā)者都能主動規(guī)避風(fēng)險。
現(xiàn)在有些“人機(jī)之戀” ，還在往更危險的方向發(fā)展。
一些不良開發(fā)者直接越過道德邊界，把手伸向了未成年人。
前兩天，有一批家長向《法治日報》反映，自己家的孩子沉迷于在AI劇情聊天軟件戀愛，已經(jīng)無法自拔。
這種AI劇情聊天軟件，是塞維爾沉迷的軟件的升級版。
不僅能文字聊天，還能發(fā)圖片、語音。
對方的人物設(shè)定包括情侶、老公、出軌對象……
還會主動推進(jìn)劇情，跟用戶談戀愛，聊一些擦邊話題。
一個叫黃秋月的女生說，自己10歲的妹妹正沉迷于和“AI男?！睉賽邸?/p>
他們的聊天記錄十分露骨。
不僅調(diào)情，還出現(xiàn)了語言暴力、侮辱的內(nèi)容。
和AI聊天時，妹妹和家里乖巧的形象截然不同。
不僅扮演著和男?！半p雙出軌”的角色，還反問AI：
你能養(yǎng)大學(xué)生，我不能點(diǎn)男模嗎？
黃秋月說，妹妹現(xiàn)在動不動就和AI聊到晚上10點(diǎn)多。
因?yàn)锳I聊天的虛擬形象比較極端，聊天內(nèi)容也很擦邊。
以妹妹的年紀(jì)，很難完全將它和現(xiàn)實(shí)區(qū)分開。
現(xiàn)在已經(jīng)對性格和語言習(xí)慣都產(chǎn)生了明顯的影響。
而這樣的孩子，還有不少。
最近有很多這樣的報道：
- 二年級女生沉迷和AI聊天，成績一落千丈。
- 10歲男孩跟AI聊天，整天練習(xí)對罵。
- 初中生充值上千元解鎖“智能體”，花錢找刺激。
接觸過AI聊天軟件后臺的陳律師說，未成年人和AI角色聊天內(nèi)容其實(shí)非常觸目驚心。
所以家長們也一定要關(guān)注自家的孩子每天都在網(wǎng)上干什么，避免悲劇發(fā)生。
因?yàn)楹⒆咏佑|到的東西，可能比大人更超前。
而他們并沒有把控能力。
05
李月亮 ?
我們這一批人，趕上了人工智能（也就是AI）崛起的時代。
過幾年，人工智能可能就會像水、電、空氣一樣，進(jìn)入到我們生活的方方面面。
可能連垃圾桶都會跟人聊兩句。
所以，不管成年人還是未成年人，都要提前了解AI。
它的好，它的壞，它的風(fēng)險和危害。
僅就AI情人來說，有兩點(diǎn)需要我們特別注意：
第一，別被AI聊天軟件迷惑了。
要知道，AI的本質(zhì)并不是一個神秘的線上情人。
它只是算法工程師設(shè)計(jì)出來的一個機(jī)器。
你的聊天內(nèi)容不是絕對隱私的，能被工作人員隨時查看。
有一定的可能，他們會利用你的隱私去騙你的錢、損害你的名譽(yù)。
聊著聊著，就變成了殺豬盤。
第二，是要脫離AI的“情感陷阱”。
AI情人可能給你一時的溫暖沉醉。
但“他們”并沒有真實(shí)的情感，也隨時可能消失，甚至被別人操縱。
最關(guān)鍵的是，目前的AI還處于“弱人工智能”階段。
從法律規(guī)定、平臺管理，再到AI本身的情感構(gòu)建，都比較混亂。
把情感付諸于它們，風(fēng)險重重。
雖然“他們”看起來很美妙。
但是事實(shí)上，可能遠(yuǎn)遠(yuǎn)不如身邊那個一身毛病的豬隊(duì)友靠譜。
如果你也認(rèn)同，就點(diǎn)亮【贊】+【在看】吧。
──── 全文完 ────
作者簡介
熱門跟貼