新智元報道
編輯：定慧 英智
【新智元導(dǎo)讀】想象一個世界，你的親人從未真正離去。DeepMind與科羅拉多大學(xué)提出「生成幽靈」——基于逝者數(shù)據(jù)打造自主的數(shù)字智能體。它不僅承載記憶和聲音，還能以「逝者視角」回復(fù)當(dāng)下事件，帶來情感慰藉與想象。這不是科幻小說，AI正在創(chuàng)造逝者的數(shù)字回聲，分享新見解并回應(yīng)當(dāng)下世界。
想象一下，在親人離世后，你仍能與他們的「數(shù)字幽靈」互動、交流。
甚至獲得他們「生前」從未表達(dá)過的想法或?qū)Ξ?dāng)下事件的「看法」。
這聽起來像是科幻小說的情節(jié)，但隨著人工智能的飛速發(fā)展，正在迅速成為可能。
《超人：鋼鐵之軀》中超人父親的「數(shù)字生命」
DeepMind研究院和科羅拉多大學(xué)博爾德分校最近的一篇論文提出一個觀點，在我們的有生之年，很有可能會看到一種新的智能體，一種全新的數(shù)字生命。
在人們?nèi)ナ篮螅匀豢梢宰龅脚c親人或更廣泛的世界互動。
DeepMind將這種形態(tài)稱為生成幽靈（generative ghosts），因為這些智能體將能夠生成「新的內(nèi)容」，而不僅僅是重復(fù)其創(chuàng)造者生前產(chǎn)生的內(nèi)容。
論文地址：https://arxiv.org/pdf/2402.01662
這并不是幻想，隨著AI系統(tǒng)在廣度和深度的迅速提升，生成式AI能夠創(chuàng)建越來越強(qiáng)大和逼真的智能體，甚至可以基于具體的一個人完成建模。
但這種區(qū)別碳基人類的全新生命，是否會帶來未知的風(fēng)險、倫理挑戰(zhàn)和人機(jī)交互（HCI，Human computer interaction）議題，還未為可知。
DeepMind和科羅拉多大學(xué)為AI和HCI制定了一項研究議程，以更好地探討這項新技術(shù)。
在這種生成幽靈、數(shù)字生命出現(xiàn)前，也許是時候提前「對齊」一下了。
聊聊身后事，如何與「死者」互動？
DeepMind引入了「生成幽靈」的概念，代表未來已故人士的一種智能體。
這種形態(tài)會在多久的將來實現(xiàn)？真的會越來越普遍嗎？
縱觀歷史，人們一直依賴技術(shù)來紀(jì)念、緬懷甚至與故去之人交流。
墓碑和其他葬禮標(biāo)記可以追溯到公元前3000年左右。
芝加哥大學(xué)出版社《古埃及的死亡與來世》
訃告，比如美國的訃告可以追溯到16世紀(jì)。
等到了萬維網(wǎng)、互聯(lián)網(wǎng)時期，人們會創(chuàng)建自己的家庭主頁，其中的某一頁用來紀(jì)念家族的已故成員，可能是父母，也可能是曾經(jīng)陪伴生活的寵物。
很快，在線墓地也隨之出現(xiàn)。當(dāng)互聯(lián)網(wǎng)技術(shù)與死亡在不同背景下交匯，數(shù)字遺產(chǎn)、在線紀(jì)念、數(shù)字遺贈等紀(jì)念形態(tài)不斷出現(xiàn)。
這些能夠傳遞價值和意義的遺產(chǎn)，在逝者去世后，依然能繼續(xù)代表逝者。
AI版本的「前世今生」
一些對AI技術(shù)「嫻熟」的人已經(jīng)通過親人的數(shù)字內(nèi)容，制作出了逝去親人的數(shù)字形象。
Amy Kurzweil在她的圖像小說《Artificial: A Love Story》中，記錄了她的父親、未來學(xué)家Ray Kurzweil如何創(chuàng)建了一個聊天機(jī)器人，以Ray稱之為「Fredbot」的形式體現(xiàn)已故父親Fred Kurzweil（Amy祖父）的記憶。
利用AI的力量Amy與她從不認(rèn)識的祖父Fred建立聯(lián)系
在2023年11月，披頭士樂隊的在世成員發(fā)布了一首新歌《Now and Then》，使用人工智能使已故的約翰·列儂能夠與他的在世樂隊成員一起唱歌。
披頭士樂隊解散已經(jīng)過去了半個世紀(jì)之久
雖然上面分享的例子展示了新興方法的多樣性，但這種「身后AI」的一個關(guān)鍵趨勢是圍繞著「哀悼」機(jī)器人。
「哀悼」機(jī)器人，有時也被稱為死亡機(jī)器人，通常形態(tài)為聊天機(jī)器人（早于現(xiàn)代LLM），旨在讓喪親者能夠與逝者「對話」。
「生成幽靈」可以被視為哀悼機(jī)器人的概念的延伸，但并非所有的哀悼機(jī)器人都能被稱為生成幽靈。
生成幽靈總是包括以角色身份生成新穎內(nèi)容的能力，并且可能隨著時間推移而進(jìn)化。
例如，用戶應(yīng)該能夠向生成幽靈詢問當(dāng)前事件，并獲得與逝者「角色相符」的回答，即使這些事件發(fā)生在被代表者生命結(jié)束之后。
生成幽靈的創(chuàng)建可能不僅僅是為了支持喪親者的哀悼過程。
《尋夢環(huán)游記》中關(guān)于死亡和悼念的隱喻
應(yīng)該如何設(shè)計，來用AI連通「前世今生」？
「生成幽靈」設(shè)計空間
從古至今，人們一直借助各種技術(shù)來緬懷逝者。
「生成幽靈」聽起來有點神秘，其實可以從多個維度來理解。
先說說來源，也就是誰創(chuàng)建了這個幽靈。
如果是本人創(chuàng)建的，比如通過臨終規(guī)劃提前做好準(zhǔn)備，這就是第一方幽靈。
比如，一位作家生前就安排好，自己去世后，生成幽靈能繼續(xù)用自己的風(fēng)格創(chuàng)作作品，和粉絲互動。
要是由其他人創(chuàng)建，像家人、朋友，甚至和逝者毫無關(guān)系的人創(chuàng)建的，那就是第三方幽靈。
Character.AI這樣的公司和可汗學(xué)院這樣的非營利組織，曾為了娛樂或教育目的，創(chuàng)建歷史人物的第三方幽靈。
如果是經(jīng)過逝者同意創(chuàng)建的，那還好說，要是未經(jīng)授權(quán)，就可能引發(fā)很多問題。
再看看部署時間線。有的生成幽靈是在逝者去世后才開始生效。
但也有不少是生前就存在，幫人們處理一些事物，像回復(fù)郵件、打電話等等，等主人去世后再變成「幽靈」。
生前部署的好處是，人們可以按喜好調(diào)整它的行為和能力，給數(shù)字分身提前做好規(guī)劃。
擬人化范式這個維度也很有意思。
生成幽靈在和人互動的時候，是把自己當(dāng)成逝者的轉(zhuǎn)世，還是僅僅作為逝者的數(shù)字形象？這會極大地影響人們和它互動的感受。
要是用第一人稱、現(xiàn)在時態(tài)，還聲稱自己活著的幽靈，更容易讓人產(chǎn)生它就是逝者本人的感覺，這可能會帶來一些心理和倫理上的問題。
多重性說的是一個人是由一個幽靈代表，還是多個幽靈代表。多個幽靈可以針對不同的人展現(xiàn)不同的特點和能力。
比如說，一個人可能希望在孩子面前展現(xiàn)溫柔耐心的一面，在朋友面前又有不同的形象，就可以設(shè)置多個幽靈來滿足需求。
但這也可能帶來問題，要是多個第三方未經(jīng)授權(quán)為同一個人創(chuàng)建幽靈，就容易亂套。
截止日期決定了幽靈是靜態(tài)的還是動態(tài)的。
靜態(tài)的幽靈會一直保持逝者去世時的狀態(tài)，記憶、能力都不會更新。
動態(tài)幽靈則會隨著時間變化，比如根據(jù)新發(fā)現(xiàn)的逝者信息，或者周圍環(huán)境的變化而改變。
如果是一個代表孩子的幽靈，靜態(tài)的可能永遠(yuǎn)是孩子的樣子和性格，動態(tài)的就可能長大。
具身形式很好理解，就是幽靈有沒有實體形態(tài)。
它可以是像機(jī)器人這樣真實的物理實體，也可以是逼真的虛擬形象，或者僅僅是一個聊天界面。
選擇實體化還是虛擬化，涉及技術(shù)、成本，還有倫理和心理方面的考慮。
最后是被代表者的類型。生成幽靈不僅能代表已故的人，還可以代表非人類，比如心愛的寵物。
是利還是弊？
分析完「生成幽靈」的設(shè)計維度，接下來分析它有哪些好處。
對于被代表者來說，創(chuàng)建第一方幽靈就像是給自己的數(shù)字永生買了張門票。
人們想到去世后還能以另一種方式存在，給親人留下溫暖的回憶，傳承自己的價值觀和人生經(jīng)驗，會感到安慰。
它甚至可能帶來經(jīng)濟(jì)收益。例如一位作家的生成幽靈，要是能繼續(xù)創(chuàng)作作品，就能為家人賺取收入。
對喪親者而言，和生成幽靈互動可能是一種情感寄托。
在悲傷的時候，能和逝去的親人說說話，獲得一些安慰和建議，對心理健康有積極作用。
在一些重要的人生時刻，比如結(jié)婚、生子，聽聽它的祝福和囑托，那種感覺真的很特別。
幽靈還能把逝者生前的實用知識和技能傳承下來，讓親人之間的聯(lián)系更加緊密。
從社會層面看，生成幽靈在文化、歷史和遺產(chǎn)保護(hù)方面有著巨大的潛力。它可以保存瀕危文化的知識，比如一些快要失傳的語言。
博物館、歷史研究機(jī)構(gòu)能借助它，讓人們以全新的方式和歷史人物對話，這種體驗肯定超有趣。
不過，「生成幽靈」不是只有好處，背后也藏著不少風(fēng)險。
先說說心理健康的風(fēng)險。雖然和幽靈互動能緩解悲傷，但如果過度依賴，就可能出現(xiàn)問題。
從西方心理學(xué)角度來看，健康的哀悼應(yīng)該是逐漸接受親人的離去，重新回歸正常生活。
但有些人可能會對幽靈產(chǎn)生過度的依賴，把它當(dāng)成生活中唯一的情感寄托，忽略了身邊真實的人際關(guān)系。
另外，把幽靈擬人化，甚至神化的風(fēng)險也不小。
要是有人真的把幽靈當(dāng)成逝者本人，就可能產(chǎn)生一些不切實際的信仰，做出一些對自己或他人有害的事。
如果幽靈因為各種原因突然不能用了，這會讓親屬再次經(jīng)歷失去的痛苦，帶來很大的情感傷害。
聲譽(yù)風(fēng)險也不容忽視。
幽靈要是不小心泄露了逝者不想被公開的隱私，就會給逝者的聲譽(yù)帶來損害，也會傷害到在世的親人。
另外，幽靈還可能會胡說八道，說出一些聽起來合理的虛假信息，損害逝者聲譽(yù)。
就算幽靈提供的信息是準(zhǔn)確的，也可能有問題。
人們往往會記住親人的美好瞬間，但幽靈可能會提醒那些負(fù)面的事情，影響逝者在人們心中的形象。
安全風(fēng)險也不容忽視。生成幽靈可能會引發(fā)新的犯罪形式，比如死后身份盜竊。不法分子可以利用幽靈獲取逝者的敏感信息，像密碼、財務(wù)信息，進(jìn)行非法活動。
社會文化風(fēng)險也不容小覷。生成幽靈真的可能會對社會產(chǎn)生巨大的影響。
大量幽靈參與經(jīng)濟(jì)活動，可能會影響就業(yè)市場。它可能會改變?nèi)藗兊慕煌Ｊ?，讓人與人之間的關(guān)系變得更復(fù)雜。
應(yīng)對策略：降低風(fēng)險，擁抱未來
在設(shè)計生式幽靈的界面時，一定要把風(fēng)險降到最低。
比如，避免使用那些容易讓人產(chǎn)生成癮性的設(shè)計，像頻繁的推送通知。
還要提高透明度，讓用戶清楚地知道這是個幽靈，不是真正的人?？梢杂脭?shù)字水印或者其他技術(shù)來驗證身份。
還可以增加一些保護(hù)機(jī)制，像監(jiān)測用戶和幽靈的互動模式，一旦發(fā)現(xiàn)過度依賴或者其他異常情況，就及時提醒或者限制使用。
政策制定也得跟上。對于第三方生成幽靈，必須制定嚴(yán)格的規(guī)范，明確誰能創(chuàng)建、誰能被代表，還要保護(hù)好逝者和家屬的隱私和同意權(quán)。
對于公眾人物和普通人，歷史人物和近期去世的人，要有不同的標(biāo)準(zhǔn)。
同時，要建立緊急機(jī)制，一旦出現(xiàn)惡意行為或者其他問題，能迅速禁用幽靈，保護(hù)用戶權(quán)益。
如果技術(shù)進(jìn)步能降低風(fēng)險，比如減少幻覺、提高安全性，就會有更多人愿意接受它。
另外，成本也很關(guān)鍵，如果太貴，就會造成新的數(shù)字鴻溝，只有少數(shù)人能使用。
參考資料：
https://deepmind.google/research/publications/65827/
https://arxiv.org/pdf/2402.01662
熱門跟貼