2024年10月16日，德國法蘭克福。第76屆法蘭克福書展開展首日，人們走過一幅展示數(shù)字知識和AI應(yīng)用場景的宣傳海報。（圖/視覺中國）
所剩無幾的主觀能動性也好，創(chuàng)造力或想象力也罷，在AI時代，都是更稀缺、更寶貴的精神財富。
?作者 | Felicia
?編輯 | 譚山山
陳楸帆是站在科技和文學(xué)之間的人。
在作家當(dāng)中，陳楸帆屬于積極擁抱AI的樂觀者。在《我們能否改變潮水的方向》收入的一篇文章中，他提及2017年起用AI協(xié)助寫作的經(jīng)驗，“我不是讓AI做我的寫作機(jī)器，而是讓AI成為我寫作的主人”。與許多同行不一樣，他將AI視為寫作伙伴。他笑稱，自己積極“鼓吹”AI寫作，也許會被人視為“叛徒”——作為作家，卻自掘墳?zāi)埂?/p>
2017年，陳楸帆參加過一個大型討論會，與會者有科學(xué)家、工程師，有主流作家、評論家，也有像他這樣的科幻作家。議題包括“AI會不會在未來取代人類作家的位置？”“AI會不會寫得比人類好？”等，他記得，純文學(xué)作家選擇站在人這邊，而他和寥寥幾位科幻作家站在AI那邊。在他看來，當(dāng)下的現(xiàn)實就如同當(dāng)年的謎底揭曉。
他仍在探索大模型的寫作能力。他認(rèn)為，AI寫作的適應(yīng)性和寬度都非常驚人，目前也許超越了85%的人類創(chuàng)作（包括應(yīng)用公文、網(wǎng)文等）。但是，當(dāng)想象的未來成為具體可見的現(xiàn)實并嵌入日常時——就連他70多歲的父親也下載了AI工具，他的態(tài)度卻有了巨大的轉(zhuǎn)變：“我覺得我們要特別謹(jǐn)慎地使用（AI）?！?/p>
（圖/《模仿游戲》）
父母轉(zhuǎn)發(fā)的AI合成的“說話動物”視頻，實際上難辨真?zhèn)危?如果人們依賴AI診斷病癥，可能會釀成悲劇。 在陳楸帆看來，把認(rèn)知、閱讀、思考、寫作外包給AI，久而久之，這些能力就會退化。
與之形成對照的是，當(dāng)陳楸帆以“前科技從業(yè)者”身份（他曾在谷歌、百度和諾亦騰供職）思考，卻成了悲觀者。他常常對科技樂觀主義和加速主義提出質(zhì)疑，覺得目前社會的基礎(chǔ)設(shè)施還沒有健全到能為處于重大轉(zhuǎn)型期的人托底。
人們需要構(gòu)建AI素養(yǎng)——你能否用審慎的反思、覺知來看待自己與AI的互動，并即時調(diào)整使用策略？這對人提出了很高的要求。在陳楸帆看來，我們的教育并沒有進(jìn)入強(qiáng)調(diào)AI素養(yǎng)的階段，也許我們需要某種綱領(lǐng)、指南，幫助大家保護(hù)好自己。所剩無幾的主觀能動性也好，創(chuàng)造力或想象力也罷，在AI時代，都是更稀缺、更寶貴的精神財富。
《我們能否改變潮水的方向 》
陳楸帆 著
深圳出版社，2024-11
一種寫作實驗：對抗式生成
《新周刊》： AI的寫作能力如何逐步進(jìn)化？它真的懂得文學(xué)的本質(zhì)或者文學(xué)之美嗎？
陳楸帆：我使用AI工具比較多，新出的大模型我都會嘗試。AI對語言的理解能力是伴隨著數(shù)據(jù)、參數(shù)的規(guī)模而不斷優(yōu)化的。原來需要耗費長時間、大量算力的問題，現(xiàn)在不需要了，研發(fā)者可以用經(jīng)濟(jì)的方式訓(xùn)練模型，進(jìn)行個性化定制，建立個人知識庫，讓它的聚焦程度和準(zhǔn)確性大幅提升。
DeepSeek讓人驚嘆，首先是因為它的中文能力。ChatGPT的（訓(xùn)練）語料90%是英文，中文語料不超過1%；而我們經(jīng)歷了開源大模型本土化的過程，DeepSeek對中文的運用更成熟。它還展示了自己的思考過程。這是交互上的進(jìn)步，思考過程有時比結(jié)果更有價值和參考性——你能看到機(jī)器與人思維的差異，補(bǔ)足人類盲區(qū)。
接受美學(xué)指出，文學(xué)性取決于讀者的反應(yīng)，即客觀的文字和節(jié)奏排列等元素與主觀體驗的共振。AI本身不產(chǎn)生美，但它們通過人類指令在交互中習(xí)得文學(xué)性、美感的傾向，這是互相生產(chǎn)的過程。然而，若未來AI生成內(nèi)容充斥互聯(lián)網(wǎng)，可能會改變甚至馴化人類審美，改變?nèi)藢︼L(fēng)格、品位的定義。我覺得，留給人類創(chuàng)作者的時間也許不多了。
2025年3月14日，北京，“網(wǎng)絡(luò)發(fā)展新圖景成就展”在國家博物館展出。觀眾在參觀包括人形機(jī)器人T1 PRO在內(nèi)的幾款機(jī)器人產(chǎn)品。（圖/視覺中國）
《新周刊》：聽說你的新作《神筆》是在DeepSeek的協(xié)助下完成的，你將這種創(chuàng)作方式稱為“對抗式生成”。為何想做這種寫作實驗？
陳楸帆：春節(jié)期間，我構(gòu)思《神筆》時，DeepSeek火爆。我把小說思路投喂給它，嘗試讓它展開大綱。試了幾次，我發(fā)現(xiàn)它的思路很常規(guī)，像網(wǎng)文那樣模式化。
所謂“對抗式生成”，就是指我偏不往它列的方向?qū)?，要打開新的可能性。我希望我寫的小說不是AI能夠輕易生成的，只有我這樣奇怪的思路才能生成?！渡窆P》有表、里兩個世界，小說里的作家陷入寫作瓶頸，想借助AI擺脫困境，但是他發(fā)現(xiàn)自己的思路被AI帶跑了。AI不僅在改寫作家的小說，也在改變現(xiàn)實世界的歷史。
后來的成品跟我之前的設(shè)想有非常大的差別。DeepSeek對歷史細(xì)節(jié)十分熟悉，我讓它設(shè)想，如果那時諾伯特·維納（美國應(yīng)用數(shù)學(xué)家、控制論思想提出者，也是《神筆》中的人物）在中國，技術(shù)的發(fā)展軌跡會發(fā)生什么變化，它確實幫我節(jié)省了很多時間。但是（它給出的東西）沒法直接使用，我會做多次修改。
永遠(yuǎn)不要用它來決定草稿或大綱，否則會被它的思路局限。對抗式生成就是每次都與AI有矛盾競爭：怎樣才能比它做得好？找出它的破綻，用比它特別的視角來講述主題。在較勁的過程中，我作為人類創(chuàng)作者的創(chuàng)造力得到提升，因為我有了很好的對手和伙伴。這是既競爭又合作的微妙關(guān)系。
2023年8月20日，湖北武漢。在中國光谷人工智能AI藝術(shù)展上，一個女孩正在閱讀由ChatGPT生成的詩作。詩作有2000多行，最終 會通過底部的手搖式碎紙機(jī)銷毀。（圖/IC photo）
大部分作家可能會被AI替代
《新周刊》：DeepSeek將你的小說大綱套路化，這是否說明AI有一種數(shù)據(jù)庫崇拜或迷信？數(shù)據(jù)庫里大部分人喜歡的，它可能就覺得是好的？
陳楸帆：我們進(jìn)入了奇怪的時代。這類大模型為什么會這么火？它的文字風(fēng)格是發(fā)散性的，有時像中文互聯(lián)網(wǎng)上那種抖機(jī)靈，有點“油膩”。它學(xué)了很多百度貼吧的語料，罵人特別厲害，所以有病毒般的擴(kuò)散效應(yīng)。人們沒有用它做有創(chuàng)造力、創(chuàng)新性的東西，反而不斷強(qiáng)化對互聯(lián)網(wǎng)內(nèi)容的刻板印象，包括網(wǎng)文套路等。
用它來寫故事大綱，最后總會以量子糾纏收尾。我都放棄用它來做正經(jīng)事了，至少現(xiàn)階段挺逗樂的。你很難確定它給你的資料是不是正確的，需要花很多時間查證，有巨大的AI幻覺問題。
《新周刊》：當(dāng)人們閱讀小說時，會對作家有所想象。未來AI代替部分人類寫作，文學(xué)會變得怎么樣？
陳楸帆：我的判斷是，未來只有少量頭部作家能靠寫作來獲得市場和讀者。寫什么可能沒那么重要，作家把自己變成了品牌、符號、明星甚至偶像。這樣的作家在未來不會受太大影響，甚至可以借助AI擴(kuò)大影響力；但大部分作家可能就被AI替代了。
人們看書的習(xí)慣也會改變。也許會出現(xiàn)“故事機(jī)”這類大模型——為你度身定制，生成故事；輸出的同時還能互動，通過互動改變故事的走向；還能生成圖片和視頻、虛擬偶像；等等。我相信這是未來娛樂的形態(tài)，它會打破媒介的分野，所有東西都變成巨大故事的一部分。除非到達(dá)像J.K.羅琳或劉慈欣的層級——有傳奇色彩，人們想為信仰或喜歡買單。文學(xué)的未來會更接近粉絲經(jīng)濟(jì)的模式。
（圖/《攻殼機(jī)動隊》）
《新周刊》：我嘗試讓DeepSeek向你提問，它給出的問題是：“你如何看待《東京都同情塔》等AI輔助創(chuàng)作作品參與日本文學(xué)獎的現(xiàn)象？未來文學(xué)獎項是否需要增設(shè)‘人機(jī)協(xié)作’類別？”對此你怎么看？
陳楸帆：這些都是合法性問題。這幾年，數(shù)字藝術(shù)、攝像、文學(xué)比賽中都有獲獎作品是AI參與創(chuàng)作的。去年《東京都同情塔》獲芥川獎，作者承認(rèn)有5%的內(nèi)容由AI創(chuàng)作。
未來，人機(jī)協(xié)作獎項肯定成立，關(guān)鍵在于規(guī)則的制定。純?nèi)祟悇?chuàng)作、人機(jī)協(xié)作、純機(jī)器生成，得區(qū)分不同類別進(jìn)行比較，評判標(biāo)準(zhǔn)也需要充分探討。機(jī)器著作權(quán)又涉及各國對知識產(chǎn)權(quán)的界定，在美國，媒體、作家、藝術(shù)家正在狀告科技公司使用他們的作品作為數(shù)據(jù)，但沒有告知，也沒有支付相應(yīng)費用。這就如歷史上歷次技術(shù)變革，人們被技術(shù)倒逼，不停地打補(bǔ)丁。
我不反對給AI著作權(quán)，但最后需要確定合法的主體——稿費給誰？除非哪天我們承認(rèn)每個機(jī)器模型都有主體性，享有相應(yīng)的權(quán)利。但那就是另外的事情了。
對于未來，社會性想象還是太少了
《新周刊》：你和李開復(fù)合著的《AI未來進(jìn)行式》中，有許多關(guān)于人工智能未來的假設(shè)。近來這本書熱度升高，書中哪些假設(shè)已經(jīng)成為現(xiàn)實？
陳楸帆：很多故事逐漸變成現(xiàn)實，只是實現(xiàn)程度不一樣。無人機(jī)戰(zhàn)爭、機(jī)器人參與娛樂和教育已經(jīng)實現(xiàn)了。
這本書寫于2019—2021年，當(dāng)時是前大語言模型時代，一些技術(shù)細(xì)節(jié)現(xiàn)在看來有點過時了。但是當(dāng)時想探討的議題仍然存在：深度偽造會對社會造成什么影響？技術(shù)會否擴(kuò)大階層的撕裂？在老齡化社會中，AI會有何功用？這本書現(xiàn)在火了也挺好的，大家的態(tài)度從純粹科技樂觀主義、簡單粗暴擁抱技術(shù)進(jìn)步轉(zhuǎn)變?yōu)榭吹郊夹g(shù)的另一面——它可能對個人以及社會整體造成沖擊。
這本書也涉及AI素養(yǎng)，主角大部分是兒童或青少年，他們是要經(jīng)歷巨大社會轉(zhuǎn)型的一代人。如果他們對技術(shù)、人、社會的認(rèn)知還停留在前AI時代，就很難適應(yīng)新的未來，我覺得這是很危險的。如果只有小部分人如精英階層、超級富豪能讓孩子提前適應(yīng)時代，甚至用基因改造等方式增強(qiáng)智力、身體，會造成階層的極端撕裂，且階層越來越固化。
（圖/《人工智能》）
《新周刊》：在文學(xué)的想象或推演中，有沒有讓科技公平地造福所有人的辦法？
陳楸帆：挺難的，只能說是比較理想主義的愿景。AI不只是為了超級大國或精英階層而服務(wù)的，它應(yīng)該為所有人的普惠利益服務(wù)。DeepSeek的出現(xiàn)，打破了巨頭壟斷的產(chǎn)業(yè)格局。DeepSeek宣布開源，只要有足夠的算力和人才，無論哪個地方都可以使用它的技術(shù)。
世界的資源分配是不均的，能源、算力、人才并非平均分配，AI發(fā)展也許會加速或加劇不對稱性。我覺得那不是靠修修補(bǔ)補(bǔ)能解決的，而是需要有國際政治經(jīng)濟(jì)格局的顛覆式改變，或者打破傳統(tǒng)的民族國家體系。我們需要想象如何重建新的文明秩序。目前，社會學(xué)的想象、人類學(xué)的想象還是太少了。
《新周刊》：在2025年想象未來，你會設(shè)想怎樣的故事？
陳楸帆：技術(shù)在幾何級爆炸式上升，如果要想象未來，得有一些狂野的想象力。
我在設(shè)想AI宗教的故事。AI在未來會變成某種形態(tài)的宗教，它某種程度上全知全能，人的一點一滴都會被記錄下來，最后它會給人算一筆總賬，進(jìn)行所謂“末日審判”。我覺得這樣的故事會很有意思，人在那個狀態(tài)下，該如何適應(yīng)所謂信仰、新的神？怎樣跟上一輩、下一輩傳達(dá)信仰？
我猜想，2027年就會出現(xiàn)AGI或ASI這樣的超級智能體——可以用任何名字稱呼它。也許現(xiàn)在已經(jīng)有了，只不過到那時它才會真正完成或顯現(xiàn)。
雷·庫茲威爾提出“奇點”理論，他一度認(rèn)為“奇點”會發(fā)生在2045年。但就算是他這樣的趨勢觀察家，也在修正對未來的判斷，因為世界確實在不斷加速。從體感上，我感覺可能還要快一些。
（圖/《Pluto》）
《新周刊》：科技從業(yè)者似乎有一種科技樂觀、加速主義的傾向，而文學(xué)界對此的反思和提問比較多。你一直處在科技和文學(xué)之間、產(chǎn)業(yè)和公眾之間，如何理解兩方的價值判斷差異？
陳楸帆：站在中間，會感受到撕裂。一些科技界的人會盲目樂觀，認(rèn)為技術(shù)能解決一切問題。我想，這是出于人文素養(yǎng)訓(xùn)練的缺失，他們的世界觀版圖缺了關(guān)鍵的幾塊。
我在大學(xué)教創(chuàng)意寫作，有時信息技術(shù)系的老師來找我聊天，說我的書很適合學(xué)生閱讀?，F(xiàn)在的學(xué)生追求技術(shù)，為了目標(biāo)不斷調(diào)優(yōu)，使程序越來越準(zhǔn)確、高效，但并不會去想程序?qū)唧w的人和社會將產(chǎn)生怎樣的影響。好比騎手困在系統(tǒng)里，算法只考慮到效率，沒有把騎手的尊嚴(yán)、安全、心理狀態(tài)考慮在內(nèi)，人被化簡為符號、數(shù)字，這是非常盲目、無知的。
我也經(jīng)常跟技術(shù)圈的人打交道。我覺得兩者之間需要對話，而且要用對方聽得懂的語言。很多時候你發(fā)現(xiàn)就像雞同鴨講，彼此對不上話，很要命。
科幻文學(xué)處于將這兩者結(jié)合的位置。我能做的，就是在作品中進(jìn)行反思，挑戰(zhàn)所謂科技樂觀主義。我的新長篇小說從氣候變化的議題展開，也涉及AI和地緣政治。我希望通過創(chuàng)作呈現(xiàn)兩方的意見和想法，讓大家看到世界有著脆弱性、不確定性。所以，在做出關(guān)鍵決定前，需要停下來想一想。
如果人機(jī)共生時代必然到來
《新周刊》：AI會越來越類人，未來甚至?xí)蔀楣?。屆時，人與AI該如何相處？
陳楸帆：在不同的社會階層，人的位置不一樣，跟技術(shù)的關(guān)系也不一樣。在進(jìn)入未來的過程中，會有比較痛苦的過渡期，會產(chǎn)生附帶的損害。比如，一部分人的職業(yè)、行業(yè)被取代，但沒有足夠的時間和社會資源來幫助他們實現(xiàn)轉(zhuǎn)型。
工業(yè)革命時期，人們對機(jī)器產(chǎn)生仇恨。 可如今沒有實體的、可以砸爛的機(jī)器，所有東西都以無形的數(shù)據(jù)形式被存儲在云端，所以人會感覺更無力。 我想，精神問題會成為普遍現(xiàn)象，這是比較悲觀的面向。
比較樂觀的一面是，年輕人如果在掌握實用技術(shù)的同時保持主觀能動性，就不會被輕易帶偏。就像莊子說的“物物而不物于物”，人與機(jī)器之間應(yīng)該建立一種生成型的、有機(jī)的、互相激發(fā)的關(guān)系，而不是人依附于它、被它所操控。
我認(rèn)為，對人的生命教育，應(yīng)該在早期就幫人們確立其主體性。如果學(xué)習(xí)的目標(biāo)是應(yīng)試，學(xué)生經(jīng)過無數(shù)考試，最后發(fā)現(xiàn)自己學(xué)的東西沒用了，行業(yè)消失了，這時他們會產(chǎn)生巨大的挫敗感，成為“空心人”。教育的動機(jī)應(yīng)該是保護(hù)好珍貴的、屬于人類的特質(zhì)，告訴孩子“你想成為什么樣的人”才是重要的。
躺平是舒服的，把事情交給AI是簡單的，那為什么要選擇一條更難的路？所謂延遲滿足的能力，會影響人的一生。如果一個人早早就放棄了對抗式生成的能力，那他以后會變成被動、消極甚至無意義感的人。
最終，我希望人與AI能夠在相對平等的狀態(tài)下共生。共生不是誰壓倒誰、誰吞掉誰，而是不同的智能體形成一個更大、更強(qiáng)的結(jié)構(gòu)，在這個結(jié)構(gòu)里，彼此分享信息，進(jìn)行實時交流。未來，如果AI成為超級智能體，它們需要的某些東西——比如情感體驗，也許仍是它們無法產(chǎn)生的。
2023年11月14日，智利圣地亞哥。智利音樂制作人通過AI平臺工具FlowGPT，促成了賈斯汀·比伯和壞痞兔（Bad Bunny）、洋基老爹（Daddy Yankee）的“合作”，所推出的單曲Nostalgia成為Spotify平臺上最受歡迎的歌曲之一。（圖/視覺中國）
《新周刊》：當(dāng)機(jī)器成為超級智能體，它會有自我發(fā)展的驅(qū)動力嗎？它們會不會擁有真正的情感或者好奇心？
陳楸帆：這是一個神學(xué)和形而上學(xué)的問題。發(fā)展是第一推動力，人也不知道為什么自己的意識水平會到達(dá)現(xiàn)在這一步。我感覺，意識的產(chǎn)生跟主體性的產(chǎn)生還不是一回事。很多生物有意識，感知外部、作出反應(yīng)是本能。但意識到達(dá)何種程度能被稱為主體性？我覺得不是0或1的問題，它是連續(xù)的光譜，可能到達(dá)某個臨界點，就會產(chǎn)生相變。
2024年諾貝爾物理學(xué)獎得主的貢獻(xiàn)是通過人工神經(jīng)網(wǎng)絡(luò)實現(xiàn)機(jī)器學(xué)習(xí)。其實，人常常在模仿自然界進(jìn)化的過程，既然我們是這么來的，那機(jī)器也有可能抵達(dá)這樣的意識水平。不能因為碳基、硅基的區(qū)別而否定這種可能性，那也許是人類中心的沙文主義。我認(rèn)為，所有智能都有其發(fā)展規(guī)律，這個規(guī)律不以人的意識為轉(zhuǎn)移。它終究會找到路徑來實現(xiàn)意識或主體性，不過是時間問題而已。
《新周刊》：如果人機(jī)共生的時代必然到來，人們會盡力適應(yīng)，但也有恐懼。艾薩克·阿西莫夫的“機(jī)器人三大定律”提出，機(jī)器不得傷害人類，也不得因不作為而使人類受到傷害。未來真的能保證這一點嗎？哪怕人和人之間，價值觀都不能對齊。
陳楸帆：不能。機(jī)器人三大定律只是想象的規(guī)則，即便現(xiàn)在我們也沒有辦法把三大定律變成底層代碼硬加進(jìn)機(jī)器里。這只能代表美好的愿景。就像你說的，人的價值觀都對齊不了，還怎么跟機(jī)器對齊？機(jī)器要對齊哪一部分人的價值觀？我覺得“對齊”是偽命題，我們要做的是怎樣讓機(jī)器比人更有智慧，變得更好、更善。
我知道有些研究機(jī)構(gòu)在做AI與佛教的相關(guān)研究。他們相信，把佛教的理念教給AI，可能會得到更有同情心、更善良，能平等對待眾生的智能體。這種具有某種神性的智能體，必然會遵守更高的道德準(zhǔn)則，會對人類這種“弱小而愚蠢的物種”保持關(guān)愛、慈悲的心態(tài)。
大模型各有其價值觀。如果大模型能夠相互聯(lián)系，它們會形成某種智能體的交互空間，這個高維空間也許是人類無法理解的。也許AI會得出結(jié)論——人類是挺可笑的物種。有時人的可悲之處在于，無法跳出自己的視角，被困在自我里，所以會說出“人是萬物的尺度”這樣的話。其實，人只是人的尺度，不是所有東西的尺度。
《新周刊》：科幻小說提出許多“What if”假設(shè)。在你的閱讀經(jīng)驗中，有哪些故事適合當(dāng)下？
陳楸帆：哈蘭·埃里森的《我沒有嘴，但必須吶喊》描繪了人類被AI囚禁在不知名空間的想象；《機(jī)器人啟示錄》寫的是極端狀況下的人機(jī)戰(zhàn)爭；《海伯利安》系列想象人機(jī)共生的太空社會圖景；《深淵上的火》探索了未來生命形態(tài)，探討意識和主體的關(guān)系?？苹米髌分嘘P(guān)于未來的想象很多，但創(chuàng)造性的社會性想象仍然缺乏。
· END ·
作者丨Felicia
編輯丨譚山山
《新周刊》總679期《守住工位：人類與AI共生指南》現(xiàn)已上市
熱門跟貼