數(shù)量更多，傳播更迅速的信息，不僅會(huì)擴(kuò)大人際網(wǎng)絡(luò)，制造出覆蓋面更大的社會(huì)共識(shí)，同時(shí)也會(huì)引發(fā)更多的分歧與仇恨。實(shí)際上，這種危險(xiǎn)在計(jì)算機(jī)和網(wǎng)絡(luò)誕生前很久，就已經(jīng)頻繁發(fā)生過。在本書中，赫拉利就列舉了一個(gè)經(jīng)典案例：中世紀(jì)晚期血腥的“獵巫運(yùn)動(dòng)”，也就是基督教權(quán)力機(jī)關(guān)對(duì)所謂“巫師”，尤其是“女巫”的抓捕和迫害；這場(chǎng)迫害運(yùn)動(dòng)之所以發(fā)生，實(shí)際上有個(gè)重大的技術(shù)推力，那就是印刷技術(shù)的革命：越來越多關(guān)于女巫施行巫術(shù)，傷害民眾，對(duì)抗教會(huì)的小冊(cè)子得以迅速、大量地出版發(fā)行。作者們?yōu)榱俗ト搜矍?，不斷地加入了各種聳人聽聞，子虛烏有的內(nèi)容，從而引發(fā)了一波遍布?xì)W洲的恐慌。對(duì)此，赫拉利得出的結(jié)論是，一個(gè)不受監(jiān)管的信息市場(chǎng)并不一定能引導(dǎo)人們識(shí)別和糾正自己的錯(cuò)誤，因?yàn)樗芸赡苁紫扔虾唵螐?qiáng)烈卻錯(cuò)誤的情緒，而不是真相。

如果說手工印刷機(jī)、活字和紙張的結(jié)合，威力仿佛炸藥，那么計(jì)算機(jī)和網(wǎng)絡(luò)的誕生，對(duì)信息傳播的賦能，就是核武器。為什么會(huì)這樣？赫拉利解釋說，首先，由口頭語言傳播，或者印刷機(jī)、無線電為基礎(chǔ)建構(gòu)的人際網(wǎng)絡(luò)中，成員都是人，信息技術(shù)的作用只是改變傳播形式，提升傳播速度。但是，計(jì)算機(jī)和互聯(lián)網(wǎng)不僅在信息傳播速度上實(shí)現(xiàn)了飛躍，達(dá)到“全球即刻同步”的程度，而且在這個(gè)全新的信息網(wǎng)絡(luò)中，計(jì)算機(jī)本身就是成員之一，而人工智能技術(shù)的出現(xiàn)，更讓計(jì)算機(jī)的地位和權(quán)重迅速上升。

比如，讓我們每天沉迷不已的網(wǎng)絡(luò)社交平臺(tái)和各類短視頻音頻內(nèi)容平臺(tái)，會(huì)根據(jù)我們回饋給它的數(shù)據(jù)，再利用算法，來向我們推送各不相同的定制化內(nèi)容，盡量做到“千人千面”。我們的價(jià)值、審美、消費(fèi)偏好，變成了喂養(yǎng)平臺(tái)的數(shù)據(jù)，讓平臺(tái)反過來給我們編織了一個(gè)信息繭房，我們被困其中而不自知，而且變得越來越偏狹。

正如赫拉利所說，我們對(duì)信息的信賴與傳播，與信息本身的真實(shí)性關(guān)聯(lián)不大，而那些能夠提供強(qiáng)烈情緒價(jià)值和簡單答案的虛構(gòu)信息，似乎更吸引人。雖然很多大型高科技公司打出的旗號(hào)是“技術(shù)為善”，然而在流量和利潤面前，這條原則顯得非常脆弱。赫拉利舉例說，根據(jù)一些泄露出來的內(nèi)部文件，像Youtube或者臉書這樣的互聯(lián)網(wǎng)內(nèi)容平臺(tái)，都會(huì)為了提高用戶使用黏性而修改算法，改變推送機(jī)制，讓那些驚悚、陰謀論，或者引發(fā)用戶憤怒情緒的內(nèi)容更容易被用戶觸達(dá)。用公司內(nèi)部人的話說，就是“憤怒會(huì)提高使用和參與度，而溫和與理性不會(huì)”。2016年，臉書內(nèi)部公布了一份調(diào)查報(bào)告，聲稱，社交網(wǎng)絡(luò)已經(jīng)成為恐怖主義和極端組織在線招募新成員的主要渠道，而在臉書上發(fā)現(xiàn)的案例中，64%的極端組織成員承認(rèn)，觀看系統(tǒng)算法推送的極端內(nèi)容視頻，是他們了解這些極端組織并萌生加入意愿的主要原因。