打開網(wǎng)易新聞 查看精彩圖片

摘要(3萬字長(zhǎng)文)

這篇綜述激發(fā)并綜合了神經(jīng)科學(xué)啟發(fā)的人工智能和仿生計(jì)算在人類計(jì)算方面的研究成果。具體來說,我們從感知行為的理論基礎(chǔ)的角度,通過重塑生物物理學(xué)、控制論和認(rèn)知科學(xué)中的觀點(diǎn)來描述死亡的概念。我們通過Markov blanket形式主義和由推理、學(xué)習(xí)和選擇產(chǎn)生的循環(huán)因果關(guān)系來構(gòu)建致命計(jì)算論題。隨后的框架——由自由能原理支持——可以被證明有助于指導(dǎo)非常規(guī)連接主義計(jì)算系統(tǒng)、神經(jīng)形態(tài)智能和嵌合智能體(包括有感知器官)的構(gòu)建,這將徹底改變具身、生成人工智能和認(rèn)知研究的長(zhǎng)期未來。

Mortal computation · Biomimetic intelligence · Free energy · Homeorhesis

打開網(wǎng)易新聞 查看精彩圖片

正如我們到目前為止所爭(zhēng)論的那樣,由于一臺(tái)凡人計(jì)算機(jī)遵循任何持久實(shí)體的相同的自證原理,所以它是固有形態(tài)的。此外,因?yàn)樗峭瑯?gòu)的,F(xiàn)EP適用。這很重要,因?yàn)檫@意味著人類計(jì)算機(jī)將接近與信念更新或計(jì)算相關(guān)的熱力學(xué)支出的下限(朗道爾)。這是因?yàn)樗荛_了記憶墻;即在馮·諾依曼體系結(jié)構(gòu)和其他無定形計(jì)算機(jī)中所需的從存儲(chǔ)器讀取和寫入的熱力學(xué)成本。更一般地——也更直觀地——因?yàn)镕EP適用于形態(tài)計(jì)算,一臺(tái)普通的計(jì)算機(jī)可以最小化熱力學(xué)和變分自由能。

1 Introduction

2 Why Mortal Computation?

3 The Biophysical, Cybernetical, and Cognitive Framings of Mortal Computation

3.1 The Biophysics of a Mortal Computer

3.2 The Cybernetics Backend of a Mortal Computer

3.3 A Cognitive-Philosophical Grounding for Mortal Computing: 5E Theory

4 A Free Energy Framing of Mortal Computation

4.1 A Theoretical Starting Point: Free Energy

4.2 The Principle of MILS through Mean-Field Approximations

5 The Mortal Computation Thesis

5.2 Implications for Biomimetic Intelligence

6 Conclusion

(3萬字長(zhǎng)文)

1 介紹

打開網(wǎng)易新聞 查看精彩圖片

仿生學(xué)的一個(gè)關(guān)鍵方面是在制作數(shù)學(xué)、計(jì)算過程或技術(shù)人工制品時(shí)的生物模擬,或者更確切地說,是模仿自然或生物系統(tǒng)。這通常是為了解決一個(gè)復(fù)雜的問題,潛在地促進(jìn)仿生學(xué)——以及面向自然的系統(tǒng)工程——在現(xiàn)實(shí)世界中的應(yīng)用。由此可見,仿生和仿生智能研究試圖通過模仿或模仿自然思維和大腦(無數(shù)世紀(jì)進(jìn)化的產(chǎn)物)來構(gòu)建認(rèn)知功能和支持智能的過程。

生命本身就是靈感不斷豐富的源泉,吸引了無數(shù)理論家和工程師的注意力;從生物學(xué)到物理學(xué),從哲學(xué)到計(jì)算機(jī)科學(xué)。從單細(xì)胞微生物到復(fù)雜生物(如植物和動(dòng)物)的生命系統(tǒng)提供了一個(gè)顯著的例子,說明了同源異型增生(以及相關(guān)的異體異位和自體生成概念)——生物系統(tǒng)用來組裝和維持自身的自我調(diào)節(jié)過程[70,71,52]——如何支持適應(yīng)性和復(fù)雜行為的出現(xiàn)。從計(jì)算的角度來看,同源異形形成并指導(dǎo)生物體在與環(huán)境互動(dòng)時(shí)進(jìn)行的“計(jì)算”;特別是它的推斷、學(xué)習(xí)和進(jìn)化能力。控制論的角度來看,模擬生命系統(tǒng)的計(jì)算特性可以追溯到很久以前,特別是在自我復(fù)制的細(xì)胞自動(dòng)機(jī)的框架內(nèi)[346,147,336,360]。

我們的中心論點(diǎn)是,如果目標(biāo)是制造能夠進(jìn)行大量動(dòng)物或類人行為的機(jī)械計(jì)算系統(tǒng),機(jī)器智能的主旨將需要在未來幾十年內(nèi)改變,在精神上類似于從符號(hào)到非符號(hào)處理的轉(zhuǎn)變[106,105,25],這推動(dòng)了經(jīng)典的連接主義和統(tǒng)計(jì)學(xué)習(xí)。機(jī)器智能研究可能需要關(guān)注實(shí)現(xiàn)其非線性自組織和高效適應(yīng)的過程;這種轉(zhuǎn)變是朝著面向生存的處理的發(fā)展,體現(xiàn)了生命/死亡的計(jì)算概念,一種自然主義的機(jī)器智能。具體來說,我們認(rèn)為一條至關(guān)重要的路徑——在通往通用人工智能(AGI)的路上——位于 在有生計(jì)算中,這是我們?cè)诒疚闹袑で?strong>開發(fā)的一個(gè)框架,希望吸引從事人工科學(xué)的研究人員。

在這一點(diǎn)上,有人可能會(huì)問:什么是凡人(有生)計(jì)算?起源于[169]并在[263,255]中進(jìn)一步發(fā)展和提倡的“人類(有生)計(jì)算”斷言,作為生物或人工系統(tǒng)中信息處理基礎(chǔ)的數(shù)學(xué)計(jì)算/過程與實(shí)現(xiàn)和執(zhí)行它們的物理基礎(chǔ)是不可分的,即“軟件”不能脫離“硬件”。這與計(jì)算機(jī)科學(xué)中計(jì)算的概念形成了強(qiáng)烈的對(duì)比:在這里,軟件與硬件是分離的,軟件是“不朽的”,這意味著它可以被復(fù)制到不同的硬件上,并且仍然是可執(zhí)行的。任何機(jī)器學(xué)習(xí)算法,可以被視為根據(jù)數(shù)據(jù)調(diào)整自身的程序,也依賴于這種分離(并在設(shè)計(jì)時(shí)考慮到這一點(diǎn))。此外,不朽計(jì)算意味著一個(gè)程序,甚至是一個(gè)自適應(yīng)程序,例如一個(gè)“智能系統(tǒng)”,開發(fā)特性和獲取知識(shí),而不管它是在什么介質(zhì)上被實(shí)例化的。相比之下,凡人計(jì)算意味著,一旦實(shí)現(xiàn)程序的硬件介質(zhì)發(fā)生故障或“死亡”,知識(shí)、行為和特定功能,包括其“怪癖”,也將不復(fù)存在。這非常類似于當(dāng)生物有機(jī)體不再能夠維持自身時(shí),它所獲得/發(fā)展的知識(shí)/行為會(huì)發(fā)生什么。

我們認(rèn)為,至少對(duì)AGI來說,如果不完全放棄不朽的計(jì)算,可能有必要考慮必死(有生)的計(jì)算。過渡到一種與襯底命運(yùn)緊密相連的計(jì)算方式,起初可能顯得沒有必要,甚至有些魯莽;因?yàn)檫@樣的程序可能是脆弱的,并且缺乏智能系統(tǒng)研究中經(jīng)常尋求的普遍性。然而,特別是當(dāng)考慮到我們今天面臨的一些緊迫的全球挑戰(zhàn)時(shí),例如氣候變化,我們將突出人類計(jì)算帶來的優(yōu)勢(shì)

—在不朽計(jì)算環(huán)境中難以實(shí)現(xiàn)的優(yōu)勢(shì)。此外,支持這種轉(zhuǎn)變的努力可能會(huì)發(fā)現(xiàn)有用的發(fā)展出乎意料地容易??偟膩碚f,短語“人類(有生)計(jì)算”提供了關(guān)于一個(gè)核心真理的許多觀點(diǎn)——智能行為,無論是以生物還是人工形式表現(xiàn),都不可避免地與面對(duì)可能導(dǎo)致其終結(jié)的環(huán)境的持久性交織在一起。這一重要概念統(tǒng)一了幾十年來在不同學(xué)科中闡述的許多觀點(diǎn),包括哲學(xué)、控制論、生物物理學(xué)、計(jì)算機(jī)科學(xué)、認(rèn)知科學(xué)和生理學(xué),并對(duì)計(jì)算神經(jīng)科學(xué)、神經(jīng)形態(tài)計(jì)算和神經(jīng)機(jī)器人學(xué)中的大量應(yīng)用領(lǐng)域產(chǎn)生了影響[78]。

論文的結(jié)構(gòu)。在這項(xiàng)工作中,我們描述了一個(gè)人類計(jì)算的形式框架,它可以作為解決仿生系統(tǒng)、神經(jīng)信息處理模型和AGI的指南。首先,在第二部分中,我們從熱力學(xué)、具體化和實(shí)踐論的概念,以及生與死的哲學(xué)中得出仿生學(xué)所必需的人類計(jì)算論題。接下來,在第三部分,我們將回顧歷史概念,從生物物理學(xué)、控制論、認(rèn)知科學(xué)和自然主義哲學(xué)的角度來描述人類計(jì)算的特征。在第4節(jié)中,我們基于自由能原理、馬爾科夫毯形式主義和形態(tài)學(xué)基礎(chǔ),從人類推理、學(xué)習(xí)和選擇的角度來構(gòu)建人類計(jì)算。第5節(jié)提供了人類計(jì)算的定義,闡明了其在仿生和仿生智能的未來發(fā)展中可能具有的幾個(gè)原則。最后,我們將考慮這一方向的科學(xué)研究框架的長(zhǎng)期影響。

2為什么是凡人計(jì)算?

乍一看,將一些軟件的命運(yùn)與實(shí)現(xiàn)它的硬件的命運(yùn)混為一談似乎有一個(gè)缺點(diǎn):我們排除了跨平臺(tái)復(fù)制/轉(zhuǎn)移我們的計(jì)算機(jī)程序的能力,以及設(shè)計(jì)它們而不用擔(dān)心它們將如何執(zhí)行的能力。然而,放棄計(jì)算的不朽本質(zhì)會(huì)帶來一些無價(jià)的東西;也就是說,能量使用的大量節(jié)省和創(chuàng)建執(zhí)行必要計(jì)算所需的硬件的成本的降低。此外,這種轉(zhuǎn)變?yōu)槿斯に季S的一種關(guān)鍵思維方式奠定了基礎(chǔ):智能和適應(yīng)性行為受到一種動(dòng)力的驅(qū)動(dòng),這種動(dòng)力就是在面對(duì)不斷演變的環(huán)境或生態(tài)位(econiche)時(shí)繼續(xù)堅(jiān)持下去。值得注意的是,這種人工智能(AI)的框架反映了過去幾十年認(rèn)知科學(xué)和自然主義思想哲學(xué)中的概念轉(zhuǎn)變。

熱力學(xué)動(dòng)機(jī) 。為了理解為什么凡人形式的計(jì)算會(huì)自然而然地節(jié)省能量,考慮當(dāng)代計(jì)算的熱力學(xué)是很重要的。在開放系統(tǒng)的背景下,信息處理和熱力學(xué)效率之間有著密切的關(guān)系,這由朗道原理[208,44]和Jarzynski等式[185,113,14]決定。具體來說,朗道原理指出,擦除一位信息所需的最小能量E與操作成正比

打開網(wǎng)易新聞 查看精彩圖片

圖1:不朽計(jì)算(左圖)實(shí)現(xiàn)了現(xiàn)代深度神經(jīng)網(wǎng)絡(luò)(DNN)等模型,而凡人計(jì)算(右圖)實(shí)現(xiàn)了脈沖神經(jīng)網(wǎng)絡(luò)等生物物理形態(tài)模型,兩者之間的一個(gè)關(guān)鍵區(qū)別是它們的熱力學(xué)成本。在運(yùn)行不朽程序的典型馮·諾依曼體系結(jié)構(gòu)中,在計(jì)算機(jī)體系結(jié)構(gòu)中不同類型的存儲(chǔ)器之間存在能量墻,需要消耗能量來將信息,例如突觸權(quán)重值或中間層活動(dòng),從非易失性存儲(chǔ)器(NAND閃存)傳輸?shù)讲煌愋偷囊资源鎯?chǔ)器(DRAM、SRAM),最終傳輸?shù)饺菁{DNN的CPU。在一個(gè)神經(jīng)形態(tài)芯片中,比如一個(gè)實(shí)現(xiàn)為憶阻器交叉開關(guān)(右)的芯片,它將顯示一個(gè)致命的程序,處理直接發(fā)生在內(nèi)存的頂部/內(nèi)部,繞過了馮諾依曼設(shè)置所需的熱力學(xué)工作。

(計(jì)算)系統(tǒng)的溫度t:?>ln(2)其中kB是玻爾茲曼常數(shù)。因此,計(jì)算機(jī)存儲(chǔ)信息的不可逆轉(zhuǎn)的變化需要向周圍環(huán)境散發(fā)最低水平的熱量。實(shí)際上,Jarzynski等式表明,對(duì)系統(tǒng)所做的功的波動(dòng)被限制為等于將該系統(tǒng)從(平衡)狀態(tài)X帶到(通常是非平衡)狀態(tài)Y的所有可能實(shí)現(xiàn)的平均值,即,

打開網(wǎng)易新聞 查看精彩圖片

其中FX是狀態(tài)a的自由能,?°?表示平均值。簡(jiǎn)而言之,當(dāng)把朗道原理和Jarzynski等式放在一起時(shí),改變計(jì)算系統(tǒng)的信息內(nèi)容所需的熱力學(xué)功的量有一個(gè)下限。

當(dāng)通過自由能原理[133]的透鏡觀察時(shí),改變計(jì)算系統(tǒng)的信息內(nèi)容可以被解讀為響應(yīng)于(例如,神經(jīng)元)系統(tǒng)對(duì)其開放的外部擾動(dòng)的推斷(或信念更新)[136]。此外,可以證明推理——作為變分自由能最小化過程——與熱力學(xué)自由能共享相同的最小值[306]。因此,任何系統(tǒng)的統(tǒng)計(jì)和熱力學(xué)效率——自由能原理適用于該系統(tǒng)——都是同一枚硬幣的兩面。然而,這種關(guān)系依賴于系統(tǒng)動(dòng)力學(xué)的推理描述。換句話說,動(dòng)力學(xué)被解釋為變分自由能上的梯度流,或者等價(jià)地,貝葉斯模型證據(jù)的對(duì)數(shù)。這與現(xiàn)代計(jì)算機(jī)中的推理模擬形成對(duì)比,例如馮·諾依曼架構(gòu)。在這種模擬設(shè)置中,存在由讀取和寫入計(jì)算機(jī)存儲(chǔ)器引起的額外熱力學(xué)成本,即,在片外存儲(chǔ)器單元和計(jì)算處理器之間移動(dòng)數(shù)據(jù)的功耗比那些數(shù)據(jù)上的浮點(diǎn)操作大近100倍。這些成本有時(shí)與“馮·諾依曼瓶頸”或“記憶墻”有關(guān)[369]。這意味著,為了實(shí)現(xiàn)貝葉斯計(jì)算的潛在熱力學(xué)效率,有必要在內(nèi)存中實(shí)現(xiàn)信念更新,也稱為 in-memory processing or processing-in-memory[153,369]。

從機(jī)器智能的角度來看(見圖1),這些考慮因素允許向基于局部[自由]能量泛函和基于隱式內(nèi)存計(jì)算的仿生計(jì)算邁出重要一步,其中內(nèi)存對(duì)應(yīng)于(c.f .,synaptic)連接權(quán)重和隱式生成模型的參數(shù)。從人類計(jì)算的角度來看,這些考慮說明了在將執(zhí)行那些計(jì)算的底層中實(shí)例化計(jì)算的所有方面的重要性。從廣義上講,現(xiàn)代人工智能系統(tǒng)的計(jì)算特征實(shí)際上需要盡可能靠近支持它們的硬件;就像生物系統(tǒng)中的情況一樣。相比之下,不朽計(jì)算本質(zhì)上需要將權(quán)重張量的值傳入或傳出內(nèi)存。它將進(jìn)一步 必須處理隨機(jī)存取存儲(chǔ)器,因?yàn)樗冻龅拇鷥r(jià)總是與讀/寫成本有關(guān)。信息的基礎(chǔ)物理學(xué)必然消除熱力學(xué)和統(tǒng)計(jì)效率之間的任何硬線。換句話說,貝葉斯最優(yōu)就是熱力學(xué)有效,反之亦然[305]。人們可以利用這一事實(shí)對(duì)神經(jīng)元結(jié)構(gòu)和生理學(xué)的許多方面提供互補(bǔ)的觀點(diǎn)。

上文描述的向熱力學(xué)高效的人類計(jì)算的一般移動(dòng)解決了最近在人工智能研究中出現(xiàn)的問題[17,61,323,304,273]:我們?nèi)绾卧O(shè)計(jì)智能系統(tǒng)而不增加計(jì)算和碳成本?本質(zhì)上,有一種強(qiáng)烈的需要從紅色人工智能,這是由不朽的計(jì)算主導(dǎo),走向綠色人工智能[304],這將自然地促進(jìn)人類計(jì)算,談到全球可持續(xù)發(fā)展目標(biāo)[214,241]。為現(xiàn)代形式的“生成式人工智能”提供動(dòng)力的transformers,其排放量約為普通汽車壽命期排放量的4.96倍[323]1, 此外,根據(jù)2022年發(fā)運(yùn)的圖形處理單元(GPU)的數(shù)量,估計(jì)chat generative預(yù)訓(xùn)練變壓器[287] (ChatGPT)在其訓(xùn)練期間產(chǎn)生502公噸的碳(GPT-3需要1287兆瓦小時(shí))[232]。

Embodiment and Enactivism 。在認(rèn)知科學(xué)領(lǐng)域,幾十年來出現(xiàn)了一個(gè)核心二元性,它呼應(yīng)了不朽計(jì)算和必死計(jì)算之間的分歧。具體來說,這是孤立認(rèn)知與情境認(rèn)知或具身認(rèn)知之間的關(guān)系[127]。孤立認(rèn)知認(rèn)為沒有“身體”的實(shí)體可以展示認(rèn)知技能。有可能有一個(gè)“缸中的大腦”[285],也就是說,一個(gè)頭腦和它的認(rèn)知功能是獨(dú)立于其特定的物理嵌入或基底的;聯(lián)想到笛卡爾的心身二元論[28]。相比之下,具身認(rèn)知理論[356]認(rèn)為,思維根植于感覺運(yùn)動(dòng)耦合的細(xì)節(jié):有機(jī)體的身體內(nèi)在地限制和塑造其精神活動(dòng)的性質(zhì)。孤立認(rèn)知和具身認(rèn)知之間的這種對(duì)比可以被比作爭(zhēng)論支撐智能的軟件是否可以在沒有體現(xiàn)物理世界中的代理的硬件結(jié)構(gòu)的情況下存在。

有大量的證據(jù)支持體現(xiàn),從觀察到人類基于大腦感知和行動(dòng)的特定模式系統(tǒng)重演經(jīng)歷開始。知識(shí)的表達(dá)受到先前與世界互動(dòng)的影響,在沒有直接參與感覺輸入的情況下,需要重新激活感覺運(yùn)動(dòng)功能[9,109,5,127]。實(shí)施例的更強(qiáng)變體假設(shè)身體在精神功能中起反饋驅(qū)動(dòng)的作用:處于情境中的主體可以感知世界并直接受其影響,因此其行為不需要任何表示或計(jì)算參考[36,207,239,354,356]。人類計(jì)算的概念包含了具體化的框架,也就是說,它將物理形態(tài)學(xué)視為其計(jì)算處理本質(zhì)的一部分。人類計(jì)算機(jī)固有的核心功能是基于硬件或“身體”的,與低級(jí)的感覺運(yùn)動(dòng)功能沒有明顯區(qū)別。這可能意味著人類計(jì)算的模型可以被描述為“具體化智能”(或Embodiment人工智能[107])的一個(gè)特定實(shí)例。然而,正如我們將在人類計(jì)算的處理中看到的,這樣的系統(tǒng)不僅僅是具體化的處理;它也是行動(dòng)功能的化身。作為對(duì)體現(xiàn)的補(bǔ)充,生成認(rèn)知強(qiáng)調(diào)一個(gè)有生命的實(shí)體的環(huán)境和實(shí)體本身之間的動(dòng)態(tài)關(guān)系[332];一個(gè)實(shí)體的認(rèn)知是運(yùn)用其感覺運(yùn)動(dòng)系統(tǒng)與世界交換的結(jié)果。這意味著人類計(jì)算機(jī)是其處理的信息生成的積極參與者,因此將受到其行為方式和行為后果的影響[103,343]。

關(guān)于死亡如何塑造生命的哲學(xué)。從哲學(xué)上講,生命的“有限性”可以被視為賦予生命以目的的因素之一,為生態(tài)位的構(gòu)建創(chuàng)造了“動(dòng)力”(如選擇壓力)。這種動(dòng)力驅(qū)使我們?nèi)祟惤涣?例如,教導(dǎo))來一代一代地傳遞智慧和啟發(fā);即從進(jìn)化心理學(xué)的角度來看,文化生態(tài)位的構(gòu)建。這讓我們能夠創(chuàng)作藝術(shù)作品來表達(dá)一種內(nèi)在的信息或體驗(yàn)。此外,生命的有限性需要生殖,遺傳素質(zhì)在生殖中傳遞,以確保物種的生存。這種觀點(diǎn)激發(fā)了第三節(jié)中考慮的人類計(jì)算機(jī)的自我復(fù)制生物物理和控制論方面。從生死哲學(xué)[124]和存在主義[125]的角度來看,死亡——或者說一個(gè)實(shí)體存在的終結(jié)——是一個(gè)隱含地塑造行為和意識(shí)的視界。換句話說,死亡允許未來的事件對(duì)現(xiàn)在的活動(dòng)施加一個(gè)隱含/明確的壓力[194]。一個(gè)實(shí)體的存在和“存在”可以被認(rèn)為是隨著時(shí)間而過去的,時(shí)間是有限的:最終以我們的死亡而結(jié)束[165]。因此,對(duì)于生物和人造的人類藝術(shù)品來說,理解什么是真正的生命意味著接受自己的有限性。這種死亡的概念——以及它對(duì)一個(gè)實(shí)體生命的影響——有助于從哲學(xué)上構(gòu)建人類計(jì)算。雖然存在主義和生/死的哲學(xué)處理[125,165,124]集中在 我們可以將其中的一小部分用于我們的目的:從死亡中提取意義——理解死亡——塑造一個(gè)實(shí)體的生命。這允許人們理解,動(dòng)物,包括人類,無論是隱含的還是明確的,都知道它們的存在是有限的,它們被激勵(lì)去復(fù)制和采取行動(dòng)來為持久的堅(jiān)持生存服務(wù)。

為了擴(kuò)展上述思路,自然主義的心靈哲學(xué)[179,180,332,343]將生物實(shí)體對(duì)信息的持續(xù)搜尋描述為自證,即,通過所謂的自生生成論[96]優(yōu)化其自身存在的證據(jù)[176]。在這種實(shí)踐論enactivism的基礎(chǔ)上有兩個(gè)概念:操作封閉和意義創(chuàng)造 operational closure and sense making。操作封閉意味著一個(gè)系統(tǒng)必須經(jīng)歷自創(chuàng)性的自我組裝和自我維護(hù),以保持其內(nèi)部狀態(tài)與其所處生態(tài)位的外部狀態(tài)相分離。這就在系統(tǒng)是什么和不是什么之間建立了界限。至關(guān)重要的是,系統(tǒng)的(如代謝)過程決定了這一邊界的性質(zhì),例如,允許細(xì)胞從原始的分子化學(xué)湯中出現(xiàn)[340,342]。作為一個(gè)直接的結(jié)果,一個(gè)系統(tǒng)的存在可以被看作是一個(gè)邊界守恒的過程;這激發(fā)了我們?cè)诘?節(jié)中對(duì)人類計(jì)算的馬爾科夫毯形式化。生命體通過將自身從其他一切事物中獨(dú)立出來而存在[332];做到這一點(diǎn)的過程是固有的身份構(gòu)成,產(chǎn)生一個(gè)單一的,功能連貫的單位[342]或自明的整體[102]。作為運(yùn)營(yíng)結(jié)束的補(bǔ)充,是有意義的;也就是說,承認(rèn)外部過程和實(shí)體的內(nèi)部過程之間存在相互依賴,也就是說,一個(gè)生物系統(tǒng)必須將其自身從其生態(tài)位中區(qū)分出來,但仍然與其耦合,以便在該生態(tài)位中持續(xù)存在[342]。有意義是指系統(tǒng)擁有操作上封閉的機(jī)制,有助于推斷其感覺運(yùn)動(dòng)行為的后果,并區(qū)分通過小生境的其他同等可行路徑的不同概率含義[102]。在下一節(jié)中,這種生命系統(tǒng)的自動(dòng)生成、生成框架將服務(wù)于生物物理學(xué)、控制論和人類計(jì)算的認(rèn)知框架。

3人類計(jì)算的生物物理學(xué)、控制論和認(rèn)知框架

The Biophysical, Cybernetical, and Cognitive Framings of Mortal Computation

為了建立一個(gè)與機(jī)器智能的仿生形式產(chǎn)生共鳴的人類計(jì)算的基礎(chǔ),本節(jié)綜合了生理學(xué)、生物物理學(xué)、控制論、認(rèn)知科學(xué)和自然主義精神哲學(xué)的核心概念。編織在一起,這些想法形成了人類計(jì)算的理論結(jié)構(gòu),激發(fā)了它在第5節(jié)的定義。

3.1人類計(jì)算機(jī)的生物物理學(xué)

通過物質(zhì)和能量的流動(dòng)成為可能,并建立在自動(dòng)催化閉合的基礎(chǔ)上[192,144,178],一個(gè)生命系統(tǒng)可以自我組織和生長(zhǎng),在受到環(huán)境擾動(dòng)時(shí)保持和修復(fù)自己。這是由有機(jī)體的新陳代謝推動(dòng)的;它的一系列維持生命的化學(xué)反應(yīng),利用能量將物質(zhì)轉(zhuǎn)化為結(jié)構(gòu),結(jié)構(gòu)本身利用進(jìn)一步的能量來轉(zhuǎn)化/運(yùn)輸物質(zhì),并消除/排泄多余的物質(zhì)和毒素[250,267,293,242]。以酶催化劑為動(dòng)力,通過分解代謝固有的代謝途徑[212](分解代謝破壞物質(zhì)釋放能量)和合成代謝固有的代謝途徑(合成代謝通過消耗能量合成物質(zhì)),生物體能夠確定哪些物質(zhì)是有毒的或值得消耗的,對(duì)其環(huán)境和其他實(shí)體行為的變化做出反應(yīng)。

至關(guān)重要的是,任何生物體的持久性都取決于對(duì)上述代謝過程的仔細(xì)調(diào)節(jié)[351,298,60,317],從而使關(guān)鍵代謝變量(如溫度、pH值、體液平衡)的值保持相對(duì)恒定,即在一定的界限內(nèi)并接近稱為設(shè)定點(diǎn)的目標(biāo)值。這就是動(dòng)態(tài)平衡homeostasis的目的[49]——確保系統(tǒng)的基本變量在適應(yīng)不斷發(fā)展的、敵對(duì)的環(huán)境時(shí)保持穩(wěn)定[70,71,49,52].2盡管穩(wěn)態(tài)homeostasis的基于反饋的糾錯(cuò)能力遠(yuǎn)未提供具有內(nèi)部穩(wěn)定性的生物系統(tǒng),但它是由異穩(wěn)態(tài)allostasis[321]提供的高階調(diào)節(jié)和錯(cuò)誤預(yù)防,這允許它以先發(fā)制人、非反應(yīng)性的方式行動(dòng),以確保穩(wěn)態(tài)調(diào)節(jié)是充分的。作為一種“預(yù)測(cè)性體內(nèi)平衡predictive homeostasis”,異體平衡提供了由體內(nèi)平衡控制范圍之外的間接線索觸發(fā)的預(yù)期措施,如應(yīng)激源和令人驚訝的環(huán)境條件[236,64]。最終,非穩(wěn)態(tài)控制的目的是從一開始就防止基本變量將來出現(xiàn)偏差。在一臺(tái)凡人計(jì)算機(jī)中,這意味著變構(gòu)過程精細(xì)的穩(wěn)態(tài)(或更一般的穩(wěn)態(tài)),在需求出現(xiàn)之前努力滿足約束;這使得凡人計(jì)算

在像細(xì)胞這樣簡(jiǎn)單的實(shí)體中,體內(nèi)平衡調(diào)節(jié)負(fù)責(zé)保持大范圍的生物物理量,包括細(xì)胞外液、溫度、酸度/堿度(pH)、溶解顆粒(如鈉、鉀、葡萄糖、二氧化碳和氧)的濃度(滲透壓),相對(duì)恒定并接近期望值。

像生命系統(tǒng)一樣預(yù)算資源[320,321]??偟膩碚f,在生物實(shí)體和人類計(jì)算機(jī)mortal computers中,反應(yīng)性的穩(wěn)態(tài)維持和主動(dòng)的非穩(wěn)態(tài)控制共同確保生命關(guān)鍵變量保持在可行的范圍內(nèi)。

作為上述生物物理公式的結(jié)果,人類計(jì)算機(jī)mortal computers的自組織(與其硬件相關(guān)的原語/內(nèi)部狀態(tài))構(gòu)成了其熱力學(xué)和代謝效率,奠定了其機(jī)構(gòu)和適應(yīng)能力的基礎(chǔ)。重要的是,它的代謝組織遠(yuǎn)離熱力學(xué)平衡,因?yàn)槟芰亢臀镔|(zhì)會(huì)以熱量和廢物的形式損失,因此它必須覓食,就像在生命系統(tǒng)中一樣,因?yàn)樗鼈儾粩喃@得新的資源。正是開放系統(tǒng)和它的環(huán)境之間的這種關(guān)系保證了系統(tǒng)的設(shè)計(jì);以確保其熱力學(xué)成本降低到生命系統(tǒng)的水平。鑒于熱力學(xué)第二定律表明,在任何封閉系統(tǒng)中,熵的數(shù)量都不會(huì)減少,因此“活的”(即開放的)人類計(jì)算機(jī)不會(huì)處于熱力學(xué)平衡狀態(tài),因此作為耗散系統(tǒng)運(yùn)行。這意味著它必須增加其環(huán)境的熱力學(xué)熵[345,347])。因此,人類計(jì)算機(jī)的持久性取決于它通過其低級(jí)處理(即,使其自由能最小化所采取的動(dòng)作)保持遠(yuǎn)離熱力學(xué)平衡(即,死亡)的能力;參見第4節(jié))以便通過產(chǎn)生無序來建立秩序[98].3

最后一個(gè)特征——完全描述一臺(tái)凡人計(jì)算機(jī)所需要的特征是自動(dòng)生成——是它從內(nèi)部制造自己的能力。對(duì)于任何被認(rèn)為是自生的實(shí)體,它必須在沒有外部干預(yù)的情況下持續(xù)(再)生產(chǎn)、組織和維護(hù)自身,包括其組成部分/過程以及它們之間的關(guān)系模式[340,234,341,59]。這意味著一臺(tái)人類計(jì)算機(jī)必須保持它的形式、完整性和功能,強(qiáng)調(diào)對(duì)智能、適應(yīng)性行為的形態(tài)處理。此外,在這里使用的意義上,自生包括穩(wěn)態(tài)和異穩(wěn)態(tài)控制,因?yàn)樽陨到y(tǒng)可以利用這些調(diào)節(jié)機(jī)制來維持其內(nèi)環(huán)境。自動(dòng)生成將一個(gè)系統(tǒng)(包括其轉(zhuǎn)化/破壞的過程/元素的生產(chǎn)網(wǎng)絡(luò))置于物理空間中,這意味著自動(dòng)生成實(shí)體由其拓?fù)溆蛑付ê退茉臁?/p>

將一臺(tái)凡人計(jì)算機(jī)設(shè)計(jì)成自動(dòng)生成的,是基于它的物理媒介和動(dòng)態(tài)特性。這意味著,憑借其再生/復(fù)制能力,它必須能夠比其組成部分持續(xù)更長(zhǎng)時(shí)間。為了使這成為可能,嵌入空間[340]的某些方面必須到位[119,116]: 1)基層材料,例如基質(zhì)的集中,2)體現(xiàn)/編碼信息的組織,以及3)持續(xù)再生和內(nèi)部生成的過程或動(dòng)態(tài)。這些標(biāo)準(zhǔn)對(duì)人類計(jì)算系統(tǒng)的結(jié)構(gòu)和行為細(xì)節(jié)有幾個(gè)含義。首先,這種系統(tǒng)必須能夠從環(huán)境中選擇正確的物質(zhì),例如分子,并使用體內(nèi)平衡/非體內(nèi)平衡調(diào)節(jié)將它們包含在正確的內(nèi)部濃度/平衡中。因此,任何這樣的系統(tǒng)都必須有一個(gè)邊界:例如,在一個(gè)細(xì)胞中,有一個(gè)滲透膜,里面嵌有材料過濾子系統(tǒng)。由于波動(dòng)-耗散定理導(dǎo)致的耗散,當(dāng)受到環(huán)境擾動(dòng)的沖擊時(shí),人類系統(tǒng)的保護(hù)體自身會(huì)崩潰[355],因此需要持續(xù)的修復(fù)。這種修復(fù)可以通過替換受損/腐爛的組件(例如分子結(jié)構(gòu))來實(shí)現(xiàn),并且這種組件可以使用通過合成過程從環(huán)境中獲取的原材料來生產(chǎn),該合成過程本身可以分解/腐爛.4

生物物理框架 。上述生理學(xué)考慮意味著生命具有新陳代謝的方面[58],因此人類計(jì)算系統(tǒng)的構(gòu)建應(yīng)該從構(gòu)成其內(nèi)部狀態(tài)的基礎(chǔ)級(jí)功能或變量開始,即基本變量或“原語”.5 由于人類的計(jì)算機(jī)是自動(dòng)制造的,這些由許多層次的調(diào)節(jié)所調(diào)節(jié)和協(xié)調(diào)的基本元件和它們的物理結(jié)構(gòu),應(yīng)該表現(xiàn)出持續(xù)的自我修復(fù)。本質(zhì)上,一個(gè)完整的人類計(jì)算實(shí)體的設(shè)計(jì)至少應(yīng)該包括:

1)圍繞系統(tǒng)內(nèi)部狀態(tài)的邊界(馬爾科夫毯 ;參見第4節(jié)),2)用于從內(nèi)部產(chǎn)生系統(tǒng)的合成引擎,以及3)一個(gè)或多個(gè)換能器-致動(dòng)器子系統(tǒng) transducer-actuator subsystems6 其能夠與環(huán)境進(jìn)行受控的相互作用,例如跨界泵和過濾器。

一個(gè)基本的人類計(jì)算單元包括一個(gè)由嵌入式傳感器和致動(dòng)器組成的物理邊界,允許它作為一個(gè)開放系統(tǒng)與其小生境進(jìn)行交互,在該開放系統(tǒng)中,材料/能量穿過

3本質(zhì)上,這是生物熱力學(xué)第一定律的一個(gè)應(yīng)用[35]。

4遞歸地,這意味著合成過程本身必須在運(yùn)行時(shí)以正確的排列制造和改造它們自己的組件,以便形成/保持它們自己的結(jié)構(gòu)。

5原則上,基本變量/原語的確切規(guī)格將取決于人類計(jì)算機(jī)系統(tǒng)的確切計(jì)算機(jī)實(shí)例。在設(shè)計(jì)仿生實(shí)體時(shí),將許多生物物理變量按照它們?cè)谀繕?biāo)硬件平臺(tái)上的類似物進(jìn)行聯(lián)系或比較可能會(huì)被證明是有用的。

6換能器將能量從一種形式轉(zhuǎn)換成另一種形式,例如,將機(jī)械能轉(zhuǎn)換成電信號(hào)。

打開網(wǎng)易新聞 查看精彩圖片

圖2:從生物物理學(xué)和控制論的角度看,人類計(jì)算是生物(類器官)和人工系統(tǒng)(神經(jīng)機(jī)器人)的基礎(chǔ)。綠色虛線文本框表示控制論原理。

這個(gè)界限。這種轉(zhuǎn)換后的流量受到由穩(wěn)態(tài)設(shè)定點(diǎn)施加的內(nèi)部控制:需要簡(jiǎn)單的機(jī)制來比較由傳感器產(chǎn)生的感測(cè)值和存儲(chǔ)的內(nèi)部建立的設(shè)定點(diǎn)。這種生產(chǎn)反應(yīng)規(guī)范為系統(tǒng)的行為提供了個(gè)人原因。任何比較器對(duì)轉(zhuǎn)換后的信號(hào)作出反應(yīng),發(fā)出控制信號(hào)來驅(qū)動(dòng)致動(dòng)器,例如用于清除廢物的分泌機(jī)構(gòu)。這些傳感器-比較器-致動(dòng)器子系統(tǒng)transducer-comparator-actuator subsystems促進(jìn)了人類計(jì)算機(jī)與其環(huán)境的選擇性交互;變異是信息,而系統(tǒng)的作用是物理力。

在圖2( 上圖)中,我們描述必要過程的操作性質(zhì)的概念層次來構(gòu)建人類計(jì)算?;咀兞?狀態(tài)位于人類計(jì)算機(jī)的基本功能級(jí)別,并與硬件形態(tài)的固有屬性(功率級(jí)別/存儲(chǔ)、溫度/熱量級(jí)別)相關(guān)。在此之上是調(diào)節(jié)體內(nèi)平衡控制的過程,即反應(yīng)調(diào)節(jié)水平,提供對(duì)抗某些系統(tǒng)基本要素中的偏差所需的措施,以確保這些變量保持在特征值附近.7例如,如果能量低于某個(gè)水平,穩(wěn)態(tài)功能將觸發(fā)內(nèi)部動(dòng)作,將能量從能量?jī)?chǔ)備發(fā)送到系統(tǒng)的主電池。在脈沖神經(jīng)元的神經(jīng)形態(tài)構(gòu)造中,一個(gè)具體的穩(wěn)態(tài)變量是細(xì)胞的放電率,其影響系統(tǒng)效率,因?yàn)橄∈杌顒?dòng)促進(jìn)減少全局計(jì)算和硬件資源使用。這可以以設(shè)定點(diǎn)的形式建模,設(shè)定點(diǎn)被實(shí)現(xiàn)為自適應(yīng)閾值/界限,其在每次單元觸發(fā)時(shí)增加;防止任何細(xì)胞太容易著火。在這種穩(wěn)態(tài)表征水平上,考慮將穩(wěn)態(tài)功能耦合在一起可能是有用的:圖3(左)顯示了一個(gè)以轉(zhuǎn)導(dǎo)信號(hào)為條件的穩(wěn)態(tài)調(diào)節(jié)器,它調(diào)節(jié)另一個(gè)穩(wěn)態(tài)過程的設(shè)定點(diǎn)。一個(gè)可能的設(shè)計(jì)選擇(見左圖3)可能包括遞歸操作的堆疊形式[54,118,115],產(chǎn)生一個(gè)動(dòng)作感知系統(tǒng)或“開放式新陳代謝”[116]:這里,一個(gè)基本傳感器-比較器-致動(dòng)器transducer-comparator-actuator 單元放置在另一個(gè)類似的基本單元內(nèi),但其設(shè)定點(diǎn)的控制信號(hào)輸出是有線的,以修改原始基本單元的設(shè)定點(diǎn)。受在生物實(shí)體中觀察到的分層、復(fù)雜的代謝調(diào)節(jié)模式的啟發(fā),其中體內(nèi)平衡是通過管理代謝途徑流量的酶活性來實(shí)現(xiàn)的[317],一臺(tái)凡人計(jì)算機(jī)將實(shí)現(xiàn)體內(nèi)平衡控制機(jī)制的多種變體。內(nèi)在控制機(jī)制可以基于更高水平的設(shè)定點(diǎn)值改變某些代謝功能的操作條件,而外在過程可以觸發(fā)復(fù)制/刪除特定可變結(jié)構(gòu)的例程,例如,基于來自系統(tǒng)邊界外的特定轉(zhuǎn)導(dǎo)值的類似于細(xì)胞分裂、特化或凋亡(程序性細(xì)胞死亡)的例程[89]。

隨后在穩(wěn)態(tài)-反應(yīng)水平是預(yù)測(cè)性調(diào)節(jié)水平,導(dǎo)致異穩(wěn)態(tài)過程Supervening on the homeostatic-reactive level is the predictive regulation level entailing allostatic processes。這種變構(gòu)功能可以被實(shí)現(xiàn)為神經(jīng)回路,例如神經(jīng)形態(tài)芯片內(nèi)的泄漏積分器,其觸發(fā)更高級(jí)別的運(yùn)動(dòng)指令動(dòng)作。這些類型的功能例如可以通過響應(yīng)于系統(tǒng)內(nèi)遠(yuǎn)端換能器/傳感器接收的信息修改它們的設(shè)定點(diǎn)來與穩(wěn)態(tài)功能相互作用;參見圖3(右)通過整合記憶結(jié)構(gòu),可以使非穩(wěn)態(tài)功能變得越來越復(fù)雜,這些記憶結(jié)構(gòu)反復(fù)捕捉感覺流中的長(zhǎng)期相關(guān)性,并促進(jìn)穩(wěn)態(tài)比較器設(shè)定點(diǎn)的時(shí)間順序設(shè)置。假設(shè)一臺(tái)人類計(jì)算機(jī)是一個(gè)在非平衡穩(wěn)態(tài)下運(yùn)行的開放系統(tǒng),其非穩(wěn)態(tài)過程建立在穩(wěn)態(tài)設(shè)定點(diǎn)因其環(huán)境而變化的前提下,并且必須確保在面對(duì)這種變化時(shí)的穩(wěn)定性[319,236],即實(shí)例化同態(tài)。這種高階過程將在面臨挑戰(zhàn)時(shí)啟動(dòng)復(fù)雜的適應(yīng)途徑,例如破壞人類計(jì)算機(jī)形態(tài)的外部威脅,并在“挑戰(zhàn)”過去后關(guān)閉,就像在生命系統(tǒng)中一樣[235]。人類計(jì)算機(jī)的頂層視圖,即自動(dòng)生成自主層,包括其形態(tài)發(fā)生和復(fù)制過程。正是這些使一臺(tái)凡人計(jì)算機(jī)具有了“自動(dòng)制造”能力。這一層包括對(duì)以下級(jí)別的再生和修復(fù)行為的描述,以及單獨(dú)的創(chuàng)建/破壞例程,即互補(bǔ)神經(jīng)回路制造、分配/特殊化/重新布線例程,這些例程基于過剩的組件觸發(fā),甚至是簡(jiǎn)單的變量克隆/刪除。生成/修復(fù)行為的規(guī)范可以與基本基元的分解代謝/合成代謝功能相關(guān),因?yàn)檫@種機(jī)制提供了產(chǎn)生人類計(jì)算系統(tǒng)的持續(xù)再造的基本產(chǎn)生和移除引擎。此外,高階復(fù)制形式的規(guī)范將進(jìn)入這一描述層次,注意,如果引入突變,系統(tǒng)級(jí)復(fù)制的機(jī)制是可能的。本質(zhì)上,通過復(fù)制和形態(tài)發(fā)生過程,該系統(tǒng)能夠自我維持其“身份”,不斷自我生產(chǎn),無需外部干預(yù)。

圖2(上圖)中人類計(jì)算機(jī)的另一個(gè)基本方面是它的感覺運(yùn)動(dòng)依賴性。這是由生物學(xué)中的代謝依賴性/基于代謝的處理和適應(yīng)性[110]所激發(fā)的:細(xì)胞運(yùn)動(dòng)性背后的中心推動(dòng)力,例如趨化性[350,111]或趨光性[186,31],其與其小生境的相互作用是其代謝驅(qū)動(dòng)[87,325,12]。傳感器/換能器和效應(yīng)器/致動(dòng)器在不同程度上表現(xiàn)出

7鑒于生物體內(nèi)的穩(wěn)態(tài)調(diào)節(jié)自然會(huì)有所不同,確定什么是需要調(diào)節(jié)的正確的穩(wěn)態(tài)變量很可能取決于執(zhí)行核心計(jì)算的硬件。

打開網(wǎng)易新聞 查看精彩圖片

圖3:(左)一臺(tái)簡(jiǎn)單的人類計(jì)算機(jī),內(nèi)置耦合穩(wěn)態(tài)設(shè)定點(diǎn)比較器——在這個(gè)系統(tǒng)中,一個(gè)設(shè)定點(diǎn)比較器設(shè)置另一個(gè)(低級(jí))設(shè)定點(diǎn)。(右圖)一個(gè)非穩(wěn)態(tài)機(jī)械系統(tǒng)——在這里,一個(gè)預(yù)測(cè)器(由記憶驅(qū)動(dòng))預(yù)測(cè)一個(gè)低級(jí)比較器的需求,偏置系統(tǒng)以采取行動(dòng),從而改善穩(wěn)態(tài)過程的可用資源。橙色模塊代表傳感器(換能器),粉紅色模塊代表致動(dòng)器(控制攝入和分泌,取決于流向箭頭的方向)。實(shí)線代表轉(zhuǎn)換的信息信號(hào),而虛線代表控制信號(hào)。

系統(tǒng)的設(shè)計(jì)及其提供的形態(tài)學(xué),對(duì)代謝功能和調(diào)節(jié)過程的依賴性。在圖2中,這些被標(biāo)記為“異穩(wěn)態(tài)影響”、“穩(wěn)態(tài)影響”和“代謝影響”。例如,運(yùn)動(dòng)子系統(tǒng)的運(yùn)行可能以基本變量的子集、幾個(gè)穩(wěn)態(tài)比較器的設(shè)定點(diǎn)和一個(gè)或多個(gè)非穩(wěn)態(tài)控制器發(fā)出的控制信號(hào)為條件。這種依賴性如何調(diào)節(jié)或改變特定感覺或致動(dòng)子系統(tǒng)的功能,將取決于系統(tǒng)的基底及其生態(tài)位。正是通過感覺運(yùn)動(dòng)路徑,當(dāng)人類計(jì)算機(jī)與它的生態(tài)位接觸時(shí),能量/物質(zhì)與它交換。

打開網(wǎng)易新聞 查看精彩圖片

最后,請(qǐng)注意圖2(頂部)中包圍人類計(jì)算機(jī)的功能級(jí)別和感覺運(yùn)動(dòng)路徑的虛線邊界框被標(biāo)記為“組織封閉的”——人類計(jì)算機(jī)應(yīng)該只根據(jù)其自身的自我復(fù)制結(jié)構(gòu)進(jìn)行操作,而不是根據(jù)其直接接收的輸入進(jìn)行操作。雖然對(duì)于一臺(tái)普通的計(jì)算機(jī)來說,組織上的封閉性是很重要的,但這并不意味著設(shè)計(jì)者要致力于特定的物理表現(xiàn)。簡(jiǎn)單地說,組織是指系統(tǒng)的過程和部分之間的關(guān)系。人類計(jì)算機(jī)的結(jié)構(gòu)是指組成組件及其關(guān)系的物理實(shí)例化。一個(gè)組織可以表現(xiàn)為多種結(jié)構(gòu)形式。這意味著,由于它是自動(dòng)生成的,一臺(tái)人類計(jì)算機(jī)的結(jié)構(gòu)可能會(huì)隨著時(shí)間的推移而改變,但它的組織會(huì)持續(xù)存在。一臺(tái)普通計(jì)算機(jī)的反應(yīng)依賴于它的結(jié)構(gòu)并由其決定,但也由環(huán)境事件觸發(fā)。這意味著一個(gè)mortal computer凡人計(jì)算機(jī),像一個(gè)生命系統(tǒng)一樣,不斷地與它的世界交互,從而耦合到它的世界,如圖2(頂部)中“傳感”、“驅(qū)動(dòng)”和“能量交換”的有向箭頭所示。簡(jiǎn)而言之,一臺(tái)mortal computer人類計(jì)算機(jī)的完整故事包括它的利基:人類計(jì)算機(jī)和它的環(huán)境相互干擾,并觸發(fā)彼此狀態(tài)的變化。

3.2人類計(jì)算機(jī)的控制論后端

支撐這種人類計(jì)算觀點(diǎn)的一些關(guān)鍵思想來自經(jīng)典控制論 cybernetics[352,24,365,38,104,166,271,168],該領(lǐng)域的核心思想是,任何系統(tǒng)實(shí)際上都是一個(gè)生成模型,充當(dāng)它所控制的環(huán)境的模型。有機(jī)體的結(jié)構(gòu),就其本身而言,被認(rèn)為是推理過程的一部分。一個(gè)與這種框架顯著相關(guān)的關(guān)鍵生物物理術(shù)語是穩(wěn)態(tài)homeostat,由阿什比著名的穩(wěn)態(tài)[23]證明。這些控制論的概念呼應(yīng)了生理學(xué)中的許多概念,加強(qiáng)了人類計(jì)算 mortal computation必須首先基于其結(jié)構(gòu)和隱含機(jī)制的觀點(diǎn)。控制論的核心是“反作用”的概念——一個(gè)系統(tǒng)的指令是,以某種康德式的方式[191],將其“目的”(即目標(biāo))納入“手段”(即機(jī)制),以確保其目標(biāo)的實(shí)現(xiàn)是(幾乎)不可避免的。逆向行動(dòng)提出的一個(gè)中心問題是:一個(gè)系統(tǒng)如何學(xué)習(xí)它需要知道的東西,以便有效地行動(dòng)?

這個(gè)問題激發(fā)了對(duì)人類計(jì)算的補(bǔ)充性描述,即如圖2(底部)所示的“控制論 cybernetics后端”,一個(gè)控制論原理或公理的特殊綜合。從根本上說, 控制論是關(guān)于系統(tǒng)的,它被視為由基本部分及其局部相互作用組成,其表現(xiàn)出集體動(dòng)力學(xué)[177,312],給定足夠的能量[27,100,190,21,192,167,93,353],從這些動(dòng)力學(xué)中可能自發(fā)產(chǎn)生整體有序。在這樣的系統(tǒng)中,部分產(chǎn)生“整體”(向上因果關(guān)系),并在一定程度上約束它,而整體約束組成部分,使它們的行為符合系統(tǒng)定義的更高層次的法則(向下因果關(guān)系) [69]。為了用控制論的術(shù)語完全理解一個(gè)系統(tǒng),特別是它與環(huán)境的關(guān)系,我們必須從控制論的基本原理開始;即多樣性。

打開網(wǎng)易新聞 查看精彩圖片

簡(jiǎn)而言之,多樣性是系統(tǒng)狀態(tài)空間[22]或log2(||中可區(qū)分狀態(tài)數(shù)量的度量,其中|S|表示狀態(tài)空間s的基數(shù).8 多樣性可以進(jìn)一步解釋為系統(tǒng)在選擇特定狀態(tài)時(shí)的自由度。多樣性的變化是系統(tǒng)進(jìn)化的特征,重要的是,多樣性可以通過選擇來減少[168],選擇是用來分類哪些狀態(tài)穩(wěn)定哪些不穩(wěn)定的標(biāo)準(zhǔn)。為了給人類計(jì)算提供一個(gè)視角,我們把控制論原理分成三個(gè)互補(bǔ)的組:1)穩(wěn)定性,2)增長(zhǎng),3)調(diào)節(jié)/控制。在圖2(底部)中,我們描繪了這些組之間的核心關(guān)系,以調(diào)節(jié)/控制為中心。

對(duì)穩(wěn)定的追求 。對(duì)于一個(gè)系統(tǒng),例如一臺(tái)人類計(jì)算機(jī)(見圖2底部最左邊的三分之一),最重要的是達(dá)到穩(wěn)定狀態(tài)(即一組吸引人的狀態(tài))。系統(tǒng)最終的理想狀態(tài)是一種超穩(wěn)定狀態(tài),在這種狀態(tài)下,系統(tǒng)達(dá)到了一種自組織形式,允許它收斂到一種吸引狀態(tài),而不改變它的部分到部分的關(guān)系,即,它已經(jīng)發(fā)展了反饋驅(qū)動(dòng)的步進(jìn)機(jī)制,改變內(nèi)部變量以響應(yīng)環(huán)境擾動(dòng)[365,20]。不對(duì)稱躍遷的原理就適用于此:處于不穩(wěn)定(高能)組態(tài)的系統(tǒng)有可能躍遷到穩(wěn)定(低能)組態(tài),但反之則不然。這意味著系統(tǒng)隱含地執(zhí)行選擇,將狀態(tài)空間中具有高變化的區(qū)域留給具有較低能量的區(qū)域。當(dāng)系統(tǒng)達(dá)到更穩(wěn)定的狀態(tài)時(shí),系統(tǒng)拒絕更少的狀態(tài),多樣性隨著系統(tǒng)變得更有組織而減少,如果人們將多樣性等同于(熱力學(xué)自由能),系統(tǒng)必須做功,從而產(chǎn)生變化。因此,如果一個(gè)系統(tǒng)是穩(wěn)定的,它不經(jīng)歷變化,可以被視為處于最小能量的狀態(tài);因此,系統(tǒng)不太可能消耗離開其當(dāng)前穩(wěn)定狀態(tài)所需的能量。

在達(dá)到穩(wěn)定狀態(tài)的努力中,應(yīng)用了選擇性變化和從噪聲中有序的原則:系統(tǒng)經(jīng)歷的配置/狀態(tài)的變化越大,它就越有可能保留這些狀態(tài)中的至少一個(gè)(第一原則),而沖擊系統(tǒng)的隨機(jī)擾動(dòng)將幫助它找到更穩(wěn)定的狀態(tài)(第二原則)。換句話說,噪音會(huì)增加系統(tǒng)找到更穩(wěn)定狀態(tài)的機(jī)會(huì),從長(zhǎng)遠(yuǎn)來看,會(huì)增加系統(tǒng)的適應(yīng)性。作為補(bǔ)充,盲變和選擇性保持(BVSR blind-variation and selective retention)原理(67,68,313)認(rèn)為,通過“盲變”產(chǎn)生的配置,即系統(tǒng)無法先驗(yàn)地知道哪些狀態(tài)將被其動(dòng)作選擇,將可能導(dǎo)致其過渡到穩(wěn)定狀態(tài),與不太穩(wěn)定的狀態(tài)相比,不太可能被消除。因此,一個(gè)系統(tǒng)的進(jìn)化是保守的,即穩(wěn)定的配置被保留,從而被利用,而不穩(wěn)定的配置消失[68]。

系統(tǒng)增長(zhǎng) 。控制論系統(tǒng)的第二個(gè)關(guān)鍵特性是它是形態(tài)學(xué)的和形態(tài)發(fā)生學(xué)的,因此能夠生長(zhǎng)和復(fù)制(見圖2底部最右邊的三分之一)。這又回到了人類計(jì)算機(jī)作為自動(dòng)生成的框架,這要求它具有再生和自我修復(fù)的能力,同時(shí)保持其協(xié)調(diào)的整體。從控制論的觀點(diǎn)來看,一個(gè)系統(tǒng)是形態(tài)的,如果它能夠加載或執(zhí)行一些計(jì)算——導(dǎo)航一個(gè)環(huán)境所必需的——到它的身體結(jié)構(gòu),即它的形態(tài)形式.9 形態(tài)發(fā)生指的是塑造系統(tǒng)特定形態(tài)的系統(tǒng)-環(huán)境交換[333,361,335,156]。從控制論的觀點(diǎn)來看,形態(tài)發(fā)生系統(tǒng)是一個(gè)通過改變其組織和/或結(jié)構(gòu)的基本方面來保持其連續(xù)性和完整性的系統(tǒng)[48]。請(qǐng)注意,形態(tài)發(fā)生過程可能是由變化的環(huán)境條件觸發(fā)的。在生物學(xué)中,這可能是多細(xì)胞結(jié)構(gòu)對(duì)外部損傷的再生反應(yīng),并可以解釋人工和生命系統(tǒng)中模式的出現(xiàn),例如,眾所周知的例子包括細(xì)胞類型協(xié)調(diào)/生成的“圖靈模式”[335]和“形態(tài)原”[361]。我們認(rèn)為建立在形態(tài)發(fā)生基礎(chǔ)上的自我復(fù)制是一種系統(tǒng)行為,它導(dǎo)致自身或自身部分的相同/相似的副本。生物學(xué)中一個(gè)眾所周知的例子是細(xì)胞有絲分裂,即分裂。在控制論中,復(fù)制原理的某些方面來自于對(duì)細(xì)胞的研究

8如果一個(gè)系統(tǒng)有兩個(gè)狀態(tài),那么只有一個(gè)可能的差異/區(qū)別;變化等于一。 9這在機(jī)器人學(xué)領(lǐng)域變得越來越重要,產(chǎn)生了所謂的 形態(tài)機(jī)器人學(xué)[223, 277, 163, 210, 211].例如,就像動(dòng)物利用其腿部彈性肌肉-肌腱系統(tǒng)的材料屬性來減少其大腦執(zhí)行的計(jì)算一樣,具有腿部執(zhí)行器的機(jī)器人致力于利用這些腿部的生物機(jī)械屬性來進(jìn)行運(yùn)動(dòng),從而減少所需的內(nèi)部基于物理的計(jì) 算[277]。

自動(dòng)機(jī)[209],起源早于馮·諾依曼的萬能構(gòu)造器[346]和“生命的游戲”[147,47]。從本質(zhì)上說,一個(gè)能自我復(fù)制的系統(tǒng)的控制論基本條件是,它通常必須具備:1)復(fù)制因子的“代碼”表示,2)復(fù)制代碼表示的機(jī)制,以及

3)用于在復(fù)制者的環(huán)境中執(zhí)行構(gòu)建的機(jī)制 [346]。產(chǎn)生其來源的不完美拷貝的復(fù)制過程(例如,應(yīng)用了突變)變得受制于自然選擇,并如上所述追求自身的穩(wěn)定性;這個(gè)“后代”是另一個(gè)基礎(chǔ),一個(gè)系統(tǒng)的組織——它的身份——隨著時(shí)間的推移而傳播。

如果一個(gè)系統(tǒng)達(dá)到了非平衡穩(wěn)態(tài),并且是自我復(fù)制和形態(tài)發(fā)生的,那么自動(dòng)催化增長(zhǎng)的原理 [193]開始發(fā)揮作用——一個(gè)正反饋循環(huán)被創(chuàng)建,這樣爆炸式增長(zhǎng)是可能的,系統(tǒng)將復(fù)制,并且給定有限的資源,不太適合的系統(tǒng)將由于競(jìng)爭(zhēng)而死亡。自動(dòng)催化生長(zhǎng)與BVSR原理相結(jié)合,驅(qū)動(dòng)系統(tǒng)的自組裝,由于其形態(tài)邊界,該系統(tǒng)可與其環(huán)境相區(qū)別;這是自動(dòng)生成的控制論形式。這也產(chǎn)生了遞歸系統(tǒng)增長(zhǎng)的原理,其中相互作用的自穩(wěn)定系統(tǒng),每個(gè)都有自己的邊界,充當(dāng)一組相關(guān)的積木,它們將經(jīng)歷變化,從而重組以產(chǎn)生更高階的配置;其中一些會(huì)比其他的更穩(wěn)定。就像基礎(chǔ)系統(tǒng)經(jīng)歷選擇以達(dá)到穩(wěn)定一樣,更高階的集合也是如此,因此,等級(jí)和異質(zhì)(“幾乎可分解”)系統(tǒng)[311,188]將會(huì)出現(xiàn)。10 考慮到自催化生長(zhǎng)是遞歸生長(zhǎng)原理的基礎(chǔ),當(dāng)一個(gè)穩(wěn)定的狀態(tài)集合使其他構(gòu)建模塊系統(tǒng)更容易加入時(shí),其組成構(gòu)建模塊的數(shù)量將會(huì)增加[177,291]。

調(diào)控。人類計(jì)算的第三個(gè)也是最后一個(gè)方面——我們?cè)噲D通過控制論的視角來闡明——是它通過調(diào)節(jié)和控制與環(huán)境的關(guān)系 。這里,三個(gè)基本概念開始發(fā)揮作用:必要多樣性定律、良好調(diào)節(jié)器定理和內(nèi)??刂圃韙hree foundational notions come into play: the law of requisite variety, the good regulator theorem, and the principle of internal model control。必要變化定律[199,26]指出,一個(gè)控制器只能控制一個(gè)目標(biāo)系統(tǒng),例如,一個(gè)環(huán)境,如果它表現(xiàn)出足夠的內(nèi)部變化來代表它;系統(tǒng)應(yīng)包含獲得超穩(wěn)定性所需的最少狀態(tài)數(shù)[20]。在積極監(jiān)管的背景下,人類計(jì)算機(jī)必須有足夠多的行動(dòng)可供其支配,以確保其基本變量的結(jié)果幾乎沒有變化;它必須能夠處理其環(huán)境固有的可變性。實(shí)際上,這與人類計(jì)算機(jī)維持其內(nèi)部狀態(tài)的能力有關(guān),即,它的穩(wěn)態(tài),以響應(yīng)外部狀態(tài)。如果它被當(dāng)作一種“阻斷劑”,防止環(huán)境對(duì)(代謝)變量的干擾,為了使它有用,這種阻斷劑應(yīng)該具有和它所阻斷的一樣多的靈活性;否則,它將無法防止它所阻止的變量的擾動(dòng)[281]。必要多樣性的一個(gè)結(jié)果是,一個(gè)系統(tǒng)要對(duì)它的環(huán)境施加足夠的控制,它應(yīng)該努力使它的內(nèi)部多樣性最大化,以便為它可能遇到的擾動(dòng)做好最佳準(zhǔn)備;最大化內(nèi)部熵增加了其控制自由或行動(dòng)選擇[118,117]。

在這種平衡的背景下——在內(nèi)部和外部多樣性之間——出現(xiàn)了好的調(diào)節(jié)者定理[90],也被稱為必要知識(shí)法則[166]。良好調(diào)節(jié)器定理指出,環(huán)境的每個(gè)自調(diào)節(jié)控制器本身必須包含該環(huán)境的模型。這個(gè)定理意味著,調(diào)節(jié)者,例如一臺(tái)人類計(jì)算機(jī),成為它試圖控制的niche的模型,更一般地說,系統(tǒng)的生存需要形成、學(xué)習(xí)和維護(hù)其環(huán)境的模型。這對(duì)于達(dá)到超穩(wěn)定性至關(guān)重要。內(nèi)部模型控制(IMC internal model control) [130]是對(duì)良好調(diào)節(jié)器定理的有益補(bǔ)充,它規(guī)定管理環(huán)境的控制器的目的首先是提供閉環(huán)穩(wěn)定性,其次是調(diào)節(jié)作為目標(biāo)輸出和參考信號(hào)的函數(shù)的變量。IMC斷言,如果一個(gè)系統(tǒng)在某些系統(tǒng)參數(shù)被擾動(dòng)時(shí)保持了這兩個(gè)特性,那么“綜合”或聯(lián)合控制器-環(huán)境系統(tǒng)被認(rèn)為是結(jié)構(gòu)穩(wěn)定的。IMC原理有助于將人類計(jì)算機(jī)對(duì)其環(huán)境的適應(yīng)連接回其中心方向之一;達(dá)到遠(yuǎn)離平衡的穩(wěn)定。

打開網(wǎng)易新聞 查看精彩圖片

控制論框架。如圖2(底部)所示,一臺(tái)人類計(jì)算機(jī)的控制論后端根據(jù)上述原則描述了它的集體動(dòng)力、突現(xiàn)行為以及與環(huán)境的關(guān)系。人類計(jì)算機(jī)或“再生控制器”(為簡(jiǎn)單起見,描述為兩級(jí)系統(tǒng)),包括低級(jí)部件,這些部件可以是第3.1節(jié)中的基本變量,它們彼此之間具有關(guān)系(可能是雙向的),如黑色箭頭所示。這些低級(jí)單元的集群產(chǎn)生了更高級(jí)別的單元(顯示為略帶紫色的正方形),這些單元彼此之間也有關(guān)系;低級(jí)單元向上引起高級(jí)單元,高級(jí)單元向下調(diào)制低級(jí)單元。

10請(qǐng)注意,規(guī)模較大的組件,由較少的構(gòu)件組成,通過盲目變異產(chǎn)生的概率較低。

人類計(jì)算機(jī)的當(dāng)務(wù)之急是達(dá)到低能量的穩(wěn)定配置。一旦達(dá)到更穩(wěn)定的構(gòu)型,就不太可能回到先前穩(wěn)定的更高變化的構(gòu)型(不對(duì)稱轉(zhuǎn)變的原理)。此外,由于噪音有序和選擇性多樣性的原則,環(huán)境中的隨機(jī)波動(dòng)使它能夠不斷找到更穩(wěn)定的配置。人類計(jì)算機(jī)的當(dāng)務(wù)之急是達(dá)到超穩(wěn)定性,也被視為成功的體內(nèi)平衡。環(huán)境是人類計(jì)算機(jī)向穩(wěn)定發(fā)展的關(guān)鍵因素;它擁有系統(tǒng)驅(qū)動(dòng)自我生成過程和自我組裝所需的資源。由于BVSR原理與自動(dòng)催化生長(zhǎng)的協(xié)同作用,人類計(jì)算機(jī)具有自我生成和自我復(fù)制的能力,因此它能夠在適應(yīng)其生態(tài)位時(shí)遞歸地自我生長(zhǎng)。最后,鑒于一臺(tái)人類計(jì)算機(jī)是可再生的,因?yàn)樗ㄟ^行動(dòng)創(chuàng)造環(huán)境——并通過傳感器學(xué)習(xí)其屬性(將這些知識(shí)編碼到內(nèi)存中)——它作為一個(gè)良好的調(diào)節(jié)器運(yùn)行,努力成為內(nèi)部控制的模型。關(guān)鍵是,作為促進(jìn)其形態(tài)發(fā)生的自我組裝的結(jié)果,與環(huán)境的多樣性相比,人類計(jì)算機(jī)表現(xiàn)出足夠的內(nèi)部多樣性,以確保其持續(xù)存在。

就控制論的多樣性而言,我們可以通過一臺(tái)人類計(jì)算機(jī)與物理世界的聯(lián)系來理解它隨時(shí)間的演變。物理世界本身由粒子(在時(shí)空中)和能量流(由跨越這些粒子的力引起)組成,導(dǎo)致粒子的構(gòu)型/狀態(tài)不斷變化。這意味著,在任何一個(gè)時(shí)間點(diǎn),環(huán)境都處于不同于任何其他配置的特定配置中。因此,宇宙配置之間的差異是一個(gè)系統(tǒng)所關(guān)心的,其中信息屬于這些差異[34].11人類計(jì)算機(jī)在與世界的互動(dòng)中感知到這些差異,并通過調(diào)整其內(nèi)部狀態(tài)做出反應(yīng),從而保持組織的封閉性。因此,人類計(jì)算機(jī)的配置或結(jié)構(gòu)中包含的信息會(huì)自我組織,以與它感知和響應(yīng)周圍環(huán)境的模式相關(guān)聯(lián)。值得注意的是,細(xì)胞自動(dòng)機(jī)(或人工生命[209])體現(xiàn)了許多上述原則,已被證明表現(xiàn)出非平衡動(dòng)力學(xué)[359],并根據(jù)我們的控制論后端,作為一個(gè)可能的基于簡(jiǎn)單轉(zhuǎn)換規(guī)則的人類計(jì)算機(jī)的最小模型。

3.3人類計(jì)算的認(rèn)知哲學(xué)基礎(chǔ):5E理論

到目前為止,我們已經(jīng)通過生物物理學(xué)建立了人類計(jì)算的實(shí)施觀點(diǎn),并通過控制論建立了人類計(jì)算的分析觀點(diǎn)。基于這些結(jié)果,我們現(xiàn)在考慮它的認(rèn)知哲學(xué)基礎(chǔ)。具體地說,我們將一臺(tái)人類計(jì)算機(jī)分解成它的“認(rèn)知切片”,以展示我們稱之為認(rèn)知的5E理論。在認(rèn)知科學(xué)中,4E認(rèn)知理論[145,338,249]將認(rèn)知過程分為四類:體驗(yàn)認(rèn)知、生成認(rèn)知、嵌入認(rèn)知和擴(kuò)展認(rèn)知。在這項(xiàng)工作中,人類計(jì)算是根據(jù)4E理論的一種形式進(jìn)行的,我們將其擴(kuò)展到包括“基本認(rèn)知”,或生物學(xué)中的“基礎(chǔ)認(rèn)知”,它基于神經(jīng)系統(tǒng)之前存在的功能來表征所有生物實(shí)體固有的行為[219,224,122,123]。這就產(chǎn)生了認(rèn)知的5E理論,如圖4所示,描述如下:

1.基本的:認(rèn)知建立在基本的功能和結(jié)構(gòu)上,這些功能和結(jié)構(gòu)使得能夠采取行動(dòng)和跟蹤生態(tài)位的各個(gè)方面以確保生存,即尋找食物、避免危險(xiǎn)和繁殖[229,276]——這是基本的認(rèn)知[219,224],它通過系統(tǒng)的自我生成來體現(xiàn);

2.具身化:認(rèn)知不能僅用抽象的心理過程和表征來描述,即它必須涉及整個(gè)身體/生命系統(tǒng)的形態(tài)(身體充當(dāng)大腦的約束和/或認(rèn)知的分配器/實(shí)現(xiàn)者)[18,127]——這是具身化論題[18,9,127,343,309];

3.能動(dòng)的:認(rèn)知是一組有意義的關(guān)系,這些關(guān)系是由生物的生物學(xué)和現(xiàn)象學(xué)復(fù)雜性與它們居住和積極塑造的環(huán)境之間的適應(yīng)性雙向交換決定的[292,332,146]——這就是能動(dòng)主義;

4.嵌入式:認(rèn)知不是一個(gè)孤立的事件,與生物實(shí)體的生態(tài)環(huán)境相分離,也就是說,一個(gè)實(shí)體表現(xiàn)出與世界的物理、社會(huì)和文化層面的共同決定[330,81,62,279,37]——這是情境認(rèn)知或情境[294];和

5.擴(kuò)展的:認(rèn)知經(jīng)常被加載到生物和非生物裝置中,以充當(dāng)僅依靠代理人自己的心理過程不可能/太難實(shí)現(xiàn)的功能——這是擴(kuò)展心智理論[85,357,83,184](心智擴(kuò)展到個(gè)體的邊界之外)。

請(qǐng)注意,當(dāng)解釋其所有五個(gè)原則時(shí),上述5E理論不僅將實(shí)體的心理過程與其生命維持過程[340,234]、其身體或形態(tài)結(jié)構(gòu)及其生物生態(tài)位聯(lián)系起來,而且還與個(gè)體系統(tǒng)之外的集體動(dòng)態(tài)/過程聯(lián)系起來,例如,多主體團(tuán)體、抽象組織結(jié)構(gòu)。這可以包括非物理表現(xiàn)的元素,例如,社會(huì)結(jié)構(gòu)

打開網(wǎng)易新聞 查看精彩圖片

圖4:由相互關(guān)聯(lián)的認(rèn)知切片顯示的人類計(jì)算:基礎(chǔ)認(rèn)知功能(自我生成驅(qū)動(dòng))、形態(tài)/身體功能、生成小生境影響功能和外部驅(qū)動(dòng)功能。越來越復(fù)雜的人類計(jì)算機(jī)將是生命-思維連續(xù)性論題的體現(xiàn)。

定位認(rèn)知功能的文化期望[294],以及非生物對(duì)象,例如筆/紙或智能手機(jī)等技術(shù)人工制品。

這與孤立的認(rèn)知理論形成對(duì)比 ,在孤立的認(rèn)知理論中,神經(jīng)/心理過程是認(rèn)知行為的唯一驅(qū)動(dòng)力[126,159,175,176]。通過5E理論的前三個(gè)E的鏡頭,一臺(tái)凡人計(jì)算機(jī)可以被解釋為選擇性地對(duì)其生態(tài)位做出反應(yīng),始終如一地調(diào)節(jié)其邊界,即參與自動(dòng)生成的實(shí)存主義[96],以確保它不會(huì)消散或溶解到其環(huán)境中。它維持低水平基本/狀態(tài)的反應(yīng)的成功/失敗——與它的生物物理穩(wěn)態(tài)或控制論超穩(wěn)定性相關(guān)——本質(zhì)上由其身體/形態(tài)決定[348,15],受制于選擇歷史。然而,雖然我們的焦點(diǎn)已經(jīng)集中在人類計(jì)算如何圍繞自我調(diào)節(jié)、身體結(jié)構(gòu)和小生境niche形狀計(jì)算,但是實(shí)體的生存和繼續(xù)存在肯定會(huì)受到其與世界中的其他參與者(例如,其他人類計(jì)算機(jī))的交互以及其對(duì)可用的非生物對(duì)象/工具的使用的影響。在這一概念下,擴(kuò)展的認(rèn)知系統(tǒng)可以被理解為包括生物體環(huán)境的神經(jīng)、非神經(jīng)和體外方面[85](例如蜘蛛編織的網(wǎng)[184])。有可能進(jìn)一步推動(dòng)身體在認(rèn)知功能中的作用的觀點(diǎn):不是將非神經(jīng)結(jié)構(gòu)視為服務(wù)于無實(shí)體認(rèn)知過程的(輔助)資源,而是將其視為需要復(fù)雜內(nèi)部心理表征的替代物[309],即替代假說。

在圖4(右圖)中,我們描繪了5E認(rèn)知理論的分組,按照從下到上遞增的認(rèn)知復(fù)雜性和效果進(jìn)行排列?;A(chǔ)認(rèn)知功能位于具身認(rèn)知之下,它包括管理基本原語的調(diào)節(jié)過程以及通過自然選擇在有機(jī)體中出現(xiàn)的選擇和導(dǎo)航的基本形式;即使它通過一個(gè)生命系統(tǒng)的形態(tài)/組織來表現(xiàn)自己。在圖的左半部分,我們描繪了人類計(jì)算機(jī)的認(rèn)知切片(范圍):1)基本認(rèn)知(通過自動(dòng)生成的功能),

2)形態(tài)認(rèn)知(通過身體結(jié)構(gòu)/形式的功能性),3)發(fā)生認(rèn)知(通過身體和其小生境之間的相互作用的功能性,反之亦然),以及4)外化認(rèn)知(通過系統(tǒng)外實(shí)體包括其他人類計(jì)算機(jī)和非人類物體的功能性)。如紫色箭頭所示,認(rèn)知范圍相互依賴并相互調(diào)節(jié)。形態(tài)學(xué)認(rèn)知是由基礎(chǔ)認(rèn)知固有的同形/異態(tài)機(jī)制密切驅(qū)動(dòng)的。生成認(rèn)知依賴于產(chǎn)生動(dòng)作的形態(tài)學(xué),以便操縱/響應(yīng)環(huán)境,從而觸發(fā)作為其因果動(dòng)作的結(jié)果的結(jié)果。外部認(rèn)知需要人類計(jì)算機(jī)參與其他人的集體,包括相關(guān)的抽象規(guī)范和標(biāo)準(zhǔn),這種外部化的認(rèn)知處理的結(jié)果將對(duì)人類計(jì)算機(jī)的基礎(chǔ)水平產(chǎn)生自上而下的調(diào)節(jié)效應(yīng)。

通過5E理論的鏡頭來檢查人類的計(jì)算,可以根據(jù)認(rèn)知功能性的復(fù)雜性增加來進(jìn)行表征。如圖4所示,對(duì)其行為的研究可以通過一個(gè)認(rèn)知切片進(jìn)行,例如,一個(gè)人可能想要關(guān)注其具體化的功能(什么啟示[154]

打開網(wǎng)易新聞 查看精彩圖片

圖5:一個(gè)細(xì)胞的內(nèi)部狀態(tài),環(huán)境狀態(tài)o,以及它的馬爾可夫鏈:感覺和行動(dòng) ?;【€是節(jié)點(diǎn)之間的條件概率關(guān)系。

系統(tǒng)的主體提供),而不是它的擴(kuò)展功能(系統(tǒng)如何使用工具)。這也需要考慮認(rèn)知范圍之間的關(guān)系,例如,在基礎(chǔ)認(rèn)知基礎(chǔ)上提供的功能決定了可能影響系統(tǒng)生成功能的形態(tài)認(rèn)知功能。請(qǐng)注意,5E理論的認(rèn)知范圍從簡(jiǎn)單和復(fù)雜系統(tǒng)的角度對(duì)人類計(jì)算進(jìn)行了界定,這與生命-思維連續(xù)性理論非常相似12 對(duì)大腦/思想的影響。

4人類計(jì)算的自由能框架

在前述生物物理學(xué)、控制論和哲學(xué)認(rèn)知觀點(diǎn)的推動(dòng)下,我們轉(zhuǎn)向人類計(jì)算的理論支柱,我們稱之為人類推理——學(xué)習(xí)和選擇(MILS) mortal inference-learning and selection (MILS).MILS根據(jù)所有生物都參與的三個(gè)過程,即推理、學(xué)習(xí)和適應(yīng)性結(jié)構(gòu)的選擇,突出了表征系統(tǒng)及其最佳行為的時(shí)間尺度的分離。為了描述這三個(gè)過程的特征,我們從回顧馬爾可夫鏈構(gòu)造和自由能原理開始。此外,我們突出了有形態(tài)和無形態(tài)之間的區(qū)別,因?yàn)檫@將區(qū)分計(jì)算系統(tǒng)固有的mortal和非mortal。

4.1一個(gè)理論起點(diǎn):自由能

自由能原理斷言,實(shí)體要保持其結(jié)構(gòu)和功能的完整性,就必須通過行動(dòng)改變它們與其econiche實(shí)體的關(guān)系。從生物物理學(xué)的角度來看,自由能原理(FEP)描述了開放隨機(jī)動(dòng)力系統(tǒng)的自組織特征,這些系統(tǒng)積極抵制無序的自然趨勢(shì),或者換句話說,在一些宏觀時(shí)間尺度上保持可測(cè)量/可識(shí)別的獨(dú)特、持久的實(shí)體[136]。根據(jù)FEP,任何具有非平衡穩(wěn)態(tài)解的實(shí)體(NESS)13 non-equilibrium steady-state solution具有以下性質(zhì):1)它的內(nèi)部密度動(dòng)力學(xué)有條件地獨(dú)立于系統(tǒng)的環(huán)境;即,環(huán)境和系統(tǒng)是弱耦合的,并且實(shí)體具有不同于其外部或環(huán)境狀態(tài)的狀態(tài),以及2)它將通過返回到或接近其NESS來持續(xù)“自證”[176];即,實(shí)體表現(xiàn)為保持其功能完整性.

12生命-心智連續(xù)性理論指出,心智的起源與主動(dòng)持續(xù)存在的系統(tǒng)(生命系統(tǒng))的起源有關(guān),而不是那些被動(dòng)持續(xù)存在的系統(tǒng),如恒溫器或耦合鐘擺系統(tǒng)[197]。

13一個(gè)生命系統(tǒng)必須處于非平衡狀態(tài),因?yàn)檫@種狀態(tài)意味著有能量/動(dòng)力和/或物質(zhì)的凈流動(dòng)通過它——這種狀態(tài)不能自我維持,因此需要隱性或顯性的能量。這是生命的一個(gè)關(guān)鍵條件,因?yàn)槟芰繉⒈挥脕眚?qū)動(dòng)從系統(tǒng)中攝取/清除物質(zhì)的過程。因此,如果沒有能量/物質(zhì)輸入到系統(tǒng)中,系統(tǒng)將松弛到平衡狀態(tài),從而“死亡”。

請(qǐng)注意,這兩個(gè)特性與我們的概念是一致的,即人類計(jì)算機(jī)是自動(dòng)生成的,并朝著超穩(wěn)定性的方向努力。

Characterizing a Mortal Computer with Markov Blankets

打開網(wǎng)易新聞 查看精彩圖片
打開網(wǎng)易新聞 查看精彩圖片

用馬爾可夫毯描述一臺(tái)凡人計(jì)算機(jī)的特征。作為上述弱耦合和局域相互作用的結(jié)果——如FEP的兩個(gè)核心性質(zhì)所規(guī)定的——系統(tǒng)的全(聯(lián)合)狀態(tài)空間,例如一個(gè)凡人 計(jì)算機(jī)和環(huán)境,可以劃分為外部/環(huán)境狀態(tài) = { ()}||,內(nèi)部/系統(tǒng) = { ()}||),中間? = { ()}|?|),也稱為(馬爾科夫毯)州 .14

Markov blanket構(gòu)造[274]充當(dāng)實(shí)體內(nèi)部的內(nèi)容和實(shí)體外部的內(nèi)容之間的接口[173],并且在3.1節(jié)和3.2節(jié)的形態(tài)學(xué)邊界內(nèi)表現(xiàn)出來。它也可以被描述為一個(gè)統(tǒng)計(jì)鄰域,由{z(t)}中的所有狀態(tài)的父狀態(tài)、{z(t)}中的所有狀態(tài)的子狀態(tài)或{z(t)} [84]的所有子狀態(tài)的父狀態(tài)組成。至關(guān)重要的是,Markov blanket對(duì)象提供了FEP核心屬性所要求的必要的狀態(tài)劃分:不包括在所描述的關(guān)系中的狀態(tài)

( z(t)的父母、子女和子女的父母)不提供關(guān)于內(nèi)部狀態(tài)z(t)的進(jìn)一步信息,這意味著給定m(t)的存在,z(t)有條件地獨(dú)立于環(huán)境狀態(tài)o(t)。假設(shè)它們描述了一個(gè)實(shí)體如何感知和作用于它的小生境,馬爾可夫毯狀態(tài)可以被進(jìn)一步分解

分成兩組狀態(tài):感覺狀態(tài) = { ()}||調(diào)節(jié)外部狀態(tài)對(duì)內(nèi)部狀態(tài)的影響,

動(dòng)作狀態(tài) = { ()}||,調(diào)解內(nèi)部狀態(tài)對(duì)外部狀態(tài)的影響。

為了將馬爾可夫毯的概念建立在人類mortal實(shí)體的背景下,考慮一個(gè)神經(jīng)元細(xì)胞。在這種情況下,馬爾科夫毯將采取細(xì)胞表面的形式,將細(xì)胞內(nèi)和細(xì)胞外成分分開。神經(jīng)元的感知環(huán)境由其部署的感覺結(jié)構(gòu)決定,包括突觸后受體和通道,以及分布式生化和生物電傳感器和用于物質(zhì)泵送/分泌的子系統(tǒng)。形式上,神經(jīng)元感知的環(huán)境是{s(t)},它的突觸后特化產(chǎn)生的一組活動(dòng),它對(duì)環(huán)境的作用由{a(t)}介導(dǎo),它的突觸前特化產(chǎn)生的一組活動(dòng)。同樣,集合{s(t)}和{a(t)}包括神經(jīng)元的馬爾可夫毯,并且其感知和動(dòng)作通過其內(nèi)部狀態(tài)的動(dòng)力學(xué)關(guān)鍵地聯(lián)系在一起,其內(nèi)部狀態(tài)受到細(xì)胞內(nèi)部結(jié)構(gòu)的約束,例如,其基因組、線粒體、其他細(xì)胞器、細(xì)胞骨架網(wǎng)絡(luò)等,或者——我們將在下面看到——它的生成(即世界)模型。

該cell用于調(diào)節(jié)生物電化學(xué)梯度,其檢測(cè)為{s(t)}的狀態(tài)變化。細(xì)胞的輸入和輸出通過其形態(tài)進(jìn)行空間組織,并且細(xì)胞能夠檢測(cè)其形態(tài)的局部變化,例如其細(xì)胞骨架上的應(yīng)變。細(xì)胞的功能及其輸出/動(dòng)作取決于其動(dòng)力學(xué),即內(nèi)部計(jì)算信息傳遞架構(gòu),因此也取決于其形態(tài)學(xué)。本質(zhì)上,細(xì)胞的形態(tài)決定了它的功能,而功能決定了它在其環(huán)境中采取的行動(dòng)(這里是它所嵌入的神經(jīng)元網(wǎng)絡(luò))。

打開網(wǎng)易新聞 查看精彩圖片
在圖5中,我們描繪了我們神經(jīng)元細(xì)胞的馬爾可夫毯特征。請(qǐng)注意,根據(jù)馬爾科夫毯形式,我們可以說細(xì)胞通過維持其馬爾科夫毯邊界(即細(xì)胞膜)來參與其自我生成,而表現(xiàn)出持續(xù)局部動(dòng)力學(xué)的非生命系統(tǒng)則不會(huì),即營(yíng)火在宇宙的流動(dòng)中迅速消散,因?yàn)樗粌A盆大雨撲滅。

變分自由能 。形式上,F(xiàn)EP聲稱,一個(gè)實(shí)體的內(nèi)部和活躍(即自治)狀態(tài)的演變,以盡量減少其變化的自由能(VFE),這是一個(gè)上限的自我信息或驚喜15.實(shí)際上,VFE量化了由內(nèi)部態(tài)參數(shù)化的變分密度和以包層態(tài)為條件的外部態(tài)的概率密度之間的差異。這種對(duì)自主(內(nèi)部的和主動(dòng)的)動(dòng)態(tài)的解釋以一種直接的方式遵循馬爾可夫毯劃分所隱含的條件依賴性,其中實(shí)體被定義為擁有馬爾可夫毯。

VFE的函數(shù)形式可以用下面的方式書寫(詳見[84,136]):

打開網(wǎng)易新聞 查看精彩圖片

14這里,t表示時(shí)間,||表示集合.的基數(shù)注意,I索引狀態(tài)的特定值;省略該索引是指任意/通用狀態(tài)。

15當(dāng)與系統(tǒng)感覺狀態(tài)相關(guān)聯(lián)時(shí),事件發(fā)生的可能性或觀察結(jié)果發(fā)生的可能性。

其中,KL(°||°表示Kullback-Leibler (KL)散度,這是一個(gè)非負(fù)量,用于計(jì)算兩個(gè)概率分布之間的差異。我們進(jìn)一步指出,實(shí)體具有構(gòu)造內(nèi)部狀態(tài)的形態(tài)。在這里,內(nèi)部狀態(tài)可以對(duì)應(yīng)于在神經(jīng)回路中快速變化的突觸活動(dòng)和緩慢變化的突觸功效。第二個(gè)等式表明VFE是包層態(tài)負(fù)對(duì)數(shù)概率的一個(gè)上界;即毯態(tài)的自我信息或驚奇。從統(tǒng)計(jì)學(xué)(貝葉斯模型選擇)的角度來看,最小化變化的自由能隱含地最大化模型證據(jù)或邊際可能性,即與環(huán)境交換的可能性,在外部狀態(tài)上被marginalized邊緣化。對(duì)VFE的這種解讀許可了不證自明的概念;即,對(duì)實(shí)體的描述,其自治狀態(tài)增加了模型證據(jù)(在一定的近似范圍內(nèi))。

等式2表明實(shí)體可以被解讀為通過((來推斷環(huán)境的狀態(tài)),這可以與以馬爾可夫毯(()|()). 為條件的環(huán)境的真實(shí)狀態(tài)形成對(duì)比根據(jù)實(shí)體的生成模型 [227,95,171,366],這種對(duì)比實(shí)際上是系統(tǒng)的預(yù)測(cè)誤差。換句話說,基于內(nèi)部狀態(tài)提供的感覺狀態(tài)的預(yù)測(cè),人們可以將自治狀態(tài)的動(dòng)態(tài)或梯度流解釋為最小化某種預(yù)測(cè)誤差,內(nèi)部狀態(tài)的動(dòng)態(tài)在某種內(nèi)部結(jié)構(gòu).下演化, 從技術(shù)上講,的生成模型被表達(dá)為系統(tǒng)聯(lián)合狀態(tài)的聯(lián)合概率密度。

這種聯(lián)合密度或生成模型就是系統(tǒng)的NESS。換句話說,NESS密度提供了環(huán)境/外部狀態(tài)與構(gòu)成所討論實(shí)體的狀態(tài)之間關(guān)系的概率規(guī)范。假設(shè)馬爾可夫毯包含感覺狀態(tài)和活動(dòng)狀態(tài),VFE上的梯度流(例如,神經(jīng)元?jiǎng)恿W(xué))可以根據(jù)活動(dòng)推理來理解[139]:即,內(nèi)部狀態(tài)可以被解讀為參與貝葉斯信念更新,而活動(dòng)狀態(tài)則介導(dǎo)對(duì)環(huán)境的主動(dòng)探索,以排除令人驚訝的(即,非典型的)狀態(tài),從而保持“活著”。

FEP提供了一種自組織的一般理論,它通過自證明來識(shí)別具有足夠動(dòng)態(tài)穩(wěn)定性的實(shí)體(即,在技術(shù)上,具有拉回吸引子或一組吸引或特征狀態(tài)的實(shí)體)。因此,一個(gè)實(shí)體被認(rèn)為是一個(gè)與其周圍環(huán)境不同的“事物”,因?yàn)樗腗arkov blanket確保了其內(nèi)部狀態(tài)和環(huán)境/外部狀態(tài)之間的條件獨(dú)立性,即它的操作封閉性——將它們之間的交互(或信息交換)限制在局部。請(qǐng)注意,等式2規(guī)定的自組織形式與人類計(jì)算的控制論后端相聯(lián)系;特別是好調(diào)節(jié)器定理和內(nèi)模控制。

等式2中的VFE進(jìn)一步示出,在給定馬爾可夫毯(狀態(tài))和先驗(yàn)密度(外部狀態(tài))的情況下,該NESS密度可以被分解成外部狀態(tài)的似然性。正是先驗(yàn)表征了它的優(yōu)先狀態(tài),即控制論穩(wěn)定性的吸引子,從而保證了內(nèi)部信息傳遞或動(dòng)力學(xué)。假設(shè)一臺(tái)普通的計(jì)算機(jī)會(huì)表現(xiàn)出對(duì)狀態(tài)的偏好16 通過它的NESS密度,我們可以說,這樣一個(gè)實(shí)體在它的整個(gè)生命周期中,將返回到它的狀態(tài)空間中的同一個(gè)狀態(tài)鄰域。換句話說,它將避免大量(令人驚訝的低概率)狀態(tài),并以高概率占據(jù)少量狀態(tài)[286]。換句話說,作為一個(gè)實(shí)體而存在,一臺(tái)凡人計(jì)算機(jī)只是占據(jù)了它所特有的那種狀態(tài)。這些是控制論[超]穩(wěn)定性的低多樣性狀態(tài)。

當(dāng)實(shí)例化人類計(jì)算機(jī)時(shí),F(xiàn)EP的這種幾乎同義反復(fù)的表達(dá)變得有用。這是因?yàn)槿祟愑?jì)算機(jī)可以學(xué)習(xí)它的生成模型(通過結(jié)構(gòu)學(xué)習(xí)或貝葉斯模型比較的過程 ——見下文)。當(dāng)人類計(jì)算機(jī)配備有生成模型時(shí),其自主動(dòng)力學(xué),即信念更新和動(dòng)作,完全由該模型的變分自由能泛函上的梯度流決定。至關(guān)重要的是,這意味著對(duì)于任何給定的生成模型(即特征狀態(tài)的概率規(guī)范),人們可以通過簡(jiǎn)單地求解上述運(yùn)動(dòng)方程來模擬致命的計(jì)算。

注意,由于馬爾可夫毯被認(rèn)為是系統(tǒng)的一部分,等式2暗示每個(gè)人類計(jì)算系統(tǒng)在某種意義上是自治的,并且只與一個(gè)其他系統(tǒng),即它的環(huán)境交互。這也表明人類計(jì)算機(jī)和它的環(huán)境都保持它們自己的明確定義的、有條件獨(dú)立的狀態(tài),其中每一個(gè)都在資源允許的情況下適應(yīng)另一個(gè)的動(dòng)作[204]。根據(jù)第3.3節(jié),這可以理解為人類計(jì)算機(jī)的行為認(rèn)知。

16關(guān)于環(huán)境狀態(tài)如何隨時(shí)間演變/展開的“優(yōu)先選擇”或優(yōu)先預(yù)期[139]。

Markov blanket是系統(tǒng)和環(huán)境之間的界面,正如[121,120]中所述,它可以被視為FEP量子公式中的全息屏幕。在經(jīng)典和量子信息論公式中,實(shí)體無法訪問其環(huán)境的結(jié)構(gòu);它只能通過Markov blanket的相互關(guān)聯(lián)的系統(tǒng)-環(huán)境組件來感知它的各個(gè)方面。Markov blanket的觀察扇區(qū)充當(dāng)系統(tǒng)內(nèi)部動(dòng)態(tài)和環(huán)境之間的讀/寫交換,反之亦然。我們注意到Markov blanket的概念也可以遞歸應(yīng)用,即,我們可以考慮,例如,復(fù)雜系統(tǒng)包括多個(gè)(嵌套的)參與自組裝的blanket[197]。

推論。鑒于上述對(duì)VFE的描述,推理過程或短期計(jì)算的執(zhí)行可以根據(jù)等式2來表達(dá),因?yàn)樽灾螤顟B(tài)遵循變化自由能的梯度流[140]。這使我們能夠描述系統(tǒng)的信息處理以及其內(nèi)部狀態(tài)如何隨時(shí)間變化:

打開網(wǎng)易新聞 查看精彩圖片

這個(gè)常微分方程依賴于系統(tǒng)的形態(tài)以及在時(shí)間t的覆蓋狀態(tài)的當(dāng)前值。在計(jì)算上,讓我們考慮預(yù)測(cè)編碼線路[289,132,260]或卡爾曼濾波器[189,290]作為跟隨VFE梯度流的具體例子;這種實(shí)現(xiàn)工作來調(diào)整或“糾錯(cuò)”它們的z(t ),這對(duì)應(yīng)于在吸收感覺數(shù)據(jù)模式時(shí)它們的內(nèi)部單元或神經(jīng)元(以異質(zhì)結(jié)構(gòu)排列)的有狀態(tài)活動(dòng)值。這些模型調(diào)整它們的動(dòng)力學(xué),即控制內(nèi)部活動(dòng)的動(dòng)力學(xué),利用突觸反饋路徑來預(yù)測(cè)傳入的感覺刺激。這發(fā)生在一個(gè)快速的時(shí)間尺度上,并且通常發(fā)生在每次感覺狀態(tài)被擾亂或者數(shù)據(jù)變得可用的時(shí)候。當(dāng)考慮到一些內(nèi)部狀態(tài)編碼了緩慢變化的外部變量(例如,環(huán)境中的法律、偶然事件和規(guī)則)時(shí),完全相同的梯度流在較慢的時(shí)間尺度上展開。這導(dǎo)致了時(shí)標(biāo)的第一次分離;從關(guān)于狀態(tài)的推斷轉(zhuǎn)移到學(xué)習(xí)模型參數(shù)。

學(xué)習(xí)。 在人類計(jì)算系統(tǒng)中的學(xué)習(xí)——例如,在突觸前和突觸后波動(dòng)存在的情況下的突觸可塑性——通常發(fā)生在比推理更慢的時(shí)間尺度上。至關(guān)重要的是,學(xué)習(xí)根據(jù)等式2進(jìn)行操作,并負(fù)責(zé)在更長(zhǎng)的時(shí)間內(nèi)存儲(chǔ)有用的信息,作為(關(guān)聯(lián))記憶的構(gòu)建模塊,用于影響系統(tǒng)的快速推理動(dòng)態(tài)。系統(tǒng)的學(xué)習(xí)過程可以被描述為一種操縱或改變內(nèi)部變量子集的機(jī)制

—即參數(shù)—參數(shù)化變分密度qz 。具體而言,這是使用VFE的相關(guān)梯度來完成的,從而得到微分方程:

打開網(wǎng)易新聞 查看精彩圖片

這是在誤差反向傳播(backprop)中發(fā)現(xiàn)的具有重要轉(zhuǎn)折的學(xué)習(xí)類型:在自由能原理下,可以局部計(jì)算VFE梯度,導(dǎo)致基于局部能量的方案,該方案是預(yù)測(cè)編碼和貝葉斯濾波的祖父擴(kuò)展,以學(xué)習(xí)生成模型的參數(shù),此外還推斷隱藏在馬爾可夫鏈之后的狀態(tài),即隱藏的、外部的或潛在的狀態(tài)。

請(qǐng)注意,學(xué)習(xí)依賴于內(nèi)部狀態(tài)和具有特定值的總括狀態(tài),這意味著學(xué)習(xí)必須根據(jù)推理的速度來安排。對(duì)參數(shù)的改變——例如,對(duì)突觸進(jìn)行加權(quán)的類似希伯侖的更新——以較慢的時(shí)間尺度進(jìn)行,積累統(tǒng)計(jì)規(guī)律并吸收環(huán)境中的因果依賴。使用我們?cè)缙诘念A(yù)測(cè)編碼示例[289,260,299],這可以通過訴諸期望最大化框架[99]以近似的方式實(shí)現(xiàn),其中在K個(gè)步驟上進(jìn)行推理,并且在每組K個(gè)步驟之后調(diào)整突觸參數(shù)。

選擇和結(jié)構(gòu)學(xué)習(xí)。從FEP的角度來看,結(jié)構(gòu)和形態(tài)學(xué)的優(yōu)化意味著人類計(jì)算機(jī)將最小化其VFE,或者等價(jià)地,最大化其形態(tài)學(xué)(模型)證據(jù)。我們可以根據(jù)形態(tài)學(xué)結(jié)構(gòu)將其表示為梯度流:

打開網(wǎng)易新聞 查看精彩圖片

其中結(jié)構(gòu)由模型參數(shù)限定。在通常集中于提供推理(例如,深度神經(jīng)網(wǎng)絡(luò)中的前饋通路)和學(xué)習(xí)(例如,通過反向傳播調(diào)整參數(shù)的連接權(quán)重[221,295])的機(jī)器智能研究中,這種類型的優(yōu)化已經(jīng)以各種名稱被考慮:架構(gòu)搜索[222,257,112],超參數(shù)優(yōu)化[46,316,307],結(jié)構(gòu)學(xué)習(xí)[327,329],自動(dòng)相關(guān)性確定等等,所有這些都由條件計(jì)算和動(dòng)態(tài)結(jié)構(gòu)化預(yù)測(cè)方案的概念驅(qū)動(dòng)[44]在統(tǒng)計(jì)和概率中,這種形式的結(jié)構(gòu)學(xué)習(xí)被稱為貝葉斯模型選擇[349,141]或因子圖學(xué)習(xí)背景下的“稀疏化[77,66,148]。目的是通過修剪模型參數(shù)來開發(fā)最優(yōu)計(jì)算機(jī),以保證泛化能力。當(dāng)表達(dá)為梯度下降(如上所述)時(shí),人們通常會(huì)想到這樣的方案,即當(dāng)且僅當(dāng)VFE減小或模型證據(jù)增加時(shí),將各種參數(shù)向零收縮并消除它們。神經(jīng)生物學(xué)上,這對(duì)應(yīng)于突觸選擇和修剪;在神經(jīng)發(fā)育和更快的時(shí)間尺度上,在睡眠-覺醒周期的突觸內(nèi)穩(wěn)態(tài)中,人們可能會(huì)看到這種情況。

形態(tài)與非形態(tài)的區(qū)別。正如在3.1節(jié)末尾所討論的,總體結(jié)構(gòu)是一臺(tái)人類計(jì)算機(jī)的組織的體現(xiàn)。如果我們觀察形態(tài)學(xué)如何應(yīng)用于生物實(shí)體,某些生物,如單細(xì)胞變形蟲和草履蟲[149,128],具有三維(3D)物理結(jié)構(gòu),也稱為形態(tài)學(xué)“自由度”[120],已經(jīng)進(jìn)化了幾代。一個(gè)系統(tǒng)的形態(tài)強(qiáng)加了兩個(gè)核心約束:1)熱力學(xué)成本,如前所述,來自信息的不可逆編碼(將一個(gè)比特值寫入存儲(chǔ)器或從存儲(chǔ)器中擦除)[43],和2)信息的耦合:一個(gè)實(shí)體的物理實(shí)例嚴(yán)格地決定了它的輸入如何從它的環(huán)境中獲得,以及它的輸出如何傳遞到它的環(huán)境中。

基于形態(tài)學(xué)的這個(gè)定義,我們可以清楚地區(qū)分什么可以被稱為“形態(tài)的”和“非形態(tài)的”實(shí)體。本質(zhì)上,所有的生物系統(tǒng)都是形態(tài)的。以我們的神經(jīng)元細(xì)胞為例:在其細(xì)胞膜內(nèi)組織,它具有由突觸后特化組成的傳感結(jié)構(gòu),這些突觸后特化轉(zhuǎn)導(dǎo)神經(jīng)遞質(zhì)和效應(yīng)器以傳遞其自身的信號(hào),以及一系列泵/分泌機(jī)制。這種細(xì)胞的網(wǎng)絡(luò)表現(xiàn)出它們自己的動(dòng)態(tài)形態(tài),由各種大小的樹突和軸突突起組成,導(dǎo)致信號(hào)之間的差異延遲[228,218],其中生長(zhǎng)/退化的樹突棘促進(jìn)/抑制突觸形成和位置特異性神經(jīng)元間通信[65,74,174,296]。此外,長(zhǎng)范圍和短范圍的皮質(zhì)連接是由活動(dòng)依賴性修剪形成的[275,288,310]。

形態(tài)的變化會(huì)影響網(wǎng)絡(luò)的處理動(dòng)態(tài)及其適應(yīng)能力:其快速推理受到短期活動(dòng)依賴性可塑性的影響,而學(xué)習(xí)則取決于功能解剖或結(jié)構(gòu)的突觸連接[270]。由于其對(duì)與學(xué)習(xí)和推理相關(guān)的動(dòng)力學(xué)的影響,形態(tài)學(xué)本身被視為生物實(shí)體中的計(jì)算資源;展示了一種表征從大腦中的神經(jīng)元網(wǎng)絡(luò)到植物、真菌和微生物生物膜的事物的策略[247,364,339,57,244]。

生物實(shí)體相反,盡管現(xiàn)代計(jì)算機(jī)也擁有形態(tài)17, 在它們上面運(yùn)行的軟件并不享受這種親密關(guān)系,因?yàn)樗浅橄笤O(shè)計(jì)的,獨(dú)立于執(zhí)行它的計(jì)算機(jī)。這就是使這類程序不朽的原因,也是使這類程序本質(zhì)上非mortal的原因。例如,讓我們考慮流行的深度神經(jīng)網(wǎng)絡(luò)(DNN)。寫下它的特征推理和學(xué)習(xí)方程可以獨(dú)立于三維環(huán)境中的任何實(shí)現(xiàn)來完成,盡管事實(shí)上它在教學(xué)上被繪制為節(jié)點(diǎn)和箭頭圖。然后,DNN程序的執(zhí)行,即其推理和學(xué)習(xí)機(jī)制,通過由計(jì)算機(jī)體系結(jié)構(gòu)提供的抽象級(jí)別而成為可能,即,編譯器將高級(jí)語言翻譯成匯編程序的例程,匯編程序?qū)⑦@些例程翻譯成遵循指令體系結(jié)構(gòu)集(ISA)的二進(jìn)制命令。此外,DNN所需的資源,例如包含其突觸值和感覺數(shù)據(jù)記錄的權(quán)重矩陣,然后從計(jì)算機(jī)的底層存儲(chǔ)器層級(jí)(如在第2節(jié)中)讀取,以促進(jìn)其在中央處理單元(CPU)或圖形處理單元(GPU)上一段時(shí)間的模擬。

請(qǐng)注意,正如我們到目前為止所爭(zhēng)論的那樣,由于一臺(tái)凡人計(jì)算機(jī)遵循任何持久實(shí)體的相同的自證原理,所以它是固有形態(tài)的。此外,因?yàn)樗峭瑯?gòu)的,F(xiàn)EP適用。這很重要,因?yàn)檫@意味著人類計(jì)算機(jī)將接近與信念更新或計(jì)算相關(guān)的熱力學(xué)支出的下限(朗道爾)。這是因?yàn)樗荛_了記憶墻;即在馮·諾依曼體系結(jié)構(gòu)和其他無定形計(jì)算機(jī)中所需的從存儲(chǔ)器讀取和寫入的熱力學(xué)成本。更一般地——也更直觀地——因?yàn)镕EP適用于形態(tài)計(jì)算,一臺(tái)普通的計(jì)算機(jī)可以最小化熱力學(xué)和變分自由能。這是因?yàn)镕EP處于非平衡穩(wěn)態(tài)的實(shí)體,即最小化熱力學(xué)自由能,可以被描述為貝葉斯最優(yōu)計(jì)算機(jī),即最小化VFE。

17 .計(jì)算機(jī)具有3D形式,可以最大限度地提高散熱能力,最大限度地減少信息傳輸延遲。

打開網(wǎng)易新聞 查看精彩圖片

圖6:支撐人類計(jì)算的概念之間的關(guān)系:1)推理,2)學(xué)習(xí),3)結(jié)構(gòu)的選擇。紅色方框突出顯示感興趣/正在討論的特定對(duì)象(方框旁邊的問號(hào)表示特定時(shí)間范圍內(nèi)試圖回答/優(yōu)化的目標(biāo)或問題)。

4.2平均場(chǎng)近似下的MILS原理 mortal inference-learning and selection (MILS).

根據(jù)人類計(jì)算機(jī)的FEP公式——它通過其馬爾科夫毯證明了操作的封閉性——我們看到了時(shí)間尺度的分離,即推理、學(xué)習(xí)和選擇,這是其“結(jié)構(gòu)上的動(dòng)力學(xué)”所固有的。具體而言,一臺(tái)普通計(jì)算機(jī)可以被提煉為以下關(guān)系:1)狀態(tài)推理只是優(yōu)化一些關(guān)于隱藏狀態(tài)的信念結(jié)構(gòu),而2)參數(shù)學(xué)習(xí)只是優(yōu)化一些關(guān)于隱藏參數(shù)的信念結(jié)構(gòu),而3)模型選擇只是選擇正確的結(jié)構(gòu)知識(shí);換句話說,優(yōu)化關(guān)于生成模型的功能形式的信念。然而,盡管在它們各自的時(shí)間尺度內(nèi)被觀察/發(fā)生,但是一旦考慮到最小化VFE的優(yōu)化觀點(diǎn),這些過程之間就存在關(guān)系依賴性。

具體地說,沒有正確的參數(shù),人類計(jì)算機(jī)不能執(zhí)行推理,并且它不能學(xué)習(xí)它的參數(shù),除非它利用正確的推理(找到它的內(nèi)部狀態(tài)z(t)的值)。此外,系統(tǒng)無法學(xué)習(xí)正確的參數(shù),除非它為基礎(chǔ)生成模型采用正確的結(jié)構(gòu)。相反,該系統(tǒng)不能選擇正確的創(chuàng)成式模型結(jié)構(gòu),除非它學(xué)習(xí)正確的參數(shù)。這種清晰、強(qiáng)烈的循環(huán)因果關(guān)系(如圖6所示),對(duì)于適應(yīng)不斷發(fā)展的生態(tài)位至關(guān)重要,代表了MILS固有的核心“纏繞”。這種交織有一個(gè)簡(jiǎn)單明了的原則性的原因,它來自所有測(cè)量和建模的普遍方面;即平均場(chǎng)近似。

將FEP應(yīng)用于人類計(jì)算機(jī)意味著它正在執(zhí)行物理上實(shí)現(xiàn)的貝葉斯推理。假設(shè)一個(gè)實(shí)體不能在物理上實(shí)現(xiàn)精確的貝葉斯推理,它必須求助于近似(因此在等式2中使用了變分密度)。變分自由能繼承了應(yīng)用于平均場(chǎng)近似的變分法[150]中的術(shù)語“變分”,即概率密度分解為條件獨(dú)立因子[358,363,270]。這意味著人類計(jì)算機(jī)的結(jié)構(gòu)可以用平均場(chǎng)近似來描述。有人可能會(huì)問:平均場(chǎng)近似的典型首選是什么?答案是應(yīng)用于狀態(tài)、參數(shù)和結(jié)構(gòu)的平均場(chǎng)近似,它允許我們通過計(jì)算將狀態(tài)和參數(shù)以及參數(shù)和結(jié)構(gòu)分開.18 這意味著推理和學(xué)習(xí)之間的區(qū)別取決于平均場(chǎng)近似,因此狀態(tài)和參數(shù)(以及結(jié)構(gòu))之間的條件獨(dú)立性。例如,我們看到這在神經(jīng)解剖學(xué)中表現(xiàn)為短期突觸活動(dòng)與長(zhǎng)期可塑性的對(duì)比,為神經(jīng)元網(wǎng)絡(luò)提供了在處理刺激時(shí)進(jìn)行快速推理的能力,同時(shí)將信息存儲(chǔ)到突觸(關(guān)聯(lián))記憶中。通過應(yīng)用于參數(shù)和生成模型結(jié)構(gòu)之間關(guān)系的平均場(chǎng)近似,引入了相同的條件獨(dú)立性。在大腦中,這方面的一個(gè)很好的例子是當(dāng)處理感官刺激時(shí),它代表“什么”-“哪里”-“何時(shí)”的區(qū)別。背側(cè)流和腹側(cè)流的物理分離通常被視為對(duì)視覺感知對(duì)象的“哪里”和“什么”元素進(jìn)行編碼[337,88]。知道某物是什么并不能告訴一個(gè)人某物在哪里(反之亦然)。隨之而來的條件獨(dú)立性體現(xiàn)在腹流和背流之間的形態(tài)分離。同樣的分離也適用于“什么”和“什么時(shí)候”[88,138],因?yàn)橹滥硞€(gè)東西是“什么”并不能告訴一個(gè)人“什么時(shí)候”

18雖然,在經(jīng)典卡爾曼濾波器[189]的一些應(yīng)用中,可以將參數(shù)視為變化非常緩慢的狀態(tài)——狀態(tài)空間增加了一些緩慢變化的變量來“代替”參數(shù),然后卡爾曼濾波器實(shí)際上只是運(yùn)行來“學(xué)習(xí)”底層狀態(tài)轉(zhuǎn)移矩陣。

打開網(wǎng)易新聞 查看精彩圖片

圖7:人類計(jì)算的主干——人類推理——學(xué)習(xí)和選擇,受其明顯的底物和小生境的影響,并在特定的平均場(chǎng)假設(shè)下明確實(shí)現(xiàn)。

它就在那里。最終,這些平均場(chǎng)近似降低了復(fù)雜性;從而最小化統(tǒng)計(jì)、算法和熱力學(xué)成本[358];換句話說,優(yōu)化人類計(jì)算機(jī)的消息傳遞方案的效率.19

上述例子意味著,在生物學(xué)中,在這樣的平均場(chǎng)近似下工作是可以接受的,也是有效的。這同樣適用于人類計(jì)算機(jī),因?yàn)樗鼈兊墓餐繕?biāo)是實(shí)現(xiàn)與世界的某種開放(非平衡)穩(wěn)態(tài)交換。然而,使用變分法來平衡這些平均場(chǎng)近似背后的前提是,系統(tǒng)將致力于“修復(fù)”由這種近似引起的錯(cuò)誤,即,它必須補(bǔ)償其狀態(tài)和參數(shù)之間以及參數(shù)和結(jié)構(gòu)之間的統(tǒng)計(jì)獨(dú)立性假設(shè)。這需要在不同級(jí)別之間傳遞信號(hào)的機(jī)制,從而激發(fā)一個(gè)連接時(shí)間尺度的消息傳遞方案。例如,在神經(jīng)元網(wǎng)絡(luò)中,編碼在活動(dòng)依賴可塑性中的經(jīng)驗(yàn)將推理與學(xué)習(xí)聯(lián)系起來。非平衡穩(wěn)態(tài)在推理、學(xué)習(xí)以及結(jié)構(gòu)選擇的時(shí)間尺度上需要一個(gè)(VFE)梯度流,這意味著系統(tǒng),如人類計(jì)算機(jī),必須體現(xiàn)一種依賴于活動(dòng)的適應(yīng)形式,或者換句話說,它們?cè)诰哂袆?dòng)力學(xué)的結(jié)構(gòu)上作為動(dòng)力學(xué)運(yùn)行[11]。

這種類型的依賴適應(yīng)的結(jié)果是形態(tài)學(xué)或結(jié)構(gòu)實(shí)例化對(duì)人類計(jì)算機(jī)變得存在性重要,因?yàn)樗x了跨系統(tǒng)元素可能發(fā)生的(學(xué)習(xí)和推理過程的)消息傳遞的稀疏性。結(jié)構(gòu)成為核心計(jì)算資源,用于確保人類計(jì)算機(jī)的持續(xù)生存,并需要尋找進(jìn)行正確修剪/生長(zhǎng)以促進(jìn)自動(dòng)生成的機(jī)制,例如,在神經(jīng)元細(xì)胞網(wǎng)絡(luò)中選擇正確的突觸連接以獲得正確的圖形結(jié)構(gòu).20 在生物系統(tǒng)中,這種形態(tài)自組織與隔離和屏蔽有關(guān):酶和催化劑、縫隙連接和其他可控的生物機(jī)制建立了信號(hào)通路和邊界[233,362]。這發(fā)生在多個(gè)尺度上,從亞細(xì)胞器(分隔生物物理、化學(xué)反應(yīng))到器官區(qū)室邊界到動(dòng)物群體行為[308,97,91]。實(shí)際上,人類計(jì)算機(jī)的基本結(jié)構(gòu)元素,就像多細(xì)胞結(jié)構(gòu)中的細(xì)胞一樣,需要在分布式形態(tài)中占據(jù)自己的位置。這相當(dāng)于自生成自組裝,其中配備有其自己的邊界的每個(gè)元素檢測(cè)由其自己的生成模型預(yù)測(cè)的局部圖案化信號(hào)[140],從而最小化其VFE,從而推斷其在整個(gè)系綜中的正確位置和功能[140,269]。

19甚至在機(jī)器智能中,這種平均場(chǎng)近似也適用——在基于DNN的模型中,突觸參數(shù)矩陣的值與深度變分自動(dòng)編碼器中的級(jí)別/層數(shù)之間存在明顯的分離 [196]或變壓器塊[344]內(nèi)的注意頭的數(shù)量。

20系統(tǒng)形態(tài)發(fā)生的一個(gè)可能實(shí)施方案可能涉及從參數(shù)的一個(gè)特定“種子”(空間)排列開始,使用諸如門控變量的機(jī)制,逐步地、暫時(shí)地打開或關(guān)閉事物,這可以被解讀為一種精確加權(quán)的形式[133],通常在認(rèn)知控制架構(gòu)[259]中使用,或“結(jié)構(gòu)學(xué)習(xí)變量”,這將被要求最小化它們自己的變化自由能泛函。

系統(tǒng)的形態(tài)、它的學(xué)習(xí)和它的推理之間的關(guān)系保證了人類計(jì)算機(jī)的物理可實(shí)現(xiàn)的貝葉斯推理,這是它存在背后的引擎。根據(jù)MILS,通過FEP,形態(tài)學(xué),學(xué)習(xí)和推理機(jī)制都服從于相同的基本命令,每個(gè)負(fù)責(zé)最小化與之相關(guān)的VFE界限。作為等式2的結(jié)果,并且根據(jù)良好調(diào)節(jié)器定理,人類計(jì)算機(jī)的形態(tài)將需要準(zhǔn)確地描述其環(huán)境,同時(shí)也盡可能簡(jiǎn)單[134,135]。最后,作為其形態(tài)學(xué)的結(jié)果...