文 | 李德林
如果瓦特還活著，他站在曼徹斯特博物館的穹頂之下，凝視著全息投影中上海外灘人頭攢動(dòng)，人人都握著智能手機(jī)，坐上新能源智駕汽車絕塵而去。瓦特會(huì)驚訝技術(shù)平權(quán)的廣度，也會(huì)很失落，他會(huì)聯(lián)想到蒸汽機(jī)普及時(shí)英國(guó)僅有3%的工廠能負(fù)擔(dān)新型動(dòng)力裝置。當(dāng)瓦特在漢茲沃斯閉上雙眼300年后，蒸汽機(jī)時(shí)代已經(jīng)塵封在大英百科全書，世界進(jìn)入人工智能的硅基文明躍升初期，在一個(gè)技術(shù)狂飆的時(shí)代，用戶安全成為從人工智能崛起到站穩(wěn)人民立場(chǎng)的全新考卷。
現(xiàn)在全球已經(jīng)有超過(guò)50億網(wǎng)民，有3400萬(wàn)開源代碼托管項(xiàng)目，無(wú)論是遙遠(yuǎn)的非洲村落，還是近在咫尺的中國(guó)沙漠，光伏太陽(yáng)能都在跟網(wǎng)絡(luò)技術(shù)聯(lián)合改變這個(gè)世界。世界已經(jīng)進(jìn)入智能制造時(shí)代，數(shù)控機(jī)床與3D打印技術(shù)能讓個(gè)人具備19世紀(jì)大型機(jī)械廠的制造能力，瓦特那個(gè)時(shí)代，可需要成百上千的工匠?，F(xiàn)在維基百科每月有超過(guò)40億次的知識(shí)檢索請(qǐng)求，GitHub上2500萬(wàn)開發(fā)者共建的代碼生態(tài)，瓦特會(huì)為1796年跟博爾頓的那場(chǎng)專利訴訟而沉思。
工業(yè)革命以來(lái)，人類對(duì)效率的追求始終伴隨著對(duì)生命的妥協(xié)。但即便是妥協(xié)，終究也有基本的底線。
1769年，瓦特改良蒸汽機(jī)開啟了機(jī)械化大生產(chǎn)時(shí)代，但曼徹斯特紡織廠中童工日均16小時(shí)的工作時(shí)長(zhǎng)、平均壽命不足25歲的殘酷現(xiàn)實(shí)。更有甚者，蒸汽機(jī)時(shí)代工人被機(jī)器吞噬的慘劇不斷上演，效率崇拜對(duì)人性的踐踏持續(xù)了將近半個(gè)世紀(jì)，直至1833年英國(guó)《工廠法》強(qiáng)制限定工時(shí)，才標(biāo)志著社會(huì)開始以制度抗衡技術(shù)的野蠻生長(zhǎng)，安全依然是個(gè)長(zhǎng)期的問(wèn)題。
如今，在“中國(guó)智造”的宏大敘事中，人工智能技術(shù)正以顛覆性姿態(tài)重塑汽車工業(yè)：自動(dòng)駕駛解放雙手、智能座艙重構(gòu)交互、車路協(xié)同優(yōu)化效率等等等等。然而，當(dāng)車企以“L3級(jí)自動(dòng)輔助駕駛”、“零接管率”為賣點(diǎn)瘋狂營(yíng)銷時(shí)，自動(dòng)駕駛和無(wú)人駕駛的概念卻被模糊化植入其中。在事故中喪生的車主、因算法歧視被拒保的駕駛員、因數(shù)據(jù)泄露遭勒索的消費(fèi)者，卻將技術(shù)平權(quán)的尖銳矛盾暴露無(wú)遺?？萍计綑?quán)發(fā)出了技術(shù)倫理的文明拷問(wèn)：當(dāng)機(jī)器開始替代人類決策時(shí)，我們?nèi)绾问刈o(hù)生命的尊嚴(yán)？
從福特用流水線將汽車送入尋常百姓家，汽車的安全問(wèn)題一直如影隨形。比如早期的汽車缺乏安全帶和氣囊的T型車每年導(dǎo)致數(shù)萬(wàn)人死亡。50多年后的1956年發(fā)明三點(diǎn)式安全帶后人們才看到希望的曙光，汽車廠家卻因成本抵制遲至1970年代才被強(qiáng)制普及。這一滯后直接導(dǎo)致美國(guó)十年間多死亡30萬(wàn)人。歷史證明，技術(shù)普惠若缺乏安全底線，終將淪為“致命普惠”。
現(xiàn)在的智能汽車每天生產(chǎn)海量的數(shù)據(jù)，涵蓋位置軌跡、生物特征甚至車內(nèi)對(duì)話。2024年，《紐約時(shí)報(bào)》報(bào)道保險(xiǎn)公司會(huì)根據(jù)長(zhǎng)達(dá)258頁(yè)的用戶行車數(shù)據(jù)，對(duì)用戶急剎車數(shù)據(jù)進(jìn)行獨(dú)立核算保費(fèi)，導(dǎo)致高風(fēng)險(xiǎn)用戶保費(fèi)上漲數(shù)倍。這恰如法國(guó)哲學(xué)家福柯所言：“圓形監(jiān)獄”已從實(shí)體空間遷移至數(shù)據(jù)云端，公民的隱私嚴(yán)重讓渡，知情權(quán)被剝奪，淪為算法中的“透明人”。
英國(guó)倫敦國(guó)王學(xué)院的研究人員進(jìn)行一項(xiàng)研究，通過(guò)對(duì)超過(guò) 8000 張圖片檢測(cè)后，發(fā)現(xiàn)了一個(gè)漏洞：自動(dòng)駕駛汽車使用的由 AI 驅(qū)動(dòng)的行人檢測(cè)系統(tǒng)，對(duì)兒童的檢測(cè)準(zhǔn)確率比成人低了 19.67%，深色皮膚的檢測(cè)準(zhǔn)確率比淺色皮膚低了7.53%。雨霧天氣下弱勢(shì)群體事故風(fēng)險(xiǎn)激增。更隱蔽的是，部分車企為降低事故率，算法會(huì)優(yōu)先規(guī)避賠償成本高的對(duì)象，如豪車，形成“算法達(dá)爾文主義”。當(dāng)技術(shù)成為社會(huì)偏見的放大器，那么“智駕平權(quán)”就出現(xiàn)生命漏洞。
自動(dòng)駕駛系統(tǒng)成為車企營(yíng)銷的噱頭，當(dāng)事故發(fā)生后卻改口為輔助駕駛。當(dāng)年優(yōu)步自動(dòng)駕駛撞傷行人，責(zé)任認(rèn)定演變成了一個(gè)全球性的話題：算法供應(yīng)商、車企、地圖服務(wù)商相互推諉，受害者維權(quán)陷入被動(dòng)。技術(shù)的進(jìn)步對(duì)各國(guó)的法律體系滯后是一個(gè)巨大的考驗(yàn)，尤其是在自動(dòng)駕駛出來(lái)時(shí)才發(fā)現(xiàn)，道路交通安全法將駕駛責(zé)任限定為“人”，對(duì)AI決策主體缺乏界定。
現(xiàn)在，世界進(jìn)入了硅基文明的躍升初期。除了自動(dòng)駕駛，人工智能、機(jī)器人，智能制造都在向未知的世界不斷地發(fā)起探索。當(dāng)我們?cè)诨ヂ?lián)網(wǎng)上沖浪的時(shí)候，互聯(lián)網(wǎng)讓天涯近在咫尺，可隱私數(shù)據(jù)成為他人覬覦的生產(chǎn)工具。當(dāng)眾包平臺(tái)上3000萬(wàn)零工勞動(dòng)者風(fēng)雨穿行，他們?cè)诟惴ㄕ{(diào)度系統(tǒng)賽跑，更是為了生存而不敢停下腳步。現(xiàn)在，我們正站在技術(shù)普惠與用戶安全的十字路口，敬畏每一個(gè)生命，尊重每一個(gè)人的權(quán)利，技術(shù)才能站穩(wěn)人民的立場(chǎng)。
十八大以來(lái)，國(guó)家多次強(qiáng)調(diào)，科學(xué)技術(shù)特別是新興科技在促進(jìn)經(jīng)濟(jì)社會(huì)發(fā)展、改善人民生活的同時(shí)，也存在不少難以預(yù)見的規(guī)則沖突、社會(huì)風(fēng)險(xiǎn)、倫理挑戰(zhàn)，如人工智能發(fā)展帶來(lái)的算法歧視、隱私保護(hù)等社會(huì)問(wèn)題，基因編輯、基因增強(qiáng)等生命科學(xué)新技術(shù)引發(fā)的不確定性風(fēng)險(xiǎn)等。要增強(qiáng)憂患意識(shí)，加強(qiáng)科技倫理治理，確?？萍及l(fā)展安全，讓人民群眾更安全地享受科技紅利。站穩(wěn)人民立場(chǎng)，將堅(jiān)持人民至上作為科技強(qiáng)國(guó)建設(shè)的價(jià)值引領(lǐng)。
德國(guó)首創(chuàng)“技術(shù)監(jiān)理官”制度，要求車企公開算法決策邏輯并設(shè)立賠償基金；歐盟將自動(dòng)駕駛列為“高風(fēng)險(xiǎn)系統(tǒng)”，強(qiáng)制實(shí)施第三方認(rèn)證。北京大學(xué)成立全球首個(gè)“自動(dòng)駕駛倫理委員會(huì)”，成員涵蓋哲學(xué)家、法學(xué)家、工程師及市民代表。其發(fā)布的《自動(dòng)駕駛道德決策12條準(zhǔn)則》中明確：“系統(tǒng)不得基于年齡、性別、種族等因素進(jìn)行差異化抉擇?！边@種多元共治模式將推廣至所有L4級(jí)以上自動(dòng)駕駛系統(tǒng)的算法訓(xùn)練過(guò)程，確保技術(shù)演進(jìn)不脫離人間煙火。監(jiān)管建立覆蓋數(shù)據(jù)主權(quán)、算法審計(jì)、責(zé)任追溯的全鏈條體系，以嚴(yán)格立法倒逼技術(shù)向善。
技術(shù)平權(quán)時(shí)代的人即數(shù)據(jù)，算法往往在人面前猶如一個(gè)黑箱。DARPA推行的XAI（可解釋人工智能）項(xiàng)目要求算法輸出決策依據(jù)，如自動(dòng)駕駛緊急避讓時(shí)需明確“為何選擇左轉(zhuǎn)而非剎車”。國(guó)內(nèi)企業(yè)如華為已在其MDC計(jì)算平臺(tái)中引入因果推理模型，使系統(tǒng)能像人類駕駛員一樣提供“駕駛?cè)罩尽?。唯有讓算法告別“黑箱”，才能實(shí)現(xiàn)技術(shù)權(quán)力的民主化。尤其是智能汽車，更應(yīng)該內(nèi)置“倫理選擇模塊”，面對(duì)不可避免事故時(shí)優(yōu)先保護(hù)車內(nèi)人員的生命安全。
智能汽車的技術(shù)平權(quán)更應(yīng)該關(guān)注“雙冗余安全設(shè)計(jì)”：當(dāng)主系統(tǒng)出現(xiàn)誤判時(shí)，備用系統(tǒng)會(huì)立即啟動(dòng)，并通過(guò)方向盤震動(dòng)、座椅脈沖等物理反饋喚醒駕駛員。技術(shù)民主化可改變汽車業(yè)的價(jià)值邏輯，安全不應(yīng)是豪華車的專屬標(biāo)簽，而是所有交通參與者的基本權(quán)利。監(jiān)管方面所有涉及人身傷害的智能汽車數(shù)據(jù)，需在24小時(shí)內(nèi)同步至國(guó)家交通安全區(qū)塊鏈，并引入“數(shù)據(jù)陪審團(tuán)”制度，由算法工程師、倫理學(xué)家和普通市民組成三方團(tuán)隊(duì)，共同解析事故真相。
除了自動(dòng)駕駛，我們未來(lái)還會(huì)面臨大數(shù)據(jù)、機(jī)器人等諸多技術(shù)平權(quán)，當(dāng)我們站在工業(yè)革命4.0與智能革命交匯的十字路口，我們比任何時(shí)候都更需要重溫愛因斯坦的警告：“關(guān)心人的本身，應(yīng)當(dāng)始終成為一切技術(shù)上奮斗的主要目標(biāo)?！睆摹爸袊?guó)制造”到“中國(guó)智造”的跨越，不僅是生產(chǎn)力的躍遷，更是文明形態(tài)的進(jìn)化。當(dāng)硅基生命與碳基生命開始爭(zhēng)奪道德敘事的主導(dǎo)權(quán)時(shí)，真正的文明高度，不在于創(chuàng)造了多少奇跡，而在于守護(hù)了多少顆不安的靈魂。
敬畏生命，敬畏安全，是這個(gè)AI時(shí)代更是新能源智駕時(shí)代最需要的商業(yè)文明。這也應(yīng)該是商業(yè)文明的底線和常識(shí)。
（本期策劃：黃利明）
熱門跟貼