清晨，導(dǎo)航軟件為你規(guī)劃了最省時(shí)的通勤路線；午間，外賣平臺推送的餐廳精準(zhǔn)契合你的口味；深夜，短視頻平臺仍在不停地投喂你偏愛的內(nèi)容……我們似乎生活在一個(gè)被算法“寵愛”的時(shí)代。但在此過程中，人類是否正在悄然讓渡自己的決策權(quán)？昆士蘭科技大學(xué)商學(xué)院教授馬雷克·科沃克維奇的《算法經(jīng)濟(jì)：商業(yè)邏輯與人類生活的智能演進(jìn)》一書，揭示了這場無聲的算法權(quán)力博弈，并為我們敲響了警鐘。

科沃克維奇以一場發(fā)生在倫敦的抗議為引，撕開了算法權(quán)力的面紗。

2020年，英國學(xué)生因疫情無法參加升學(xué)考試，教育部門便引入算法來預(yù)測成績。其中，對于規(guī)模較大學(xué)校的學(xué)生，算法依托的數(shù)據(jù)主要包括教師為學(xué)生預(yù)測的分?jǐn)?shù)、學(xué)生平時(shí)成績，以及學(xué)校過去3年的整體成績分布。而對于規(guī)模較小的學(xué)校，如果某科學(xué)生人數(shù)不超過15人，算法將僅根據(jù)教師預(yù)測的分?jǐn)?shù)進(jìn)行成績估算。

這種做法直接引發(fā)了學(xué)生的大規(guī)?？棺h。因?yàn)樵谒搅W(xué)校，學(xué)生數(shù)量通常較少，這部分學(xué)生因?yàn)槭艿浇處煒酚^的評估預(yù)測，往往會(huì)出現(xiàn)分?jǐn)?shù)過高的現(xiàn)象。但對于其他大多數(shù)學(xué)生，如果他們所在的學(xué)校過去整體成績不佳，那么無論這些學(xué)生怎樣努力，他們的成績都可能會(huì)被歷史數(shù)據(jù)所限制。最終，當(dāng)考試機(jī)構(gòu)公布算法決策結(jié)果時(shí)，將近36%的學(xué)生成績低于教師預(yù)期，且有3%的學(xué)生成績比預(yù)期低2個(gè)等級。

書中指出，伴隨人工智能（AI）的快速發(fā)展，類似上述算法剝奪人類決策權(quán)的現(xiàn)象，可能正發(fā)生在我們生活的方方面面，甚至演化成為一種新型經(jīng)濟(jì)形態(tài)——算法經(jīng)濟(jì)。

所謂算法經(jīng)濟(jì)主要是指以算法為核心驅(qū)動(dòng)力，通過自動(dòng)化決策、數(shù)據(jù)分析和資源優(yōu)化來重塑經(jīng)濟(jì)活動(dòng)的運(yùn)行模式。通俗來講，企業(yè)可以通過編排各類算法，成功培養(yǎng)出AI算法時(shí)代的經(jīng)濟(jì)活動(dòng)“代理人”?！按砣恕笨梢宰孕羞\(yùn)用語言大模型、多模態(tài)模型、智能體等，推動(dòng)企業(yè)從人類管理向算法管理轉(zhuǎn)變。這將使算法可以操控更多資源，作出更多決策，并造成更大的社會(huì)影響。

科沃克維奇表示：“在算法日益占據(jù)決策中心的時(shí)代，我們必須保持警惕，確保自己的決策權(quán)不會(huì)完全被算法所支配。”他基于在硅谷創(chuàng)新實(shí)驗(yàn)室與多家科技企業(yè)的實(shí)踐經(jīng)驗(yàn)，提出企業(yè)構(gòu)建算法治理的三條原則。

首先，企業(yè)要成為算法“代理人”的主人，建立起以人為本的人機(jī)協(xié)同模式。企業(yè)應(yīng)該鼓勵(lì)人類智慧和人工智能的協(xié)同合作，既要發(fā)揮AI員工在模型識別、數(shù)據(jù)分析和結(jié)構(gòu)化數(shù)據(jù)管理等方面的優(yōu)勢，又要彰顯人類擅長情緒評估、感情理解和人文關(guān)懷的價(jià)值。這就要求企業(yè)與平臺應(yīng)當(dāng)在“冰冷”的算法規(guī)則之外增補(bǔ)柔性管理舉措，為算法程序的機(jī)械運(yùn)轉(zhuǎn)進(jìn)行“人性校準(zhǔn)”。

其次，企業(yè)要始終保持好奇心，生成解決問題的創(chuàng)新主張，從而引領(lǐng)AI算法的迭代。好奇心，無疑是人與AI之間最鮮明的差異之一。正是這份好奇心，驅(qū)使著人類在探索未知的旅程中不斷前行。在AI算法時(shí)代，企業(yè)要不斷反思和詢問自己，現(xiàn)在有哪些新的可能性是我們之前無法做到的？AI自動(dòng)化是否能夠創(chuàng)造新的機(jī)會(huì)或增加現(xiàn)有的機(jī)會(huì)？在此基礎(chǔ)上，再由企業(yè)來引導(dǎo)AI算法設(shè)計(jì)和實(shí)施大量廣泛、靈活的實(shí)驗(yàn)。這不僅有助于企業(yè)打破單調(diào)、重復(fù)的運(yùn)營模式，也將釋放對AI算法的控制權(quán)。

最后，企業(yè)要不斷地與客戶、同行乃至社會(huì)各界進(jìn)行交互，從而不斷調(diào)整和優(yōu)化算法。作者認(rèn)為，要做到這點(diǎn)，企業(yè)公開其關(guān)鍵算法邏輯是關(guān)鍵，特別是在信貸評分、招聘篩選等涉及公平性的場景，從而使得“算法”受到更多層面的監(jiān)督，避免“黑箱操作”加劇社會(huì)不公平。企業(yè)還可考慮通過引入第三方算法評估、提升算法可解釋性、訓(xùn)練數(shù)據(jù)的有效干預(yù)、打通用戶申訴渠道等，塑造社會(huì)對智能技術(shù)的信任管理機(jī)制。

這三條原則雖然談的是AI算法時(shí)代企業(yè)如何生存發(fā)展，但是也可視為AI時(shí)代指導(dǎo)人類更好工作生活的指南。一方面，我們也要學(xué)習(xí)上述企業(yè)原則，主動(dòng)打破信息繭房，比如可以每周刻意搜索3個(gè)與推薦內(nèi)容無關(guān)的關(guān)鍵詞，以保持認(rèn)知開放性；又比如，定期重置算法推薦，避免思維固化。另一方面，努力構(gòu)建人機(jī)協(xié)作能力，在利用“代理人”完成繁復(fù)冗雜工作的同時(shí)，聚焦AI難以替代的“3C能力”：創(chuàng)造性思維（Creative Thinking）、批判性分析（Critical Analysis）和非暴力溝通（Compassionate Communication）。

此外，《算法經(jīng)濟(jì)：商業(yè)邏輯與人類生活的智能演進(jìn)》的另一啟示還在于重新定義了人機(jī)關(guān)系的本質(zhì)?？莆挚司S奇以火星探測器“毅力號”為例：它雖能自主執(zhí)行任務(wù)，但每一步指令仍源自人類對宇宙的探索意志。因此，算法經(jīng)濟(jì)的未來，不應(yīng)是冰冷的代碼統(tǒng)治，而應(yīng)如古代的“兩輪戰(zhàn)車”——人類緊握韁繩，算法提供動(dòng)力。當(dāng)我們學(xué)會(huì)在技術(shù)浪潮中保持清醒，在效率與人性間尋找平衡，方能真正實(shí)現(xiàn)科沃克維奇所言的“人類主導(dǎo)地位”。畢竟，再精妙的算法也無法回答：什么樣的生活才是真正值得的？這永恒的追問，才始終是人類獨(dú)有的榮光。（本文來源：經(jīng)濟(jì)日報(bào) 作者：穆鵬程）