文/麻策律師
有市場調(diào)研認為，預(yù)計到 2032 年， 全球情感人工智能市場價值將達到 138 億美元 。但是顯然，人工智能的法律及監(jiān)管趨勢可能會讓這一情感計算市場黯然失色。?????????
情感或情緒識別技術(shù)的基本原理在于通過多種數(shù)據(jù)源的綜合分析來判斷個體的情緒狀態(tài)。這些數(shù)據(jù)源包括面部表情、語音語調(diào)以及生理信號（如心率和皮膚電反應(yīng)）。面部表情分析利用計算機視覺技術(shù)，識別出面部肌肉的微小變化，從而推測出情緒。語音分析則通過音調(diào)、語速和語音特征來捕捉情緒的細微差別。生理信號的監(jiān)測則提供了情緒狀態(tài)的生理基礎(chǔ)，增強了情緒識別的準確性。
近年來，在識別通過手勢（尤其是通過上半身動作）表達的情感方面取得了重大進展，基于骨骼的情緒識別就是其中一個取得進展的領(lǐng)域，它得益于深度感應(yīng)攝像機的發(fā)展，該攝像機可提供越來越寬的視場和詳細的動作捕捉。
情感人工智能是人工智能（機器復(fù)制人類思維方式的廣義術(shù)語）的一個子集，可以測量、理解、模擬人類情感并對其做出反應(yīng)。它也被稱為情感計算或人工情感智能。這一領(lǐng)域至少可以追溯到 1995 年，當(dāng)時麻省理工學(xué)院媒體實驗室教授羅莎琳德-皮卡德（Rosalind Picard）發(fā)表了" 情感計算 "一文。
情緒識別技術(shù)的應(yīng)用場景非常廣泛，涵蓋了客戶服務(wù)、心理健康監(jiān)測、市場研究和安全監(jiān)控等多個領(lǐng)域。在客戶服務(wù)中，情緒識別可以幫助企業(yè)實時了解客戶的情緒反應(yīng)，從而優(yōu)化服務(wù)體驗。在心理健康監(jiān)測方面，情緒識別技術(shù)能夠提供及時的情緒狀態(tài)反饋，幫助專業(yè)人士進行更有效的干預(yù)。市場研究則利用情緒識別來分析消費者對產(chǎn)品的真實反應(yīng)，而在安全監(jiān)控中，情緒識別可以用于識別潛在的威脅行為。
在智能座艙中，以 Affectiva的汽車人工智能平臺 為例，該平臺可以識別喜怒等情緒，并相應(yīng)地調(diào)整車內(nèi)環(huán)境，智能助理還可能會根據(jù)乘客的沮喪程度改變語氣。
新聞報道，總部位于波士頓的初創(chuàng)公司 Cogito 等公司正在為企業(yè)提供工具，幫助員工更好地與客戶互動。 其算法不僅能識別客服人員的 "同情疲勞"，還能通過應(yīng)用程序指導(dǎo)客服人員如何回應(yīng)來電者，例如，一位不高興的客戶可能會打電話投訴產(chǎn)品，Cogito 的平臺在記錄和分析對話后，會建議座席放慢語速，或提示他們何時表現(xiàn)出同情心。
然而，《歐洲人工智能法》（2024/1689）自 2024 年 8 月 1 日起生效，對歐盟（EU）人工智能的使用進行了規(guī)范，該法采用基于風(fēng)險的分類分級方法進行AI監(jiān)管，某些會帶來不可接受風(fēng)險的人工智能系統(tǒng)自2025年 2 月 2 日起將被禁止投入歐洲市場或使用。
“在工作場所和教育機構(gòu)基于生物識別人工智能系統(tǒng)推斷自然人的情緒識別”，就是被確定為直接禁止的人工智能功能。而至于什么是工作場所和教育機構(gòu)及其場景，應(yīng)當(dāng)被擴大化解釋。
《歐洲人工智能法》認為， "情緒識別"概念應(yīng)界定為根據(jù)自然人的生物識別數(shù)據(jù)識別或推斷其情感或意圖的人工智能系統(tǒng)。這一概念指的是快樂、悲傷、憤怒、驚訝、厭惡、尷尬、興奮、羞愧、蔑視、滿意和娛樂等情緒或意圖。
但是，迄今為止，關(guān)于什么是"情緒"，終究還沒有一個普遍認同的定義，而且情緒屬于內(nèi)在心情，往往會和外部表情相關(guān)聯(lián)。根據(jù) 美國心理學(xué)會的字典 ，情緒可被描述為由生理、行為和體驗等多個部分組成。美國著名心理學(xué)家、情緒神經(jīng)文化理論的作者保羅-埃克曼（Paul Ekman）提出了共七種" 普遍的基本情緒 "--悲傷、快樂、恐懼、憤怒、厭惡和驚訝和輕蔑（Contempt）——這些情緒能夠遍布全球所有種族和文化。
但是，這種情緒及意圖不包括身體狀態(tài)，如疼痛或疲勞，例如包括用于檢測職業(yè)飛行員或司機疲勞狀態(tài)以防止事故發(fā)生的系統(tǒng)。這也不包括僅僅檢測容易察覺的表情、手勢或動作，除非它們用于識別或推斷情緒。這些表情可以是基本的面部表情，如皺眉或微笑，也可以是手部、手臂或頭部的動作，還可以是一個人的聲音特征，如提高聲音或低聲說話。
這些心理、外在、行為、體驗的交叉關(guān)系，令人很難有效區(qū)別情緒、表情和體驗之間的關(guān)系。比如，女朋友打了男朋友一巴掌，男人外在的表現(xiàn)可能是疼痛，其行為可能是捂嘴的動作，表情可能是皺眉，而其內(nèi)心情緒卻可能是歡樂。??????
因此，只要面部識別人工智能最終沒有識別或推斷出“歡樂”的情緒，則其它外在、行為、體驗的識別，可被認為仍然是允許的?，F(xiàn)在的情緒識別系統(tǒng)，甚至可以檢測出男性和女性面部所表現(xiàn)出的情緒之間的細微差別。而一旦人工智能應(yīng)用于微表情，則人人都可能是表情情緒專家，微表情是一種不受自主神經(jīng)系統(tǒng)控制的瞬間微妙表情，表明一個人在有意識地隱藏自己的真實情感。
2014年的西班牙巴塞羅那，一家喜劇俱樂部引入了一種全新的經(jīng)營方式，觀眾免費人場，按笑聲收費，不笑不收錢，經(jīng)營者在觀眾席的每個座椅背后安裝有臉部辨識系統(tǒng)的平板電腦，準確記錄觀眾的每次發(fā)笑。每笑一次收費0.3歐元。不過，不用擔(dān)心笑太多付不起費用，因為每場表演最多計算80個笑容。
如果根據(jù)上述情緒的識別，在應(yīng)用面部識別之中基于“大笑”的表情，不難推斷出觀眾的情緒是歡樂的，這種情況下，雖然根據(jù)數(shù)據(jù)保護法規(guī)無禁止項，但根據(jù)人工智能系統(tǒng)的應(yīng)用時，這樣的商業(yè)模式就將面臨非常高的禁止風(fēng)險。??????????????????????
（來源：klaw.com/comedy-club-charge-per-laugh）
與此類似的，諸多智能穿戴設(shè)備也會為用戶基于相關(guān)敏感數(shù)據(jù)采集（不一定是生物識別數(shù)據(jù)），而為用戶提供心情識別服務(wù)。特別是針對兒童的情緒識別，老年人的情緒識別的。另外，我國各地高校曾發(fā)生過在教室布置注意力監(jiān)測系統(tǒng)，以識別學(xué)生學(xué)習(xí)的注意力。此類商業(yè)模式及功能也需要在人工智能領(lǐng)域中重新評估所引發(fā)的法律風(fēng)險。
之所以此類情緒識別系統(tǒng)在特定領(lǐng)域被禁止，是基于情緒的表達在不同文化和情況下，甚至在單個人身上都有很大差異，根據(jù)生物識別數(shù)據(jù)識別或推斷自然人情緒或意圖的人工智能系統(tǒng)可能導(dǎo)致歧視性結(jié)果，并可能侵犯相關(guān)人員的權(quán)利和自由。
比如以中國人的笑聲表情為例，雖然同為微笑，一種可能是輕蔑的冷笑或嘲笑，一種可能是內(nèi)心的歡愉之笑。進入店鋪的消費者對著店員點頭一笑，可能僅意味著善意的拒絕導(dǎo)購，而不是開心。????
而之所以僅在工作和教育領(lǐng)域禁止情緒識別人工智能系統(tǒng)，是因為考慮到工作或教育領(lǐng)域一直存在權(quán)利不平衡的狀態(tài)，情緒系統(tǒng)可能會導(dǎo)致某些自然人或整個自然人群體受到不利或不利的待遇。因此，應(yīng)禁止將旨在用于檢測個人在工作場所和教育相關(guān)情況下的情緒狀態(tài)的人工智能系統(tǒng)投放市場、投入使用或使用。這一禁令不應(yīng)涵蓋嚴格出于醫(yī)療或安全原因而投放市場的人工智能系統(tǒng)，如用于治療的系統(tǒng)。
情感人工智能技術(shù)可以幫助企業(yè)實時捕捉情感反應(yīng)--例如，通過解碼面部表情、分析語音模式、監(jiān)測眼球運動和測量神經(jīng)沉浸水平。最終結(jié)果是更好地了解客戶甚至員工。核心在于"人們會撒謊，但他們的大腦不會"。
2024年11月10日，荷蘭數(shù)據(jù)保護局（AP）就《禁止在工作場所或教育機構(gòu)使用人工智能系統(tǒng)進行情緒識別》征集大眾意見。在意見中，荷蘭數(shù)據(jù)保護局認為，根據(jù)歐盟人工智能法，即使是在家庭工作環(huán)境、在線或遠程學(xué)習(xí)中應(yīng)用情感識別也屬于禁止范圍，同時，這也適用于在招聘和選拔，或教育申請中應(yīng)用情感識別。
荷蘭數(shù)據(jù)保護局還認為，不在工作場所或教育機構(gòu)使用的情緒識別人工智能系統(tǒng)也屬于 "高風(fēng)險"，還必須遵守適用于這些系統(tǒng)的要求。
熱門跟貼