情感運算中…請微笑？

你的情緒正被監視

如今科技公司會在面試場合與公共空間利用人工智慧演算法分析你的感受，但這類演算法容易帶有種族、文化和性別上的偏誤。

撰文／麥奎德（John McQuaid）翻譯／鍾樹人


2020年2月在英國利物浦有一場會議，主題是相當沉悶的政府採購，出席者四處瀏覽參展商與供應商的展覽品，他們會在某些攤位上逗留，或是繞過另一些攤位。這些出席者受到嚴密監視：24支隱密安裝在各個角落的攝影機監看著每個人的表情，並且在他們對不同展覽品做出反應時，以每秒 5~10幀的畫面記錄每個人臉部肌肉的細微收縮並進行分類。這些影像會傳送到電腦網路，讓人工智慧（ AI）演算法評估其中每個人的性別和年齡層，分析他們的表情，尋找「快樂」和「專注」的跡象。
這套系統背後的公司是總部設在美國德州奧斯丁的 Zenu。大概在利物浦會議的一年後，該公司執行長穆塔菲斯（ Panos Moutafis）依然對分析結果感到興奮。他在視訊電話中展示一張群眾的照片，他們的臉孔都用方框框起來，他說：「就我所知，沒有太多商業系統能達到這樣的精準度。」Zenus工程師讓系統檢視龐大的臉部表情資料集，這些表情都被加註了描述相關感受的標籤，藉此訓練系統辨識情緒。該公司以各種方式確認系統的效能，包括現場測試，也就是在拍攝影像的當下，請受試者報告自身感受。穆塔菲斯表示，這套系統「無論是室內人們戴上口罩且光線不足，或是戶外人們戴帽子與太陽眼鏡的情況下，都能順利運作。」
Zenus的系統是一項新科技的應用，稱為情緒人工智慧（ emotion AI）或情感運算（ affective computing），結合了攝影機與其他搭載人工智慧程式的裝置，用於收錄臉部表情、肢體動作、講話聲調與其他線索。這項科技的目標是要超越臉部辨識與身分識別，揭露過往科技無法察覺的事：影像裡群眾內心的感受、動機與態度。2019年《機器人監視的時代即將到來》（The Dawn of Robot Surveillance）報告的作者、美國公民自由聯盟（ACLU）資深政策分析師史坦利（ Jay Stanley）說：「攝影機長期以來都很笨，現在變得聰明。它們覺醒了，並獲得新能力，不再只是默默記錄我們的行為，而是能判讀我們的行為。」

情緒辨識大熱門

情緒 AI如今成為市場調查工具。在另一場商展中， Zenus告訴希爾頓飯店（ Hilton Hotel），該飯店主辦的「小狗與冰淇淋」活動比活動設置的免費酒吧更吸引人。然而，情緒 AI觸及了風險更高的領域。能夠判讀感受、個性和意圖等線索的系統已經進行測試，甚至啟用，以便在國境檢查站偵測威脅、評估求職者、監視教室裡的學生是否覺得無聊或想搗亂，以及辨識駕駛的違法跡象。汽車大廠正在把這項科技加進未來世代的車輛，而亞馬遜（ Amazon）、微軟（ Microsoft）、Google與其他科技公司都提供以雲端為基礎的情緒 AI服務（通常搭配臉部辨識）。幾十家新創公司紛紛推出應用程式，協助企業做出僱用員工的決策。例如，這類做法在南韓已經非常普遍，職涯諮詢師（ job coach）通常會讓使用者練習要如何通過AI 面試。
AI系統藉由各種資料，能對人們的情緒和行為提出評估，除了臉部表情、講話聲調、肢體動作以及步態，也可以分析講話或書寫的內容，以了解其背後的情感和態度。一些應用程式並非用於調查情緒，而是利用蒐集的資訊來分析例如某個人的個性、某個人是否專注或具有危險性。
但是批評者警告，情緒 AI觸及的層面已經超出它能分析的範圍，很可能會構成危害。訓練 AI演算法的資料集可能包含種族、族裔和性別偏誤，導致評估的結果也產生偏誤（例如不利於非白人的求職者）。美國馬里蘭大學的資訊系統科學家魯（ Lauren Rhue）專研情緒 AI的種族偏誤，她說：「有些人認為，可以把一些認知處理過程交給這些系統，然後根據系統的判讀來決定：『這個人有威脅性。』這就可能構成危害。」
情緒 AI背後的科學基礎也存在爭議。很多情緒AI應用程式的起源可追溯到半世紀前由美國心理學家艾克曼（Paul Ekman）和福瑞森（ Wallace Friesen）的研究，在他們的理論中，少數的臉部表情會對應到基本情緒（悲傷、快樂、憤怒、恐懼、驚訝和厭惡；後來艾克曼還加入了輕蔑），而這些表情構成了所有人都能理解的情緒語言。但這些概念如今引發激辯。科學家已經發現證據顯示，臉部表情有顯著的文化和個別差異。很多研究人員表示演算法無法（至少現在還不行）連貫一致地判讀人們臉部表情的細微變化，這些變化可能不符合刻板的內在感受。艾克曼曾致力於研究早期的情緒辨識技術，現在也主張這項技術對隱私權構成嚴重威脅，應該嚴加管制。
情緒 AI在本質上並不成問題。專家表示，如果機器接受訓練之後能可靠判讀情緒與行為，情緒 AI在機器人學、健康照護與其他領域就有無窮潛力。但目前這個領域可謂是一頭熱，在社會還沒有時間考慮潛在成本之前，一項幾乎尚未驗證的科技可能就變得普及。

改善員工招聘？

葛瑞（ Mark Gray）在 2018年時任職於 Airtame人力與業務經營副總裁，正在尋找改善員工招聘過程的方法，這個流程必須要有效率。Airtame這家小型公司生產的是一款螢幕共享簡報與展示的裝置，大約 100名員工散佈在丹麥哥本哈根、美國紐約市、洛杉磯和匈牙利布達佩斯等地的辦公室，但會收到幾百份來應徵行銷或設計的求職信。另一個因素是員工招聘過程全憑感覺。葛瑞現任職於丹麥物業管理科技公司Proper，他說：「很多時候，我覺得那是某個人腦袋中有聲音在說：『我喜歡這個人』，而不是『這個人比較有能力』。招聘過程與人資領域充滿了無形因素，我想要搞清楚如何在招聘過程增添有形的面向。」
Airtame跟 Retorio簽訂合約，Retorio是一家位在德國慕尼黑的公司，把 AI應用於視訊面試。視訊面試過程相當快速：求職者錄製 60秒影片，回答兩、三個問題。演算法會分析求職者的臉部表情與聲音以及回應的文本，接著根據五大人格特質產生一份個人檔案；五大人格特質是心理學常用的分析法，分別是開放性（ openness）、自律性（ conscientiousness）、外向性（extroversion）、親和性（ agreeableness）和神經質 ......