合作媒體

史丹佛報告:AI徵才歧視非裔 恐陷「演算法單一文化」

商傳媒|林昭衡/綜合外電報導

根據一份由史丹佛大學(Stanford University)人類中心人工智慧研究院(Human-Centered Artificial Intelligence, HAI)發布的最新研究,全球企業普遍使用的 AI 徵才工具,可能對特定族群造成系統性偏見,尤其是非裔求職者。研究發現,高達九成以上的全球企業,已在初步篩選階段採用某種形式的人工智慧工具。

這項被史丹佛大學 HAI 稱為「首次針對實際應用中招募演算法進行的大規模研究」,旨在檢視當企業過度依賴單一演算法時,是否會形成「演算法單一文化(algorithmic monoculture)」進而限制求職機會。研究團隊分析了 156 家雇主、1,700 個職位發布,以及來自 340 萬人的超過 400 萬份求職申請,這些企業都使用了相同的 AI 徵才供應商。

研究結果顯示,AI 工具導致近 26% 的非裔求職者面臨系統性排斥,使他們陷入重複被拒絕的循環。如果 AI 能以推薦最受青睞群體(通常為白人申請者)的相同比例來推薦非裔和亞裔求職者,將有額外 4 萬份申請能進入下一階段。此外,演算法對非裔求職者的推薦也存在產業差異,例如他們較難被推薦至金融業職位,卻更有可能被推薦至倉儲等勞動密集型工作。

研究人員指出,當一個產業過度依賴單一供應商的 AI 工具時,求職者被系統性排除的風險更高。這種偏見的根源可能來自於訓練 AI 的資料集過度或不足代表某些群體,導致 AI 徵才工具因為資料標註錯誤或現有社會不平等,而拒絕了合格的求職者。

史丹佛大學的研究團隊特別點出,AI 驅動的篩選工具常具備三項不應同時存在於重要決策系統中的特性:普遍應用、高利害關係的後果以及缺乏公開透明度。獨立研究基於演算法的徵才過程,對於制定基於證據的 AI 政策和提升問責制至關重要。

這項研究結果對全球企業,特別是正積極導入人工智慧應用的台灣企業,具有重要的警示作用。隨著台灣職場對多元共融(Diversity, Equity, and Inclusion, DEI)議題日益重視,確保 AI 徵才工具的公平性,避免無意中加劇現有社會不平等,將是企業在導入新技術時不可忽視的課題。