黑人女性AI專家被解僱引惡評,谷歌CEO出面道歉
12月10日,當地時間週三,谷歌首席執行官桑德爾·皮查伊(Sundar Pichai)就公司人工智能研究員蒂姆尼特·格布魯(Timnit Gebru)的離職風波一事公開向員工道歉,並對公司如何處理格布魯的離職展開全面調查。
據悉,皮查伊在週三發給全體員工的一封郵件中說:“我確實也聽到了人們對格布魯博士離職的強烈反應。”“這在公司內部播下了懷疑的種子,並導致我們社區中的一些人質疑自己在谷歌的地位。對此我深表歉意,我願意承擔如何恢復你們信任的責任。”
格布魯曾是在谷歌工作的知名人工智能研究員,其因研究證實相關面部識別算法在白人中的效果要好於有色人種而聞名。格布魯常常呼籲對谷歌搜索了等重要產品提供倫理方面的技術支撐,她斷言自己上週因與他人合著的學術論文被撤引發爭議而被解僱。
皮查伊的道歉也表明事態迅速惡化,已經超出谷歌人工智能主管、首席執行官傑夫·迪恩(Jeff Dean)的掌控範疇。格布魯離職後,各種反應都表明皮查伊對谷歌人工智能管理層的不滿。
皮查伊寫道,谷歌已經啓動了一項內部調查,目的是搞清楚公司如何處理格布魯的離職以及這一事件對員工的影響,特別是對那些沒有得到充分代表的少數族裔員工的影響。
皮查伊說:“一位才華橫溢的傑出黑人女性不幸從谷歌離職,我們需要爲此承擔責任。”“這一損失在一些代表性匱乏的社區產生了連鎖反應,他們認爲從格布魯身上看到了反映了他們自己的一些經歷。”
但研究人員格布魯迴應稱,皮查伊做得還遠遠不夠。格布魯稱,到現在他們都沒有說“我爲我們對她所做的感到抱歉,這是錯誤的。”郵件中只是說,“播下了懷疑的種子,並導致我們社區的一些人質疑自己在谷歌的地位。”所以我認爲這種做法意爲“我爲事情的結局感到抱歉,但我並不爲我們對她所做的事感到抱歉。”
格布魯在隨後接受採訪時表示,事件始於谷歌要求格布魯撤回研究論文,或至少刪除涉及的谷歌員工姓名。格布魯拒絕了這一請求。
與此同時,她列舉了公司研究人員組成的一個電子郵件小組的經歷,並敦促其他人放棄正在做的一份多元化報告。“這沒什麼區別,”格布魯在郵件中寫道,“再多文件或對話也不可能有任何效果。”
近期這一事件不斷傳播發酵,激起了數千名谷歌現任和前任員工簽署請願書。他們表示,格布魯被解僱的真正原因是,她直言不諱地批評谷歌在改善公司有色人種工作條件方面進展不大。
週二,谷歌與有色人種員工組成的Black Googler網絡團體舉行了一場激烈會議。而問答環節的屏幕截圖顯示,與會者對谷歌的信任和對公司人工智能工作的支持產生了質疑。
雖然迪安和直接解僱格布魯的副總裁梅根·卡奇立雅(Megan Kacholia)都在會上發表了講話,但他們沒有回答與會者的問題。據一位知情人士說,他們離開後,有一個單獨的主持人現場問答環節,這激怒了一些員工,其中許多人還談到了辭職。其他員工稱谷歌舉行的這次會議“充耳不聞”,並質疑公司試圖繼續“掩蓋錯誤行爲”。
“我們總說,我們致力於做正確的事情,”一位在會議期間提問的谷歌黑人員工寫道。“正確的做法是承認發生在格布魯身上的事情是不對的。我還沒有看到任何一位高管承認這一點。否則,作爲一名黑人女性,我很難相信谷歌。”
一位提問者說,這次會議像是一種隱形施虐,並質疑與會者到底能從中得到什麼。另一名提問者說,“在格布魯受到無禮對待之後,爲什麼我作爲一名人工智能領域的谷歌黑人員工還要支持谷歌在人工智能公平方面所做的努力?請管理層給出一個理由。”(辰辰)
背景介紹:
谷歌AI倫理專家論文被撤發牢騷 遭公司解僱
當地時間週四,谷歌人工智能倫理團隊負責人之一蒂姆尼特·格布魯(Timnit Gebru)表示,自己被谷歌解僱,而原因是自己發送的一封電子郵件讓公司管理層認爲其舉動“與公司對谷歌經理的期望不一致”。
這封電子郵件是對谷歌要求格布魯撤回自己與其他6人合著的人工智能倫理學論文提出不同意見。論文合著者中還有4名谷歌員工。格布魯週四接受採訪時表示,如果自己不想撤回這篇已經提交給明年行業會議審議的論文,谷歌要求至少要刪掉谷歌員工的名字。
格布魯向谷歌研究部門副總裁梅根·卡奇利亞(Megan Kacholia)尋求解釋,並告訴後者,如果對這篇論文的處理方式沒有更多討論,她計劃在一段過渡期後辭職。她還想就團隊未來可能進行的類似研究項目討個明確說法。
她說:“我們就是人工智能倫理團隊,當然會寫關於人工智能的問題。”
與此同時,格布魯還參與了一個名爲Google Brain Women and Allies的電子郵件交流小組,評論其他人正在撰寫的一份報告,報告內容是疫情期間,谷歌僱傭的女性少之又少。格布魯坦言,以自己的經驗判斷這種報告不會有效果,因爲在谷歌沒有人會被追究責任。她提到了自己在提交人工智能論文方面的經驗,並將其與報告鏈接起來。
格布魯在郵件中寫道:“不要再寫這種報告了,沒什麼用。”“這種內容不可能有任何效果。”
第二天格布魯說自己被解僱了,相關郵件來自谷歌人工智能部門負責人傑夫·迪恩(Jeff Dean),稱谷歌無法滿足她的要求,因此尊重她離開谷歌的決定。根據格布魯發佈的推文,郵件還說,“你昨晚發給非管理人員的郵件某些內容與一個谷歌經理並不相稱。”
“這是徹底的沉默,”格布魯談到谷歌對她論文采取的行動時說。“你甚至不能發出科學的聲音。”
谷歌代表沒有回覆記者的多次置評請求。
格布魯的研究論文涉及處理大型語言模型可能存在的倫理問題,OpenAI、谷歌和其他研究人員都正在這一領域進行研究。格布魯說,她不知道谷歌爲什麼會擔心這篇論文。她說,這篇論文事實上已經得到了主管的批准,並提交給了谷歌其他員工徵求意見。
格布魯說,谷歌要求其研究人員發表的所有論文都必須事先獲得批准。公司告訴她,這篇論文沒有遵循適當程序。
這篇論文指出了使用大型語言模型來訓練算法的危險性。論文稱,這些模型基本上是通過分析來自互聯網的語言進行訓練的,但這些語言並不能反映全球不能上網的大部分人的表達方式。格布魯強調風險是這些模型只會反映那些有幸成爲訓練數據的一部分人的世界觀。
作爲斯坦福人工智能實驗室的合作方,格布魯也是人工智能道德應用領域的主要倡導者之一。她因2018年一項具有里程碑意義的研究而聞名,該研究顯示,面部識別軟件對黑皮膚女性的識別錯誤率高達35%,而對白人男性的識別則近乎精確。
她還直言不諱地批評包括谷歌在內的科技公司缺乏多樣性,以及在待遇方面對黑人員工不公平。格布魯說,自己被解僱是在向谷歌其他員工傳遞一個信息,讓他們不要說話。
格布魯週三晚上公佈了被解僱的消息後,得到谷歌一些同事和其他同行的支持。
一年前,谷歌以違反數據安全政策爲由解僱了4名員工。格布魯當時公開支持那些失去工作的人。而對谷歌來說,格布魯被解僱的當口正值公司面臨美國國家勞資關係委員會(NLRB)投訴谷歌對員工進行非法監視、訊問或停職。
格布魯是公司內部少有的公開批評聲音。她講述同事和主管如何試圖控制她的話語,爲騷擾或種族主義行爲找藉口,或者無視她的擔憂。
當谷歌考慮讓格布魯管理另一名員工時,就告知她在多樣性問題上的直言不諱對其不利。有人擔心,如果她這麼不開心,她是否還能管理其他人。“人們不知道這些問題存在的程度,因爲你不能談論它們,而一旦你談論了,你就成了問題,”格布魯當時說。(辰辰)