【家電資訊-家電新聞 - 國際傳真，作者：編輯】

　　據報道，谷歌近日向外界表示，它仍堅定致力于以合乎道德規(guī)范的方式進行人工智能研究。該公司還做出承諾，將把人工智能研究人員數量增加一倍，達到200人。谷歌首席執(zhí)行官皮查伊也表示，將為更多符合倫理規(guī)范的人工智能項目提供資金支持。

　　六個月前，谷歌的人工智能倫理明星研究員蒂姆尼特·格布魯(Timnit Gebru)遭到解雇，原因是她在一篇學術論文中對谷歌的一項人工智能技術提出了倫理質疑。今年五月份，谷歌人工智能負責人杰夫·迪安(Jeff Dean)表示，盡管格布魯離職事件影響到了谷歌的聲譽，但人們需要向前看。

　　然而，對谷歌人工智能倫理團隊的部分成員來說，現實與谷歌高管的公開宣示卻有所不同。該團隊是谷歌新成立的一個人工智能分支研究機構，共有成員十人，主要任務是研究人工智能如何影響社會。根據成員的反映，該團隊幾個月來一直處于一種前途未卜的狀態(tài)。團隊成員懷疑，公司是否能在學術界重建信譽，以及公司領導是否會聽取團隊的建議。目前，兩位團隊領導已經離職，而谷歌尚未聘請到合適的繼任者。許多成員感到職業(yè)前景不穩(wěn)定，一些人開始考慮離開谷歌，準備去其他科技公司工作或者重返學術界。

　　谷歌人工智能部門的發(fā)言人已拒絕就人工智能倫理團隊的事情發(fā)表評論。

　　谷歌的研究機構擁有數千研究人員，但專門研究人工智能倫理的僅有十人。人工智能倫理團隊以發(fā)表了有關人工智能訓練數據集的算法公平性的開創(chuàng)性論文而聞名于世。該團隊為谷歌在學術界建立起了學術聲譽，證明谷歌有能力進行前沿、有時甚至是批判性的研究——這對谷歌來說非常重要。畢竟，每天都有幾十億人依賴谷歌的產品來遨游互聯網，而該公司的核心產品，比如搜索引擎，正越來越依賴人工智能。

　　雖然人工智能在癌癥診斷、地震探測和與人類交互方面具有改變世界的潛力，但這一正處飛速發(fā)展階段的技術也會有可能擴大對女性和少數族裔的偏見，對個人隱私構成威脅，以及導致碳排放的增加。谷歌為此建立了一個審查程序，用以確定新的人工智能技術是否符合其在2018年提出的人工智能倫理原則。在這一背景下，人工智能倫理團隊的職責是幫助谷歌尋找公司在人工智能領域的盲點，確保公司負責任地開發(fā)和應用人工智能技術。然而，人工智能倫理專家格布魯的離職引發(fā)了巨大的爭議，并導致了人工智能倫理團隊的人事動蕩。一些學者開始擔心，谷歌在開發(fā)有可能改變世界的人工智能新技術時，可能無法充分處理公司內部的倫理反饋意見。

　　例如，今年5月，谷歌發(fā)布了一款新的皮膚病人工智能檢測應用程序，但這款應用程序引發(fā)了批評，因為它有一個明顯的缺點：它在測試數據中大大低估了較淺膚色與較深膚色的對比。如果在發(fā)布前能事先咨詢一下人工智能倫理團隊，這一問題原本有可能加以避免。

　　在過去的幾個月里，谷歌倫理研究團隊的領導層一直處于持續(xù)動蕩的狀態(tài)。在短短幾個月的時間里，該團隊繼格布魯研究員離職后，又先后失去了兩位領導人。今年2月，谷歌解雇了梅格·米切爾(Meg Mitchell)，正是她負責創(chuàng)建了谷歌人工智能倫理團隊，并與格布魯共同領導該團隊。到了4月份，米切爾和格布魯的直接領導、頂尖人工智能科學家薩米·本吉奧(Samy Bengio)也宣布辭職。本吉奧曾向外界表示，他對格布魯的解職感到“震驚”。本吉奧是谷歌大腦研究部門的負責人，谷歌人工智能倫理團隊正是在其領導下開展工作。從谷歌離職后，他將領導蘋果公司一個新建立的人工智能研究團隊。

　　2月中旬，谷歌任命前工程副總裁瑪麗安·克勞克(Marian Croak)為新成立的人工智能責任部門(Responsible AI Department)的負責人，人工智能倫理團隊也劃歸該部門管理。然而，克勞克的行政級別太高，因此并不直接參與該團隊的日常運作。

　　這樣一來，人工智能倫理團隊的運作就變得比較尷尬。他們不得不向上述已經離職的領導人尋求非正式的工作指導和研究建議。團隊成員搭建了臨時的組織架構，讓每位成員輪流負責每周的部門會議。他們還自行指定了兩名研究人員，定期與谷歌其他團隊溝通，以讓他們了解團隊的最新成果。由于谷歌在全球雇用了超過13萬名員工，對像人工智能倫理團隊這樣的小團體來講，一般很難知道他們的工作成果是否真正應用到了公司的產品中。

　　過去的半年對該團隊的新成員來說顯得尤其困難，他們有時甚至不知道該如何領取自己的薪水，以及如何才能訪問谷歌的內部研究工具。一些團隊成員在看到格布魯和米切爾的遭遇后，開始覺得他們正在從事的工作有風險，擔心如果以后他們的工作成果也引發(fā)了爭議，那么他們也可能會被解雇。

　　克勞克是一位有成就的工程研究領導人，但在人工智能倫理領域經驗不足。在與人工智能倫理團隊的會面中，她試圖向員工保證，她是團隊的盟友。克勞克是谷歌級別最高的黑人高管之一。在谷歌，黑人女性只占員工總數的1.2%。她承認，谷歌在改善員工種族和性別多樣性方面缺乏進展。據幾位研究人員稱，克勞克在與人工智能倫理團隊的會面中，也向團隊成員表達了歉意，對團隊目前的困境表示感同身受。

　　然而，又有消息稱，這位高管與人工智能倫理團隊的關系還是出現了問題，因為他們覺得她只是做出了一些空洞的承諾。在克勞克被正式任命為人工智能責任部門負責人之前幾周，她就已經與人工智能倫理團隊的成員進行了非正式的交流，討論如何修復對團隊造成的損害。然后，人工智能倫理團隊的成員共同起草了一封信，提出了包括對團隊進行“結構改革”在內的一些建議。谷歌后來確實對團隊進行了重組，并將團隊劃歸新組建的人工智能責任部門管理。然而，團隊成員是公司內部最后得知此事的人。因此，當團隊成員得到消息時，他們是一臉的懵逼。團隊成員對此感到很不滿，認為重組過程與他們缺乏溝通，不尊重他們。

　　一些團隊成員對自己在谷歌的未來感到悲觀，并開始懷疑是否真正擁有展開研究所必需的自由環(huán)境。他們要求谷歌公開承諾學術自由，并澄清其學術研究審查程序。截至目前，谷歌尚未對這些要求有所回應。此外，團隊成員還希望谷歌向已經離職的格布魯和米切爾道歉，并向她們再次提供工作機會——但目前看來，這些要求極不可能實現。而且，格布魯也已經表示，即使谷歌再次向她提供工作機會，她也不會回來。

　　一些團隊成員表示，他們正在考慮離開公司。在競爭激烈的人工智能領域，頂尖研究人員可以拿到七位數的薪水，如果這些人員離職，那將是谷歌的一個巨大損失。

　　現在，谷歌在學術研究領域的地位正變得岌岌可危。到目前為止，谷歌是科技行業(yè)最大的研究資助者之一——它去年在研發(fā)領域投入了270多億美元，這甚至超過了美國宇航局(NASA)的年度預算。但谷歌人工智能倫理團隊近期出現的這些爭議性事件，讓一些學者質疑，谷歌的讓研究人員自由開展研究的承諾，是否已被公司的商業(yè)利益所束縛。

　　數千名計算機科學教授和研究人員曾簽署了一份請愿書，批評谷歌解雇格布魯的舉動，稱之為“前所未有的學術研究審查” 。谷歌的人工智能高管心里很清楚，谷歌已經失去了學術界的信任。迪恩在今年2月的一次員工研究會議上發(fā)表評論稱，重建信任的策略是“繼續(xù)發(fā)表‘非常有趣’的前瞻性工作”。他說，“重新獲得人們的信任需要一點時間。”

　　然而，重建信任所需的時間恐怕不止“一點”。加拿大安大略西部大學(Western University)的研究人員盧克·斯塔克(Luke Stark)評論說：“我認為，目前谷歌基本上是無法挽回其在學術界的聲譽的，至少中期來看是如此。”斯塔克最近還拒絕了谷歌的六萬美元的不受限制資助，以抗議格布魯的被迫離職。據報道，他是有史以來第一個拒絕谷歌研究資助的學者。此外，還有另外兩個人工智能研究團體也已經表示將拒絕谷歌的任何資助。

　　目前，至少有四名谷歌員工，包括一名工程總監(jiān)和一名人工智能研究人員，已經離開公司a，并且是以格布魯被解雇作為辭職理由。當然，這些離職僅代表了一個大群體中的少數人。其他人選擇留下是因為他們仍然相信事情會有轉機。一位不屬于人工智能倫理團隊的員工表示，他和同事們強烈反對谷歌解雇格布魯的決定，但他們也覺得，留下來繼續(xù)做有意義的工作是他們的責任。

　　對谷歌如何處理人工智能的倫理問題表示擔憂的遠不止學術界，監(jiān)管機構也開始關注此事。去年12月，9名國會議員致函谷歌，要求谷歌就格布魯被解雇一事作出解釋。頗具影響力的族裔正義組織“Color of Change”也呼吁，對谷歌解雇格布魯一事所可能存在的種族歧視展開外部調查。

　　這些外部團體正密切關注谷歌人工智能部門內部發(fā)生的事情。他們意識到人工智能將在人類生活中發(fā)揮越來越大的影響。幾乎所有主要的科技公司，包括谷歌在內，都將人工智能視為現代世界的一項關鍵性技術。基于反壟斷的考慮，谷歌已經成為了政治上的熱門話題，谷歌人工智能部門正面臨著很高的政治風險。

免責聲明： 家電資訊網站對《谷歌AI倫理部門動蕩不安 引監(jiān)管機構關注》一文中所陳述、觀點判斷保持中立，不對所包含內容的準確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考，并請自行承擔全部責任。

本網站有部分內容均轉載自其它媒體，轉載目的在于傳遞更多信息，并不代表本網贊同其觀點和對其真實性負責，本網站無法鑒別所上傳圖片或文字的知識版權，本站所轉載圖片、文字不涉及任何商業(yè)性質，如果侵犯，請及時通知我們，本網站將在第一時間及時刪除，不承擔任何侵權責任。聯系QQ：411954607

本網認為，一切網民在進入家電資訊網站主頁及各層頁面時已經仔細看過本條款并完全同意。敬請諒解。