GoogleはAI研究者からの評判を害している

Google AI倫理のトップ研究者の解雇は、大きな反発を引き起こしました

Googleは、AIの責任あるスチュワードとしての地位を確立するために何年にもわたって取り組んできました。その研究所は、尊敬される学者を採用し、画期的な論文を発表し、この分野の最大の会議で議題を導きます。しかし今では、同社がデータの帝国に政治的に口に合う顔を向けようと奮闘しているように、その評判はひどく、おそらく不可逆的に損なわれています。

Googleの検索製品に不可欠なテクノロジーの欠点をたまたま調べていた、AI倫理のトップ研究者の2人であるTimnitGebruとMargaretMitchellを解雇するという同社の決定は、抗議の波を引き起こしました。学者はさまざまな方法で不満を登録しています。二バックアウトGoogleの研究ワークショップの3分の1断られた会社からの60,000ドルの助成金、および4番目誓約将来その資金を受け入れない。 2人のエンジニアが会社を辞めましたゲブルの治療に抗議するそして先週、GoogleのトップAI従業員の1人、数百人の労働者を監督したサミーベンジオという名前の研究マネージャーが辞任しました。（ベンジオは辞任を発表する電子メールで発砲について言及しなかったが、以前に彼は唖然としたゲブルに何が起こったのかによって。）

彼らが科学を抑圧する意欲を示しているのではないかと心配しています

テキサス大学オースティン校のロボット工学と機械学習の助教授であるスコット・ニークム氏は、社内の倫理と多様性への取り組みに深く疑問を投げかけるだけでなく、次のように語っています。ザ・ヴァージ。しかし、彼らが自分たちのビジネス上の利益と一致しない科学を抑圧する意欲を示しているのではないかと心配しています。

それは間違いなく公平性とAI倫理の分野での彼らの信頼を傷つけます、とAIの説明責任に取り組んでいるMozillaFoundationのフェローであるDebRajiは言います。機械学習コミュニティは、業界の研究への参加による利益相反についてあまりオープンではないと思います。

NiekumとRajiは、Googleの内外の他の多くの人々とともに、同社のEthicalAIチームの共同リーダーであるGebruとMitchellに起こったことにショックを受けました。ゲブルは、ミッチェルらと共同執筆した研究論文をめぐってマネージャーと議論した後、昨年12月に解雇された。（Googleはこのアカウントに異議を唱え、言うゲブルは辞任した。）ミッチェルは、ゲブルに対する差別の証拠を求めて彼女の電子メールを検索した後、2月に解雇された。問題の論文は、大規模なAI言語モデル（現在Googleの収益性の高い検索ビジネスを支えているテクノロジー）の問題を調査し、その発砲は、同社が研究を抑制しているという抗議と非難につながっています。ゲブルが12月に追放された後、ミディアムポスト彼女との連帯を宣言し、Googleによる前例のない研究検閲を批判することは、約2,700人の従業員と、4,300人を超える学術、産業、市民社会の支持者によって署名されました。

より多くの抗議と辞任もある可能性があります。ベンジオが会社を辞めた後、ミッチェルツイートした、今や辞任が来るbcの人々は私たちが解雇された直後に面接を開始し、その求人は今始まったばかりです。より多くの辞任がありそうです。この記事で強調されているこれらの問題やその他の問題についてコメントを求められたとき、Googleは定型的な回答のみを提供しました。

多くの研究者によって明確にされた怒りと悲しみにもかかわらずザ・バージ話を聞いたところ、最近の事件について他の人はもっと曖昧でした。彼らは、将来Googleと協力する意欲に影響を与えないと述べ、研究への干渉は業界の研究室で働くことの代償であると述べた。多くの人が、この問題に対する唯一の永続的な解決策はより良い公的資金であると考えていると述べました。

以前に研究に資金を提供するためにGoogleからお金を受け取り、匿名を希望したアメリカの大学の1人のAI教授は、次のように語っています。ザ・バージ彼は人々がなぜ会社に抗議したいのか理解できたが、学界で資金を見つけることは常に研究者に潜在的に危うい情報源に目を向けさせるだろうと言った。

多くの研究者によると、業界の研究室は常に企業の利益に左右されるとのことです。

教授は電子メールで、国防総省からはお金を受け取っても、グーグルからは受け取ってはいけないと言う、首尾一貫した道徳的または倫理的立場を実際に定義することはできないと述べた。別の言い方をすれば、国防総省が（世界中で、また自国民が関与する人事問題に関して）犯した残虐行為をどのように受け入れる（または視線をそらす）ことができますが、Googleとの現在のケースで線を引くことができますか？

匿名を希望する別の研究者は、企業の研究室で働くことは常に学問の自由と他の特典との間のトレードオフを伴うだろうと述べました。彼らは、研究スタッフを冷淡に扱うのはグーグルだけではないと言い、指摘した2014年のMicrosoftの突然の決定シリコンバレーの研究室全体を閉鎖し、50人以上の主要なコンピューター科学者をほとんど警告なしに解雇しました。

ただし、いくつかの点で、Googleは特殊なケースであり、他の企業がこれまでになかった方法でAIの分野で大きな影響力を行使します。まず、Googleには、近年AIの優位性を支えてきた2つのリソース、つまり豊富なコンピューティング能力とデータが豊富にあります。第二に、同社はAIが将来の収益性にとって極めて重要であると何度も述べています。これは、たとえば計算論的神経科学への資金提供とは比較にならない方法で、この分野に直接投資されていることを意味します。自己利益と技術的利点のこの組み合わせが、学術研究のパラメーターをある程度指示する能力と動機を与えます。

彼らが研究に費やしているお金、彼らが行使するメディアの影響、そして出版された論文やシステムの査読者の点での彼らの巨大な存在のために、彼らはこの大きな影響力を持っています、とニークムは言います。しかし、彼は、この批判は他の大手ハイテク企業にも簡単に当てはまる可能性があると付け加えています。

無料のドロップボックス

GoogleがAI研究に関与している状況がどうであれ、同社がGebruとMitchellの扱いで評判を大きく傷つけていることは明らかです。このような事件が長期的に企業にどのような影響を与えるかを計算することは不可能ですが、短期的にはGoogleはAIの仕事と少数派の声をサポートする能力への信頼を失っています。自己検閲の告発はまた、それがそれ自身の技術を規制することができるという主張を弱体化させるでしょう。 Googleが独自のAIツールの欠点を調査することを信頼できない場合、政府はその仕組みを詳しく調べる必要がありますか？

Googleは、多くの研究者の信頼を取り戻すために、さらに多くのことを行う必要があります

それでも、Googleワークショップをボイコットし、そのお金を拒否する人々は、彼らの行動が他の何よりも象徴的であることを知っています。グーグルと協力している人々の数とグーグルでパートタイムの予定を持っている学者の数と比較して、それは海の低下です、とクレスガジットは言います。ただし、Googleが修正を行うことを期待して、問題を解決することはまだ決まっています。ゲブルとミッチェルの解雇以来、同社は新しい従業員、マリアン・クロークを任命しました。責任あるAIイニシアチブを監督する。も微調整論文のレビュープロセス（ただし、何が変更されたのか、またはその理由についての詳細は提供されていません）。会社に腹を立てている人たちのために、レビューに真の透明性を提供したり、ゲブルに公に謝罪したりするなど、もっと多くのことをする必要があります。

そして他の人にとっては、それは完全に手遅れです。ゲブルの近くにいるラジは、Googleが過去数か月にわたって友人をどのように扱ったかを見た結果、産業界で働くことについて考えを変え、代わりに学界でのキャリアを追求することに決めたと言います。

これまで、私はこれらのAI倫理問題に関する業界の研究で何が起こり得るかについてより多くの信頼を持っていたと彼女は言います。この全体的な状況は、業界内でまだ多くの文化的ダイナミクスが働いており、これらの問題を気にかけているリーダーシップに依然として注目していることを示しています。マイノリティの女性として、あなたは特定の方法で不利になり、軽蔑されるでしょう。そして、私はその準備ができていません。

これは、テクノロジー業界が失った才能のある研究者の1人です。それが最後ではありません。