テクノロジーの負の側面を強調しすぎないよう、Googleが研究者に要求しているとの報道
headless 曰く、Googleが社内の論文レビュープロセスに「注意を要するトピック (sensitive topics)」の項目を追加し、テクノロジーの負の側面が強調されないよう研究者に促しているとReutersが報じている(Reutersの記事、 The Guardianの記事、 The Vergeの記事、 SlashGearの記事)。
Reutersによれば、Googleの内部向けWebページにはテクノロジーの進歩や外部環境の複雑化により一見問題がなさそうなプロジェクトが問題を引き起こすこともあるなどと記載されており、顔と感情の分析や人種・性別・所属政党の分類といったトピックを扱う場合は事前に法務・ポリシー・PRチームに相談するよう求めているそうだ。注意を要するトピックとしては、石油産業・中国・イラン・イスラエル・COVID-19・ホームセキュリティ・保険・位置情報・宗教・自動運転車・通信のほか、Webコンテンツをおすすめしたりパーソナライズしたりするシステムなどが挙げられている。
プロジェクトによっては、Googleの担当者が論文の内容に介入することもあるという。今夏公開された「おすすめコンテンツ」に関する論文では、ポジティブな感じにするよう論文執筆者に求める一方、解決すべき問題点を隠す必要はないなどという指示があったそうだ。最終的に公開された論文では草稿にあったYouTubeへの言及が削除され、誤った情報を助長する懸念があるという記述から、正しい情報を促進できるといった記述に置き換えられたとのこと。
このような例は他にも挙げられており、一部の研究者からは検閲につながるとの懸念も出ている。Googleと研究者の間での緊張の高まりは今月初め、AI倫理専門家のTimnit Gebru氏が解雇されたと発表したことで注目を浴びた。Gebru氏の論文が注意を要するトピックのレビューを受けたかどうかは不明だが、Gebru氏はAIの負の側面を取り上げた論文を公開しないことに疑問を呈した結果解雇されたと述べている。
Gebru氏の論文についてGoogleのシニアバイスプレジデントJeff Dean氏は、(AIが)害を及ぼす可能性を長々と述べるのみで、解決のために進められている努力に言及していなかったと説明しているそうだ。Dean氏によれば、Googleではレビュープロセスが煩雑になりすぎないよう改善を進めているとのことだ。
すべて読む
| ITセクション
| 検閲
| Google
| YRO
| 人工知能
| サイエンス
|
関連ストーリー:
著作権保護が不十分だと著作権者に訴えられたYouTube、著作権侵害者と著作権者が同じIPアドレスを使用していたことを示す
2020年12月26日
ドイツ連邦最高裁、YouTubeは著作権を侵害したユーザーの電子メールアドレスなどを権利者に開示する必要はないと判断
2020年12月17日
Googleの倫理的人工知能チームの共同リーダーが突如解雇。理由は執筆論文の内容か
2020年12月09日
コンゴのコバルト鉱山での児童労働に加担しているとして人権団体がApple、Google、MS、Dell、Teslaを提訴
2019年12月20日
Google、従業員が抗議活動などのために会社のメールシステムを使うことを禁止できるよう当局に求める
2019年01月31日
headless 曰く、