YouTubeのAIがチェスの人気チャンネルをBAN、「白」「黒」「攻撃」「脅威」を人種差別と判定か

2021年2月24日 15:05

あるAnonymous Coward 曰く、

100万人以上のチャンネル登録者数を誇るチェスの世界最大級のYouTubeチャンネルが、2020年6月に突如「有害で危険なコンテンツを配信している」として一時BANされてしまったのだが、米カーネギーメロン大学のコンピューター科学者による後の調査でこれは「AIが、チェスの白・黒という言葉を人種差別であると誤認してしまった」可能性が高いことが判明したという（カーネギーメロン大学の記事, Gigazineの記事）。

このBANは、2020年6月28日にチェスプレイヤーのヒカル・ナカムラ氏が5度目のグランドマスターを獲得した盤面を解説したムービーを投稿した際に発生したとのこと。アカウントとチャンネルは24時間後に復活したが、現在に至るまでYouTubeからBANの理由は説明されていないという。

この事件を知ったカーネギーメロン大学の言語技術の研究チームは、チェス関連の人気YouTubeチャンネル5つのムービーから抽出した68万件を超えるコメントを、ヘイトスピーチを自動選別できるようにトレーニングされた2種類のAIを使って選別。結果、チェスでよく使われる「白」「黒」「攻撃」「脅威」などの単語が、ヘイトスピーチとして誤判定されていたという。

研究チームによれば、こうしたAIの誤判定は他の分野でも頻繁に起こっており、例えば「活動的な犬」の写真を見分けるAIが、活動的な犬の写真は背景が草原であることが多いことから、犬が居なくても草原が映っていれば活動的な犬と判断していた事例などもあるという。

情報元へのリンク

ノーマルビュー