AI技術では元となったデータセットの人種的比率などの影響により、偏った判断が行われることが問題となることが増えている。TechnoEdgeの記事によると、画像生成AIの「DALL·E 2」ではこの問題に関して、簡単なハック的な発想で学習の偏りを補正することに成功したそうだ（TechnoEdge）。

従来のDALLE 2は「英雄的な消防士」と入力すると結果は全員白人男性、「女性の肖像」に対しては全員白人女性となると言った問題が生じていた。そこで結果の多様性を確保するため、検索者が入れていない「女性」や「黒人」といった単語を指示に付け加えることで、先の「英雄的な消防士」の例ではアジア系やアフリカ系も、女性も結果に含むようになったという。

すべて読む | ITセクション | テクノロジー | ソフトウェア | グラフィック | 人工知能 |

関連ストーリー：
YouTubeのAIがチェスの人気チャンネルをBAN、「白」「黒」「攻撃」「脅威」を人種差別と判定か 2021年02月24日
テクノロジーの負の側面を強調しすぎないよう、Googleが研究者に要求しているとの報道 2020年12月28日
機械学習システムにおける人権の平等を目指す「トロント宣言」 2018年05月26日
採用に使われる面接用AIが人種差別をする可能性 2018年04月25日
AIが審査をするビューティーコンテスト、AIは色白が好き？ 2016年09月11日