オンライン通販サイトでは、製品レビューをAIが要約する機能が使用されています。しかし、カリフォルニア大学サンディエゴ校の研究によると、AIによる要約は元のレビューよりも肯定的なニュアンスに改変されることが多く、これが消費者の購入意欲を高める可能性があると報告されました。

この研究では、大規模言語モデルが生成した要約内容を見ましたが、中盤部分は反映されにくく、特に冒頭部分が偏って反映されていることも明らかになりました。また、AIは偽造ニュースを識別する能力も低いことが確認されました。

さらに実験では、肯定的なAI要約のレビューを読んだ被験者の方が、中立的または否定的レビューを読んだ被験者よりも製品購入意欲が高まったという結果が出ました。このことから、AIによるニュアンス改変は消費者の判断や購買行動に大きな影響を与える可能性があることがわかりました。

特に医療文書の要約や学校の入学審査などの場面では、表現の切り替えにより人物や事案に対する受け止め方が変わることも指摘されています。