リーディングビュー

OpenAI、選挙でのAI悪用防止のため利用規約を改訂へ

2024年1月19日 13:04

OpenAIは15日、2024年11月に迫っている米大統領選挙に向けて、人工知能（AI）の悪用防止を目的として、ChatGPTとAPIの利用規約を改訂する計画を発表した（OpenAIブログ、 CNET Japan、Bloomberg）。

この規約改訂では、政治キャンペーンやロビー活動を目的としたアプリケーションや、投票意欲を削ぐなどして民主的手続きへの参加を抑止するようなアプリケーションの構築を禁止。実在の人や組織のふりをするチャットボットの作成も禁止することが挙げられている。

さらに、OpenAIは画像の信頼性を向上させるために、2024年の早い時期にC2PAのデジタル認証情報（電子透かし）を導入する計画だという。ユーザーはこの認証情報を通じて、生成された画像の出所に関する詳細を確認できるようになるとしている。

生成AIが書いた論文を瞬時に判定する「生成AIチェッカー」

スラド

著者: nagazou

2024年1月19日 06:03

ユーザーローカルは12日、ChatGPTなどの生成AIによって書かれた論文やレポートかを瞬時に判定できる「生成AIチェッカー」の提供を開始した。生成AIの登場により、大量のコンテンツを効率的に生産できるようになったが、一方で事実に基づかない情報を生成する「ハルシネーション」という問題も指摘されている（窓の杜）。

この「生成AIチェッカー」は、ユーザーローカルが独自に開発したアルゴリズムを使用し、生成AI特有の言い回しや語彙の偏りを検出して、AIが作成した可能性を自動で判定するという。生成AIチェッカーは会員登録が不要で、専用サイトから無料で利用できるほか、日本語の論文やレポートに対応しているとのこと。