MozillaのAIセキュリティチーム0DINが、オープンソースで利用できるAI向け脆弱性テストツール「0DIN AI Scanner」を公開しました。このツールは新しい脆弱性が発見されると即座に対応し、ライブラリが充実していく特徴があります。

0DIN AI Scannerは、さまざまなAIモデルでの脆弱性や攻撃成功率の検証ができる自動スキャンツールです。プロンプトインジェクションやジェイルブレイクなどの種類別に確認できます。テストケースはMozillaのバグ報奨金プログラムから得られ、研究者の脆弱性発見を再現可能なテストとして実装しています。

このツールはAIモデルに対するセキュリティ評価を容易にし、多くの企業が本番環境にAIを導入する際のリスク把握を支援します。Mozillaは、「インターネット全体が弱体化しないよう」として、知識をオープンソースとして公開し、継続的な更新を行います。

関連記事：AnthropicとMozillaが連携したAIエージェントの比較やテストを行うライブラリ「Any-Agent」も紹介されています。