🤖 AI Summary
**要約(日本語)**
Google Play と Apple App Store で 5,000 万ユーザーを超えると称される AI チャットアプリ「Chat & Ask AI」のバックエンドが誤設定され、数億件に及ぶ利用者のプライベート会話が外部から閲覧可能になっていたことが明らかになった。独立系セキュリティ研究者(ハリー)は、Google Firebase のデフォルト設定を悪用できる点を突き、約 3 億件(2,500 万ユーザー以上)のメッセージにアクセス。サンプルとして 60,000 人・100 万件を解析したところ、利用者が「自殺方法」「メタンフェタミンの製造」「アプリのハッキング」など危険・違法な質問を行っていたことが確認された。
漏洩したデータには、チャット履歴、タイムスタンプ、ユーザーが付けたチャットボット名、モデル設定、使用した大規模言語モデル(OpenAI の ChatGPT、Anthropic の Claude、Google の Gemini など)が含まれる。問題の根本は、Firebase の認証を誰でも取得できるようにしてしまったミスコンフィギュレーションで、これにより不正に「認証済み」ユーザーとしてバックエンドストレージへアクセスできた。
この事件は、モバイルアプリがクラウドサービスを利用する際の設定管理の重要性と、個人情報保護に対するユーザーのリスク認識を改めて浮き彫りにした。
An anonymous reader shares a report: Chat & Ask AI, one of the most popular AI apps on the Google Play and Apple App stores that claims more than 50 million users, left hundreds of millions of those users' private messages with the app's chatbot exposed, according to an independent security researcher and emails viewed by 404 Media. The exposed chats showed users asked the app "How do I painlessly kill myself," to write suicide notes, "how to make meth," and how to hack various apps.
The exposed data was discovered by an independent security researcher who goes by Harry. The issue is a misconfiguration in the app's usage of the mobile app development platform Google Firebase, which by default makes it easy for anyone to make themselves an "authenticated" user who can access the app's backend storage where in many instances user data is stored.
Harry said that he had access to 300 million messages from more than 25 million users in the exposed database, and that he extracted and analyzed a sample of 60,000 users and a million messages. The database contained user files with a complete history of their chats with the AI, timestamps of those chats, the name they gave the app's chatbot, how they configured the model, and which specific model they used. Chat & Ask AI is a "wrapper" that plugs into various large language models from bigger companies users can choose from, Including OpenAI's ChatGPT, Anthropic's Claude, and Google's Gemini.
Read more of this story at Slashdot.