AI生成のレントゲン画像、専門家でも見分けられない。医療ハッキングの怖さ
🤖 AI Summary
AI生成のレントゲン画像が専門家でも見分けられないという研究結果が出た。ニューヨークのマウントサイナイ医科大学の研究チームが、放射線科医17人に本物とAI生成の偽レントゲン画像を混ざったデータセットを見せ让患者を見分けるテストを行い、正解率は「知っている」グループで75%、「知らない」グループでは41%だった。特に骨や筋肉に関する専門家は高い正確度を示した。AI自体も見分けに失敗し、正解率は57~85%と低かった。研究結果は「Radiology」誌に掲載された。
この問題が医療ハッキングのリスクを増幅する可能性があるとして、専門家や陪審員が誤った判断をする恐れがあることが指摘されている。医療データへの不正アクセスからAI生成画像が混入されると、診断が狂う可能性もあると警告している。
研究チームは判別ツールの開発や学習用データセット作成に貢献すると期待しており、オンラインで見分けテストができるよう公開されている。Tordjman医師によれば、不自然な完璧さがAI生成画像の特徴だとされるが、専門家すら難しかったという。
この問題は、AI技術の進歩に伴う新たな課題を示唆しており、医療分野での信頼性確保のための対策が必要となるだろう。
この問題が医療ハッキングのリスクを増幅する可能性があるとして、専門家や陪審員が誤った判断をする恐れがあることが指摘されている。医療データへの不正アクセスからAI生成画像が混入されると、診断が狂う可能性もあると警告している。
研究チームは判別ツールの開発や学習用データセット作成に貢献すると期待しており、オンラインで見分けテストができるよう公開されている。Tordjman医師によれば、不自然な完璧さがAI生成画像の特徴だとされるが、専門家すら難しかったという。
この問題は、AI技術の進歩に伴う新たな課題を示唆しており、医療分野での信頼性確保のための対策が必要となるだろう。


















