画像系の生成AIの弱点をついたハック
画像系の生成AIで人物の画像などを生成すると指の数を間違えやすいといった問題が起こりやすい。最新の論文でもAIが間違えやすい「指の数」を修正する技術などに触れられているものもあるという。テクノエッジで紹介されている「Concept Sliders」は、拡散モデルを使用し、画像の特定コンセプトを微調整するツールで、画像品質を損なわずに被写体の年齢、化粧、髪の色、表情の変更や、指の本数の調整、天気や季節のスタイル変更などが実現できるという(テクノエッジ)。そんな生成AIを用いたハックがSNSのX上で話題になっていたようだ。大元は今年2月にMisterCh0c氏がポスト(当時はツイート)した内容で、犯罪者が新たな6本目の指が生えたようなアクセサリを身につけて犯罪を行うことで、撮影された写真をAI生成と主張し、証拠写真を無効化するというアイデアとなっている。X上では写真を証拠として使う価値が下がる可能性や「悪いことをする時だけ頭が回るのは万国共通なのか」といったさまざまな意見が見られたようだ(Togetter)。
すべて読む
| ITセクション
| テクノロジー
| 犯罪
| ソフトウェア
| グラフィック
| 人工知能
|
関連ストーリー:
Google、AIが生成した画像を使用してイメージ通りのアパレル製品を検索する機能を米国でテスト
2023年11月18日
OpenAI、より安価なGPT-4 Turbo発表
2023年11月08日
伊藤園『お~いお茶 カテキン緑茶』TVCMに生成AIタレントを起用
2023年10月18日
ChatGPTの考える「メモリを食う」「サーバーが落ちる」「やば、全データ飛ばしてもうた」
2023年10月17日
バラクーダネットワークスジャパンは27日、悪意のあるボットが一般家庭のIPアドレスを利用してセキュリティブロックを回避し、攻撃を行っているとのレポートを発表した(
headless 曰く、
NHKの記事によると、大学や自治体のミスコンでは、ジェンダーフリー問題やルッキズムに対処するため、様々な変化が見られるという。例えば、男女混合のコンテストや外見よりも個性やパフォーマンスを重視したイベントへの移行、あるいは性別や国籍に関わらず参加できるイベントへの変更などといった感じだ(
日本の消費者が、アプリストアを通じて海外の事業者が提供するゲームなどを購入した場合、事業者が受け取った消費税を納めていないケースが少なくない。政府は、アプリストアを運営するIT大手がこうした事業者に代わって消費税を納めるよう制度の改正を検討しているという(
読売新聞の記事によれば、JAXAが夏頃にサイバー攻撃を受け、中枢サーバーに不正アクセスを受けていたことが判明したそうだ。これにより宇宙開発に関する機密情報が閲覧された可能性があるという(
ロシアは29日、大阪・関西万博への参加を取りやめると発表した。BIE(博覧会国際事務局)の総会でロシア代表が明らかにした。BIEが大阪・関西万博の準備状況について説明した直後、ロシア代表は「残念だがロシアは大阪・関西万博への参加を取りやめる。主催者とのコミュニケーションが十分とれていない」との回答があったという。具体的な理由は明らかにされていないが、ロシアの行動はウクライナ侵攻に対する日本や欧米の立場に対する反発が影響している可能性がある(
北海道・帯広市の緑ケ丘公園でエゾリスへの餌付けが問題となっている。餌付けが常態化してしまっていることから、公園管理者は餌を与えないよう注意を呼びかける看板を増設した。餌付けによりエゾリスが人に慣れて警戒心を失い、逆に講演の利用者が噛まれたり引っかかれたりする被害も報告されているという。過去の調査によると、2021年6月から2022年2月にかけて197件の餌付け行為が確認され、その結果、落花生のからなど20キロの餌付けごみが回収されたとのこと(