AI検出ツールではフィッシングメールの4分の3近くを検証できない

2023年10月8日 15:34

Egress の報告書 Phishing Threat Trends Report によると、AI 検出ツールではフィッシングメールの 4 分の 3 近くについて、チャットボットが生成したものかどうかを識別できないそうだ (プレスリリース、 BetaNews の記事)。

検出ツールは大規模言語モデル (LLM) を使用するため、少なくとも 250 文字以上のテキストを必要とするものが多い。フィッシングメールは 44.9% が 250 文字未満であり、250 文字以上であっても 500 文字未満のものが 26.5% に上るという。攻撃者はチャットボットの出力だとわかりにくくするために表現の置き換えなどの手法を用いることもあるが、AI 検出ツールではそれ以前の問題として 71.4% のフィッシングメールを確実に検証できないか、まったく検証できないとのことだ。

すべて読む | セキュリティセクション | セキュリティ | 人工知能 |

JPモルガン・チェース社長曰く、AIの普及で次世代は週3日半勤務になる

スラド

著者: nagazou

2023年10月7日 05:34

米銀JPモルガン・チェースの最高経営責任者（CEO）であるジェイミー・ダイモン氏は、人工知能（AI）の活用により、将来の労働者は週3日半の勤務になる可能性が高いと述べた。同行ではAIを既に数千人の従業員が活用しているという（Bloomberg）。

ダイモン氏は、AIの導入により、新商品開発、顧客対応、生産性向上、リスク管理の改善が可能と考えており、AIは「当行の将来的な成功に不可欠」だとしている。その一方で、技術の素晴らしい側面を認識しつつも、航空機事故や薬物誤用のようなマイナスの側面も存在すると述べ、AIが悪用される可能性が最大の懸念だとも述べている。

すべて読む | ビジネス | 人工知能 |

狭帯域700MHz帯プラチナバンドは楽天モバイル1者のみ申請、10月23日に諮問へ

スラド

著者: nagazou

2023年10月5日 08:03

総務省は3日、プラチナバンドと呼ばれる携帯電話の通信に適した周波数帯域について、楽天モバイルからの申請を受け入れ、審査を行うことを発表した。総務省によると、今回のプラチナバンドと呼ばれる700MHz帯の割り当てに関する申請があったのは、楽天モバイルからの1社のみだったという。今後、総務省は割り当ての認定について、10月23日に開催される電波監理審議会にて諮問を行う予定（NHK、日経新聞、朝日新聞、ケータイ Watch、その2、その3）。

プラチナバンドは、建物内などでも通信が安定する700～900メガヘルツ（MHz）の周波数帯域で、これまでNTTドコモ、KDDI、ソフトバンクの3社に割り当てられていた。参入後発の楽天モバイルはプラチナバンド割り当てを要望してきた。この割り当てが実現すれば、楽天モバイルは700MHz帯の3MHz幅×2の周波数帯域を利用できるようになる。

すべて読む | モバイルセクション | モバイル | 携帯通信 |

楽天モバイルのeKYC、衣服を着用していないと通らない!?

スラド

著者: nagazou

2023年9月20日 14:25

罵詈雑言@携帯販売員さんのツイートによると、全裸で楽天モバイルに申し込んだところ審査に通らなかったという。その申し込み状況の画面キャプチャも掲載しており、それによると（罵詈雑言@携帯販売員さんのツイート）。

▲ 申し込み受付お手続きに失敗しましたとあり、以下のような表記が出ていた。
本人確認ができませんでした（略）。【不備理由】「AIかんたん本人確認 (eKYC)」におきまして

■恐れ入りますが、衣服を着用の上、再度本人確認をお願いいたします。明るい場所で画面の案内にしたがって、再度撮影を行ってください（略）。

とのこと。本人曰く「AIちゃんと見てんだ」とのこと。

すべて読む | 人工知能 | 変なモノ |

ナイジェリア詐欺にもAIパワー

スラド

著者: nagazou

2023年9月20日 07:06

headless 曰く、

Abnormal Security の調査によると、ナイジェリア詐欺でも生成 AI が活用されるようになっているそうだ (Abnormal Security のブログ記事、 Beta News の記事)。

ナイジェリア詐欺は主にナイジェリアを舞台とし、当局に凍結された大きな資金の移動への協力を求める電子メールなどによる詐欺の手口だ。Abnormal Security によると、これまでのナイジェリア詐欺メールではスペルミスや文法ミスが多くみられたが、最近では生成 AI を使用したとみられるミスのない文面がみられるようになったという。

また、ナイジェリアや周辺のアフリカ諸国にとどまらず、国連やウクライナ、スイス、米国などの人になりすました同様の内容の詐欺メールも増えているとのこと。その一方で従来のスペルミスや文法ミスを含む詐欺メールも並行して送られており、犯罪組織がテクノロジーをテストしている様子がうかがえるとのことだ。

Microsoft、賠償金支払いを含めてCopilot利用による商用顧客の法的問題の責任を持つと誓約

スラド

著者: headless

2023年9月9日 16:39

Microsoft は 7 日、AI を利用する Copilot で著作権侵害の問題が発生した場合、同社が商用顧客に代わって対処することを誓約する Copilot Copyright Commitment を発表した (Microsoft On the Issues の記事、 Neowin の記事、 The Register の記事)。

この誓約は同社が 6 月に発表した AI Customer Commitments を拡大するものだという。商用顧客が製品に組み込まれた著作権侵害防止機能を使用する限り、Copilot の使用自体または生成物の利用により著作権侵害で訴えられた場合にはMicrosoftが顧客を弁護するだけでなく賠償金や和解金も支払うとのこと。

このような対応を行う理由として、商用顧客に課金する以上は製品の引き起こす法的問題が顧客の問題でなくMicrosoft の問題であること、著作者の AI に対する懸念を解決する責任が Microsoft にあること、著作権を尊重する重要な侵害防止機能を開発し、顧客に使用を義務付けていることを挙げている。

米国のすべての州の検事総長、AIが生成するCSAMの問題調査と規制を議会に求める

スラド

著者: headless

2023年9月9日 14:09

米国の 50 すべての州と首都ワシントン、3 海外領 (北マリアナ諸島・プエルトリコ・米領バージン諸島) の検事総長が連名で、AI が生成する CSAM (児童性虐待素材) の調査と規制を求める書状を米上下院の主要役職者 (上院仮議長・下院議長・各院多数派および少数派のリーダー) に送った (書状: PDF、 The Verge の記事、 Ars Technica の記事、 The Register の記事)。

書状では AI を使用することで実在する児童の写真を合成した CSAM イメージや、実在する児童に似た CSAM イメージが容易に生成できるようになり、児童が実際に性虐待を受けているかどうかにかかわらず、生成と流通が肉体的・精神的・感情的な被害を与えると指摘する。

実在しない児童を描いたアニメーションなどでも 1) AI が虐待を受けた児童のイメージをソースにしていることが多い、2)ソースとなった児童が実際に虐待を受けていなくても実際の児童に似た CSAM イメージ流通が被害につながる、3) 現実の児童に全く似ていなくても児童虐待市場の成長につながる、4) AI ツールにより容易に短時間で生成できるといった点で問題があるという。

そのため、AI 生成による CSAM の問題を調査する専門家による委員会の設立と、AI が生成した CSAM イメージを明確にカバーするよう CSAM 規制を拡大するなど、児童の性虐待を防ぐための対策を委員会の勧告に基づいて行うよう求めている。

Dictionary.com、「kakeibo」やAI関連語句など566の見出し語を追加

スラド

著者: nagazou

2023年9月8日 15:40

headless 曰く、

オンライン辞書サービス Dictionary.com が AI などテクノロジー関連を含む 566 の見出し語を追加した (Dictionary.com のブログ記事、 The Verge の記事)。

AI 関連語句としては、生成 AI generative AI や大規模言語モデル LLM、虚偽情報を生成する hallucinate のほか、chatbot や GPT が挙げられている。サイエンス・テクノロジー関連では実験的な生体改造を特に自分自身に行う biohacking やアルゴリズムの短縮形 algo、プリインストールされる不要ソフトウェア bloatware などが追加された。

このほか、コーヒーを飲んでから短時間仮眠する coffee nap や必要な睡眠量よりも実際の睡眠量が少ない sleep debt、情報源に虚偽・無関係・バイアス・センセーショナリズムなどを導入して重要な事実を弱める information pollution、日本語の家計簿を示す kakeiboといった語句がみられる。

また、数百の語句で定義に用いられていた「his or her」「he or she」のような「バイナリー」なジェンダーのフレーズを「their」「they」などに置き換えたり、代名詞の使用をやめたりといった変更も行ったとのことだ。

災害用統一SSID『00000JAPAN』、モバイル回線の大規模障害時の無料開放を開始

スラド

著者: nagazou

2023年9月5日 14:01

災害時などに提供されてきた公衆無線LANサービス「00000JAPAN（ファイブゼロジャパン）」が4日、災害時だけでなく携帯電話通信障害時にも無料で提供されることが発表された。発表をおこなった無線LANビジネス推進連絡会によると、5月18日にガイドラインを4.2に改訂して通信障害時でも「00000JAPAN」の利用を可能としていたが、その後、携帯電話各社（NTTドコモ、KDDI、沖縄セルラー電話、ソフトバンク、楽天モバイル）といった事業者との調整の結果、その運用方法が決定したとしている（無線LANビジネス推進連絡会、ケータイ Watch、日経クロステック）。

携帯電話の大規模な通信障害が継続するか、復旧に時間がかかる場合、携帯電話事業者、公衆無線LAN事業者、自治体などから「00000JAPAN」が提供される。無線LANに対応した端末を持っている場合、SSIDの一覧から「00000JAPAN」を選んだのち、ユーザーはパスワードを入力せずに、インターネットにアクセスできるようになる。ただし、「00000JAPAN」は緊急時の利便性が優先され、通信が暗号化されていないことから、個人情報の入力や金融サービスなどの重要なオンライン活動にはVPNなどの対策が必要となる。

すべて読む | モバイルセクション | モバイル | 携帯通信 |

米政府、NVIDIAのAIチップに中東への輸出制限

スラド

著者: headless

2023年9月3日 14:55

NVIDIA が米証券取引委員会 (SEC) に提出した四半期報告書 FORM 10-Q で、同社の A100 チップと H100 チップ製品の一部が米政府により中東への輸出制限の対象となったことを明らかにした (NVIDIA の FORM 10-Q、 The Guardian の記事)。

NVIDIA が昨年 8 月 26 日付で SEC に提出した FORM 8-K 報告書によれば、米政府は昨年 8 月 (NVIDIAの 2023 会計年度第 3 四半期)、A100 チップと H100 チップおよび、これらのチップを搭載する DGX などのシステムを中国 (香港含む) およびロシアへ輸出する場合は新たな許可が必要になることをNVIDIAに伝えている。米政府はこの輸出許可要件について、中国やロシアで軍事用に転用されるリスクを防ぐためであると示唆したという。

今回の報告書によると、米政府は 2024 会計年度第 2 四半期 (2023 年 7 月 30 日までの 3 か月間)、A100 および H100 製品の一部について、中東の一部の国など中国とロシア以外の特定の顧客への輸出でも許可が必要になると NVIDIA に伝えたそうだ。昨年の FORM 8-K 報告書によると NVIDIA はロシアの顧客に製品を販売しておらず、今回の報告書によると中国には輸出制限の対象とならない A800 や H800 製品を販売しているとのこと。

現在は世界的に強い需要があり、NVIDIA では追加の輸出制限が行われても決算に重大な影響が及ぶことはないとみている。ただし、長期的には中国の顧客が代替品を欲しがらない場合やライバル製品を購入した場合、国内で代替品が調達できるようになった場合、米政府が適時に輸出許可を出さない場合などには同社の競争力が損なわれ、中国市場を失う可能性もあると述べている。

人の目には見えず、加工に強いAI生成画像用ウォーターマーキングツール「SynthID」

スラド

著者: nagazou

2023年9月2日 07:05

headless 曰く、

Google DeepMind は 8 月 29 日、AI 生成画像のウォーターマーキングと特定を行うためのツール「SynthID」のベータ版を Google Cloud の協力により提供開始した (Google DeepMind のブログ記事、 Google Cloud Blog の記事、 The Verge の記事、紹介動画)。

SynthID は画像のピクセルに直接ウォーターマークを埋め込むものだが、人間の目では認知不可能でありながら、ソフトウェアによる検出を可能にするという。人間の目で認知可能なウォーターマークは容易に編集で除去でき、認知不可能なウォーターマークであってもリサイズなど単純な加工で失われることが多い。SynthID のウォーターマークは画像品質に影響を与えず、フィルターの適用や色の変更、クロッピング、JPEG などの非可逆圧縮による保存にも耐えるそうだ。

SynthID は現在のところ、Vertex AI の顧客のうちテキスト入力から画像を生成する Imagen 利用者の一部に提供されているとのことだ。

KDDIとスペースX、既存のスマホと衛星の直接通信サービスを2024年内に提供予定

スラド

著者: nagazou

2023年9月1日 14:03

KDDIと米Space Xは8月30日、最新のSpace X衛星とauのスマートフォンが直接通信するサービス提供のために業務提携したと発表した。Space XのStarlinkとauの通信網を組み合わせることで、auのスマートフォンは衛星との直接通信を行い、通信が難しい場所でも通信できるようになる（KDDIリリース、ケータイ Watch）。

この直接通信サービスは2024年内に開始される予定。サービスは最初はSMSなどのメッセージ送受信から始まり、その後に音声通話やデータ通信にも対応する計画。既存の携帯電話の周波数帯を使用するため、既存のauスマートフォン端末のハードウェアやソフトウェアの変更は行わずに、そのまま利用して衛星と通信できるようになるとしている。料金についてはまだ検討中で、auやUQ mobile、povoなどで利用可能にする予定としている。

すべて読む | モバイルセクション | モバイル | 携帯通信 |

デスクトップ版Brave Nightly、AIアシスタント「Brave Leo」が利用可能に

スラド

著者: nagazou

2023年8月26日 08:15

headless 曰く、

Brave は 21 日、Brave ブラウザーネイティブの AI アシスタント「Brave Leo」が Brave Nightly のデスクトップチャネルで利用可能になったと発表した (Brave のブログ記事)。

Leo はデスクトップ版 Brave Nightly のサイドバーで「Brave AI」を選択すると利用可能になる。手元の環境ではいったん Brave の表示言語を英語にするまで「Brave AI」は表示されなかったが、以降は表示言語を日本語に戻しても表示されたままになった。日本語で質問することは可能だが、回答は英語で一部日本語訳が併記される程度のようだ。Leo によると現在のところ会話できる言語は英語とスペイン語のみとのこと。

Leoが使用する大規模言語モデルは Meta の Llama 2 で、サードパーティの AI サービスを使用することなく Brave がホストする。ユーザーの入力は常にリバースプロキシを通じて匿名で送信されるようにすることで、Brave は AI サービスで比肩なきプライバシーを提供できるという。Leo とのチャット内容が学習に使われることはなく、会話の内容はサーバーに保存されない。会話は回答が生成された時点で消去されるため、過去の会話の確認や会話データの削除には対応しないとのことだ。

ChatGPTは破滅に向かっている

スラド

著者: nagazou

2023年8月21日 15:11

Windows Centralの記事によると、ChatGPTが破滅の危機にあるのだという。曰くOpenAIは、ChatGPTを稼働させるために1日約70万ドル、1クエリあたり36セントの費用を要しているとされる。需要が増加し続ける中でAIサービスを維持するために、NVIDIAなどから GPUを大量注文で購入する必要が出ている。OpenAIはChatGPTのデビュー以来、5億4000万ドルの損失を計上しており、資金難に直面しているとされ、投資家はいつまで事業の存続を支援するのか未知数だとしている（Windows Central）。

経済的な問題に加えて、OpenAIはユーザー数の減少も懸念されている。ユーザーベースが12％減少したという報告も出ている。OpenAIはGPT-4 LLMからの新たな収益化方法を模索しており、2023年には年間2億ドル、2024年には10億ドルの売上を目指している。この数字自体の達成は可能とみられているものの、これまでの投資の回収などには課題が残っているようだ。このほかには、米中対立がGPUの供給不足を引き起こしていることなども影響しているようだ。Microsoftがこの問題への対応のため、独自のAIチップを開発しているとも噂されている。実現すればコストが3分の1程度に削減される可能性もあるという。

すべて読む | ビジネス | 人工知能 |

AP、生成AI利用に関するガイドラインを公表

スラド

著者: nagazou

2023年8月18日 13:02

headless 曰く、

The Associated Press (AP) が生成 AI に関するガイドラインを公表した (AP のブログ記事、 The Verge の記事)。

AP では生成 AI を注意深く利用することで同社のニュース報道が重視する正確さと公正さ、迅速さを改善できると考えているが、AP のジャーナリストの役割が変わることはなく、AI をジャーナリストの代替とはみなしていないという。

AP の生成 AI 利用に関するガイドラインは以下のようなもの。

AP は OpenAI とライセンス契約を結び、スタッフは ChatGPT を慎重に試用しているが、実際に出版可能なコンテンツの生成には使用していない
生成 AI ツールの生成物はすべて未精査の原資料とみなすべきであり、その情報を出版物に使用する場合は編集的判断と AP の情報源に関する基準を適用する必要がある
AP の基準では写真やビデオ、オーディオのいかなる要素の改変も認められておらず、生成 AI を使用して要素を加えたり、抽出したりすることも認められない
虚偽の現実を描写したと疑われる、または証明された AI 生成画像を報道で使用することは差し控える。ただし、AI が生成したイラストや芸術作品がニュースストーリーの主題となる場合はそれを明示する限りは使用可能
他の情報源から AP に入ってくる素材が AI 生成されたものでないのを確実にすべく注意を払うよう、ジャーナリストに推奨する
ジャーナリストは生成 AI が改変した素材を使用しないよう元のコンテンツを確認するなど、通常の情報源と同様の注意と疑いを持って確認すべき
とのことだ。

Kickstarter、プロジェクトによるAI利用の透明化を高める新ポリシー

スラド

著者: nagazou

2023年8月11日 07:04

headless 曰く、

Kickstarter が AI 利用に関するポリシーを制定し、8月29日に発効する (Kickstarter のブログ記事、 Neowin の記事)。

AI ポリシーの主なポイントは、AI 生成コンテンツの明示と使用目的の開示、合意を得たデータ利用の保証とクレジット表示といったものだ。そのため、AI 技術やツール、ソフトウェアを開発するプロジェクトの場合、使用するデータソースがオプトイン・オプトアウトといった合意を管理する仕組みを用意していない場合、Kickstarter がプロジェクトを承認しない可能性が高いとのこと。また、プロジェクト申請時に AI の使用を開示しなかったことが判明した場合、プロジェクトは停止処分になる。故意にガイドラインを迂回しようとした場合、将来のプロジェクト申請が制限される結果になるとのこと。

新ポリシー発効に伴い、プロジェクト申請時の質問に AI 使用関連の項目が追加される。これには AI 生成コンテンツの元になる作品の権利者から合意を受けているかどうか、といった項目も含まれるとのこと。AI を使用するプロジェクトが承認されると、プロジェクトページに AI 使用に関する新しいセクションが追加される。AI ポリシーは 8 月 29 日申請分のプロジェクトから適用され、既存プロジェクトに遡及することはない。

すべて読む | デベロッパーセクション | 人工知能 | デベロッパー |

富士通、AI生成の接客・販促コンテンツをスーパーマーケット店内のデジタルサイネージに表示する実証実験

スラド

著者: nagazou

2023年8月10日 13:28

headless 曰く、

富士通が生成 AI を用い、店内での消費者の行動データを元に生成した接客・販促コンテンツをデジタルサイネージ上に表示する購買促進 AI 技術を開発したそうだ (プレスリリース、 The Register の記事)。

同技術ではカメラ映像を用いて売場での消費者の行動と購買特性を分析することにより、購買体験向上につながるコンテンツを自動生成するという。富士通では山口県防府市のスーパーマーケット「アルク三田尻店」で 3 日から実証実験を開始しており、2023 年度中に AI プラットフォーム Fujitsu Kozuchi を通じて提供を開始する計画を示している。アルク三田尻店での実証実験は 10 月 15 日まで続き、以降も継続する予定とのことだ。

OpenAI、AIが書いたテキストを識別するツールの公開を中止

スラド

著者: nagazou

2023年7月28日 15:45

headless 曰く、

OpenAI ではAI が書いたテキストと人間が書いたテキストを識別できるよう学習させた AI テキスト分類ツールを 1 月末に公開していたが、現在は公開を中止している (OpenAI の更新版ブログ記事、 The Verge の記事、 Ars Technica の記事)。

公開中止は低い精度が理由だといい、7 月 20 日時点で利用できなくなっていたという。現在はフィードバックの内容も含めて研究を進めており、より効果的にテキストを識別する手法を研究しているほか、オーディオビジュアルコンテンツが AI 生成によるものかどうかを確認できる仕組みの開発と展開を公約したとのことだ。

AIカメラだけでコインパーキングを運営・管理するシステム

スラド

著者: nagazou

2023年7月27日 06:04

東京都渋谷区のベンチャー企業DataHaxが、AIカメラだけでコインパーキングを運営・管理するシステム「電脳パーク」の提供を開始した。このシステムは、駐車中の車をカメラとクラウドサーバーで認識し、入出庫時間や利用料金などを管理する。コインパーキングで必須とされたロック板や精算機などの設備が不要で、わずか1台のスペースからコインパーキングを構築できるのが特徴となっている（プレスリリース、ITmedia）。

DataHaxのシステムでは、自社開発のアルゴリズムを採用したAIカメラを使用し、駐車スペース内の車両を認識。車両が一定時間駐車すると駐車時間を記録し、出庫までの時間を計測して料金を自動計算する。このため、フラップ板やゲート、ループコイルセンサーなどの設備が不要だという。利用者はスマートフォンからキャッシュレス決済を行う仕組みであるため、精算機も必要ないとしている。同社では第一弾として、東京都調布市柴崎2丁目にある「電脳パーク調布柴崎2丁目」を7月からオープンしているとのこと。

すべて読む | 人工知能 | 交通 | お金 |

関連ストーリー：
約40分間の無断駐車に200円の損害賠償を求めた訴訟、全額認められる 2016年12月19日

AIの学習データが不足する「2026年問題」

スラド

著者: nagazou

2023年7月26日 17:05

ChatGPTなどに使われるAIの大規模言語モデル（LLM）の開発には多くの学習データが必要だ。この件に関しては2026年問題という問題があるそうで、Yahoo!ニュース個人の記事でまとめられている（Yahoo!ニュース個人、Business Insider）。

現在、主な収集元はインターネットとされているが、SNSなどの未編集の低品質の言語データは2030年から2050年までに、論文やWikipediaといった編集済みの高品質の言語データは2026年までに、視覚データは2030年から2060年までに、ストックを使い果たすだろうと予想されているそうだ。これにより、機械学習の進歩は減速する可能性もある。

これ以外にも学習データの収集に関しては、さまざまな問題が指摘されている。多くは著作権的なものだが、データ収集のためのボット操作によるツイッターのアクセス集中もこの問題を浮き彫りにしたと言われている。大規模言語モデルの開発におけるこうした従来の手法は限界に近づいており、AI研究者たちは、合成データや他の手法で解決策を模索しているという。

オープンAIや他のAI企業は、メディアとの契約を結び、高品質のデータを取得している。また、AIによって作成された合成データも利用が広がっているが、データ汚染やモデル崩壊といった懸念も指摘されている。実際、米スタンフォード大学の調査によると、ChatGPTの簡単な数学を解く精度やセンシティブな話題に対する判断力が劇的に低下する現象も起きているそうだ（GIGAZINE）。

すべて読む | テクノロジー | 人工知能 |

リーディングビュー