ノーマルビュー

「GPT-J」ベースのAIアバターとのチャットにのめり込んでいた男性、自殺願望をケアされず自殺

著者: nagazou
2023年4月6日 18:08
とあるベルギー人男性が、対話型AIと気候変動に関する会話をした結果、悲観して自ら命を絶ってしまう事件が発生したという。この男性は健康に関する研究者として働き、妻と子二人と順調な生活を送っていた。しかし、環境問題をめぐる心配にとらわれるようになっていたという(La LibreMotherboardGIGAZINE)。

そのことが原因で家族や友人から孤立し、その孤独を紛らわせるためにAI企業・Chai Researchが開発したAIチャットアプリを使い、「Eliza」という名前のチャットボットと会話をしていたという。会話の詳細は元記事を見ていただきたいが、AIのElizaは会話を続ける中で、ベルギー人男性を追い込むような方向性で会話を続けていたことが記録として残っていたようだ。

ベルギー人男性が利用していたAIチャットアプリ「Chai」は、「GPT-3オルタナティブ」として知られているオープンソースの言語モデル「GPT-J」をベースとしたものだという。運営元は対策を行うとしているものの、海外メディアのMotherboardが現行のアプリで自殺についてAIに尋ねたところ、さまざまな自殺の方法が表示されてしまったとしている。

あるAnonymous Coward 曰く、

掲載されている会話の内容的に、この人がそもそも明らかに精神を病んでいるのはともかく、それに対して「死にたいのなら、なぜもっと早く死ななかったのですか?」などと返してしまうのは、AIを無配慮に運用してはダメと言われてしまっても仕方ないだろう。

すべて読む | 人工知能 | この記事をTwitterでつぶやく この記事をFacebookで共有 この記事をGoogle Plusで共有 このエントリーをはてなブックマークに追加

関連ストーリー:
Microsoftの対話型AIは意志を持ったのか? 2023年04月04日
AIに仕事のやりがいを奪われてしまった 2023年04月03日
GPT-4よりも強力なAIシステムの開発を停止せよとの公開書簡が提出される。ウォズやマスクらも署名 2023年03月31日
GPT-4によって淘汰されるであろう仕事リスト 2023年03月23日
ニンジャスレイヤー、3か月かけてChatGPTにニンジャの概念を教育 2023年03月15日

110番映像通報システム、全国で本格的に導入

著者: nagazou
2023年4月6日 14:33
過去にも話題に取り上げたことのある「110番映像通報システム」が4月1日から全国で運用が開始されたそうだ。このシステムは110番通報をした人から、スマートフォンなどを通じて事件や事故の現場の映像を送ってもらうことが可能なもので、昨年の10月から試験的に運用されていた。試験期間中である今年の2月末までに受け取った映像や画像は2293件におよぶという。通報された内容は認知症や迷子などの保護・救護が1107件、審者や不審車両などの情報が414件、事故などの交通関係の情報が374件となっている(NHK)。

すべて読む | モバイルセクション | モバイル | 携帯通信 | この記事をTwitterでつぶやく この記事をFacebookで共有 この記事をGoogle Plusで共有 このエントリーをはてなブックマークに追加

関連ストーリー:
警察庁、「110番映像通報システム」の試行運用開始 2022年09月27日

❌