マーク氏の妻は自分の子どもの陰茎部分が腫れて痛がっていることから、看護師に連絡を取った。翌朝リモートで緊急の診察を受けられるとのことで、看護師は医師が事前に確認できるよう、患部の写真を送るよう伝えたという。そのおかけで抗生物質が処方されて無事に直ったとされる（The New York Times、PCMag、Yahoo!news、GIGAZINE）。

しかしこの出来事の起きた2日後、マーク氏のもとにGoogleから「ポリシー違反」の通知があり、Googleアカウントが無効化されてしまったという。マーク氏は写真をGoogleが児童ポルノだと誤認しているのだろうと気付いたことから、Googleのフォームから、息子の感染症についての説明を送ったものの、Googleはマーク氏のアカウントを復活させることはないという決定を通知してきたという。

さらに10か月が経過したタイミングで、マーク氏はサンフランシスコ警察から、GoogleとISPに出された捜査令状の写しと、マーク氏が捜査対象になっていたことを知らせる書類を受け取ったそうだ。警察からは事件ですらなかったことは確認してもらったものの、Googleアカウントの復活はされていないという。元記事によると同様の事例はほかにもあるようだ。

あるAnonymous Coward 曰く、

児童ポルノを検知するために写真を監視しているのは以前から知られているが、親が医療目的で撮ったものまで児童ポルノと判定してしまったり、また警察から問題ないとの連絡を受けてもBANを解除しないのは問題であろう。

すべて読む | ITセクション | 検閲 | Google | IT |

関連ストーリー：
ロシア政府がウィキペディアに「誤情報」の削除要求。従わない場合は罰金を通知 2022年04月06日
米議会議事堂襲撃事件後に消えたSNS「Parler」が復活 2021年02月16日
テクノロジーの負の側面を強調しすぎないよう、Googleが研究者に要求しているとの報道 2020年12月28日
トランプ大統領、通信品位法230条を廃止しろとつぶやく。もしこれが実現した場合インターネットサービスはどうなる？ 2020年06月04日
Google、中国政府公認の検閲付き検索サービス「Dragonfly」計画を中止との報道 2018年12月21日