以下の画像をクリックすると見逃し配信をご覧いただくことができます（9/21(土) 午後10:00 まで）

• 注目

アメリカ南部のテキサス州に住むエリストン・ベリーさん（15）。

高校1年生だった去年10月。

ある朝、仲の良い友人からスマートフォンに画像が送られてきました。

AIで作られた自分の裸のディープフェイク画像でした。

ベリーさん
「本当に混乱してショックを受けました。思い当たるふしがなく、怖かったです」

ベリーさんを苦しめたのは、画像が同級生たちに広く拡散していたことでした。

ベリーさん
「ソーシャルメディアに出回っていることに気付きました。私の手におえない状態になっていました。生徒全員が見たのではないかと思い、不安と恐怖でいっぱいでした」

当初は、親に話すことをためらったといいます。

ベリーさん
「私はとにかくおびえていて、起きたことを恥ずかしく感じていました。はじめは私がこのような写真を（撮影して）送ったと両親に思われるのではないかと、伝えることも怖かったです。しかし、両親は画像がフェイクだと理解してくれました」

母親はすぐに学校に相談しましたが、十分な対応をしてもらえなかったと感じています。

ベリーさんの母親
「怒りしかありませんでした。誰がやったのかもわからず、私たちはどうしたらいいかわからなくなりました」

その後ディープフェイク画像を作っていたのは、ベリーさんとかつて同じクラスだった男子生徒だということがわかりました。

生徒は停学になり、その後自主的に退学したということです。

一方、ベリーさんと母親は、SNSの運営企業に画像の削除を申請しましたが、なかなか応じてもらえず、結局、削除されるまでにおよそ9か月かかったということです。

ベリーさん
「画像がいつまた表面化するかわからないと思うと怖いと思いました。就職活動や進学の際、画像が私の将来を台なしにするかもしれない」

ベリーさんのように学校に通う子どもたちが被害にあう事例が全米で相次いでいます。

背景には、AI技術の急速な進歩で誰でも簡単に写真を加工できるサイトやアプリが次々に登場していることがあります。

アメリカのメディアによりますと、学校の女子生徒が男子生徒にみずからの偽の裸の画像をAIで生成され、SNSに投稿されるなどの被害が東部ニュージャージー州や南部フロリダ州、西部ワシントン州やカリフォルニア州などで報告されています。

子どもを性被害から守る取り組みを進めているアメリカの非営利団体「ソーン」が、去年の秋に全米の9歳から17歳の児童と生徒1000人余りを対象に行った、学校現場での性的なディープフェイクの被害についての調査結果を先月、発表しました。

▽11％ 「AIを使ってほかの生徒の裸を生成した友人や同級生を知っている」
▽80％ 「知らない」
▽10％ 「回答を控える」

全米の高校の校長でつくる団体のロン・ノゾエ代表は、ディープフェイクの問題に対処するため連邦レベルでの法制化を急ぐべきだと指摘しています。

ロン・ノゾエ代表
「個人や家族にとってだけでなく学校にとっても、とても大きなダメージになる。学校のあり方、教師と生徒、生徒どうしの関係を変えてしまいかねない。学校や地域社会が被害者に加えて加害者に対して最大限できることをしようとしても、州によって対応はまちまちだ」

• 注目

こうしたディープフェイクによる偽の性的な画像の作成と拡散は、韓国でも深刻な社会問題になっています。

現地メディアによりますと、SNSなどで公開されていた知人や学校の同級生など、身近な女性の顔写真をもとに偽の性的な画像などが作成され、それらが秘匿性の高い通信アプリ「テレグラム」で共有、拡散されていたということです。

画像は学校や地域別に大量に分類され、被害者の住所や氏名、年齢などの個人情報とあわせてアプリのチャットルームを通じてやりとりされていたことも明らかになりました。

ソウルでは、性的な被害にあった女性を支援する団体などが、政府に対策の強化や加害者への厳罰を求めるデモを毎週実施。

今月6日のデモにも女性を中心に300人以上が参加しました。

政府や警察も対策に乗り出し、ユン・ソンニョル（尹錫悦）大統領は先月27日の閣議で「技術を悪用する明らかな犯罪行為だ」として実態把握と捜査の徹底を関係機関に指示しました。

• 注目

日本でも一般の人や高校生などが性的なディープフェイクによる被害に遭っていることがわかってきています。

インターネットで出回る盗撮画像などのパトロールを行っている団体「ひいらぎネット」の永守すみれさんです。

日本でもここ数年、さまざまなSNSで性的なディープフェイクが盛んに投稿されるようになったといいます。

永守さんがパトロールで見つけた画像を見せてもらうと。

学校の教室と見られる場所で撮影された写真や、女子生徒がハチマキを巻いて友達どうしで笑顔で写っている写真。

若い女性が日常の中で撮影したとみられる何気ない写真が、裸の画像に加工され、アップされていました。

卒業アルバムからとってきたとみられる顔写真を性的な画像と組み合わせたとみられる画像もありました。

画像はさまざまなSNSで見られ、特に仲間どうしでクローズドでやりとりするSNSのグループで、よく見られるようになっているといいます。

ネットパトロールを行う団体 永守すみれさん
「一般的なSNSから画像を拾って加工されてしまうケースに加え、卒業アルバムのように自分で公開した訳ではない写真まで性的な画像の素材として使われてしまうケースが起きています。青春の思い出、友達と撮った大切な学校行事の思い出の写真が汚されている。思い出がこういう形で利用されているということに、強い憤りを感じます」

永守さんたちの団体が一般の人をターゲットにしたディープフェイクの存在に気付いたのは、数年前のことでした。

永守さんによりますと、以前は画像の加工技術のある人が有料で加工の「代行」を行うというSNSの投稿が目立っていました。

そして最近は、無料で加工ができるサービスを提供しているサイトなどへ誘導する投稿が目立つようになっているということです。

永守さん
「比較的すぐに発見できてしまうので、ここでやればいいんだという興味本位の行動が勝ってしまう状況になっていると思います。試しに使ってみた、みたいな投稿を見かけることもあり、本当に好奇心で、軽い気持ちで加工してしまったという人も一定数いるのではないかなと」
「画像を作る側はカジュアルに行っていても、被害者は、加工されたものであっても自分の裸を、何百人、何千人、下手すると何万人もの人に見られてしまっているかもしれないと考えると、穏やかな気持ちでは過ごせないと思います」

性的なディープフェイクはどのくらい広がっているのか。

アメリカのセキュリティー団体はことし、去年の世界のディープフェイクの現状を調査した報告書を発表しました。

▽2023年にオンライン上で確認されたディープフェイク映像は、9万5820件。
▽2019年と比べ、550％増加。
▽このうち、98％がポルノ映像。
▽ディープフェイクポルノの99％は女性が標的に。

標的になった人の国籍は最も多かったのが韓国で53％、次いでアメリカが20％、日本が3番目で10％などでした。

調査で見つかった、一般の人でも簡単に使えるディープフェイクツールはあわせて42ありました。また、少なくとも3つに1つは性的なディープフェイクを作り出すことができ、多くは無料で使うことができるということです。

報告書をまとめたセキュリティー団体
「許可なく個人に類似したものを複製したり操作したりするディープフェイクは個人の尊厳と、デジタルの安全性をおびやかしている」

AIの技術が悪用された、こうした性的なディープフェイク。

被害が明らかになっている各国は、どのような対応、対策をとろうとしているのでしょうか。

《韓国》
韓国では4年前の法改正で、本人の意思に反して流出させる目的で「ディープフェイク」によって偽の性的な画像などを作成した場合、5年以下の懲役、または5000万ウォン、日本円にしておよそ530万円の罰金が科されることになりました。

今回の問題でも、現地の警察は今月6日時点で容疑者52人を特定し、39人が10代だと明らかにしています。

また、韓国の放送通信審議委員会は「テレグラム」を運営する法人に対してディープフェイクの画像などの削除を要請し、これまでに20件余りが削除されています。

そして韓国警察庁は、偽の性的な画像などの作成をほう助した疑いで「テレグラム」を運営する法人に刑事責任を問えるかどうか、検討を進めています。

《アメリカ》
一方、アメリカでは、本人の同意を得ていないディープフェイクの作成や公開をめぐる法律はこれまでに29の州で制定されていますが、どのような犯罪に分類するかや罰則の重さについてはばらつきがあるのが現状です。

連邦法ではディープフェイクを規制する法律はなく、相次ぐ被害を受けて、同意を得ずに生成された画像や動画の削除を被害者が申請した場合、SNSの運営企業が48時間以内に削除することを柱にした法案の議論が、連邦議会上院で行われています。

サンフランシスコ市は先月、人物の写真をもとに裸の画像や動画を生成できるサービスを提供する業者などを州の法律に基づき提訴しました。

訴状などによりますと、対象は女性や少女を裸にできるとしている16のウェブサイトの開発や運営に関わる業者や個人で、こうしたサービスは本人の同意を得ずに偽の裸の画像を作ることを主な目的にしていて、ウェブサイトには「誰の裸でも見ることができる」などと宣伝されているということです。

提訴を担当したサンフランシスコ市のイボンヌ・メレ副法務官
「これらの16のウェブサイトに2024年の前半の6か月であわせて2億回以上のアクセスがあった。実際はさらに多いだろうが異常な数のアクセスだ。このようなサイトがあまりに横行している。人の画像を裸にすることがあまりに簡単になっている。女性や少女に大きな影響を与えている」

性的なディープフェイクの被害が急速に一般の人にも拡大していることについて、AIのあり方や社会への影響を研究しているカリフォルニア大学バークレー校のデイビッド・ハリス講師は、ディープフェイクを作成できるAIの開発や提供に関わる企業に対して、次のように指摘しています。

デイビッド・ハリス講師
「法律にできることがいくつかある。ひとつはAIシステムをめぐる責任について明確なガイドラインを作ることだ。ソフトウェアの開発者の中には自分の仕事はソフトウェアをつくることで、世界に公開したあと利用者がそれをどう使おうが自分の責任ではないと考える人がいるが、私は賛同しない。もしAIシステムをつくりそれが誰かによって悪用される可能性が予見される場合、AIソフトウェアをつくった者は責任を負うべきだ。企業はできることをすべてやるべきで、ツールを手に入れたい人、ダウンロードしたい人に提供するのをやめる必要がある」

そして、法律を執行する際の課題について。

「AIシステムをめぐるあらゆる法律は執行にあたっては非常に明確でなくてはならず、州や連邦機関に対し明確な権限を与える必要がある。どのような罰則があり、誰が責任を問われるのか具体的でなければならない。それが、コンテンツを作成した人物なのか、作成に使われたAIのツールをつくった企業なのか、その元となったAI技術を開発した企業なのか、あるいはソーシャルメディアやメッセージングアプリの企業なのかだ」

性的なディープフェイクについて、まだ詳しい実態が明らかになっていない日本。

私たちは、今後、どう対応すればいいのか。

パトロール団体の永守さんたちは、盗撮動画などを見つけた際、状況に応じて、警察や学校、SNSのプラットフォームなどへ通報を行っています。

ただ、こうした性的なディープフェイクは通報の対象外となっている窓口もあり、第三者による通報に限界を感じているといいます。

また、通報によって画像が削除されるケースは増えてきているといいますが、ほとんど応じないところもあるなど、プラットフォームによって対応に違いがあるということです。

永守さんは、生成AIの影響でここまで状況が悪化している中、法律による規制を強めるなど対策をとるべきだと考えています。

永守すみれさん
「画像の加工が簡単にできるようになり、一般の人や中高生が被害に遭うようになって環境ががらっと変わりました。本当にゲームチェンジが起こっていると思います。技術がどんどん先に進む中、プラットフォーム側の自己努力に任せている部分が大きいと思いますが、本来は国という単位で対策や被害者支援、法的な整備を考えるべきだと思います。そのためにも、この現状をたくさんの人に知ってほしいと思っています」

ディープフェイクの問題に詳しい明治大学の湯浅墾道教授は、規制強化の必要性を指摘しながらも、写真を無断で使用された側が被害に気付くことが難しく対応が困難な側面がある中、情報モラルの重要性を指摘します。

明治大学 湯浅墾道教授
「一般の人を対象に性的なディープフェイク画像を作った場合、名誉毀損の罪などが生じる可能性があります。また、わいせつ物として取り締まられるケースもあると考えられます。性的なディープフェイクが広がれば、デジタルタトゥーとなり被害者にとっては一生消えない傷になってしまう懸念もあり、取締りはもっと強化せざるをえないと思います」
「一方、クローズドなSNSなどに画像がアップされている場合、勝手に写真などを使われた側が被害に気付くことが難しい側面がある。自衛策としては、自分や家族の画像を誰でも見られるSNSにむやみにアップしないこと。そして、子どもたち自身が被害者、そして加害者にならないよう、情報モラルに関する教育をしっかり行う必要があると思います」

（9月14日 サタデーウォッチ9で放送予定）