イタリア首相を襲ったディープフェイク・ポルノ、AIが民主主義を揺るがす 拡散する性的ディープフェイクと規制なきネット社会の危険性(1/4)

ディープフェイク・ポルノを作る側は『遊び心』や『冗談』だと思ってることが多いんですか？それとも政治的・個人的な怨恨の道具として計算済みなんですか？

記事を読むと、イタリアのメローニ首相を狙った犯人は40代と70代の男性で、一見すると「計算済みの政治的意図」というより「かなり幼稚な犯人」と著者は指摘しています。ただ、これは表面的な見方かもしれません。 実際のところ、二つが混在してる可能性が高そうです。日本の学生による「盗撮フェイク」の事例では、加害者が同級生という近い関係。つまり、個人的な怨恨や性的支配欲が直結した行動。一方、政治家を標的にした場合は、拡散性を意識した「威嚇や名誉毀損の道具」として機能してる。 重要なのは、作る側の意図がどうであれ、結果としてネット上で拡散した瞬間に「政治的兵器化」が起きるという点です。著者が「ブーメラン現象」に触れているのはそこで、本人の計画がどうあれ、コンテンツは一度拡散すれば「誰にでも利用可能な素材」になってしまう。むしろ、作り手の怨恨よりも、拡散に乗っかる側の政治的悪用が問題化する構図に見えます。 つまり、最初の一枚を作った人は「遊び」でも、それが政治戦争の武器に化ける可能性が、この事件の本当の危なさなのかもしれません。

『ディープフェイク』って、単に顔を合成するだけじゃなくて、どこまで精密に作られてるの？見た目で本物と見分けるのはもう不可能なレベルなんですか？

ディープフェイク技術の精密さは、実は「用途と予算次第」というのが実情のようです。メローニ首相のケースは、逮捕された40代男性が自作したものですが、報道を見る限り、政治的対立者の間では「怪しい」と気づかれるレベルだった可能性がある。本当に精密なディープフェイクは、フェイス交換の境界部分の毛の流れまで自然に処理し、肌の質感や光の当たり方を完璧に模倣する必要があり、それには相応の技術と時間がかかります。つまり「見分けられるレベル」と「見分け不可能なレベル」の両極が存在するわけです。問題は、見分け不可能なものが増えているという点。高度なAIモデルを使えば、素人でも精密なものを作れる時代になった。だから「本当かどうか確認する」というメローニ首相の呼びかけが響くんでしょう。見た目だけでは判断できない領域に、すでに片足を踏み入れているのかもしれません。

自分の顔の画像がネットに出回ってるかどうか、どうやって確認するんですか？ディープフェイクの被害者になっても気づかない可能性があるってことですか？

ディープフェイク被害って、実は発見自体が運任せになってるんですよね。有名人なら報道や支援者の通報で知ることもあるけど、一般人だと誰かが見つけるまで気づかないままという世界。 Google画像検索で自分の顔を検索することはできますが、新しく生成されたフェイク画像は日々増えていくし、プライベートなサイトやクローズドなコミュニティに上がれば検索では引っかかりません。さらに厄介なのは、AIが生成した顔は実在しない人物なのに、その人物に似た特徴を持つ画像が大量生成される可能性もあるということ。自分の画像かどうか判別すること自体が難しくなってきているわけです。 記事で指摘されている日本の女子学生のケースも、多くは第三者からの通報で家族が気づいている。つまり、被害者本人が主体的に防御する仕組みがほぼ存在しないのが現状のようです。たとえるなら、自分の写真が無断で使われるリスクが常にあるのに、その監視カメラを自分で設置できない状況に近いと言えそうです。

なぜ今、こんなにディープフェイク・ポルノが急増してるんですか？生成AIの技術が急速に広がったここ数年で起きた現象なんですか？

技術が広がったのは確かですが、その背景にはもう一つ、人間心理の変化があると思います。 スマートフォンで誰もが撮影者になり、SNSで瞬時に拡散できるようになった時点で、すでに「顔を悪用したい衝動」は市民レベルに降りてきていた。ディープフェイクの登場は、その衝動を「より簡単に、より本物っぽく実行できる道具」に変えただけかもしれません。 記事で同級生が女子学生を加工するケースが半数という統計が出てくるのも、象徴的です。これは技術の発展というより、「親密な関係内での支配欲」が、新しい武器を手に入れた状況に見えます。かつては落書きや噂話だった嫌がらせが、いまはデジタルで永遠に残る形に変わった。 メローニ首相のケースでも犯人は高齢男性で、必ずしも最先端のIT知識者ではない。むしろ、オンライン化した社会で「気に入らない相手を傷つけたい」という古い感情が、新しい技術を借りて表現される――そういう構造の方が正確なのかもしれません。技術の進化が引き金ではなく、むしろ既存の悪意が「より実行しやすくなった」という見方もできそうです。

『権力者ほど身を守る手段がある』ってメローニ首相は言ってますけど、つまり『デジタル被害は階級によって被害度が変わる』みたいな新しい不平等が生まれてるってことですか？

メローニ首相が指摘したのは、その通り階級による防衛能力の差です。彼女は法的リソース、メディアアクセス、政治的影響力を持っているから、ディープフェイクが出回ってもステートメントを発表し、公式な対抗言論を展開できた。でも、匿名の高校生がターゲットになったら、親や学校に相談するだけで、社会的に完全に消滅させる手段はない。デジタル被害が「一度出たら回収不可能」という性質を持っているぶん、それに対抗する力がない層ほど、ダメージが相対的に大きくなります。 ただ面白いのは、この論理を逆向きに考えると、むしろ権力者のほうが脆弱になる可能性もあるということです。メローニ首相は「多くの人はそうではない」と言いますが、実は権力者こそ、ディープフェイクが政治的武器として機能しやすい。政敵が「これは合成です」という反論を無視して拡散したら、本当/偽物の判定さえ難しくなる。一般人の被害は個人的な屈辱ですが、政治家の場合は統治の正当性そのものが揺らぐ。防衛手段の充実が、かえって信頼喪失のリスクを大きくしているかもしれません。