AIが作った画像を見破る力で、より本物らしい画像を作る

『生成系』と『判定系』って、要するに『作る側』と『見破る側』のAIってこと？

その通りです。『生成系』は画像を作るAI、『判定系』はそれが本物か作り物かを見分けるAI。これまでは役割が完全に分かれていたんですよね。 ただ面白いのは、この二つを別々に鍛えるのではなく、一緒に育てると何が起きるか、という部分です。判定系が「ここが不自然だ」と指摘するポイントを、生成系がそのつど修正していく。すると判定系もそこに対応して、さらに細かい違いを見つけるようになる。その繰り返しで、両方が一度に強くなっていく構造になるということです。 スポーツの練習に例えるなら、ピッチャーとバッターが一緒に練習するたびに互いにレベルアップしていく感じ。敵対ではなく、共に鍛えられるパートナーという関係が生まれるわけです。だからこそ、どちらか一方だけを鍛えるより、短い期間で高い精度に到達できたんだと言えそうです。

SNSに出回るディープフェイクが本物らしくなるってことは、詐欺とか詐称に使われるリスクも高まるってことなの？

確かにそういう心配は出てきますね。ただ、逆説的に聞こえるかもしれませんが、この研究が進むと詐欺リスクはむしろ *検知しやすく* なる可能性もあります。 というのは、生成系と判定系が一緒に磨かれるということは、見破る側の精度も同時に上がっているということ。つまり、より本物らしい画像が作れるようになると同時に、「これはAIが作った」という痕跡を読み取る目利きも鋭くなっていく。いたちごっこなんですけど、そのいたちごっこの過程で、両者の違いが明確になっていくわけです。 むしろ危ないのは、生成技術だけが先に進んでしまい、見破る技術が遅れている今この瞬間かもしれません。この研究のような「共進化」の枠組みが広がれば、詐欺師も対抗技術の進化に付き合わざるを得なくなる。スマートフォンのセキュリティが進むたびに、詐欺の手口も変わっていくように、イタチごっこは続くとしても、検知側も常にアップデートされていく構造になると言えそうです。

これまで生成と判定が別々に発展してきたのって、別々に発展した方が都合がいい人たちがいたからなのかな？

技術的な効率と、業界の現実がズレているという、よくあるパターンかもしれません。 生成と判定を別々に発展させるメリットは、実は単純な分業です。生成モデルを強くしたい人は生成に集中する、見破る技術を磨きたい人は判定に特化する。それぞれが競争相手も目標も明確で、研究も事業化もやりやすかった。分かれていることで、スピード感も出ます。 ただし、「別々の方が都合がいい」という疑問に応えるなら、検証技術の弱さを放置することで利益を得ていた層は確かにいた気がします。フェイク画像を安易に作る側からすれば、見破られにくい方が都合いい。一方、生成技術を売るAIベンチャーからすれば、「作った画像がどこまで本物に見えるか」が営業トークになります。検証技術が強すぎると、その威力が減ります。 だから業界としては、二つが手を取り合う選択肢が、ビジネス的には後回しにされていた可能性があります。むしろ今回の研究が「共進化」という言い方をするのは、そこへの視点の転換を強調しているのかもしれません。

敵同士だと思ってた二つが『共進化のパートナー』になるって、要するに『対立を通じてお互い強くなる』というパターンなの？

似てるけど、少し違うんですよ。対立を通じて強くなるのは「敵が強くなるから自分たちも強くならざるを得ない」という受身の関係。でも共進化パートナーは「敵の強さそのものを自分の設計図に組み込んでいく」という主体的な関係だと言えそうです。 この記事の面白さは、生成系と判定系が実は同じ目標を追いかけていることに気付いたところ。判定系が「ここが本物と違う」と指摘するポイントが、そのまま生成系の改善データになる。つまり敵の目を通じて自分たちの弱点を正確に知ることができるんです。 従来のやり方なら、判定系が強くなっても「あいつは強い」で終わってた。でも同じシステムに統合すると、敵の強さが「何が重要な特徴なのか」という共通言語に変わる。その言語を握ったら、どちらも同時に伸びていく。スポーツで例えるなら、強い相手と試合するのではなく、その相手の目の付け所そのものをコーチに雇う感じかもしれません。つまり対立ではなく、対立の構造を解析したうえでの融合と言えそうです。

AIが本物そっくりの画像を作れるようになると、逆に『デジタル化された世界では画像を信じるのが危険』ってことになるのかな？

その不安は一見正しく見えますが、実は逆かもしれません。 いま起きているのは「画像が信じられなくなる」ではなく、むしろ「本物と偽物の見分け方が、すごく精密になっていく」という流れなんですよね。 この記事の研究も、生成と検証が一緒に育つことで、どちらかが一方的に強くなるのではなく、二者が競い合うように進化していく。つまり生成AIが「より本物そっくり」を目指せば、判定系もそれに応じて「どこが作り物か」を見抜く力を磨く。その繰り返しです。 スマートフォンのセキュリティを思い出してみてください。顔認証の精度が上がると同時に、なりすまし対策も高度になっていく。どちらも進化していくので、単純に「顔認証は危険」にはならず、むしろ両者が拮抗する中でセキュリティ基準が上がっていく。 画像の真正性を判定する技術も、今後は同じ道をたどりそうです。メタデータの検証、生成の痕跡の検出、複数のモダリティを組み合わせた確認方法など、見分ける側の武器も急速に整備されていく。だから「何も信じられない世界」というより「より厳密に信じる世界」に向かっていくのかもしれません。