Facebook主導の「DFDC」、ディープフェイクを進化させる逆効果でヤバい!

こんにちは。元オタク少年のshigeです!

ディープフェイク業界に新しい動きです!
(いつから業界になったんだって!? いやはや、世間が騒ぎすぎなんだってば(笑)

ディープフェイクとは、動画や画像に映っている人物の顔を、別の顔とすげかえることができる技術
⇒ くわしくは、こちらの記事を見てね!
【ディープフェイク動画の作り方】 ソフトは?スマホで簡単? あなたも狙われる、フェイク動画の恐怖!

そのディープフェイク動画を簡単に検出して、見つける技術のお話です。




■ Facebookがフェイク動画を簡単に見つけられるツール開発に乗り出した! 「Deepfake Detection Challenge」(DFDC)を立ち上げ!

米Facebookが、ディープフェイク動画を効率よく検出するツールの開発に乗り出しました。

「Deepfake Detection Challenge」(DFDC)と呼ぶイニシアチブ(団体)を立ち上げ、コンテスト形式で、様々なアイデアやツールを募集するようです。

米Microsoftと米マサチューセッツ工科大学(MIT)の他、コーネルテック、オックスフォード大学、メリーランド大学カレッジパーク校、ニューヨーク州立大学オールバニ校、カリフォルニア大学バークレー校の大学6校が協力するそうです。

Facebook、ディープフェイク検出ツール開発イニシアチブ「DFDC」立ち上げ MicrosoftとMITが参加
出典:ITmedia(2019/9/6)

Facebook、ディープフェイク検出技術のコンテストを開催へ–マイクロソフトらと協力
出典:CNET News(2019/9/6)

Facebook blog
https://ai.facebook.com/blog/deepfake-detection-challenge




Facebookが公開した、ディープフェイク動画のサンプルです。

Deepfake Detection Challenge

■ Facebookは、1000万ドル(約10億円)以上を投資!

この計画のために、Facebookは10億円以上も投資すると発表!

な、なんと! 10億円!!!

ビックリ仰天ですが、Facebookにとっては、10億円が、一般人の10円くらいの感覚なんでしょう。

広告効果を考えれば、十分安いものです。

世の中に貢献しているFacebookというイメージが高まれば十分元は取れます。

ディープフェイク動画が氾濫すれば、Facebook上にアップされる動画もホンモノかどうか1つずつチェックする必要が出てきます。当然人間はやってられないので、自動化することになります。つまり、いずれ、Facebookもこういうツールの開発に迫られるわけです。そうなら、早めに着手して、しかも外部の力も借りて、効率よく開発しよう。うまくいかなくても、広告効果があるから損はしない。という算段なんでしょうね。

頭いい~!




■ ディープフェイク検出ツールコンテスト、10月開始!

今年10月から、ツールのコンテストが始まります。

コンテスト参加者は、Facebookが用意したデータを使って競い合います。

こういうツールは、優劣がつけにくいので、データは統一する必要があります。

同じデータを使って、どれだけ正確に判別できたか、数値で競い合います。

オリンピックみたいですね。

■ 出来上がったソフト・ツールは、オープンソースとして公開していく

出来上がったソフト・ツールはオープンソースとして誰でも使うことができるようになります。みんなが安心できる社会にするには、あちこちで、ディープフェイク動画を検出できる状態をつくる必要があるためです。

まあ、ここまでは、いい話だな~

ということなんですが。 そう、簡単には終わりません!




■ ディープフェイク検出技術は、ディープフェイク合成技術を進化させる! ツール開発は、敵に塩を送る、逆効果の可能性も!?

ツール開発のことは単純に喜べないと、shigeは考えています。

ディープフェイク動画の検出ツールができると、それは、ディープフェイク動画のさらなる進化を後押ししてしまうかもしれないのです。

ディープフェイクにはAI技術の中でもGAN(Generative Adversarial Networks)と呼ばれる技術が使われています。GANは内部に2つのロジックを持っていて、本物に似せてフェイク画像をつくる仕組みと、それを偽物かどうか見破る仕組みを、戦わせるのです。この偽物を見破る仕組みの部分に、今回開発されるツールが使われる可能性があります。

⇒ GANのくわしい説明は、こちらの記事を見てね!
【ディープフェイク動画の作り方】 ソフトは?スマホで簡単? あなたも狙われる、フェイク動画の恐怖!

そうすると、この検出ツールでは見破れない、進化したディープフェイクが登場することになります。そもそもの技術的に考えれば、ディープフェイクを検出する技術は秘密にしておく必要があるのです。

警察の手の内を全部公開したら、その裏をかく犯罪が登場するのと同じです。




ヤバい! ヤバすぎる! どんどん強力なディープフェイク動画が氾濫してしまう!!!

もう、本物がどれかなんて、誰もわからない世の中になるかもしれないんですよ。

どうしましょう~!

ともかく、技術はどんどん進化します。この流れは誰にも止めようがないです。

最後は、人間が、これニセモノかもね~ と笑って済ませるしかないですね。

ではでは。