今日は、AIが悪用されてしまうディープフェイク(Deep Fake、AI合成動画)の事例をご紹介します。
ディープフェイク(deepfake)とは、有名人の顔の部分だけ別の人の顔と入れ替えたり、体を入れ替える、といったフェイク動画を簡単につくれてしまう技術です。
テレビ番組でも紹介されたりしています。 ⇒ 【内村のツボる動画大賞】ディープフェイク動画集
最近、スマホアプリで簡単に作れると「ZAO」や「Xpression]が話題になっていますが、実際のところはどうなんでしょうか？
現在の技術レベルや、話題になっているフェイク動画にどんなものがあるか、ディープフェイク(deep fake)動画の動向と事例を見ていきましょう。
■AIで簡単に作れてしまう、ディープフェイク動画（AI合成動画）！？
画像を合成したり、加工したりする技術は年々進化しています。現在は動画を合成する技術も進化していて、AIを使って偽物の動画、いわゆるフェイク動画がつくられる事例が増えています。
昨年は、米国の前大統領オバマ氏が、トランプ大統領ののしる動画が公開され、話題になりました。
先日は、米民主党のナンシー・ペロシ下院議長が酔っぱらってインタビューに答える動画が公開され、話題になっています。
これらは、誰かが意図的につくったフェイク動画です。
従来は、画像の音声だけを別のものに入れ替えて、元の動画とは全く別の内容にしてしまうアテレコや、音声を早回しにしたり、遅くして低い声にするような、簡単な方法で作られていました。これらは「シャローフェイク」と呼ばれます。
現在は、AIを使って高度に合成する「ディープフェイク」と呼ぶ技術が注目されています。
■顔だけ入れ替えられる恐怖！ ディープフェイクの作り方
例えば、ある人の動画に対して、動作や話の内容はそのままに、顔だけ別人にすげ替えることができるのです。
マツコ・デラックスが力士になって、インタビューに答える動画
これは、よく出来ていますね。
体や声は、元の力士のものだと思います。顔の部分だけマツコ・デラックスに入れ替えられています。顔のすげ替えがすごく自然にできているのは、マツコ・デラックスの顔の輪郭が力士に似ているからでしょう。
表情は、違和感ないです。全体を見れば、違和感があるのですが、顔に注目すると、本人が喋っているような感覚になってきます。元の力士の声も、マツコ・デラックスに似ているのでしょう。
ディープフェイクとは、ここでは２つの動画を対応づける部分にAIが使われています。まず、元の力士の目、鼻、口など、顔の要素を正確に認識し、その位置と動きを捉えます。そして、別に用意しているマツコ・デラックスの動画か写真から、同様に、目、鼻、口など、顔の要素を正確に認識して、対応する部分に画像を貼り付けます。
画像を貼り付けるときに、引き伸ばしたり縮めたりしますが、これは従来技術で簡単にできます。難しいのは、顔の要素を細かく分解して認識させ、別の画像と対応づけることです。実は、AIは人間が「これが目」と認識するように、意味を理解していません。あくまでもパターン認識で対応づけるので、間違えることが多い。自然に対応づけるのは、かなり難しい技術なのです。
今のところは、少しぎこちない動きや表情になるので、よく見れば分かってしまいます。でも、数秒程度の短い動画クリップだと、フェイク動画かどうかよくわかりません。さらに、フェイク動画だとわかっていても、面白半分でTwitterなどで拡散されてしまうこともあるでしょう。
一旦広まったデマを取り消すのは大変です。本人にとっては、恐怖ですね！
■ディープフェイク技術、GAN（Generative Adversarial Networks）
ディープフェイクでは、AIの中でも、GANと呼ばれる技術が使われています。GAN（Generative Adversarial Networks）とは、敵対的生成ネットワークと呼ばれるこの技術。入力データを大量に与えることで、データだけから特徴を抽出することができ、教師データと呼ぶ正解を人間が教えなくてもいい、という点が特長です。
GANは本物に似せてフェイク画像をつくる仕組みと、それを偽物かどうか見破る仕組みを、戦わせます。偽札を作る人と警察が協力して、警察にもバレないような偽札を完成させるようなものです。警察のレベルも学習によって上がるので、偽札づくりのレベルも、どんどん上がっていきます。
AIの中に、悪人と善人が同居して、お互いにレベルを上げながら、最終的に悪人が勝つ、という仕組みなのです。
GANは本来は善人を生み出すためにつくられたのですが、悪人をつくるためにも利用できてしまった、というわけです。フェイク動画にGANを適用して進化させると、どんどん巧妙な合成ができるようになります。
巧妙になるディープフェイク動画を検出するツール開発の動きもあります。
⇒ 詳しくはこちらの記事から ディープフェイク検出ソフト「DFDC」、Facebook主導でオープンソース開発、Microsoft、MITも参加
（TED Fake videos of real people — and how to spot them | Supasorn Suwajanakornより）
■ディープフェイク動画の作り方は？ スマホで簡単？ ソフト、アプリは？
現在、いくつかのソフトやWebアプリで、フェイク動画が作れるようです。でも、検索してみると、怪しいサイトに誘導されたり、有料だったりするので、素人は手を出さない方が良さそうです。パソコンで動画合成する場合は、かなり高性能なCPUやGPU（グラフィックカード）が必要になります。
そうやって苦労して作った割には、出来上がった動画の品質はいまひとつだったりします。話題になるほどの完成度に仕上げるのは、簡単ではありません。
従来は、かなりお金をかけても難しかったものが、現在ではある程度の投資で作れるようになった。というレベルです。自分で作るのではなく、ときどき話題になる動画を見て、へ～、AIの進化はここまで来たか、と確認する程度がいいでしょう。
では、代表的なアプリ、Webサービスをご紹介していきましょう。
1. Deepfakes Web β（Webで作れる）
Web上のサービスで、ユーザー登録後、$50(約5,500円)払うと25時間分使える仕組みです。
価格：$2 / 1時間分のクラウド使用権
必要時間の目安：
動画から学習し、顔を交換 → 4時間程度
学習済みモデルを使用して顔の交換のみ → 30分程度https://deepfakesweb.com/
フェイク動画をつくるときに、顔のモデルを学習させるのに時間がかかるので、最初の１人の合成だけで25時間分を使い切ってしまうかもしれません。
2. FakeApp（動画のAI合成アプリ、無料）
高性能PCが必要です。具体的には、高性能のグラフィックカード（NVIDIAのGPUチップ）が必要で、これだけで数万円から１０数万円。PC本体も併せると、パソコンのハードだけで20～50万円くらいかかりそうです。
さらに動画の合成には何時間もかかります。ハードの性能が低いと、処理が完了するまで何日もかかります。動画合成用の専用パソコンを用意して、気長に待つ必要があります
FakeApp 2.2.0 Tutorial （ソフトのインストールから、使い方まで解説）
3. FaceSwap (GitHub、オープンソースのプログラム、開発ができる人向け）
ソフトは無料ですが、自分でソフト開発できる環境が必要です。かなり玄人で、細かい調整を自分でやりたい人向けです。
4. DeepNude（女性をヌードにするアプリ ※現在は公開禁止）
2019年6月に公開され、世界的に話題になりましたが、数日でサイト閉鎖。現在は公開禁止になっています。今でも、いくつかのサイトではダウンロードできるような表示がありますが、本当に使えるのか怪しいです。
当然、本人のヌード写真が現れるわけはなく、顔だけ本人のものを残して、体の部分を他人のヌード写真から合成している筈です。合成が自然にできれば、あたかも本人のヌードのように見えるというだけです。手間をかければ、人力でも合成できますが、１クリックで簡単にできるようにしたところが凄い。
AIを使って、本人の顔画像から、合成しやすいヌード画像を探し出して、自然に合成するところまで、自動化したのでしょう。
ある意味単純作業ですから、AIが得意とする領域です。技術が進歩すると、こういうソフトも簡単に作れるようになります。
5. 中国の人気ディープフェイク スマホアプリ「ZAO」 ※プライバシー問題で話題に！
中国で公開されているiPhone向けのディープフェイクアプリ「ZAO」は、スマホで簡単に有名人の顔を入れ替えられると大人気に。でも、アップした個人の顔画像が永久にアプリ会社で再利用されてしまう、とんでもないプライバシーポリシーが設定されていたと、大ブーイングとなりました。
詳しくはこちら ⇒ 中国のディープフェイク「ZAO」がヤバい！ スマホアプリでプライバシー侵害！？
人気の裏には、色々問題もありますね。ビックリですが！
6. iPhoneで超簡単、ディープフェイク動画アプリ「Xpression」
iPhone（iOS）アプリで簡単にディープフェイク動画がつくれるアプリが登場しました。現在も普通にダウンロードできて、使えます。
日本企業が開発しているのも安心なところ。できるのは、口や顔の表情だけを入れ替えること。顔自体を入れ替えることはできません。でも、上手く使えば、パーティーとかで盛り上がるにはちょうどいい感じ。真面目な使い方では、寝起きで頭ぼさぼさで電話会議に出るときに、このアプリを使えば、スーツで決めたカッコイイ姿で登場できる、とか。色々な使い方を考えるだけでも、楽しいですね！
実は、このアプリ、「EmbodyMe」という日本のベンチャー企業が開発していて、高い技術力をアピールするデモソフトとしての役割が強いようです。技術的には、顔自体を入れ替えることもできそうですが、そこまでやると悪用される可能性が高くなる。技術力をアピールしながら、遊びの範囲で使ってもらうために、あえて機能を制限している感じです。
くわしくは、こちらの記事から
⇒ iPhoneで超簡単、ディープフェイク動画アプリ「Xpression」の使い方、有名人を自由に喋らせる！？
ここまで見てきたように、ディープフェイクの技術はどんどん進化しています。しかし、まだ素人がフェイク動画をつくるのは簡単ではありません。今後仮に、簡単につくれるようになっても、トラブルを避けるには、安易に手を出さないことが重要です。一歩間違えれば、犯罪にもなりかねません。
目を疑うような動画を見たときに、簡単に騙されないこと
フェイク動画かも？ と思えるだけの、知識と心の余裕を持ちたいですね。
ではでは。