フェイクアカウントに気を付けろ! AIが生成したフェイク画像でアカウントを作り、フェイク情報を拡散

ディープフェイクが広がりを見せてきました。今度は、動画ではなく静止画、写真ですが、完全にニセモノの顔写真をAIで生成して、それをフェイクアカウントに使う確信犯が登場しているというニュースです。

もうこれは完全に犯罪ですが、どうやって取り締まるのか、よくわかりません。

Web上にある様々な画像がホンモノかニセモノか、どうやって見分ければいいのでしょうか? まずは、問題の状況を見ていきましょう。こんばんは。元オタク少年のshigeです。



フェイクアカウントとは?

フェイクアカウントとは、実在しな人物になりすましたり、有名人を装った素人など。ニセの人物がアカウントを運用していることを指します。

Twitterでは以前から知られていましたが、顔写真を乗せないことが原因の1つでしょう。

Facebookは基本実名だし、顔写真は当然本人のものだというのが前提です。その顔写真がニセモノ、しかもAIが合成したまったく架空の人物ということになると、これはちょっとどうしたものかと思います。

Facebookが見つけて削除したフェイクアカウントのニュース

米国の話ですが、かなり大規模なフェイクアカウントが摘発されています。フォロワー数も多いし、フォロワーを集めるために広告費もかなり使っています。




ジョージアにある広告代理店のフェイクアカウント事件

ジョージアにある広告代理店が運用していた
・アカウント39件
・Facebookページ344件
・Facebookグループ13件
・Instagramアカウント22件
が削除された。

削除されたアカウントやページは報道機関、政党・公人・活動家グループなどになりすまし、31万6000ドル(約3500万円)程度の広告費用をかけ、約44万2300アカウントがいずれかをフォローしていた模様。

出典:AIが生成した画像をプロフィール写真にするフェイクアカウントが登場、Facebookが削除を報告(GIGAZINE 2019年12月22日)
https://gigazine.net/news/20191222-removing-coordinated-inauthentic-facebook/

かなり悪質ですね。政治の情報を拡散していたとのこと。政治がらみで、巨額のお金が動いていた可能性があります。まあ、この程度なら、まだテストマーケティング段階かもしれませんが。

この摘発の裏には、まだ見つかっていないフェイクアカウントがいくつもありそうです。



アメリカの広告代理店「The BL」(The Beauty of Life)のフェイクアカウント事件

これは、かなりヤバいですね。会社名まで暴露されています。完全に事件です。この会社、どうなっちゃうんでしょうか?

アメリカに拠点を置く「The BL」という広告代理店が運用していた
・アカウント610件
・Facebookページ89件
・Facebookグループ156件
・Instagramアカウント72件
が削除された。
ベトナム語・スペイン語・中国語で投稿を行っており、これらの言語圏に向けて投稿。950万ドル(約10億円)もの広告費をかけ、約5500万アカウントがいずれかをフォローしていた模様。

出典:AIが生成した画像をプロフィール写真にするフェイクアカウントが登場、Facebookが削除を報告(GIGAZINE 2019年12月22日)
https://gigazine.net/news/20191222-removing-coordinated-inauthentic-facebook/

海外に向けて情報発信していて、何が目的だったのか、気になるところ。

広告費10億円の出どこはどこ!? 尋常じゃないよ、これは!

これだけの巨額が動くということは、これの何十倍、何百倍のお金が裏で動いているはず。どうなってるんでしょう?

そんなお金を動かせるのは、政治家か、アラブの富豪か? お金、あるところには、あるんですね。ほんとに、もう~

トランプ大統領を支持する情報を流していたという噂も流れています。やはり政治目的なのか。どこまで金が余ってるんだよ! 少しshigeにも回してくれないかなぁ。いい感じのオタク文化発信に貢献するよ~ww




一般人は、どうすればいいの? 気を付けるポイントは?

では、こんな状況の中で、どうすればいいのでしょうか?

何か有効な注意ポイントはあるのでしょうか?

Twitter(ツイッター)のフェイクアカウント

Twitter(ツイッター)は、もうフェイクアカウントが満載。拡散している情報の真偽を自分で確かめる必要がありそうです。本人確認が難しいSNSなので、情報自体を吟味するしかないでしょう。

変な情報には惑わされない。独自に調べて、裏どりする。という姿勢が大切ですね。

Facebook(フェイスブック)のフェイクアカウント

Facebookもときどき、知らない人から友達申請が来ます。アラブの富豪とか、金髪美女とか、絶対に元オタク少年には声をかけない筈の人から申請が来る。すぐにフェイクアカウントだと分かります。

こういうわかりやすいフェイクアカウントばかりならいいのですが。今回のように、AIで合成された、それっぽい人から友達申請が来ると、戸惑ってしまいます。雰囲気良さそうな人で、メッセンジャーも流暢な日本語で送られてきたら、ヤバいかも。




英語の申請は、まずありえないから、無視するけど。日本語で来たら、ちょっと騙されるかな。いやいや、それはないと信じよう。

Instagram(インスタグラム、インスタ)のフェイクアカウント

インスタも顔写真を載せていないアカウントが多いので、写真のノリが合えばフォローしちゃうのかな。どうせ本人をしらない人が多いから、フェイクアカウントかどうかも、それほど問題ではない。

Twitterと同様に、内容重視で付き合うしかないかもね。



プリクラ的なフェイクもあるから、顔写真は、まずは疑ってみるのがオススメ!

実在する人物でも、プリクラ的なフェイク写真がある。凄くいい感じの写真なんだけど、実際に会ってみると、え?ってことも。凄いのは、子どもの写真を使ってるとか。うん十年前の写真とか。それは笑い話になるから、いいか。

顔写真は簡単に修正できるから、悪気が無くても、本人とは全然違うことがある。

全ての顔写真を真に受けない。まずは疑ってみる。というのがオススメかも。そんなイヤな時代になってきたのもAIが進化したおかげ。便利な裏には、何も信じられない時代に突入しているってことだね。

ではでは!