研究者がディープフェイクプロパガンダの到来する波にどのように備えているか

研究者がディープフェイクプロパガンダの到来する波にどのように備えているか
AIを利用した検出器は、AIによって生成された偽のビデオを見つけるための最良のツールです。
ゲッティイメージズによるワシントンポスト

調査ジャーナリストは、匿名の内部告発者からビデオを受け取ります。 違法行為を認める大統領候補を示している。 しかし、このビデオは本物ですか? もしそうなら、それは巨大なニュース-一生に一度のスクープ-であり、来たる選挙を完全に好転させる可能性があります。 しかし、ジャーナリストは専用のツールを使用してビデオを実行します。これにより、ビデオは見た目とは異なることがわかります。 実際、それは「ディープフェイク、」人工知能を使用して作成されたビデオ 深い学習.

世界中のジャーナリストがすぐにこのようなツールを使用する可能性があります。 数年以内に、このようなツールを使用して、ソーシャルメディアフィード内の偽のコンテンツを根絶することもできます。

As 研究者 ディープフェイク検出を研究している人 ジャーナリスト向けのツールを開発することで、これらのツールの未来が見えてきます。 しかし、それらは私たちのすべての問題を解決するわけではなく、偽情報とのより広範な戦いにおける武器の一部にすぎません。

ディープフェイクの問題

ほとんどの人はあなたが見るすべてを信じることができないことを知っています。 過去数十年にわたって、知識豊富なニュース消費者は、写真編集ソフトウェアで操作された画像を見ることに慣れてきました。 しかし、ビデオは別の話です。 ハリウッドの監督は、現実的なシーンを構成するために特殊効果に数百万ドルを費やすことができます。 しかし、ディープフェイクを使用すると、数千ドルのコンピューター機器と数週間を費やすアマチュアは、人生にほぼ同じように何かを作ることができます。

ディープフェイクは、人々を今までになかった映画のシーンに入れることを可能にします– トム・クルーズがアイアンマンを演じていると思う –これは面白いビデオになります。 残念ながら、それはまた作成することを可能にします 同意なしのポルノ 描かれた人々の。 これまでのところ、ディープフェイク技術が悪用された場合、これらの人々、ほぼすべての女性が最大の犠牲者です。

ディープフェイクは、政治指導者が決して言わなかったことを言っているビデオを作成するためにも使用できます。 ベルギー社会党は、低品質の非偽物であるが、それでも偽のビデオをリリースしました ベルギーを侮辱するトランプ大統領、高品質のディープフェイクの潜在的なリスクを示すのに十分な反応を得ました。


カリフォルニア大学バークレー校のHanyFaridが、ディープフェイクの作成方法について説明しています。

おそらく すべての中で最も怖い、作成に使用できます 実際の動画の内容に疑問がある、ディープフェイクである可能性があることを示唆することによって。

これらのリスクを考えると、ディープフェイクを検出して明確にラベル付けできることは非常に価値があります。 これにより、偽のビデオが一般の人々を騙さないようにし、本物のビデオを本物として受信できるようになります。

偽物の発見

研究分野としてのディープフェイク検出が少し始まった 三年前に。 初期の作業は、次のようなビデオの目に見える問題の検出に焦点を当てていました。 まばたきしなかったディープフェイク。 しかし、時間とともに、 偽物は良くなりました 実際のビデオを模倣することで、人と検出ツールの両方を見つけるのが難しくなります。

ディープフェイク検出研究にはXNUMXつの主要なカテゴリがあります。 最初の関与 人々の行動を見る ビデオで。 オバマ大統領などの有名人のビデオがたくさんあるとします。 人工知能は、このビデオを使用して、手のジェスチャーからスピーチの一時停止まで、彼のパターンを学習できます。 その後、 彼のディープフェイクを見る そして、それらのパターンと一致しない場所に注意してください。 このアプローチには、ビデオ品質自体が本質的に完璧であっても、機能する可能性があるという利点があります。


SRIInternationalのAaronLawsonは、ディープフェイクを検出するためのXNUMXつのアプローチについて説明しています。

他の研究者、 私たちのチームを含む、に焦点を当ててきました の違い それ すべてのディープフェイクは 実際のビデオと比較して。 ディープフェイクビデオは、多くの場合、個別に生成されたフレームをマージしてビデオを形成することによって作成されます。 それを考慮して、私たちのチームの方法は、ビデオの個々のフレームの顔から重要なデータを抽出し、同時フレームのセットを介してそれらを追跡します。 これにより、あるフレームから別のフレームへの情報の流れの不整合を検出できます。 偽の音声検出システムにも同様のアプローチを使用しています。

これらの微妙な詳細は人々にはわかりにくいですが、ディープフェイクが完全ではないことを示しています まだ完璧。 このような検出器は、少数の世界のリーダーだけでなく、すべての人に有効です。 結局、両方のタイプのディープフェイク検出器が必要になる可能性があります。

最近の検出システムは、ツールを評価するために特別に収集されたビデオで非常にうまく機能します。 残念ながら、最高のモデルでさえ オンラインで見つかった動画が不十分。 これらのツールをより堅牢で便利なものに改善することが、次の重要なステップです。

誰がディープフェイク検出器を使用する必要がありますか?

理想的には、ディープフェイク検証ツールをすべての人が利用できるようにする必要があります。 ただし、この技術は開発の初期段階にあります。 研究者は、ツールを広くリリースする前に、ツールを改善し、ハッカーから保護する必要があります。

同時に、ディープフェイクを作成するためのツールは、一般の人々をだますことを望むすべての人が利用できます。 傍観者に座ることはオプションではありません。 私たちのチームにとって、ジャーナリストは誤った情報の拡散に対する最初の防衛線であるため、適切なバランスはジャーナリストと協力することでした。

記事を公開する前に、ジャーナリストは情報を確認する必要があります。 彼らはすでに、情報源を確認したり、複数の人に重要な事実を確認してもらうなど、実証済みの方法を採用しています。 そのため、ツールを手に入れることで、より多くの情報を提供します。間違いを犯す可能性があるため、テクノロジーだけに依存することはないでしょう。

探知機は軍拡競争に勝つことができますか?

からのチームを見るのは励みになります Facebookマイクロソフト ディープフェイクを理解して検出するためのテクノロジーへの投資。 この分野は、ディープフェイク技術の進歩の速度に追いつくために、より多くの研究が必要です。

ジャーナリストとソーシャルメディアプラットフォームは、ディープフェイクが検出されたときに人々に警告する最善の方法を見つける必要もあります。 調査によると、 人々は嘘を覚えています、しかしそれが嘘だったという事実ではありません。 同じことが偽のビデオにも当てはまりますか? タイトルに「ディープフェイク」を入れるだけでは、ある種の偽情報に対抗するには不十分かもしれません。

ディープフェイクはここにとどまります。 人工知能がより強力になるにつれて、偽情報の管理と公衆の保護はこれまで以上に困難になります。 私たちは、この脅威に取り組んでいる成長中の研究コミュニティの一部であり、検出は最初のステップにすぎません。会話

著者について

John Sohrawardi、コンピューティングおよび情報科学の博士課程の学生、 ロチェスター工科大学 マシューライト、コンピューティングセキュリティの教授、 ロチェスター工科大学

この記事はから再公開されます 会話 クリエイティブコモンズライセンスの下で 読む オリジナル 記事.

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

InnerSelfをフォロー

Facebookのアイコンさえずり、アイコンrss-icon

電子メールで最新情報を取得する

{emailcloak =オフ}

サポート良い仕事!

MOST READ

ドローンから身を隠す方法–監視時代のゴーストの微妙な芸術
ドローンから身を隠す方法–監視時代のゴーストの微妙な芸術
by オースティン・チョイ・フィッツパトリック

編集者から

InnerSelfニュースレター:10月18、2020
by InnerSelfスタッフ
最近、私たちはミニバブルの中に住んでいます...私たち自身の家、職場、そして公共の場で、そしておそらく私たち自身の心と私たち自身の感情で。 しかし、バブルの中で生きている、または私たちのように感じている…
InnerSelfニュースレター:10月11、2020
by InnerSelfスタッフ
人生は旅であり、ほとんどの旅と同様に、浮き沈みが伴います。 そして、日がいつも夜に続くように、私たちの個人的な日常の経験も、暗闇から明かりへ、そして行き来します。 しかしながら、…
InnerSelfニュースレター:10月4、2020
by InnerSelfスタッフ
Whatever we are going through, both individually and collectively, we must remember that we are not helpless victims.個人的にも集団的にも、私たちが経験していることは何であれ、私たちは無力な犠牲者ではないことを忘れてはなりません。 We can reclaim our power to carve our own path and to heal our lives, spiritually…私たちは自分の道を切り開き、精神的に私たちの人生を癒す力を取り戻すことができます…
InnerSelfニュースレター:9月27、2020
by InnerSelfスタッフ
人類の大きな強みのXNUMXつは、柔軟性、創造性、そして既成概念にとらわれずに考える能力です。 昨日か前日以外の誰かになること。 変えることができます...…
私のために働くもの:「最高のために」
by Marie T. Russell、InnerSelf
「私にとって何がうまくいくか」を共有する理由は、それがあなたにも役立つかもしれないからです。 私のやり方とまったく同じではないにしても、私たち全員がユニークであるため、態度や方法のいくつかの差異が非常によくあるかもしれません…