研究者がディープフェイクプロパガンダの到来する波にどのように備えているか

研究者がディープフェイクプロパガンダの到来する波にどのように備えているか
AIを利用した検出器は、AIによって生成された偽のビデオを見つけるための最良のツールです。
ゲッティイメージズによるワシントンポスト

調査ジャーナリストは、匿名の内部告発者からビデオを受け取ります。 違法行為を認める大統領候補を示している。 しかし、このビデオは本物ですか? もしそうなら、それは巨大なニュース-一生に一度のスクープ-であり、来たる選挙を完全に好転させる可能性があります。 しかし、ジャーナリストは専用のツールを使用してビデオを実行します。これにより、ビデオは見た目とは異なることがわかります。 実際、それは「ディープフェイク、」人工知能を使用して作成されたビデオ 深い学習.

世界中のジャーナリストがすぐにこのようなツールを使用する可能性があります。 数年以内に、このようなツールを使用して、ソーシャルメディアフィード内の偽のコンテンツを根絶することもできます。

As 研究者 ディープフェイク検出を研究している人 ジャーナリスト向けのツールを開発することで、これらのツールの未来が見えてきます。 しかし、それらは私たちのすべての問題を解決するわけではなく、偽情報とのより広範な戦いにおける武器の一部にすぎません。

ディープフェイクの問題

ほとんどの人はあなたが見るすべてを信じることができないことを知っています。 過去数十年にわたって、知識豊富なニュース消費者は、写真編集ソフトウェアで操作された画像を見ることに慣れてきました。 しかし、ビデオは別の話です。 ハリウッドの監督は、現実的なシーンを構成するために特殊効果に数百万ドルを費やすことができます。 しかし、ディープフェイクを使用すると、数千ドルのコンピューター機器と数週間を費やすアマチュアは、人生にほぼ同じように何かを作ることができます。

ディープフェイクは、人々を今までになかった映画のシーンに入れることを可能にします– トム・クルーズがアイアンマンを演じていると思う –これは面白いビデオになります。 残念ながら、それはまた作成することを可能にします 同意なしのポルノ 描かれた人々の。 これまでのところ、ディープフェイク技術が悪用された場合、これらの人々、ほぼすべての女性が最大の犠牲者です。

ディープフェイクは、政治指導者が決して言わなかったことを言っているビデオを作成するためにも使用できます。 ベルギー社会党は、低品質の非偽物であるが、それでも偽のビデオをリリースしました ベルギーを侮辱するトランプ大統領、高品質のディープフェイクの潜在的なリスクを示すのに十分な反応を得ました。


カリフォルニア大学バークレー校のHanyFaridが、ディープフェイクの作成方法について説明しています。

おそらく すべての中で最も怖い、作成に使用できます 実際の動画の内容に疑問がある、ディープフェイクである可能性があることを示唆することによって。

これらのリスクを考えると、ディープフェイクを検出して明確にラベル付けできることは非常に価値があります。 これにより、偽のビデオが一般の人々を騙さないようにし、本物のビデオを本物として受信できるようになります。

偽物の発見

研究分野としてのディープフェイク検出が少し始まった 三年前に。 初期の作業は、次のようなビデオの目に見える問題の検出に焦点を当てていました。 まばたきしなかったディープフェイク。 しかし、時間とともに、 偽物は良くなりました 実際のビデオを模倣することで、人と検出ツールの両方を見つけるのが難しくなります。

ディープフェイク検出研究にはXNUMXつの主要なカテゴリがあります。 最初の関与 人々の行動を見る ビデオで。 オバマ大統領などの有名人のビデオがたくさんあるとします。 人工知能は、このビデオを使用して、手のジェスチャーからスピーチの一時停止まで、彼のパターンを学習できます。 その後、 彼のディープフェイクを見る そして、それらのパターンと一致しない場所に注意してください。 このアプローチには、ビデオ品質自体が本質的に完璧であっても、機能する可能性があるという利点があります。


SRIInternationalのAaronLawsonは、ディープフェイクを検出するためのXNUMXつのアプローチについて説明しています。

他の研究者、 私たちのチームを含む、に焦点を当ててきました の違い それ すべてのディープフェイクは 実際のビデオと比較して。 ディープフェイクビデオは、多くの場合、個別に生成されたフレームをマージしてビデオを形成することによって作成されます。 それを考慮して、私たちのチームの方法は、ビデオの個々のフレームの顔から重要なデータを抽出し、同時フレームのセットを介してそれらを追跡します。 これにより、あるフレームから別のフレームへの情報の流れの不整合を検出できます。 偽の音声検出システムにも同様のアプローチを使用しています。

これらの微妙な詳細は人々にはわかりにくいですが、ディープフェイクが完全ではないことを示しています まだ完璧。 このような検出器は、少数の世界のリーダーだけでなく、すべての人に有効です。 結局、両方のタイプのディープフェイク検出器が必要になる可能性があります。

最近の検出システムは、ツールを評価するために特別に収集されたビデオで非常にうまく機能します。 残念ながら、最高のモデルでさえ オンラインで見つかった動画が不十分。 これらのツールをより堅牢で便利なものに改善することが、次の重要なステップです。

誰がディープフェイク検出器を使用する必要がありますか?

理想的には、ディープフェイク検証ツールをすべての人が利用できるようにする必要があります。 ただし、この技術は開発の初期段階にあります。 研究者は、ツールを広くリリースする前に、ツールを改善し、ハッカーから保護する必要があります。

同時に、ディープフェイクを作成するためのツールは、一般の人々をだますことを望むすべての人が利用できます。 傍観者に座ることはオプションではありません。 私たちのチームにとって、ジャーナリストは誤った情報の拡散に対する最初の防衛線であるため、適切なバランスはジャーナリストと協力することでした。

記事を公開する前に、ジャーナリストは情報を確認する必要があります。 彼らはすでに、情報源を確認したり、複数の人に重要な事実を確認してもらうなど、実証済みの方法を採用しています。 そのため、ツールを手に入れることで、より多くの情報を提供します。間違いを犯す可能性があるため、テクノロジーだけに依存することはないでしょう。

探知機は軍拡競争に勝つことができますか?

からのチームを見るのは励みになります Facebook 影響により マイクロソフト ディープフェイクを理解して検出するためのテクノロジーへの投資。 この分野は、ディープフェイク技術の進歩の速度に追いつくために、より多くの研究が必要です。

ジャーナリストとソーシャルメディアプラットフォームは、ディープフェイクが検出されたときに人々に警告する最善の方法を見つける必要もあります。 調査によると、 人々は嘘を覚えています、しかしそれが嘘だったという事実ではありません。 同じことが偽のビデオにも当てはまりますか? タイトルに「ディープフェイク」を入れるだけでは、ある種の偽情報に対抗するには不十分かもしれません。

ディープフェイクはここにとどまります。 人工知能がより強力になるにつれて、偽情報の管理と公衆の保護はこれまで以上に困難になります。 私たちは、この脅威に取り組んでいる成長中の研究コミュニティの一部であり、検出は最初のステップにすぎません。会話

著者について

John Sohrawardi、コンピューティングおよび情報科学の博士課程の学生、 ロチェスター工科大学 マシューライト、コンピューティングセキュリティの教授、 ロチェスター工科大学

この記事はから再公開されます 会話 クリエイティブコモンズライセンスの下で 読む オリジナル 記事.

こんな商品もお勧めしています

利用可能な言語

enafarzh-CNzh-TWdanltlfifrdeeliwhihuiditjakomsnofaplptroruesswsvthtrukurvi

INNERSELFの声

カリフォルニアの巨大なセコイアの木の前で男と犬
絶え間ない不思議の芸術:この日をありがとう、人生
by ピエールPradervand
人生の最大の秘密のXNUMXつは、存在と…に絶えず驚嘆する方法を知ることです。
写真:21年2017月XNUMX日の皆既日食。
星占い:29月5日の週-2021年XNUMX月XNUMX日
by パムYounghans
この毎週の占星術ジャーナルは惑星の影響に基づいており、展望と…を提供します
双眼鏡で見ている少年
XNUMXの力:XNUMX週間、XNUMXか月、XNUMX年
by シェリー・ティギエルスキー
時々、私たちは何が起こるかのために場所を空けるために何が何であるかを手放さなければなりません。 もちろん、まさにそのアイデア…
ファーストフードを食べる男
それは食べ物についてではありません:食べ過ぎ、中毒、そして感情
by ジュード・ビジュウ
「食べ物ではない」という新しいダイエットが人気を集めていると言ったらどうでしょう…
街のスカイラインを背景に空の高速道路の真ん中で踊る女性
自分に正直になる勇気を持つ
by マリー·T·ラッセル、InnerSelf.com
私たち一人一人が個性的であるため、私たち一人一人が…
着色された雲を通して月食。 ハワード・コーエン、18年2021月XNUMX日、フロリダ州ゲインズビル
星占い:22年28月2021日からXNUMX日までの週
by パムYounghans
この毎週の占星術ジャーナルは惑星の影響に基づいており、展望と…を提供します
岩層の頂上に登る少年
最悪の時代でも前向きな前進が可能
by エリオットノーブルホルト
轍に陥ったからといって、そこに留まらなければならないわけではありません。 乗り越えられないように思えても…
揺るぎない視線で見つめる花の冠をかぶった女性
その揺るぎない視線を持ってください! 月食と日食2021年XNUMX月からXNUMX月
by サラ・バルカス
2021年のこの5番目で最後の日食シーズンはXNUMX月XNUMX日に始まり、月食が特徴です…
直感:あなたの内部の電源を強化する
直感:あなたの電源を始動させる
by ジュード・ビジュウ
直感は、感情や思考の私たちの個人的な内面と私たちの…の間の目に見えないリンクです。
一生懸命働いているのか、それともワーカホリズム? あなたは仕事中毒ですか?
一生懸命働いているのか、それともワーカホリズム? あなたは仕事中毒ですか?
by バリーVissell
スマートフォン、タブレット、その他のポータブルデバイスが登場する前は、人々は仕事で一生懸命働いていました…
関係の神話:「あなたが必要とするものはすべて愛」
関係の神話:「あなたが必要とするものはすべて愛」
by リンダ&チャーリーブルーム
ビートルズはほとんどすべての曲でお金を稼いでいましたが、この曲では「必要なのは愛です」、…

InnerSelfMagazineに選ばれました

MOST READ

海岸での生活が健康状態の悪化とどのように関連しているか
海岸での生活が健康状態の悪化とどのように関連しているか
by ジャッキー・カッセル、プライマリケア疫学教授、公衆衛生名誉コンサルタント、ブライトンおよびサセックス医科大学
多くの伝統的な海辺の町の不安定な経済は、それ以来さらに衰退しています…
地球天使の最も一般的な問題:愛、恐怖​​、信頼
地球天使の最も一般的な問題:愛、恐怖​​、信頼
by ソンジャ・グレース
あなたが地球の天使であることを経験するとき、あなたは奉仕の道がだらけであることに気付くでしょう…
私にとって何がベストかを知るにはどうすればいいですか?
私にとって何がベストかを知るにはどうすればいいですか?
by バーバラ·バーガー
私が毎日クライアントと仕事をしていることを発見した最大のことのXNUMXつは、非常に難しいことです…
正直:新しい関係への唯一の希望
正直:新しい関係への唯一の希望
by スーザンキャンベル博士
私が旅行で出会ったシングルのほとんどによると、典型的な交際の状況はひどいです…
占星術は占星術の9つの危険を紹介
占星術は占星術の9つの危険を紹介
by トレイシーマークス
占星術は強力な芸術であり、私たちが自分自身を理解できるようにすることで私たちの生活を向上させることができます…
あなたのためにすべての希望を与えることは有益かもしれません
あなたのためにすべての希望を与えることは有益かもしれません
by Jude Bijou、MA、MFT
あなたが変化を待っていて、それが起こっていないことに不満を感じているなら、多分それは有益でしょう…
チャクラヒーリングセラピー:インナーチャンピオンに向かって踊る
チャクラヒーリングセラピー:インナーチャンピオンに向かって踊る
by グレンパーク
フラメンコダンスは見るのが楽しいです。 優れたフラメンコダンサーは、あふれんばかりの自信を醸し出しています…
思想との関係を変えて平和に向かう一歩を踏み出す
思想との関係を変えて平和に向かって歩む
by ジョン・プタセク
私たちは、意識の別の次元に気づかずに、思考の洪水に没頭して人生を過ごします…

新しい態度 - 新しい可能性

InnerSelf.comClimateImpactNews.com | InnerPower.net
MightyNatural.com | WholisticPolitics.com | InnerSelf市場
著作権©の1985 - 2021 InnerSelf出版。 全著作権所有。