ディープフェイクと政治キャンペーンの不安定な組み合わせは、警戒する十分な理由です。 ショーン・アンソニー・エディ・クリエイティブ/E+、ゲッティイメージズより
想像してみて オクトーバー・サプライズ 他に類を見ない：5 年 2024 月 XNUMX 日のわずか XNUMX 週間前、ビデオ録画により、ジョー バイデンとヴォロディミル ゼレンスキーの秘密会談が明らかになりました。 アメリカとウクライナの大統領は、「特別緊急加盟議定書」に基づいてウクライナを直ちにNATOに加盟させ、ロシアに対する核兵器攻撃の準備をすることで合意した。 突然、世界はハルマゲドンの真っ只中にあります。
ジャーナリストはそれを指摘するかもしれないが、 そのようなプロトコルは存在しません ソーシャルメディアユーザーはビデオの奇妙なビデオゲームのような性質に気づくかもしれないし、他のユーザーはそう感じるかもしれない 彼らの最悪の恐怖 が確認されています。 投票日が来ると、こうした懸念を抱いた国民は、ディープフェイクの状況、つまり実際には決して起こらなかった出来事によって操作されていることに気づかずに、ビデオを見て自分の票を動かせるかもしれない。
状況ディープフェイクはテクノロジーの次の段階を表します。 すでに 観客の現実認識を揺さぶった。 私たちの研究では、 デフェイクプロジェクト、私の同僚 ロチェスター工科大学 ミシシッピ大学, ミシガン州立大学 そして私 ディープフェイクがどのように作られるのか、そして有権者がディープフェイクから身を守るためにどのような手段を講じることができるのかを研究します。
起こらなかった出来事を想像する
ディープフェイクは、誰かが人工知能ツールを使用したときに作成されます。特に、 深い学習を操作または生成するには、 顔 音声 または – の台頭により 大規模な言語モデル ような AI言語モデルを活用してコードのデバッグからデータの異常検出まで、 – 会話言語。 これらを組み合わせて「状況ディープフェイク」を作成できます。
シチュエーションディープフェイクの基本的な考え方と技術は他のディープフェイクと同じですが、実際の出来事を操作したり、何もないところから出来事を発明したりするという、より大胆な野心を持っています。 例としては、次のような描写が挙げられます。 ドナルド・トランプの間違った散歩 & トランプ大統領、アンソニー・ファウチ氏を抱き締める、どちらも起こりませんでした。 ハグショットを推進したのは、 Twitterアカウント 大統領選挙キャンペーンに関連した トランプ大統領のライバル、ロン・デサンティス氏。 アン 攻撃広告 共和党全国委員会が公表したジョー・バイデンの2024年の選挙運動をターゲットにした内容は、 完全にAIで作られた.
に デフェイクプロジェクト、私たちの 研究が見つかりました ディープフェイクは、状況も含めて、通常、次のようなものの混合によって作成されます。 あるメディアを別のメディアに追加する; ビデオを使用して 画像をアニメーション化するか、別のビデオを変更する、人形遣いと呼ばれます。 メディアを存在させること。通常は次のように使用します。 generative AI; またはこれらのテクニックの組み合わせ。
明確にしておきますが、多くの状況ディープフェイクは無実の目的で作成されています。 例えば、 インフィニット オデッセイ マガジン 映画から偽の静止画を作成します。 決して生産されなかった or 決して存在することはできなかった。 しかし、無実のディープフェイクであっても、真実に近い偽物の写真の場合のように、一時停止する理由が与えられます。 映画制作としてのアポロ月面着陸.
選挙のディープフェイク
ここで、今度の選挙に影響を与えようとしている人の立場に自分を置いてみましょう。 考えられる状況としてはどのようなものがありますか?
まず、特定の結果に投票を傾けたいか、特定の結果から遠ざけたいかが重要です。 おそらく、スピード違反の車から歩行者を引き離すなど英雄的に行動する候補者を描いたり、逆に攻撃的または犯罪的な行為をしたりすることを描くかもしれません。 ディープフェイクの状況の形式も重要になります。 ビデオの代わりに、スマートフォンのカメラや報道機関の偽造ロゴを模倣したぼかしやアングルを備えた写真でもよいでしょう。
ターゲットとなる視聴者が鍵となります。 一般の有権者や政党の基盤を狙うのではなく、主要な投票区の陰謀論者をターゲットにするかもしれません。 候補者やその家族が何かに取り組んでいるように描写することもできます。 悪魔的儀式のフェスティバルに参加しています。 排他的で物議を醸す ボヘミアングローブ、または 地球外生命体との秘密会談.
その野心と能力があれば、選挙そのものをディープフェイクしてみることもできるだろう。 2023 年 XNUMX 月、ロシアのテレビ局とラジオ局がハッキングされ、 総動員命令を放送する によって ロシアのウラジーミル・プーチン大統領のディープフェイク。 米国の選挙でこれを行うのはより難しいが、原理的にはどの報道機関でもハッキングされ、アンカーが間違った結果を発表したり、候補者が譲歩したりするディープフェイクを放送する可能性がある。
現実を守る
状況ディープフェイクを検出して防御するには、さまざまな技術的および心理的方法があります。
技術面では、すべてのディープフェイクにはその本質を示す証拠が含まれています。 これらの証拠の中には、過度に滑らかな肌、奇妙な照明や建築など、人間の目で見ることができるものもありますが、その他のものは、 ディープフェイクハンティング AI によってのみ検出可能.
私たちは構築しています デフェイクの検出器は、AI を使用してディープフェイクの明らかな兆候を捕捉するためのものであり、2024 年の選挙に間に合うよう準備を整えようと取り組んでいます。 しかし、たとえ私たちのような十分に強力なディープフェイク検出器を投票日までに導入できなかったとしても、有権者であるあなたがディープフェイクを識別するために使用できる心理的ツール、つまり背景知識、好奇心、健全な懐疑論があります。
特徴的ではないと思われる人物、場所、または出来事に関するメディア コンテンツに遭遇した場合は、自分の背景知識を信頼してください。 たとえば、 最近の国防総省火災に関するデマ、示されている建物は五角形ではなく正方形に見えますが、これは特典かもしれません。
ただし、間違っていたりつぎはぎの可能性があるため、背景知識に完全に依存しないようにしてください。 事実確認されたニュースレポート、査読済みの学術論文、資格のある専門家とのインタビューなど、信頼できる情報源からさらに学ぶことを恐れる必要はありません。
さらに、ディープフェイクはあなたの正体を利用するために使用される可能性があることに注意してください 信じる傾向がある 人、場所、出来事について。 これに対処する最良の方法の XNUMX つは、次のとおりです。 自分の偏見に気づく そして、それらを裏付けるようなメディアのコンテンツについては少し警戒してください。
たとえ完璧な状況のディープフェイクを作成することが可能になったとしても、その主題がどれほど信憑性があるかが、依然としてアキレス腱であり続ける可能性が高い。 したがって、技術的解決策の有無にかかわらず、偽のイベントの影響から選挙を守る力は依然としてあります。
著者について
クリストファー・シュワルツ、コンピューティング セキュリティのポスドク研究員、 ロチェスター工科大学
この記事はから再公開されます 会話 クリエイティブコモンズライセンスの下で 読む 原著.
関連書籍：
暴政について：XNUMX世紀からのXNUMXの教訓
ティモシー・スナイダー
この本は、制度の重要性、個々の市民の役割、権威主義の危険性など、民主主義を維持し、擁護するための歴史からの教訓を提供します。
私たちの時代は今です：力、目的、そして公正なアメリカのための戦い
ステイシー・エイブラムス
政治家であり活動家でもある著者は、より包括的で公正な民主主義に対する彼女のビジョンを共有し、政治的関与と有権者の動員のための実践的な戦略を提供します。
どのように民主主義が死ぬか
スティーブン・レヴィツキーとダニエル・ジブラット著
この本は、民主主義の崩壊の警告サインと原因を調べ、世界中のケーススタディを利用して、民主主義を守る方法についての洞察を提供します。
人々、いいえ：反ポピュリズムの簡単な歴史
トーマス・フランク
著者は、米国におけるポピュリスト運動の歴史を紹介し、民主主義の改革と進歩を抑圧したと彼が主張する「反ポピュリスト」イデオロギーを批判します。
XNUMX冊以下の本で民主主義：それがどのように機能するか、なぜ機能しないのか、なぜそれを修正するのはあなたが考えるよりも簡単なのか
デビッド・リット
この本は、民主主義の長所と短所を含む概観を提供し、システムをより応答性と説明責任のあるものにするための改革を提案しています。
