典型的なソーシャルボットアカウント。 CCB
ソーシャルメディアプラットフォームは単なるコミュニケーションツール以上のものになりました。彼らは真実と虚偽が衝突する賑やかなアリーナへと進化しました。これらのプラットフォームの中で、X は傑出したものです。 著名な戦場。ここは、世論を揺さぶり、物語を操作するようにプログラムされた AI 搭載ボットの軍隊によって、偽情報キャンペーンが繁栄する場所です。
AI を活用したボットは、人間の行動を模倣するように設計された自動アカウントです。ソーシャル メディア上のボット、チャット プラットフォーム、会話型 AI は現代の生活に不可欠です。これらは、たとえば AI アプリケーションを効果的に実行するために必要です。
しかし、一部のボットは悪意を持って作成されています。驚くべきことに、ボットは X のユーザー ベースの重要な部分を占めています。 2017年 推定された 約 23 万のソーシャル ボットが存在し、全ユーザーの 8.5% を占めたということです。ツイートの XNUMX 分の XNUMX 以上 これらの自動アカウントから発信されたもの、偽情報の範囲を拡大し、公共の議論の水域を濁らせます。
ボットの仕組み
社会的影響力は今やボットを購入することで獲得できる商品になりました。企業はアカウントの人気を人為的に高めるために偽のフォロワーを販売します。これらのフォロワーは驚くほど低価格で購入でき、購入者には著名人も多数います。
たとえば、調査の過程で、同僚と私は、フォロワーを売りに出す 100 件のツイートを投稿したボットを発見しました。
AI 手法と理論的アプローチを使用する アクターネットワーク理論、同僚と私は、悪意のあるソーシャルボットがどのようにソーシャルメディアを操作し、驚くべき効果で人々の考えや行動に影響を与えるかを分析しました。フェイク ニュースが人間によって生成されたのか、ボットによって生成されたのかを 79.7% の精度で判断できます。人間が誤った情報を広めるために AI をどのように活用しているかを把握するには、人間と AI の両方がどのように偽情報を広めているのかを理解することが重要です。
一例として、Twitter 上の「True Trumpers」という名前のアカウントのアクティビティを調査しました。
このアカウントは 2017 年 4,423 月に設立され、フォロワーもプロフィール写真もありませんでしたが、調査時点では XNUMX 件のツイートが投稿されていました。これらには、完全に捏造された一連の物語が含まれていました。このボットが東ヨーロッパの国から発信されたことは注目に値します。
ボット アカウントからのフェイク ニュースのストリーム。 Buzzfeed, CC BY
このような研究は X に影響を与え、ソーシャル ボットの活動を制限しました。ソーシャルメディア操作の脅威に対応して、X はデータのスクレイピングと操作を抑制するために一時的な読み取り制限を導入しました。認証済みアカウントは 6,000 日あたり 600 件の投稿を閲覧できるように制限されていますが、未認証アカウントは XNUMX 日あたり XNUMX 件の投稿を閲覧できます。これは新しいアップデートなので、効果があるかどうかはまだわかりません。
私たちは自分自身を守ることができるでしょうか？
ただし、最終的には、特に選挙期間中は注意を払い、真実と虚偽を区別する責任はユーザーにあります。情報を批判的に評価し、ソースをチェックすることで、ユーザーは、X 上のボットや偽情報キャンペーンの猛攻撃から民主主義プロセスの完全性を守る役割を果たすことができます。実際、すべてのユーザーは真実と民主主義の最前線の擁護者です。警戒心、批判的思考、適度な懐疑心は必須の防具です。
ソーシャル メディアでは、悪意のあるアカウントが採用する戦略をユーザーが理解することが重要です。
悪意のある攻撃者は、多くの場合、ボットのネットワークを使用して、虚偽の話を増幅し、トレンドを操作し、誤った情報を迅速に広めます。ユーザーは、過剰な投稿や反復的なメッセージなど、不審な動作を示すアカウントに遭遇した場合には注意する必要があります。
偽情報は、専用のフェイクニュース Web サイトを通じて頻繁に広められることもあります。これらは、信頼できるニュースソースを模倣するように設計されています。ユーザーは、信頼できる情報源と情報を相互参照したり、事実確認機関に相談したりして、ニュース源の信頼性を確認することをお勧めします。
自己認識は、特にソーシャル エンジニアリング戦術から守るもう 1 つの形式です。心理操作は、ユーザーをだまして虚偽を信じさせたり、特定の行動をとらせたりするために行われることがよくあります。ユーザーは、特に選挙などの機密性が高まっている時期には、警戒を維持し、遭遇するコンテンツを批判的に評価する必要があります。
常に情報を入手し、市民の議論に参加し、透明性と説明責任を主張することで、信頼、透明性、情報に基づいた意思決定を促進するデジタル エコシステムを共同で形成することができます。
ニック・ハイリ、AI ストラテジスト兼デジタル戦略教授、 ラフバラ大学
この記事はから再公開されます 会話 クリエイティブコモンズライセンスの下で 読む 原著.
関連書籍：
暴政について：XNUMX世紀からのXNUMXの教訓
ティモシー・スナイダー
この本は、制度の重要性、個々の市民の役割、権威主義の危険性など、民主主義を維持し、擁護するための歴史からの教訓を提供します。
私たちの時代は今です：力、目的、そして公正なアメリカのための戦い
ステイシー・エイブラムス
政治家であり活動家でもある著者は、より包括的で公正な民主主義に対する彼女のビジョンを共有し、政治的関与と有権者の動員のための実践的な戦略を提供します。
どのように民主主義が死ぬか
スティーブン・レヴィツキーとダニエル・ジブラット著
この本は、民主主義の崩壊の警告サインと原因を調べ、世界中のケーススタディを利用して、民主主義を守る方法についての洞察を提供します。
人々、いいえ：反ポピュリズムの簡単な歴史
トーマス・フランク
著者は、米国におけるポピュリスト運動の歴史を紹介し、民主主義の改革と進歩を抑圧したと彼が主張する「反ポピュリスト」イデオロギーを批判します。
XNUMX冊以下の本で民主主義：それがどのように機能するか、なぜ機能しないのか、なぜそれを修正するのはあなたが考えるよりも簡単なのか
デビッド・リット
この本は、民主主義の長所と短所を含む概観を提供し、システムをより応答性と説明責任のあるものにするための改革を提案しています。
