誤った情報と偏見がソーシャルメディアに意図的かつ偶発的に感染する

誤った情報と偏見がソーシャルメディアに意図的かつ偶発的に感染する偽のゲームのスクリーンショット。 ミハイ・アブラムとフィリッポ・メンカツ

ソーシャルメディアは 米国のニュースの主要な情報源 そして世界中で。 しかし、ユーザーは疑わしい精度のコンテンツにさらされています。 陰謀説, clickbait, 超党派の内容, 擬似科学 そして、さえ 製作された「偽のニュース」レポート.

スパムとオンライン詐欺があまりにも多くの詐欺情報が公開されていることは驚くべきことではありません 犯罪者にとっては有利です、政府と政治宣伝の利回り 党派的利益と財政的利益の両方。 しかし、その事実 信頼性の低いコンテンツがすばやく簡単に広がります 人々とソーシャルメディアプラットフォームの背後にあるアルゴリズムは、操作に対して脆弱であることを示唆しています。

私たちの研究では、ソーシャルメディアの生態系を意図的および偶発的な誤った情報に脆弱にする3つのタイプのバイアスが特定されています。 それが私たちが ソーシャルメディアの天文台 インディアナ大学で建築中 ツール 人々がこれらの偏見を認識し、それらを悪用するように設計された外部の影響から身を守るのを助ける。

ソーシャルメディア天文台で開発されたツールを説明する:

脳のバイアス

認知バイアスは、脳が毎日遭遇する情報を処理する方法に由来します。 脳は限られた量の情報だけを扱うことができ、入ってくる刺激が多すぎると、 情報過多。 それ自体は、ソーシャルメディアに関する情報の質に深刻な影響を与えます。 われわれは、ユーザーの限られた注意のための急激な競争は、 低品質にもかかわらず、いくつかのアイデアはウイルスになります人々が高品質のコンテンツを共有することを好む場合でも.

圧倒されるのを避けるために、脳は トリック数。 これらの方法は通常効果的ですが、 バイアスになる 間違ったコンテキストで適用された場合

1つの認知的なショートカットは、ソーシャルメディアフィードに表示されるストーリーを共有するかどうかを決定するときに発生します。 人々は 見出しの感情的な含意によって非常に影響を受けるそれは記事の正確さの良い指標ではありませんが、 はるかに重要です 誰がその作品を書いた.

このバイアスに対抗し、人々が共有する前にクレームの源にもっと注意を払うのを助けるために、我々は ファジー、モバイルニュースリテラシーゲーム(無料 アンドロイド携帯   iOSメインストリームと信頼性の低い情報源からのニュース記事が混在した典型的なソーシャルメディアニュースフィードをシミュレートしています。 プレイヤーは信頼できる情報源からニュースを共有し、事実チェックのために疑わしいコンテンツにフラグを立てるために、より多くのポイントを得る。 このプロセスでは、超党派の主張や感情的な見出しのような情報源の信憑性の信号を認識することを学びます。

社会の偏見

偏見のもう一つの原因は社会からもたらされます。 人々が仲間と直接つながるとき、友人の選択を誘導する社会的偏見が、彼らが見る情報に影響を与えるようになります。

実際、私たちの研究では、 Twitterユーザーの政治的意欲を決定する 単に友人の党派の嗜好を見るだけです。 これらの構造の分析 パティサン通信ネットワーク 発見されたソーシャルネットワークは、正確であるかどうかにかかわらず、情報を普及させる上で特に効率的です 彼らは密接に結びついていて、社会の他の部分から切り離されている.

自分のソーシャルサークル内から来た場合に情報をより好感度で評価する傾向は、エコーチャンバー意識的にも意図的にも操作のために熟している。 これは、なぜ多くのオンライン会話が "私たち対彼ら"対立.

オンラインソーシャルネットワークの構造がどのようにユーザを虚偽情報に脆弱にするかを研究するために、 ホーキー、信頼性の低い情報源からのコンテンツの広がりを追跡し可視化するシステム、そしてそれがファクトチェックコンテンツと競合する仕組み。 2016米国大統領選挙中にHoaxyが収集したデータを分析したところ、誤報を共有したTwitterアカウントは ほとんど完全に切り捨てられた ファクトチェッカーによって行われた修正から。

誤報を広げているアカウントを掘り下げてみると、いくつかのボットを含めて、ほとんど独占的に互いに絡み合っている非常に密集したコアグループが見つかりました。 事実をチェックしている団体が間違ったグループのユーザーによって引用されたり言及された唯一の時間は、彼らの正当性に疑問を呈したり、彼らが書いたことの反対を主張するときだった。

マシンのバイアス

第3の偏りのグループは、人々がオンラインで見るものを決定するために使用されるアルゴリズムから直接生じる。 ソーシャルメディアプラットフォームと検索エンジンの両方がそれを採用しています。 これらのパーソナライゼーション技術は、個々のユーザーごとに最も関心が高く関連性の高いコンテンツのみを選択するように設計されています。 しかしそうすることで、ユーザーの認知的および社会的偏見が強化され、操作がさらに脆弱になる可能性があります。

たとえば、詳細な 多くのソーシャルメディアプラットフォームに組み込まれた広告ツール 不正な情報のキャンペーンを悪用させる 確証バイアス by 仕立てのメッセージ すでに彼らを信じている人たちに

また、ユーザーが特定のニュースソースからFacebookリンクを頻繁にクリックすると、Facebookは そのサイトのコンテンツをより多くの人に示す傾向があります。 このいわゆる "フィルターバブルさまざまな視点から人々を隔離し、確認バイアスを強化する可能性があります。

ソーシャルメディアのプラットフォームは、ウィキペディアのような非ソーシャルメディアサイトよりも多様性の少ないソースにユーザーをさらすことを私たち自身の調査が示しています。 これは単一のユーザーではなくプラットフォーム全体のレベルにあるため、これを 同質性バイアス.

ソーシャルメディアのもう1つの重要な要素は、クリック数が最大になっていることに応じて、プラットフォーム上で動向を把握している情報です。 我々はこれを 人気バイアスこれは、一般的なコンテンツを促進するために設計されたアルゴリズムが、プラットフォーム上の情報の全体的な品質に悪影響を与える可能性があるためです。 これは既存の認知バイアスにもつながり、その品質に関係なく普及していると思われるものを補強します。

これらのアルゴリズムバイアスは、 社会的なボット、ソーシャルメディアアカウントを介して人間と対話するコンピュータプログラム。 Twitterのようなほとんどのソーシャルボット ビッグベン、無害です。 しかし、その一部は本物の性質を隠し、悪意のある意図に使用されます。 誤報を押し上げる または間違って 草の根運動の出現を生み出す「アストロサーフィン」とも呼ばれます。 この種の操作の証拠 2010米国中期選挙に向けて準備を進めている。

これらの操作戦略を研究するために、私たちは社会ボットを検出するツールを開発しました。 ボトムメーター。 ボトムメーターは、機械学習を使用して、ポストの時間、つぶやきの頻度、それに従うアカウントやリツイートなど、Twitterアカウントのさまざまな機能を検査して、ボットアカウントを検出します。 それは完璧ではありませんが、 Twitterアカウントの15%がボットの兆候を見せている.

BotometerとHoaxyを併用して、2016米国大統領選挙の間の誤情報ネットワークの核心を分析しました。 我々は、犠牲者の認知、確認、人気の両方の偏見とTwitterのアルゴリズムバイアスを利用した多くのボットを見つけました。

これらのボットは、脆弱なユーザの周りにフィルタバブルを構築し、それらに誤ったクレームや誤情報を与えることができます。 第1に、特定の候補者をサポートする人間のユーザの注目を引くことができる。その候補者のハッシュタグをtweetingすることによって、またはその人に言及して再重み付けすることによって。 その後、ボットは、特定のキーワードと一致する信頼性の低い情報源からの記事をリトワーブすることによって、相手を汚す偽の主張を増幅することができる。 また、このアクティビティでは、広く共有されている間違ったストーリーを他のユーザーにハイライト表示させることができます。

複雑な脆弱性の理解

私たちの研究や他の人たちも、個人、機関、さらには社会全体がソーシャルメディア上でどのように操作されるかを示していますが、 たくさんの質問 答えが残った。 これらの異なるバイアスが相互にどのように相互作用し、より複雑な脆弱性が潜在的に発生するかを発見することは特に重要です。

会話われわれのようなツールは、インターネットユーザーに誤解に関するより多くの情報を提供し、したがって、その害からある程度の保護を提供する。 ソリューションは 技術的なものではないおそらくそれらにはいくつかの技術的側面があるだろうが。 しかし、彼らは考慮に入れる必要があります 認知的および社会的側面 問題の

著者について

Giovanni Luca Ciampaglia、インディアナ大学ネットワークサイエンス研究所副研究科学者、 インディアナ大学 Filippo Menczer教授(コンピュータサイエンス・インフォマティクス教授) 複雑なネットワークとシステム研究のためのセンターのディレクター、 インディアナ大学

この記事は、最初に公開された 会話。 読む 原著.

関連書籍

{amazonWS:searchindex =本;キーワード= Giovanni Luca Ciampaglia; maxresults = 1}

{amazonWS:searchindex =本;キーワード=ソーシャルメディアの嘘; maxresults = 2}

enafarZH-CNzh-TWtlfrdehiiditjamsptrues

InnerSelfをフォロー

Facebookのアイコンさえずり、アイコンrss-icon

電子メールで最新情報を取得する

{emailcloak =オフ}