YouTubeは過激派を生み出していますか？ A 最近の研究 科学者たちの間で、サイトを動かすアルゴリズムは極端なビデオを推奨することで人々を急進させるのに役立たないと主張して議論を引き起こしました。 提案されています 近年では。
この論文は、オープンアクセスジャーナルの第XNUMX月曜日に提出されましたが、まだ正式に査読されていませんが、さまざまな種類のチャンネルが受け取ったビデオの推奨事項を分析しました。 YouTubeのアルゴリズムは独立したコンテンツよりも主流のメディアチャンネルを好むと主張し、急進化はサイトのアルゴリズムよりも有害なコンテンツを作成する人々に関係していると結論付けました。
分野の専門家は迅速でした 研究への対応、いくつかの批判を伴う 論文の方法 そして、アルゴリズムを主張する他の人は いくつかの重要な要因 そして、そのデータサイエンスのみ 私たちに答えを与えません.
この議論の問題は、YouTubeのアルゴリズムがどのように機能するか理解していないため、人々の急進化においてどのような役割を果たすのかという質問に実際に答えることができないことです。 そして、これははるかに広範な問題の症状です。 これらのアルゴリズムは、私たちの日常生活でますます重要な役割を果たしていますが、いかなる種類の透明性も欠いています。
YouTubeが過激化の役割を果たさないと主張するのは難しい。 これは技術社会学者Zeynep Tufekciによって最初に指摘されました。 より極端なコンテンツに向けて。 Tufekciの言葉を借りれば、ジョギングに関するビデオはウルトラマラソンの実行に関するビデオ、ワクチンに関するビデオは陰謀論につながり、政治に関するビデオは「ホロコースト否定およびその他の不快なコンテンツ」につながります。
これについても書かれています 詳細に YouTubeの元従業員Guilloume Chaslotがサイトの推奨アルゴリズムに取り組んでいます。 退社後、Chaslotはこれらの推奨事項の作成を試み続けています。 より透明。 彼は、YouTubeの推奨事項は、 陰謀説と事実上不正確なビデオ、それにもかかわらず、人々はサイトでより多くの時間を過ごすことができます。
実際には、 視聴時間を最大化する はYouTubeのアルゴリズムの要点です。これにより、ビデオクリエイターはあらゆる方法で注目を集めるように戦うことができます。 会社の素晴らしさ 透明性の不足 これが正確にどのように機能するかについては、サイトでの過激化と戦うことはほぼ不可能になります。 結局のところ、透明性がなければ、状況を改善するために何を変更できるかを知ることは困難です。
YouTubeのアルゴリズムがどのように機能するかは謎のままです。 ダニー/シャッターストックとは
しかし、この点でYouTubeは珍しいことではありません。 アルゴリズムがどのように機能するかについての透明性の欠如は、民間企業であれ公共機関であれ、それらが大規模システムで使用される場合には常にそうです。 次に表示するビデオを決定するだけでなく、機械学習アルゴリズムを使用して、 子供を学校に入れる、決める 禁固刑、決定する クレジットスコア & 保険料、およびの運命 移民, 求職者 & 大学志願者。 そして通常、これらのシステムがどのように決定を下すかを理解していません。
研究者は、これらのアルゴリズムが社会に与える影響を示す創造的な方法を発見しました。 反動的権利の台頭 または 陰謀論の広がり YouTubeで、または方法を示して 検索エンジンは人種差別的な偏見を反映している それらを作成する人々の。
機械学習システムは通常、大きく、複雑で、不透明です。 適切に、彼らはしばしばとして記述されています ブラックボックス、情報が入力され、情報またはアクションが出力されますが、その間で何が起こるかは誰にもわかりません。 これは、YouTube推奨システムのようなアルゴリズムがどのように動作するか正確にはわからないので、サイトがどのように機能するかを試すことは、ボンネットを開かずに車を理解しようとすることと同じことを意味します。
言い換えると、これは、アルゴリズムが行うべきまたはすべきでないアルゴリズムを規制する法律を作成しようとすると、盲目的なプロセスまたは試行錯誤になることを意味します。 これが、YouTubeや他の多くの機械学習アルゴリズムで起こっていることです。 私たちは、彼らが実際にどのように機能するかについての本当の理解なしに、彼らの結果に発言権を持たせようとしています。 これらの特許技術を開放するか、少なくともそれらを規制できるほど十分に透明にする必要があります。
説明とテスト
これを行うXNUMXつの方法は、アルゴリズムが 反事実的説明 彼らの決定とともに。 これは、完全なロジックを記述することなく、アルゴリズムが異なる決定を下すために必要な最小条件を算出することを意味します。 たとえば、銀行ローンに関する決定を行うアルゴリズムは、「18歳以上で以前の借金がなかった場合、銀行ローンを受け入れてもらう」という出力を生成する場合があります。 ただし、理論上はプラットフォーム上のビデオはいつでも推奨される可能性があるため、推奨アルゴリズムを使用するYouTubeや他のサイトでは、これを行うのは難しいかもしれません。
もうXNUMXつの強力なツールは、アルゴリズムのテストと監査です。これは、偏ったアルゴリズムの診断に特に役立ちました。 最近のケースでは、プロの履歴書審査会社が、そのアルゴリズムが XNUMXつの要因に優先順位を付ける 職務遂行の最良の予測因子として：候補者の名前がJaredであったかどうか、そして彼らが高校でラクロスをプレイしたかどうか。 これは、マシンが監視されない場合に発生することです。
この場合、レジュームスクリーニングアルゴリズムは、白人男性が採用される可能性が高いことに気づき、採用された候補者に存在する相関するプロキシ特性（Jaredという名前やラクロスの演奏など）を見つけました。 YouTubeの場合、アルゴリズム監査は、どの種類の動画が推奨のために優先順位付けされるかを理解するのに役立ち、おそらくYouTubeの推奨が過激化に寄与するかどうかについての議論を解決するのに役立ちます。
反事実的な説明の導入やアルゴリズム監査の使用は、困難で費用のかかるプロセスです。 しかし、これは重要です。代替手段の方が悪いからです。 アルゴリズムがチェックされておらず、規制されていない場合、陰謀理論家や過激派が徐々にメディアに流れ込み、最も収益性の高いコンテンツを作成できる人によって制御されます。
著者について
Chico Q. Camargo、データサイエンスのポスドク研究員、 オックスフォード大学
この記事はから再公開されます 会話 クリエイティブコモンズライセンスの下で 読む 原著.
