YouTubeのアルゴリズムは人々を急進させる可能性がありますが、本当の問題は、彼らがどのように機能するかわからないことです。

YouTubeのアルゴリズムは人々を急進させる可能性がありますが、本当の問題は、彼らがどのように機能するかわからないことです。 ミスター・テンプター/シャッターストック

YouTubeは過激派を生み出していますか? A 最近の研究 科学者たちの間で、サイトを動かすアルゴリズムは極端なビデオを推奨することで人々を急進させるのに役立たないと主張して議論を引き起こしました。 提案されています 近年では。

この論文は、オープンアクセスジャーナルの第XNUMX月曜日に提出されましたが、まだ正式に査読されていませんが、さまざまな種類のチャンネルが受け取ったビデオの推奨事項を分析しました。 YouTubeのアルゴリズムは独立したコンテンツよりも主流のメディアチャンネルを好むと主張し、急進化はサイトのアルゴリズムよりも有害なコンテンツを作成する人々に関係していると結論付けました。

分野の専門家は迅速でした 研究への対応、いくつかの批判を伴う 論文の方法 そして、アルゴリズムを主張する他の人は いくつかの重要な要因 そして、そのデータサイエンスのみ 私たちに答えを与えません.

この議論の問題は、YouTubeのアルゴリズムがどのように機能するか理解していないため、人々の急進化においてどのような役割を果たすのかという質問に実際に答えることができないことです。 そして、これははるかに広範な問題の症状です。 これらのアルゴリズムは、私たちの日常生活でますます重要な役割を果たしていますが、いかなる種類の透明性も欠いています。

YouTubeが過激化の役割を果たさないと主張するのは難しい。 これは技術社会学者Zeynep Tufekciによって最初に指摘されました。 より極端なコンテンツに向けて。 Tufekciの言葉を借りれば、ジョギングに関するビデオはウルトラマラソンの実行に関するビデオ、ワクチンに関するビデオは陰謀論につながり、政治に関するビデオは「ホロコースト否定およびその他の不快なコンテンツ」につながります。

これについても書かれています 詳細に YouTubeの元従業員Guilloume Chaslotがサイトの推奨アルゴリズムに取り組んでいます。 退社後、Chaslotはこれらの推奨事項の作成を試み続けています。 より透明。 彼は、YouTubeの推奨事項は、 陰謀説と事実上不正確なビデオ、それにもかかわらず、人々はサイトでより多くの時間を過ごすことができます。

実際には、 視聴時間を最大化する はYouTubeのアルゴリズムの要点です。これにより、ビデオクリエイターはあらゆる方法で注目を集めるように戦うことができます。 会社の素晴らしさ 透明性の不足 これが正確にどのように機能するかについては、サイトでの過激化と戦うことはほぼ不可能になります。 結局のところ、透明性がなければ、状況を改善するために何を変更できるかを知ることは困難です。

YouTubeのアルゴリズムは人々を急進させる可能性がありますが、本当の問題は、彼らがどのように機能するかわからないことです。 YouTubeのアルゴリズムがどのように機能するかは謎のままです。 ダニー/シャッターストックとは

しかし、この点でYouTubeは珍しいことではありません。 アルゴリズムがどのように機能するかについての透明性の欠如は、民間企業であれ公共機関であれ、それらが大規模システムで使用される場合には常にそうです。 次に表示するビデオを決定するだけでなく、機械学習アルゴリズムを使用して、 子供を学校に入れる、決める 禁固刑、決定する クレジットスコア保険料、およびの運命 移民, 求職者大学志願者。 そして通常、これらのシステムがどのように決定を下すかを理解していません。

研究者は、これらのアルゴリズムが社会に与える影響を示す創造的な方法を発見しました。 反動的権利の台頭 または 陰謀論の広がり YouTubeで、または方法を示して 検索エンジンは人種差別的な偏見を反映している それらを作成する人々の。

機械学習システムは通常、大きく、複雑で、不透明です。 適切に、彼らはしばしばとして記述されています ブラックボックス、情報が入力され、情報またはアクションが出力されますが、その間で何が起こるかは誰にもわかりません。 これは、YouTube推奨システムのようなアルゴリズムがどのように動作するか正確にはわからないので、サイトがどのように機能するかを試すことは、ボンネットを開かずに車を理解しようとすることと同じことを意味します。

言い換えると、これは、アルゴリズムが行うべきまたはすべきでないアルゴリズムを規制する法律を作成しようとすると、盲目的なプロセスまたは試行錯誤になることを意味します。 これが、YouTubeや他の多くの機械学習アルゴリズムで起こっていることです。 私たちは、彼らが実際にどのように機能するかについての本当の理解なしに、彼らの結果に発言権を持たせようとしています。 これらの特許技術を開放するか、少なくともそれらを規制できるほど十分に透明にする必要があります。

説明とテスト

これを行うXNUMXつの方法は、アルゴリズムが 反事実的説明 彼らの決定とともに。 これは、完全なロジックを記述することなく、アルゴリズムが異なる決定を下すために必要な最小条件を算出することを意味します。 たとえば、銀行ローンに関する決定を行うアルゴリズムは、「18歳以上で以前の借金がなかった場合、銀行ローンを受け入れてもらう」という出力を生成する場合があります。 ただし、理論上はプラットフォーム上のビデオはいつでも推奨される可能性があるため、推奨アルゴリズムを使用するYouTubeや他のサイトでは、これを行うのは難しいかもしれません。

もうXNUMXつの強力なツールは、アルゴリズムのテストと監査です。これは、偏ったアルゴリズムの診断に特に役立ちました。 最近のケースでは、プロの履歴書審査会社が、そのアルゴリズムが XNUMXつの要因に優先順位を付ける 職務遂行の最良の予測因子として:候補者の名前がJaredであったかどうか、そして彼らが高校でラクロスをプレイしたかどうか。 これは、マシンが監視されない場合に発生することです。

この場合、レジュームスクリーニングアルゴリズムは、白人男性が採用される可能性が高いことに気づき、採用された候補者に存在する相関するプロキシ特性(Jaredという名前やラクロスの演奏など)を見つけました。 YouTubeの場合、アルゴリズム監査は、どの種類の動画が推奨のために優先順位付けされるかを理解するのに役立ち、おそらくYouTubeの推奨が過激化に寄与するかどうかについての議論を解決するのに役立ちます。

反事実的な説明の導入やアルゴリズム監査の使用は、困難で費用のかかるプロセスです。 しかし、これは重要です。代替手段の方が悪いからです。 アルゴリズムがチェックされておらず、規制されていない場合、陰謀理論家や過激派が徐々にメディアに流れ込み、最も収益性の高いコンテンツを作成できる人によって制御されます。会話

著者について

Chico Q. Camargo、データサイエンスのポスドク研究員、 オックスフォード大学

この記事はから再公開されます 会話 クリエイティブコモンズライセンスの下で 読む 原著.

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

InnerSelfをフォロー

Facebookのアイコンさえずり、アイコンrss-icon

電子メールで最新情報を取得する

{emailcloak =オフ}

MOST READ

芸術が精神的健康を促進する方法
芸術が精神的健康を促進する方法
by ブリタニーハーカーマーティン
選択の自由のジレンマ
選択の自由のジレンマ
by Lisette Schuitemaker
厳しい現実とより良い未来への希望
厳しい現実とより良い未来への希望
by イェサールローゼンダー

編集者から

青い目対茶色の目:人種差別はどのように教えられるか
by Marie T. Russell、InnerSelf
この1992年のオプラショーエピソードでは、受賞歴のある反人種差別活動家で教育者のジェーンエリオットが、偏見を学ぶのがいかに簡単であるかを示すことで、人種差別についての難しい教訓を聴衆に教えました。
変化が訪れる...
by Marie T. Russell、InnerSelf
(30年2020月XNUMX日)フィラデフィアや国内の他の都市での出来事に関するニュースを見ると、何が起こっているのかと心が痛む。 これは大きな変化の一部であることを知っています…
歌は心と魂を盛り上げることができます
by Marie T. Russell、InnerSelf
私はそれが入り込んだのを見つけたときに私の心から闇を取り除くために使用するいくつかの方法があります。XNUMXつはガーデニング、または自然の中で時間を過ごすことです。 もうXNUMXつは沈黙です。 別の方法は読書です。 それから…
ドナルドトランプが史上最大の敗者になる理由
by ロバートジェニングス、InnerSelf.com
このコロナウイルス全体のパンデミックは、運命、おそらく2、3、または4運命を費やしており、その大きさはすべて不明です。 ええ、そして数十万、おそらくXNUMX万人の人々が直接死ぬでしょう…
社会的分散と孤立のパンデミックとテーマソングのマスコット
by Marie T. Russell、InnerSelf
最近、ある曲に出会い、歌詞を聴いていたので、このような社会的孤立の時代の「主題歌」としてはうってつけだと思いました。 (ビデオの下の歌詞。)