新しいデジタルデバイドは、アルゴリズムをオプトアウトした人としない人の間のものです

新しいデジタルデバイドは、アルゴリズムをオプトアウトした人としない人の間のものです データを共有したときに何が起こるか知っていますか? mtkang / shutterstock.com

朝の通勤にどのルートを取るかから、誰がデートするのかを決定することから、予測ポリシングのような複雑な法的および司法上の問題まで、人生のあらゆる面を人工知能アルゴリズムで導くことができます。

グーグルやフェイスブックのような大手テクノロジー企業はAIを使用して、詳細な顧客データの豊富な品揃えについて洞察を得ています。 これにより、マイクロターゲティング、広告主が特定のユーザーセットを狭い範囲でターゲティングするために使用する戦略などのプラクティスを通じて、ユーザーの集合的な好みを収益化できます。

それと並行して、多くの人々は今や自国の政府や市民社会よりもプラットフォームやアルゴリズムを信頼しています。 10月の2018の調査によると、人々は「アルゴリズム評価人間からではなくアルゴリズムからであると彼らが考えるとき、彼らはアドバイスにもっと頼るだろうという範囲で。

過去には、技術の専門家は "デジタル・ディバイド" コンピュータやインターネットにアクセスできる人とアクセスできない人の間。 デジタル技術へのアクセスが少ない世帯は、デジタル技術へのアクセス能力において不利になります。 お金を稼ぎ、スキルを蓄積する.

しかし、デジタル機器の普及に伴い、格差は単なるアクセスの問題ではなくなりました。 人々はどのようにして情報の過負荷や、人生のあらゆる面に浸透している大量のアルゴリズム上の決定に対処するのでしょうか。

より経験豊富なユーザーは、デバイスから離れて移動し、アルゴリズムが彼らの生活にどのように影響するかについて気付き始めています。 一方、情報が少ない消費者は、決定を導くためにアルゴリズムにさらに依存しています。

不平等 あなたは接続したままにしておくべきですか? pryzmat / shutterstock.com

人工知能の裏にある秘密のソース

新しいデジタルデバイドの主な理由は、情報システムを研究している人としての私の意見では、 アルゴリズムがどのように機能するかを理解している人はほとんどいません。。 大多数のユーザーにとって、アルゴリズムはブラックボックスと見なされています。

AIアルゴリズムはデータを取り込み、それらを数学的モデルに当てはめて予測を出します。 どんな曲を楽しめますか 〜へ 誰かが刑務所で過ごすべき年数。 これらのモデルは、過去のデータと以前のモデルの成功に基づいて開発および調整されています。 ほとんどの人は - 時にはアルゴリズム設計者自身さえ - モデルの中に何が入るのか本当に知りません。

研究者 長い間心配してきた アルゴリズムの公平性について 例えば、AmazonのAIベースの採用ツールは、 女性候補者を解任する。 Amazonのシステムが選択的に抽出されていた 暗黙のうちに性別化された単語 - 「実行された」や「捕らえられた」など、男性が日常会話で使用する可能性が高い単語。

その他の研究 司法のアルゴリズムは人種的に偏っており、貧しい黒人の被告を他の者よりも長い期間にわたって判決を下している。

最近承認された欧州連合の一般データ保護規制の一部として、人々は 「説明の権利」 アルゴリズムが決定に使用する基準について この法律は、レシピブックのようにアルゴリズムによる意思決定のプロセスを扱います。 あなたがレシピを理解すれば、そのアルゴリズムがあなたの生活にどのように影響するかを理解できると考えるのです。

一方、AIの研究者の中には、 公正、説明責任、透明性、 と同様 解釈可能つまり、彼らは人間が理解し信頼できるプロセスを通して彼らの決断にたどり着くべきです。

透明度はどのような効果がありますか? に 一つの研究学生はアルゴリズムによって評定され、最終評点に到達するためにピアのスコアがどのように調整されたかについて、さまざまなレベルの説明を提供されました。 より透明な説明を持つ学生は実際にはアルゴリズムをあまり信頼しませんでした。 これもまた、デジタルデバイドを示唆しています。アルゴリズムを意識しても、システムへの信頼が高まることはありません。

しかし透明性は万能薬ではありません。 アルゴリズムの全体的なプロセスがスケッチされていても、 詳細はまだ複雑すぎるかもしれません ユーザーが理解するために。 透明度は、アルゴリズムの複雑さを理解するのに十分洗練されているユーザーだけを助けます。

たとえば、2014では、元FRBの議長だったBen Bernankeが当初は 自動化システムによる住宅ローンの借り換えを拒否。 そのような住宅ローンの借り換えを申請しているほとんどの個人は、アルゴリズムが彼らの信用度を決定する方法を理解できないでしょう。

不平等 アルゴリズムは今日何をすると言っていますか? マリア・サヴェンコ/ shutterstock.com

新しい情報エコシステムからの脱出

アルゴリズムは人々の生活の大部分に影響を与えますが、十分に参加するのに十分なほど洗練されているのはごく一部の参加者だけです。 アルゴリズムが彼らの生活にどのように影響するか.

アルゴリズムを意識している人の数に関する統計はあまりありません。 研究は証拠を見つけました アルゴリズム不安アルゴリズムを展開するプラットフォーム間での電力の深刻な不均衡につながります。 それらに依存しているユーザー.

Facebookの利用に関する研究 参加者がニュースフィードをキュレーションするためのFacebookのアルゴリズムを知っているとき、参加者の約83%がアルゴリズムを利用しようと彼らの行動を変更し、10%がFacebookの使用を減らしたことを発見しました。

Pew Research Centerからの11月の2018レポート 大多数の公衆が特定の用途のためのアルゴリズムの使用に関して重大な懸念を持っていたことがわかった。 66%が個人向け財務スコアを計算することは公平ではないと考えているのに対し、57%は自動履歴書スクリーニングについても同じことを述べています。

ごく一部の個人が、アルゴリズムが個人データを使用する方法をある程度制御しています。 例えば、Hu-Manityプラットフォームはユーザーを許可します 収集するデータ量を制御するためのオプション。 オンライン百科事典 エベリペディア ユーザーは、キュレーションの過程で利害関係者になることができます。つまり、ユーザーは情報の集約方法や表示方法を制御することもできます。

ただし、大多数のプラットフォームでは、エンドユーザーにそのような柔軟性を提供したり、ニュースフィードをキュレーションしたりコンテンツを推奨したりする際にアルゴリズムが自分の好みを使用する方法を選択する権利を提供しません。 選択肢がある場合、ユーザーはそれらについて知らないかもしれません。 約74のFacebookユーザーが、ある調査では自分たちは プラットフォームが彼らの個人的な興味をどのように特徴付けるのかを知らない.

私の考えでは、新しいデジタルリテラシーはコンピューターを使用したりインターネットに接続したりするのではなく、常に差し込まれたライフスタイルの結果を理解し評価することです。

このライフスタイルは、 人々が他人とどのように対話するか; 彼らの能力について 新しい情報に注意を払う; そして 意思決定プロセスの複雑さ.

アルゴリズム不安の増大は、経済の平行的なシフトによっても反映される可能性があります。 少数の個人が 自動化による利益を捉える多くの労働者が 不安定な位置.

アルゴリズムキュレーションから選ぶのは贅沢です - そしていつかはごく少数の人しか利用できない豊かさの象徴になるでしょう。 問題は、デジタルデバイドの反対側の人々にとって、測定可能な害が何になるのかということです。

著者について

Anjana Susarla、情報システム准教授、 ミシガン州立大学

この記事はから再公開されます 会話 クリエイティブコモンズライセンスの下で 読む 原著.

関連書籍

{amazonWS:searchindex =本;キーワード=デジタルデバイド; maxresults = 3}

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

InnerSelfをフォロー

Facebookのアイコンさえずり、アイコンrss-icon

電子メールで最新情報を取得する

{emailcloak =オフ}