どのようにビッグテックは精査と説明責任を回避するためにそれ自身の倫理則を設計するか

どのようにビッグテックは精査と説明責任を回避するためにそれ自身の倫理則を設計するか

データ倫理は現在、原因となっています。

「デジタル倫理とプライバシー」が調査およびアドバイザリー会社Gartner'sに注ぎ込まれました 2019のトップ10の戦略的技術動向。 それ以前は、ほとんど言及がありませんでした。

過去1年間 政府, 企業政策とテクノロジー タンクが公開したと思う データ倫理 ガイド。 専門家データ倫理学者の全コホートが魔法のように具体化しました。

なぜこの突然データ倫理に興味があるのでしょうか。 データ倫理とは何ですか? ガイドラインはどのような利益に役立つように設計されていますか?

何が起こっているのかを理解するためには、一歩後退して、情報ランドスケープがどのように展開してきたかを見る必要があります。

浮上しているのは、他のすべての人に適用される規制上の制約から影響を受けない業界の写真です。

輝きが消えた

ここ数年の間に、情報産業はその輝きを失いました。

挽き目 スノーデンの啓示 ケンブリッジアナリストのスキャンダルソーシャルメディアの実現 ヘイト·スピーチ 情報の武器化と民主的制度の破壊におけるその役割 すべて貢献しました。

広告を販売するために個人情報を金銭化するビジネスモデルは、今では偽りのない掘り出し物と見られています - おそらく犠牲はそれだけの価値がないのです。 2017から2018への 有利な6-12歳市場で米国のFacebookユーザーが34%減少.

これらの懸念から、規制が求められています。 しかし、これらは技術部門のための一般的な規制の正統性に対する牽引力を得るために苦労しています。 これはAl Gore'sにさかのぼる 5つの原則 当時は古くから「グローバル情報スーパーハイウェイ」と呼ばれていたものを可能にしたため。

原則3は、規制政策が「急速な技術的変化および市場の変化に対応できる柔軟な規制の枠組みを創出する」ということでした。 これは規制なし、または自主規制のためのコードでした。 オーストラリアでは 「軽いタッチ」規制.

大手技術は、消費者保護や製造物責任、競争法、特に情報のプライバシーなど、「昔の」経済の日常的な懸念から大いに解放され、規制の遵守を免れて行動しました。

周回する

ヨーロッパはこの自由放任主義のアプローチを完全に採用したことはありません。 情報のプライバシーは常に2018 General Data Protection Regulation(最高データ保護規則)で頂点に達しており、その最優先事項です。GDPR) これにより、欧州連合の各個人に、世界で最も包括的なデータ保護権が与えられます。 権利は域外に及ぶものであり、規制当局による監視を含み、そして 目を見張るような規模の民事罰金。 他の管轄も、訴訟を追い始めています。

並行して、他の分野の規制当局も動き始めています。 独占禁止法規制当局は、情報独占と競争を制限するためのハイテクによる市場支配力の活用に注目しています。

オーストラリアでは、ACCCは 新しい規制当局 ランキングニュースおよびジャーナリズムコンテンツに対するアルゴリズムの影響を監視および調査すること。

英国のコミュニケーションに関する選択委員会の報告書には、デジタル世界における規制に関する報告があります。 新しいデジタル機関を推薦しました 「オンラインプラットフォームによる自己規制は明らかに失敗している」と指摘しながら、10の規制原則を中心としたデジタル環境の「細分化された」規制を監督すること。 人権規制当局は、差別の創出と定着におけるアルゴリズムの役割を検討しています。

データはお金を意味します

ハイテクは規制されることを望まない。 個人情報を収集する無制限の能力を制限したり、GDPRタイプの保護をグローバルな基準にしたりすることは望ましくありません。 個人情報は、私たちの注目を集めることができるようにするためのアルゴリズムの原材料です。

「破壊的」であることに誇りを持っている業界にとって、ビッグテクの最大の不安は、それ自体が破壊されないように、厳しさを増す規制環境を未然に防ぐことです。 データ倫理は、規制と闘うために開発した手段の1つです。 それは倫理に関連する美徳を充当することによって、しかし内容または結果をそれらを空にすることによって行います。

取る AIに対するGoogleの原則。 (AIは人工知能です)。 これらは:

  • 社会的に有益である
  • 不公平な偏見の作成や強化を避ける
  • 安全性のために作られテストされる
  • 人々に責任を負う
  • プライバシーデザインの原則を組み込む
  • 科学的優秀性の高い基準を守る
  • これらの原則に一致する用途に利用できるようにする。

これらの「原則」は、Instagramで公開されている「お互いに親切に」または「太陽を怒りに沈めさせない」ように強く勧め、そしてそれと同じくらい有用であると感じている家庭に非常に似ています。

本当に? スクリーンショットのキャプチャ3月28 2019

テストにかける

Googleの原則の1つである「人々に説明責任を持たせる」を試してみましょう。

ここには曖昧さのいくつかの層があります。 それは、GoogleのAIアルゴリズムが、一般の「人」、Googleの「人」、または独立した規制当局などの他の人の「人」に責任を負うべきであることを意味していますか?

後者の場合、Googleは分析のためのアルゴリズムを提供し、エラーを修正し、生じた損害に対する補償を支払いますか?

GoogleのAIアルゴリズムが誤って私をテロリストであると結論付け、その情報を使用して私を逮捕し、私とのコミュニケーションをとらせ、私を尋問する国家安全保障機関にこの情報を伝えた場合、Googleの過失について それはどのように説明責任がありますか? Googleの説明責任に不満がある場合、正義を訴えるのは誰ですか?

有用な倫理は説明責任を伴う

倫理は、個人がどのように決断を下し、どのように生活を送っているかに影響を与える道徳的原則に関係しています。

イオンに関して倫理学が研究され議論されてきた。 西洋の伝統の中では、倫理学は ソクラテス。 それらには、ほんの数例を挙げると、デントロジカル(職務に基づく)倫理、結果主義、功利主義、実存主義などの哲学的立場が含まれます。 当然のことながら、これらのどれも、特定の状況で個人がしなければならないことについての質問に対する同じ答えを生み出しません。

「応用倫理学」は、倫理学の原則を現実の状況に当てはめることを目的としています。 たくさんの例があります。

公共部門の倫理は法律によって管理されています。 懲戒処分、雇用の終了、場合によっては刑事罰を含む、侵害した人々への影響があります。 弁護士になるためには、私は裁判所に自分が「適格で適切な人」であるという証拠を提供しなければなりませんでした。 練習を続けるために、私はオーストラリアの弁護士行動規範に定められている詳細な要件を遵守することを要求されます。 違反した場合、影響があります。

応用倫理の特徴は、それが具体的であること、フィードバックのループがあること、手引きが利用可能であること、組織や職業文化に埋め込まれていること、適切な見落としがあることです。 。 それらは規制上の制度の一部であり、単なる「気分が良い」声明ではありません。

気の利いた高レベルのデータ倫理原則は、ハイテクを規制する目的には適していません。 応用倫理は果たすべき役割を持つかもしれませんが、それらは職業や分野に固有のものであるため、重い作業のすべて、あるいはほとんどを行うことに頼ることはできません。

ハイテクに関連する害は、適切な規制によってのみ解決することができます。会話

著者について

デイヴィッドワッツ、情報法と政策の教授、 ラトローブ大学

この記事はから再公開されます 会話 クリエイティブコモンズライセンスの下で 読む 原著.

関連書籍:

{amazonWS:searchindex =本;キーワード=デジタル独占; maxresults = 3}

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

InnerSelfをフォロー

Facebookのアイコンさえずり、アイコンrss-icon

電子メールで最新情報を取得する

{emailcloak =オフ}

MOST READ

脳が解剖学が示唆するものよりもいかに複雑であるか
脳が解剖学が示唆するものよりもいかに複雑であるか
by サルヴァトーレドメニックモルジェラ
サイバーセックス、エロテック、仮想親密さの台頭
サイバーセックス、エロテック、仮想親密さの台頭
by SimonDubé、Dave Anctil、Maria Santaguida
加齢に伴う心身の健康を守る5つの活動
加齢に伴う心身の健康を守る5つの活動
by ジッギイヴァンサンティーニ他

編集者から

清算の日がGOPにやってきた
by ロバートジェニングス、InnerSelf.com
共和党はもはや親米政党ではない。 それは急進派と反動派に満ちた非合法の偽政党であり、その目的は破壊、不安定化、そして…
ドナルドトランプが史上最大の敗者になる理由
by ロバートジェニングス、InnerSelf.com
2年20020月2日更新-このコロナウイルスのパンデミック全体が運命をたどっています。 そうそう、数十万、おそらく百万人の人々が死ぬだろう…
青い目対茶色の目:人種差別はどのように教えられるか
by Marie T. Russell、InnerSelf
この1992年のオプラショーエピソードでは、受賞歴のある反人種差別活動家で教育者のジェーンエリオットが、偏見を学ぶのがいかに簡単であるかを示すことで、人種差別についての難しい教訓を聴衆に教えました。
変化が訪れる...
by Marie T. Russell、InnerSelf
(30年2020月XNUMX日)フィラデフィアや国内の他の都市での出来事に関するニュースを見ると、何が起こっているのかと心が痛む。 これは大きな変化の一部であることを知っています…
歌は心と魂を盛り上げることができます
by Marie T. Russell、InnerSelf
私はそれが入り込んだのを見つけたときに私の心から闇を取り除くために使用するいくつかの方法があります。XNUMXつはガーデニング、または自然の中で時間を過ごすことです。 もうXNUMXつは沈黙です。 別の方法は読書です。 それから…