テクノロジーがなぜ人権を危険にさらすのか

テクノロジーがなぜ人権を危険にさらすのか
Spainter_vfx / Shutterstock.com

映画など 2001年宇宙の旅, ブレードランナーターミネーター 不正なロボットやコンピュータシステムを映画館に持ち込んだ。 しかし、今日では、そのような古典的なSFの眼鏡は、これまでのところ現実から取り除かれていないようです。

私たちはますます自律的でインテリジェントな計算技術で生活し、仕事をし、遊びます。 これらのシステムには、独立した推論と意思決定能力を備えたソフトウェアとハ​​ードウェアが含まれています。 彼らは工場のフロアで私たちのために働く。 彼らは私達がモーゲージを得ることができるかどうかを決める。 彼らは私たちの活動とフィットネスレベルを追跡し、測定します。 彼らは私たちのリビングルームの床をきれいにし、私たちの芝生を切る。

自律的でインテリジェントなシステムは、日常的な日常的な側面を含め、社会的、経済的、政治的および私的な生活のほとんどすべての側面に影響を与える可能性があります。 これの多くは無実のようだが、懸念する理由がある。 計算技術は、人権、人生から権利、プライバシー、表現の自由、社会的、経済的権利へのあらゆる権利に影響を与えます。 ロボットや人工知能(AI)によってますます形づくられる技術的背景の中で、人権を守るにはどうすればよいでしょうか?

AIと人権

第一に、機械の自主性が増すと人間の地位が損なわれる恐れがあります。 この恐怖は、インテリジェント・マシンが害を及ぼす場合、法的または道徳的な意味で、誰が説明するのかを明確にしないことによって悪化します。 しかし私は、人権に対する懸念の焦点が実際に 不正ロボット現在のように見えます。 むしろ、人間のロボットや人工知能の使用や、不公平で不平等な政治的、軍事的、経済的、社会的な状況での展開について心配する必要があります。

この心配は特に致命的な自律兵器システム(LAWS)に関して重要であり、しばしばキラーロボットと呼ばれる。 私たち AI武器競走に向かう、人権学者およびChristof Heyns(超法規的、要約的または恣意的処刑に関する旧国連特別報告者)のような選挙運動者は、LAWSの使用が自律型ロボットシステムを設置する恐れがある 生と死の決定を担当する人間の制御が制限されているか、全くない。

AIはまた、戦争と監視の実践の間の革命にもなります。 グループ ロボットアーム制御国際委員会(ICRAC) 最近のGoogleの参加への反対を表明した プロジェクトMaven、超法規的な殺人に使用することができる無人機の監視映像を分析する機械学習を使用する軍事プログラム。 ICRAC 訴え ユーザーに収集されたデータが軍事目的で使用されることがないようにGoogleに通知し、Googleの従業員による同社のプロジェクトへの抗議に参加します。 Googleは最近、 更新されません その契約。

2013では、監視慣行の程度がEdward Snowdenによって強調されました 啓示。 これらは、私たちに、プライバシーの権利に対する脅威と、情報サービス、政府機関、民間企業間のデータの共有について多くのことを教えてくれました。 最近の論争 ケンブリッジアナリストFacebookのようなソーシャルメディアプラットフォームの使用による個人データの収穫は、今や表現の自由の権利を損なう民主的選挙への操作と干渉に対する深刻な懸念を引き起こし続けている。

一方、重要なデータアナリストの挑戦 差別的プラクティス AIの「白人問題」と呼ばれるものに関連しています。 これは、既存のデータに対して訓練されたAIシステムが、ポリシング、司法上の決定または雇用などの分野で差別的慣行を永続させる既存の人種および性別のステレオタイプを複製する懸念である。

AIはステレオタイプを複製して確保することができます。
AIはステレオタイプを複製して確保することができます。
Olly / Shutterstock.com

あいまいなボット

人権と物理的、政治的、デジタル的なセキュリティに対するコンピュータ技術の潜在的な脅威は、最近公表された 人工知能の悪意のある使用。 このケンブリッジ大学の報告書に述べられている懸念事項は、真剣に取り組まなければなりません。 しかし、これらの脅威にどのように対処すればよいでしょうか? 人権はロボット工学とAIの時代に備えていますか?

この時代の既存の人権原則を更新する努力が続けられている。 これらには、 ビジネスと人権に関する国連の枠組みと指針デジタル時代のマグナカルタ 将来のライフ・インスティテュートの Asilomar AIの原則倫理的研究のためのガイドライン、価値観の遵守、AIの長期的な有益な発展へのコミットメントを特定します。

これらの努力は称賛に値するが、十分ではない。 政府や政府機関、政党、民間企業、特に主要なハイテク企業は、AIの倫理的利用を約束しなければならない。 効果的かつ執行可能な立法管理も必要です。

私たちが何を紹介しても、私たちの生活はますます自律的なマシンやインテリジェントなシステムに絡み合っていることを認識することが重要です。 この絡み合いは、医学的研究や治療、交通システム、社会生活環境、環境保護への取り組みなど、人間の健康を向上させます。

しかし、他の分野では、この絡み合いは、見通しを懸念しています。 計算技術は、私たちの行動や行動を監視し追跡し、歩み、私たちの位置、健康、味、友情を追跡するために使用されます。 これらのシステムは、人間の行動を形作り、私たちの自由を抑え、人権の理念と理念を損なう自己監視の実践に向けて私たちを揺さぶる。

会話そして、ここでは重要な点があります。計算技術を二重に使用する能力は、有益な行為と悪意のある行為との境界線をぼかすものです。 さらに、計算技術は、個々の市民、州とその機関、民間企業間の不平等な権力関係に深く関わっています。 効果的な国内および国際的な小切手および残高システムから逸脱した場合、彼らは人権に対する真の懸念を抱いています。

著者について

ジョージJミッチェル上院議員、世界平和、安全保障と司法試験協会客員研究員、ビルギット・シッパーズ、 クイーンズ大学ベルファスト

この記事は、最初に公開された 会話。 読む 原著.

関連書籍

{amazonWS:searchindex = Books; Birgit Schippers = innerself; maxresults = 3}

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

InnerSelfをフォロー

Facebookのアイコンさえずり、アイコンrss-icon

電子メールで最新情報を取得する

{emailcloak =オフ}