自律的技術における信頼と理解の発見

自律的技術における信頼と理解の発見写真:Norbert Aepli、スイス(ユーザー:Noebu)

2016では、自走車が主流になりました。 ウバーの自律車 ユビキタスになった 私がピッツバーグに住んでいる地域では、 サンフランシスコで簡単に。 米国運輸省発行 新しい規制ガイダンス 彼らのために。 無数 論文コラム 自家用車のしくみ すべき 解決する 倫理的困惑 物事がうまくいかないとき 残念なことに、2016は 自律車両を伴う最初の致命.

自律的な技術は、急速に輸送部門を超えて、 ヘルスケア, 高度なサイバーディフェンス そして、さえ 自律武器。 2017では、これらの技術を信頼できるかどうかを判断する必要があります。 それは私たちが期待するよりもはるかに困難になるでしょう。

信頼は複雑で多様ですが、私たちの生活の重要な部分です。 私たちはしばしばテクノロジー 予測可能性に基づいて私はなぜそれが特定の状況で何をするかを知っていれば、たとえそれがわからなくても、何かを信じています。 たとえば、私は自分のコンピュータを信頼します。なぜなら、いつ機能するのか分かっているからです。 私はそれが違うか驚くように振る舞い始めたら信頼を停止します。

対照的に、私の妻に対する私の信頼は、 彼女の信念、価値観、性格を理解する。 より一般的には、対人関係の信頼は、他人が何をするかを正確に知ることを伴わない - 私の妻は確かに時々私を驚かせる! しかし、むしろ彼らが彼らのように行動する理由。 もちろん、誰か(何か)を両方の方法で信頼することができます。

私は、倫理的、心理的な観点から、自走車やその他の自律的な技術に対する信頼の拠点を模索してきました。 これらはデバイスなので、予測可能性がキーのように見えるかもしれません。 しかし、彼らの自主性のために、我々は他の人間を信頼する方法でそれらを信頼することを学ぶことの重要性と価値、そして課題を考慮する必要があります。

自律性と予測可能性

私たちは、自走車を含む当社の技術が、私たちが予期し、予想できるように行動することを望んでいます。 もちろん、これらのシステムは、他の車両、歩行者、気象条件など、状況に非常に敏感である可能性があります。 しかし、一般的に同じ環境に繰り返し配置された自家用車は毎回同じように動作するはずです。 しかし、これらの高度に予測可能な車は、単に自動ではなく、自律的であるとはどのような意味で考えられますか?

そこにある 多くの 異なります 試み 〜へ 定義します 自治自律システムはそれぞれ独自の(実質的な)意思決定と計画を立てることができるため、予想以上に異なる行動を取ることができます。

事実、(オートメーションとは異なる)自律性を採用する理由の1つは、これらのシステムが予期せぬ驚くべきことを追求できることです。 例えば、 ディープマインドのアルファゴー 最近のGoシリーズの2番目のゲームでLee Sedolに勝利しました。 人間のプレイヤーはこれまでに作ったことはないが、それにもかかわらず正しい動き。 しかし、これらの驚きは予測可能な信頼を確立することを困難にしている。 予測可能性のみに基づく強力な信頼は、(システムが正常に機能していると仮定すると)予測可能であるため、自動または自動システムに対してのみ可能であることは間違いありません。

驚きを受け入れる

もちろん、他の人たちは頻繁に私たちを驚かせますが、私たちはそれを驚くべき程度に信じることができます。 兵士は複雑で敵対的な環境で同志たちを信頼します。 患者は腫瘍を切除するために外科医を信頼する。 より平凡な静脈では、私の妻は私を安全に運転すると信じています。 この対人関係の信頼は、私たちが驚きを受け入れることを可能にするので、おそらく私たちは自家用車の対人関係のようなものを開発することができますか?

一般に、対人関係の信頼は、たとえあなたが正確な決定を予測できないとしても、誰かが特定の方法で行動した理由を理解することを必要とします。 私の妻は私が運転する方法を正確には知らないかもしれませんが、私が運転しているときに私が使用する推論の種類を知っています。 私たちの信念、欲求、経験など、さまざまな「原料」を使っても、誰かが何かをやっている理由を理解することは、実際には比較的簡単です。

実際、私たちは、大部分が私たちのように考え、理由をつけて決定することを前提として、自分の行動に基づいて他の人々の信念と欲望について推論を継続的かつ無意識的に行っています。 共有された(人間の)認知に基づいたこれらの推論と推論は、私たちが他の人の理由を理解することを可能にし、それによって時間の経過とともに対人関係の信頼を構築します。

人々のように考える?

自律的な技術、特に自家用車は、人のように考えたり決心したりしないでください。 努力がなされている 過去最近人間のように思考したり、理由を付けるコンピュータシステムを開発することです。 しかし、過去20年にわたる機械学習の一貫したテーマは、人工知能システムが人間のようなやり方で動作することを要求しないことによって、莫大な利益を上げてきたことです。 AlphaGoのような機械学習アルゴリズムやシステムは、多くの場合、 人間の専門家よりも優れている 具体的な、ローカライズされた問題に焦点を当て、人間とはまったく異なった方法で解決します。

結果として、人間のような信念と欲望の観点から自律的な技術を解釈しようとする試みは、大いに狂ってしまうことがあります。 人間の運転手が道路にボールを見ると、ほとんどの人が自動的に大きく減速して、後に追いかける可能性のある子供にぶつからないようにします。 私たちが自律車に乗って路上でボールを見ると、車はそれを認識し、子供の走りを止める準備ができていると期待しています。 しかし、車は避けなければならない障害しか見ないかもしれない。 それが遅くなることなくスワイプすると、搭乗している人間は驚くかもしれません。そして、子供が危険にさらされているかもしれません。

私たちの推論は、自動車には人間のような信念や欲望がないため、確かに重要な点で間違いがあります。 私たちは、自らの行動の背後にある人物を正確に推測することはないので、自らを見ているだけで、自家用車の対人信頼を発展させることはできません。

もちろん、社会や市場の顧客は、自走車が人間のような(心理的な)特徴を持っていると主張することができます。 この戦略は、人間中心のデザインシステムが特別に設計され、人間の行動が解釈可能になるからです。 しかし、それはまた、小説 アルゴリズムテクニック 自走車やその他の自律的な技術のための現在の研究開発戦略からの大きな変化を表すであろう。

自走車は、多くの有益な方法で交通インフラを根本的に再構築する可能性がありますが、実際にそれらを使用するには十分に信頼できる場合に限ります。 そして、皮肉なことに、自走車を価値あるものにするという特徴は、様々な状況にまたがる柔軟で自律的な意思決定です。

会話

authirhere

デイビッド・ダンクス教授(哲学と心理学) カーネギーメロン大学

この記事は、最初に公開された 会話。 読む 原著.

関連書籍:

{amazonWS:searchindex =本;キーワード=自動運転車; maxresults = 3}

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

InnerSelfをフォロー

Facebookのアイコンさえずり、アイコンrss-icon

電子メールで最新情報を取得する

{emailcloak =オフ}

MOST READ

自分や他人とやさしい
自分や他人とやさしい
by サラ・ラブ・マッコイ
フェイスシールドはCovid-19から保護しますか?
フェイスシールドはCovid-19から保護しますか?
by フィリップ・ルッソとブレット・ミッチェル
Robocallsを無視すると停止しますか?
Robocallsを無視すると停止しますか?
by サトビックプラサードとブラッドリーリーブス

編集者から

InnerSelfニュースレター:9月27、2020
by InnerSelfスタッフ
人類の大きな強みのXNUMXつは、柔軟性、創造性、そして既成概念にとらわれずに考える能力です。 昨日か前日以外の誰かになること。 変えることができます...…
私のために働くもの:「最高のために」
by Marie T. Russell、InnerSelf
「私にとって何がうまくいくか」を共有する理由は、それがあなたにも役立つかもしれないからです。 私のやり方とまったく同じではないにしても、私たち全員がユニークであるため、態度や方法のいくつかの差異が非常によくあるかもしれません…
Were You Part Of The Problem Last Time?前回、あなたは問題の一部でしたか? Will You Be Part Of The Solution This Time?今回はソリューションの一部になりますか?
by ロバートジェニングス、InnerSelf.com
Have you registered to vote?有権者登録をしましたか? Have you voted?投票しましたか? If you are not going to vote, you will be part of the problem.投票しない場合は、問題の一部になります。
InnerSelfニュースレター:9月20、2020
by InnerSelfスタッフ
今週のニュースレターのテーマは、「できる」、より具体的には「できる」とまとめることができます。 これは、「あなた/私たちは変化を起こす力を持っている」という別の言い方です。 の画像…
私にとって有効なもの:「私はそれを行うことができます!」
by Marie T. Russell、InnerSelf
「私にとって何がうまくいくか」を共有する理由は、それがあなたにも役立つかもしれないからです。 私のやり方とまったく同じではないにしても、私たち全員がユニークであるため、態度や方法のいくつかの差異が非常によくあるかもしれません…