物事が自動化された世界で間違っているとき、我々は何をすべきかまだ知っていますか?

物事が自動化された世界で間違っているとき、我々は何をすべきかまだ知っていますか?

私たちはますます複雑になる世界に住んでいます。 自動の。 より複雑な問題に対処するのと同じように、自動化は、予期せぬ状況に対処するときや状況が悪くなったときに私たちをより脆弱にする人間のスキルの萎縮につながります。 会話

考慮する エアー・フライト447の最終分これはブラジルのリオデジャネイロをパリを出発して5月に大西洋に墜落した。

そのフライトレコーダーが明らかに コックピットでの完全な混乱。 飛行機は15°で上向きに傾き、自動的に "ストール、ストール"と呼ばれる声がかかりました。 しかし、パイロットたちは、叫んでいた。「[...]われわれは何も理解していない。

これは、不測の事態に自動的に対処するように設計されたシステムがデザイナーができなかった少数の状況のた​​めに劣化したスキル基盤を残していることに気づくこと以外に、予期しない。

に話す Vanity Fairミシガン大学の産業技術者であるNadine Sarterは、特定の航空機を建設する5人のエンジニアとの会話を思い出しています。

私は尋ね始めました。「まあ、どうやってこれが働くの?」 彼らは答えに同意できませんでした。 だから私は、もしこれらの5人のエンジニアが同意できないと思っていたら、貧しいパイロットは、彼がその特定の状況に遭遇したならば...うーん、幸運。

事実、高度に複雑なハイテク旅客機を賢明に飛行させることの複雑さは、ロボットに委託されている 飛行技術者はすべての目的と目的に コックピットから。 古いパイロットと元の空軍パイロットだけがその詳細なスキルを保持します。

terra firmaに戻って、自律的な運転の世界では、実践的な経験をしていない未来の世代すべてが存在する可能性があります 運転してナビゲートする 車両。

私たちはすでに 何がうまくいかないか 人間が制御権を譲るとき 自律システム.

の調査 オートパイロットを搭載したTesla Model Sの致命的なクラッシュ 同社はドライバーに「システムの限界」に関する情報を提供したと述べた。 その場合、注意を払うことはまだ運転手に任されています。

しかし、将来的に何かが間違っていこうとしたら、どんなコントロールを引き継ぐか 完全自律車両。 差し迫った災害の初期兆候を見分ける方法を知っているだろうか?

私たちの方法を失う?

これを推進することは、あらゆるイノベーションが本質的に良いと考えている技術的決定論です。 新興技術はまだ人間であることを定義しているかもしれないが、課題は リスクを認識する 物事が間違っていないことを確認するために何をすべきか。

それは複雑さを増してきたので、特に自律的な運転で 郊外列車, 航空タクシー配達ドローン.

システム設計者は、コンピュータの処理負荷を分担するために、より大きく絡み合ったシステムを構築してきました。 彼らは、いったんすべてがつながれれば、問題は解決策ほど容易に広がり、時にはそれ以上に広がるという事実を見落としています。

ますます複雑化する自動化された世界では、同様のリスクが発生します。

危険点

後ろ向きでは、障害ポイントがあるときにネットワークを切断する機能、または少なくとも1つのネットワーク内のどこかに障害ポイントがある場合にはその一部を遮断する機能が必要です。

この「島嶼化」は、スマートな電力網の機能であり、ネットワークを分割して内部電力需要を自立させることができます。 モデリングは、 より少ないセキュリティで接続できる接続数.

緊急性の高い複雑さの科学は、高度に相互接続されたネットワークで危険点がどこにあるのかを特定するのに役立つでしょうか? Marten Schefferおよび同僚 そう思った。 彼は、(彼の)自然のシステムと経済システムと金融システムの間の類似点を見ていました。

彼の 以前の仕事 湖、サンゴ礁、海、森林、草原では、気候、栄養失調および生息地の喪失などの漸進的な変化を受ける環境が、時には不可逆的な低状態に転じる転倒点に達することがあることがわかりました。

金融市場の安定に取り組んでいる銀行家やエコノミストは、生態学、疫学、気候学の研究者から、臨界閾値やシステムの故障に近い指標を開発することができますか?

2月の2016では、このすべてが一緒になって 複雑性理論と金融規制に関する論文 経済学者、銀行家、物理学者、気候学者、生態学者、動物学者、獣医師、疫学者など幅広い専門家が共著しています。

彼らは、データ、方法および指標のオンライン統合を推奨し、世界の社会経済的システムおよび金融システムのストレステストにほぼリアルタイムで対応しました。 前者は、天候などの他の複雑なシステムを扱う際に達成されたものと似ています。

私たちは、自律的な運転の世界の例がネットワークの安定性の問題にどのように折り畳まれているかを見ることができます。 高度に相互接続された自律型車両ネットワークを想像してみてください。

潜在的に悲劇的な結果が発生する前に、そのようなネットワーク内の潜在的な障害点を検出し隔離する方法を明確に知る必要があります。 これは単なる自律走行車でのシステム障害からドライバーと乗客を保護するだけではありません。

大規模なネットワークの安定性を理解する上で、こうした多面的な進歩をいかに活用して、劇的な結果を避けることができるか考えてみましょう。

著者について

ピーターフィッシャー、グローバル・アーバン・アンド・ソーシャルスタディーズ教授、 RMIT大学

この記事は、最初に公開された 会話。 読む 原著.

関連書籍

{amazonWS:searchindex = Books;キーワード=オートメーションが正しくありません; maxresults = 3}

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

InnerSelfをフォロー

Facebookのアイコンさえずり、アイコンrss-icon

電子メールで最新情報を取得する

{emailcloak =オフ}