進化したチャットボットのリリース AI言語モデルを活用してコードのデバッグからデータの異常検出まで、 2022 年には、人工知能 (AI) について誰もが話題になりました。 その高度な機能により、AI が高度になりすぎて、すぐに制御できなくなるのではないかという懸念が増幅されました。 このため、一部の専門家や業界リーダーは、 テクノロジーは人類の絶滅につながる可能性がある.
しかし、他の解説者は納得していませんでした。 言語学教授のノーム・チョムスキーは、ChatGPT を次のように却下しました。ハイテク盗作"。
私は何年もの間、AI が人間の存在と環境に与える影響について、リラックスしていました。 と常々思っていたからです。 人間のガイドまたはアドバイザー。 しかし、AI が意思決定を行う、つまり経営管理を行使できるようになるかどうかは別の問題です。 そしてそれは現在真剣に楽しまれているものです。
AI に実行権限を持たせるべきではない主な理由の XNUMX つは、AI には意思決定に重要な感情がまったく欠けているということです。 感情、共感、道徳の羅針盤がなければ、あなたは 完璧なサイコパス。 結果として得られるシステムは高度にインテリジェントである可能性がありますが、合理的な決定がもたらす潜在的に壊滅的な感情的影響を測定できる人間の感情的核が欠けています。
AI が経営管理を掌握するとき
重要なのは、AI を実存の脅威とだけ考えるべきではないということです。 核兵器の管理を任せる。 想像を絶する損害を与える可能性がある制御位置の数には基本的に制限がありません。
たとえば、独自の温室を建設するために必要な情報を AI がどのように識別して整理できるかを考えてみましょう。 現在のテクノロジーの反復により、 各ステップを効果的にガイドします ビルドの多くの初心者の間違いを防ぎます。 しかし将来的には、AI がプロジェクト マネージャーとして機能し、請負業者を選択して予算から直接支払うことで構築を調整するようになるかもしれません。
AI はすでに、情報処理とデータ分析のほぼすべての領域で使用されています。 気象パターンのモデリング 〜へ 無人車両の制御 〜へ 医療診断を助ける。 しかし、ここからが問題の始まりです。AI システムにアドバイザーの役割からエグゼクティブマネージャーの役割へと重要なステップアップをさせるときです。
単に問題に対処法を提案するのではなく、 会社の口座、AI に直接制御が与えられ、債務の回収手順を実行し、銀行振込を実行し、利益を最大化する機能が、その方法に制限なく与えられたらどうなるでしょうか。 あるいは、AI システムが単に機能を提供するだけではないことを想像してみてください。 X線に基づく診断、ただし、治療法や薬を直接処方する権限が与えられています。
このようなシナリオについて不安を感じ始めるかもしれません。私も確かにそう思います。 その理由は、これらの機械には実際には「魂」がないという直感かもしれません。 それらは、目的を達成するために設計されたプログラムにすぎません。 複雑なデータを単純化するために膨大な量の情報を消化する より単純なパターンに変換され、人間がより自信を持って意思決定できるようになります。 彼らは生物学的な感覚や本能と密接に関係している感情を持たず、また持つことができません。
感情と道徳
感情的知性 感情を管理してストレスを克服し、共感し、効果的にコミュニケーションを図る能力です。 最良の決定が常に最も合理的なものであるとは限らないため、これはおそらく、インテリジェンスのみよりも意思決定の文脈においてより重要です。
おそらく、論理的に推論して操作する能力であるインテリジェンスを AI を活用したシステムに組み込むことで、合理的な意思決定ができるようになるでしょう。 しかし、実行機能を備えた強力な AI に次のことを要求することを想像してみてください。 気候危機を解決する。 それが最初にやるべきことは、人類の人口を大幅に減らすことかもしれません。
この控除については多くの説明の必要はありません。 私たち人間は、ほぼ当然のことながら、あらゆる形態の汚染源です。 人類と気候変動は解決されるでしょう。 それは人間の意思決定者が下す選択ではなく、AIが独自の解決策を見つけ出すことを期待する人もいる。それは、人間が危害を加えるのを嫌うという難解で邪魔にならないものだ。 そしてもしそれに執行権限があれば、その進行を止めるものは何もないかもしれない。
AI に航空管制における経営上の決定を下す能力を与えるのは間違いかもしれません。 ゴロデンコフ/シャッターストック
妨害行為のシナリオ
妨害行為はどうですか 食品農場を制御するセンサーとモニター? これは最初は徐々に起こり、農作物が非推奨であることに人間が気付かないように、制御が転換点をわずかに超えて進む可能性があります。 特定のシナリオでは、これはすぐに飢餓につながる可能性があります。
あるいは、世界中で航空管制を停止するか、一度に飛行中のすべての飛行機を墜落させるのはどうでしょうか？ 通常、約 22,000 機の飛行機が同時に飛行しており、合計すると数百万人が死亡する可能性があります。
私たちがそのような状況には程遠いと思うなら、もう一度考えてください。 AIはすでに車を運転しており、 軍用機を飛ばす、自律的に。
あるいは、世界の広大な地域で銀行口座へのアクセスを遮断してはどうでしょうか。 社会不安を引き起こす どこでも一度に？ あるいは電源を切る コンピュータ制御の暖房システム 真冬にエアコンを使うのか、夏の暑さのピークにエアコンを使うのか。
つまり、人類にとって深刻な脅威となる核兵器を AI システムに担当させる必要はないのです。 しかし、私たちがこの話題に取り組んでいる間に、AI システムが十分に強力でインテリジェントであれば、核兵器を持った国への攻撃を装う方法を見つけて、人間による報復を引き起こす可能性があります。
AIは大量の人間を殺すことができるでしょうか? 理論的には、答えは「はい」でなければなりません。 しかし、これは人間が実行制御を与えるかどうかに大きく依存します。 意思決定ができ、それを実行する力を持つ AI ほど恐ろしいものは思いつきません。
著者について
ギヨーム・ティエリー、認知神経科学の教授、 バンガー大学
この記事はから再公開されます 会話 クリエイティブコモンズライセンスの下で 読む 原著.
