将来の歴史家は、2023 年が人工知能 (AI) の出現の画期的な出来事であると考えるかもしれません。でも、その未来が証明されるかどうかは ユートピアの, 終末論的な or その間のどこかに 誰かの推測です。

2 月、ChatGPT は到達最速のアプリとして記録を樹立しました。 100万人のユーザー。これに続いて、Google、Amazon、Meta、その他の大手テクノロジー企業による同様の「ラージ言語」AI モデルが登場し、これらの企業は集合的に、教育、医療、その他多くの知識集約型分野を変革する構えを見せています。

しかし、AI が害を及ぼす可能性は 5 月に次のような論文によって強調されました。 不気味な発言 主要な研究者による署名:

AI による絶滅のリスクを軽減することは、パンデミックや核戦争などの他の社会規模のリスクと並んで世界的な優先事項であるべきです。

27月、AIリスクに対する懸念の高まりに応え、XNUMXカ国（英国、米国、インド、中国、欧州連合を含む）が英国のブレッチリーパークで開催された第XNUMX回AI安全サミットでAIの安全な開発を確保するための協力を約束した。のために 全員の利益になる.

これを達成するために、研究者は次のことに焦点を当てています。 AIの調整 つまり、AI モデルが人間の価値観、好み、目標と一致していることを確認する方法です。しかし、問題があります。AI のいわゆる「」暗い秘密”: 大規模モデルは非常に複雑でブラック ボックスのようで、誰も完全に理解することは不可能です。

AIのブラックボックス問題

AI システムの透明性と説明可能性は高いですが、 重要な研究目標、そのような取り組みはイノベーションの猛烈なペースに追いつくことはできそうにありません。

ブラック ボックスの比喩は、AI に対する人々の信念が世界中に広がっている理由を説明しています。予測はユートピアから絶滅まで多岐にわたり、汎用人工知能 (AGI) が間もなく登場すると信じている人さえいます。 感覚を得る.

しかし、この不確実性が問題をさらに悪化させます。 AI の調整は双方向である必要があります。AI モデルが人間の意図と一致していることを確認するだけでなく、AI についての信念が正確であることも確認する必要があります。

なぜなら、たとえ私たちが気づいていないとしても、私たちはその信念に一致する未来を創造することに非常に熟達しているからです。

いわゆる「期待効果」、または自己成就的予言は心理学ではよく知られています。そして調査によると、ユーザーの信念を操作することは、ユーザーの行動に影響を与えるだけでなく、 AIと対話する、しかしAIはどうやって ユーザーに適応します.

言い換えれば、私たちの信念（意識的または無意識的）が AI にどのように影響するかは、壊滅的な結果を含むあらゆる結果の可能性を潜在的に高める可能性があります。

AI、計算、論理、算術

AI の基礎を理解するには、より深く調査する必要があります。不思議の国のアリスのように、ウサギの穴に進み、AI が私たちをどこへ連れて行ってくれるのかを確認してください。

まず、AIとは何でしょうか？コンピューター上で実行され、計算も自動化されます。 「」としてのその起源からパーセプトロン” – 1943 年に神経生理学者によって数学的に定義された人工ニューロン ウォーレン・マカロック そして論理学者 ウォルター・ピッツ – AI は認知科学、神経科学、コンピューター科学と絡み合ってきました。

この収束は、 心, 脳 & AI は機械による計算であるため、自然知能 (心) は脳による計算に違いないという広く信じられている考えにつながりました。

しかし、計算とは何でしょうか? 19世紀後半、数学者たちは、 リチャード・デデキント & ジュゼッペ・ペアノ 一連の公理を提案しました。 論理の観点から算術を定義するそして、すべての数学を安全な基盤に基づいて構築しようという試みにインスピレーションを与えました。 正式な基礎.

論理学者ですが、 クルト・ゲーデル 後にこの目標が 達成不可能な、彼の研究は数学者 (そして暗号解読者) の出発点でした。 アラン·チューリング。 彼の "チューリングマシン」という抽象的なデバイスです。 普遍的な計算、コンピューターサイエンスの基礎です。

認識の深い構造

したがって、計算は、論理における算術を定義する努力に遡る数学的考え方に基づいています。しかし、私たちの算術知識は存在します 論理以前に。 AI の基礎を理解したい場合は、さらに進んで、算術自体がどこから来たのかを尋ねる必要があります。

私の同僚と私は最近、算術が「」に基づいていることを示しました。深い構造」という認識。この構造は色眼鏡のようなもので、私たちの認識を特定の方法で形作ることで、世界の経験が秩序正しく管理可能になります。

算術演算は、一連の要素 (数値) と、要素のペアを組み合わせて別の要素を与える演算 (加算、乗算) で構成されます。私たちは、あらゆる可能性の中で、なぜ数値が要素であり、加算と乗算が演算なのかと尋ねました。

で示しました 数学的証明 知覚の深い構造が可能性を制限すると仮定したとき、その結果が算術であったということ。言い換えれば、私たちの心は、物理的な世界の経験を形作るのと同じ「色眼鏡」を通して抽象的な世界を見るとき、数字や算術を「見る」のです。

算術は数学の基礎であるため、数学は心を反映し、その基本的な性質と創造性を象徴として表現したものであることが意味します。

知覚の深い構造は他の動物と共有されており、進化の産物ですが、数学を発明したのは人間だけです。これは私たちの最も親密な創造物であり、AI の開発を可能にすることで、おそらく私たちにとって最も重要な成果となります。

心のコペルニクス的革命

私たちのアカウント 算術の起源 これは18世紀の哲学者イマヌエル・カントの見解と一致しています。彼によれば、世界に関する私たちの知識は、感覚経験以前に存在する空間と時間の「純粋な直観」によって構築されており、これは私たちが決して外すことのできない色眼鏡に似ています。

カントは自分の主張を主張した 哲学 それは「心のコペルニクス的革命」でした。古代の天文学者たちが地球の運動を知らなかったために太陽が地球の周りを回っていると信じたのと同じように、哲学者たちはすべての知識は次のようなものから得られると信じていたとカントは主張した。 感覚体験 （たとえば、ジョン・ロックやデヴィッド・ヒュームは）心がどのように知覚を形作るのかを見落としていました。

カントの見解は、 彼の時代の自然科学、彼らは証明しました 現代心理学に影響を与える.

算数という認識は、 私たちの認識の自然な結果、したがって生物学に基づいたものは、計算に対する私たちの理解における同様のカント的な変化を示唆しています。

計算は数学的真理の抽象的な領域の「外側」にあるわけでも、私たちから切り離されているわけでもありませんが、私たちの心の性質に固有のものです。心は単なる計算以上のものです。脳はコンピューターではありません。むしろ、AI の基礎である計算は、数学と同様に、心の性質と創造性を象徴的に表現したものです。

プロメシアンの火

AIにはどのような影響があるのでしょうか?まず、AI は心ではなく、決して知覚を持つことはありません。私たちが心をクラウドにアップロードすることで生物学的性質を超越して不死を達成できるという考えは、 ファンタジー.

しかし、AI の基礎となる心の原則が全人類 (そしておそらく他の生き物も) に共有されていれば、私たち個人の心の限界を超えることが可能になるかもしれません。

計算は普遍的なものであるため、ますます接続される仮想世界と物理世界において、私たちは自由にシミュレーションし、選択した結果を生み出すことができます。このように、AI はまさに私たちのものです。 プロメシアンの火、神から盗まれた人類への贈り物、 ギリシャ神話.

地球文明として、私たちはおそらく転換点に立っています。 AI は知覚を持って、次のことを決定することはありません。 私たち全員を殺してください。しかし、私たちはそれによって自分自身を「黙示録」する可能性が非常に高く、期待は現実を生み出す可能性があります。

AI の調整、安全性、セキュリティを確保する取り組みは非常に重要ですが、意識と集合知が不足している場合は十分ではない可能性があります。アリスのように、私たちも夢から目覚め、現実と自分の心の力を認識する必要があります。

ランドルフ・グレース心理学教授、 カンタベリー大学

この記事はから再公開されます 会話 クリエイティブコモンズライセンスの下で 読む 原著.