情報は貴重品です。 そしてテクノロジーのおかげで、 数百万テラバイト それをオンラインで。

現在、ChatGPT などの人工知能 (AI) ツールが私たちに代わってこの情報を管理し、情報を照合し、要約して私たちに返します。

しかし、この AI への情報管理の「アウトソーシング」は、便利ではありますが、結果を伴います。 影響を与える可能性があるのはそれだけではありません 何 私たちは考えていますが、潜在的には の 我々が考えます。

どの情報が永続化され、何が道端に残されるのかを AI アルゴリズムが決定する世界では何が起こるでしょうか?

パーソナライズされた AI の台頭

生成 AI ツールは、数百ギガバイトのデータでトレーニングされたモデルに基づいて構築されています。 既存のデータ。 これらのデータから、テキスト、画像、オーディオ、ビデオのコンテンツを自律的に作成する方法を学習し、「最も可能性の高い」答えをつなぎ合わせてユーザーのクエリに応答できるようになります。

ChatGPT を使用するのは、 何百万という人々、公開されてからXNUMX年も経っていないにもかかわらず。 XNUMX月に追加されたのは、 カスタム応答 すでに優れたチャットボットがさらに便利になりました。 この機能を使用すると、ユーザーはボットの使用目的とボットの応答方法を説明するカスタマイズされた指示を保存できます。

これは、「パーソナライズされた AI」の例の XNUMX つです。ユーザーの特定のニーズや好みに合わせてコンテンツを生成する AI ツールのカテゴリです。

もう XNUMX つの例は、Meta が最近立ち上げたものです。 仮想アシスタント、メタAI。 このチャットボット WhatsApp、Messenger、Instagram などの Meta のプラットフォーム全体で会話したり、画像を生成したり、タスクを実行したりできます。

人工知能研究者でディープマインドの共同創設者であるムスタファ・スレイマン氏は、 説明する パーソナライズされた AI はテクノロジーというよりも人間関係に近いものです。

友達だよ。 […] それは実際に常に存在し、あなたのそばにあり、あなたと一緒に生きます - 基本的にはあなたのチームです。 私はそれを、自分の隅に素晴らしいコーチがいるようなものだと考えたいと思います。

しかし、これらのテクノロジーは物議を醸しており、次のような懸念が提起されています。 データの所有権, バイアス & 誤報.

ハイテク企業はこれらの問題に対処する方法を見つけようとしている。 たとえば、Google は、AI が生成した検索概要にソース リンクを追加しました。 検索生成エクスペリエンス (SGE) ツールは、今年初めに批判を浴びました。 捧げる 不正確で問題のある応答。

テクノロジーはすでに私たちの考え方を変えています

生成 AI ツール、特に私たちにパーソナライズされたツールは、私たちの考え方をどのように変えるのでしょうか?

これを理解するために、インターネットが初めて私たちの生活に登場した 1990 年代初頭に戻ってみましょう。 人々は、銀行取引、パン作り、教育、旅行など、ほとんどあらゆるものに関する情報に突然アクセスできるようになりました。

それから 30 年近くが経ち、この地球規模の「集合心」とつながることで私たちの認知、記憶、創造性がどのように変化したかが研究で明らかになりました。

たとえば、同等のものに瞬時にアクセスできるようになります。 305.5億ページ 情報の増加により、人々の メタ知識 – つまり、知識についての知識です。 このことによる影響の XNUMX つは、「グーグル効果」: オンライン検索により、情報を見つける能力は向上しますが、その情報が何であったかについての記憶が減少する現象。

一方で、思考を検索エンジンにオフロードすると、次のことに対する心の余裕が解放されることが示されています。 問題解決と創造的思考。 一方で、オンラインでの情報検索は増加に関連しています。 注意力散漫と依存性.

研究によると、オンライン検索は、取得される情報の量や質に関係なく、 認知的自尊心。 言い換えれば、それは私たち自身の「賢さ」への信念を強めます。

これと次の事実を組み合わせると、 情報に疑問を抱くのは大変だ – そして、私たちが検索エンジンを信頼すればするほど、批判的な見方は少なくなるということです。 その結果に取り組む –そして、前例のない量の情報にアクセスできることが必ずしも私たちを賢くするわけではない理由がわかります。

私たちは思考を「アウトソーシング」すべきでしょうか？

今日の生成 AI ツールは、単に検索結果を表示するだけではありません。 彼らは私たちに代わって情報を見つけ、評価し、合成して私たちに返してくれます。

これにはどのような影響があるでしょうか? 人間主導の品質管理を推進し​​なければ、見通しは明るくありません。

生成型 AI は、親しみやすく、客観的で、魅力的であると感じられる応答を生成する能力があるため、私たちがより脆弱になることを意味します。 認知バイアス.

　 自動化バイアスたとえば、機械から供給された情報の完全性を過大評価する人間の傾向です。 そしてその 単なる露出 その結果、私たちは馴染みのある情報や個人的なものとして提示された情報を信頼する可能性が高くなります。

ソーシャルメディアに関する研究は、そのような偏見の影響を理解するのに役立ちます。 2016 年のある調査では、Facebook ユーザーは次のように報告しています。 もっと「知っている」と感じる オンラインに投稿されたニュース コンテンツの量に基づいており、実際にどれだけ読んだかではありません。

私たちもそれを知っています。フィルターバブル」ソーシャルメディアアルゴリズムによって作成され、私たちの興味に応じてフィードがフィルタリングされ、私たちが接触するコンテンツの多様性が制限されます。

この情報絞り込みのプロセスは増加することが示されています。 イデオロギーの二極化 人々が別の視点を考慮する傾向を減らすことによって。 また、私たちが感染する可能性が高まることも示されています。 偽のニュース.

AI を使用して、愚かになるのではなく賢明になる

生成型 AI は、疑いもなく、社会に大きな貢献をする可能性を秘めた革命的な力です。 これにより、私たちの教育システムが再構築される可能性があります。 パーソナライズされたコンテンツ、迅速に仕事のやり方を変える ライティングと情報分析のフロンティアを押し広げます。 科学的発見.

それは、私たちが他の人たちとコミュニケーションしたりつながったりするのを助け、時には私たちの関係をポジティブに変える可能性さえ持っています。 総合的な交友関係の形態.

しかし、未来を判断する唯一の方法が過去を見ることであるならば、おそらく今こそ、インターネットとソーシャルメディアの両方が私たちの認識をどのように変えたかを振り返り、いくつかの考え方を適用する時期かもしれません。 予防策。 現像 AIリテラシー 人間の自主性や批判的思考を促進する AI ツールの設計と同様に、始めるのに適しています。

最終的には、私たちは自分自身の両方を理解する必要があります AIの長所と短所 これらの「考える」仲間が、たまたまリストのトップにある未来ではなく、私たちが望む未来を創造するのに役立つようにするためです。

サラ・ヴィヴィアン・ベントレー、研究員、責任あるイノベーション、Data61、 CSIRO; クレア・メイソン、主任研究員、 CSIRO, エイナット・グリムバーグ、技術および社会科学の博士研究員、 CSIRO

この記事はから再公開されます 会話 クリエイティブコモンズライセンスの下で 読む 原著.