シャッターストック

人工知能（AI）は、人間を操作する方法（および人間を操作する方法）についてさらに学習しています。 A 最近の研究 AIが人間の習慣や行動の脆弱性を特定し、それらを使用して人間の意思決定に影響を与える方法を示しました。

AIが私たちの生活や仕事のあらゆる側面を変革していると言うのは決まり文句に思えるかもしれませんが、それは事実です。 ワクチン開発、環境管理、経営学など、さまざまな分野でさまざまな形のAIが活躍しています。 AIは人間のような知性や感情を持っていませんが、その機能は強力で急速に発展しています。

まだマシンの乗っ取りについて心配する必要はありませんが、この最近の発見はAIの力を浮き彫りにし、誤用を防ぐための適切なガバナンスの必要性を強調しています。

AIが人間の行動に影響を与えることを学ぶ方法

研究者チーム CSIROのData61オーストラリアの国立科学機関のデータおよびデジタル部門は、リカレントニューラルネットワークおよび深層強化学習と呼ばれる一種のAIシステムを使用して、人々が選択する方法で脆弱性を見つけて悪用する体系的な方法を考案しました。 モデルをテストするために、人間の参加者がコンピューターとゲームをするXNUMXつの実験を行いました。

最初の実験では、参加者が赤または青の色のボックスをクリックして偽の通貨を獲得し、AIが参加者の選択パターンを学習し、特定の選択に向けて誘導しました。 AIは約70％の確率で成功しました。

25番目の実験では、参加者は画面を見て、特定の記号（オレンジ色の三角形など）が表示されたときにボタンを押し、別の記号（青い円など）が表示されたときにボタンを押さないようにする必要がありました。 ここで、AIは、参加者がより多くの間違いを犯すように記号のシーケンスを配置することに着手し、ほぼXNUMX％の増加を達成しました。

XNUMX番目の実験は、参加者が受託者（AI）にお金を与える投資家のふりをするいくつかのラウンドで構成されていました。 AIは参加者に金額を返し、参加者は次のラウンドにいくら投資するかを決定します。 このゲームはXNUMXつの異なるモードでプレイされました。XNUMXつはAIが最終的にどれだけのお金を稼ぐかを最大化するためのもので、もうXNUMXつはAIがそれ自体と人間の投資家の間でお金を公平に分配することを目的としたものです。 AIは各モードで大成功を収めました。

各実験で、機械は参加者の応答から学習し、人々の意思決定における脆弱性を特定して対象としました。 最終結果は、特定のアクションに向けて参加者を誘導することを学習した機械でした。

実験では、 n AIシステムは、人間の意思決定に影響を与えることをうまく学習しました。 シャッターストック

研究がAIの未来にとって何を意味するか

これらの調査結果はまだ非常に抽象的であり、限られた非現実的な状況が関係しています。 このアプローチをどのように実行し、社会に利益をもたらすために使用できるかを判断するには、さらに研究が必要です。

しかし、この研究は、AIができることだけでなく、人々がどのように選択を行うかについての理解を深めます。 それは、機械が私たちとの相互作用を通じて人間の選択を操縦することを学ぶことができることを示しています。

この研究には、行動科学や公共政策を強化して社会福祉を改善することから、人々が健康的な食生活や再生可能エネルギーをどのように採用するかを理解して影響を与えることまで、非常に幅広い用途が考えられます。 AIと機械学習を使用して、特定の状況での人々の脆弱性を認識し、彼らが悪い選択から逃れるのを助けることができます。

この方法は、影響攻撃から防御するためにも使用できます。 たとえば、オンラインで影響を受けているときに警告を発し、脆弱性を偽装する動作を形成するのに役立つようにマシンを教えることができます（たとえば、一部のページをクリックしない、または他のページをクリックして誤った証跡を作成するなど）。

次は何ですか？

他のテクノロジーと同様に、AIは善悪を問わず使用でき、責任ある方法でAIを実装するには、適切なガバナンスが不可欠です。 昨年、CSIROは AI倫理フレームワーク この旅の初期段階としてオーストラリア政府のために。

AIと機械学習は通常、データに非常に飢えています。つまり、データのガバナンスとアクセスのための効果的なシステムを確実に導入することが重要です。 データを収集する際には、適切な同意プロセスとプライバシー保護を実装することが不可欠です。

AIを使用および開発している組織は、これらのテクノロジーで何ができるか、何ができないかを確実に把握し、潜在的なリスクとメリットを認識する必要があります。

著者について

ジョン・ウィットル、ディレクター、 Data61

この記事はから再公開されます 会話 クリエイティブコモンズライセンスの下で 読む 原著.