選挙における AI: 民主主義への脅威とそれを守る方法

: By アルコン・ファンとローレンス・レッシグ

ご覧いただきありがとうございます InnerSelf.com、どこに〜がある 20,000+ 「新しい態度と新しい可能性」を促進する人生を変える記事。すべての記事は次のように翻訳されます 30以上の言語。毎週発行される InnerSelf Magazine と、Marie T Russell の Daily Inference を購読してください。 InnerSelfマガジン 1985年から出版されています。

による画像スーザン・チプリアーノ

編集者より:

この記事で強調されているように、Clogger と呼ばれる仮想マシンのような AI 主導の政治運動の開発は、選挙の完全性を大きく損なう可能性があります。これらのマシンは、自動化、カスタマイズされたメッセージング、強化学習を活用することで、投票者の行動を大規模に操作し、変える可能性を秘めています。

人工知能 (AI) が急速に進歩している時代において、私たちは人工知能 (AI) が民主主義プロセスにもたらす潜在的な脅威に常に警戒し続けなければなりません。 AI主導のキャンペーンの出現は、民主主義の本質そのものに挑戦します。選挙は、アイデア、政策提案、真の有権者の選択の力によって決定されるのではなく、勝利のみを重視した機械によって左右される可能性があります。普及するコンテンツは、真実や政治原則を考慮せずに AI 言語モデルから得られるものになります。本質的に、選挙結果は人工知能によって左右され、民主主義のプロセスが侵食されることになる。

「閉鎖政治」の台頭と国民の権利剥奪を防ぐためには、私たちが行動を起こすことが重要です。強化されたプライバシー保護と強力なデータプライバシー法は、個人データへの AI マシンのアクセスを制限するのに役立ち、個人をターゲットにして操作する際の AI マシンの有効性を低下させる可能性があります。選挙管理委員会は、有権者に影響を与えることを目的とした AI システムの禁止や厳格な規制も検討すべきである。 AI が生成したメッセージが政治キャンペーンで使用される場合、明確な免責事項を義務付ける規制を導入します。これにより透明性が確保され、有権者が情報に基づいた意思決定を行うのに役立ちます。

これらの課題に積極的に取り組み、民主主義の原則を守るために AI の力を責任を持って活用することが不可欠です。選挙の完全性を守り、選択の自由を保護することで、AI の複雑さを乗り越え、民主的統治の基盤を維持することができます。

AI がどのように選挙を乗っ取り、民主主義を弱体化させるのか

著者アルコン・ファン、市民権と自治の教授、ハーバードケネディスクール and ローレンス·レッシグ、法とリーダーシップの教授、ハーバード大学

組織は ChatGPT などの人工知能言語モデルを使用して、有権者に特定の行動を促すことができるでしょうか?

Josh Hawley 上院議員は、OpenAI CEO の Sam Altman 氏にこの質問をしました。 16 年 2023 月 XNUMX 日、米国上院公聴会人工知能について。アルトマン氏は、一部の人々が言語モデルを使用して有権者を操作し、説得し、有権者と一対一のやりとりを行う可能性があることを確かに懸念していると答えた。

アルトマン氏は詳しくは語らなかったが、おそらくこのようなシナリオを念頭に置いていたのかもしれない。間もなく、政治技術者がブラックボックス内の政治キャンペーンである Clogger と呼ばれるマシンを開発すると想像してください。 Clogger はただ XNUMX つの目的を執拗に追求します。それは、自社の候補者 (Clogger Inc. のサービスを購入するキャンペーン) が選挙で勝利する可能性を最大化することです。

Facebook、Twitter、YouTube などのプラットフォームは AI の形式を使用してユーザーをもっと時間をかけて彼らのサイトでは、Clogger の AI は別の目的を持っています。それは、人々の投票行動を変えることです。

Clogger の仕組み

として政治学者と法学者テクノロジーと民主主義の交差点を研究している私たちは、Clogger のようなものが自動化を使用して、規模と潜在的に効果を劇的に向上させることができると信じています。行動操作とマイクロターゲティング技術 2000 年代初頭から政治キャンペーンで使用されてきました。同じように広告主はあなたの閲覧履歴やソーシャルメディア履歴を使用します今、商業広告や政治広告を個別にターゲットにするには、クロガーはあなた、そして何億人もの他の有権者に個別に注目することになるでしょう。

それは、現在の最先端のアルゴリズムによる動作操作よりも XNUMX つの進歩をもたらします。まず、その言語モデルは、ユーザー個人に合わせたメッセージ (テキスト、ソーシャルメディア、電子メール、おそらく画像やビデオを含む) を生成します。広告主が戦略的に掲載する広告の数は比較的少ないのに対し、ChatGPT などの言語モデルでは、キャンペーン中に個人向けに無数のユニークなメッセージを生成し、他の人向けに数百万のメッセージを生成できます。

次に、Clogger は、と呼ばれる手法を使用します。強化学習あなたの投票を変える可能性がますます高まる一連のメッセージを生成します。強化学習は、目的を達成する方法を学習するために、コンピューターがアクションを実行し、どの作業がより効果的であるかについてのフィードバックを取得する、機械学習の試行錯誤のアプローチです。囲碁、チェス、その他多くのビデオゲームをプレイできるマシンどの人間よりも優れている強化学習を使用しました。

強化学習の仕組み。

第三に、キャンペーンの過程で、クロガーのメッセージは、マシンの以前のディスパッチに対するユーザーの反応と、他の人の考えを変えることについて学習したことを考慮に入れて進化する可能性があります。 Clogger は、あなたや他の何百万人もの人々と、時間の経過とともにダイナミックな「会話」を続けることができるようになります。 Clogger のメッセージは次のようになります。あなたをフォローする広告さまざまなウェブサイトやソーシャルメディアにわたって。

AIの性質

さらに XNUMX つの機能 (またはバグ) は注目に値します。

まず、Clogger が送信するメッセージは、内容が政治的である場合もあれば、そうでない場合もあります。このマシンの唯一の目標は得票率を最大化することであり、この目標を達成するための、人間の運動家なら思いつかないような戦略を考案する可能性が高い。

可能性の XNUMX つは、反対派の有権者が受け取る政治的メッセージを葬り去るために、スポーツやエンターテイメントに対する非政治的な情熱に関する情報を投票者に送信することです。もう XNUMX つの可能性は、相手のメッセージに合わせて不快なメッセージ (失禁に関する広告など) を送信することです。そしてもうXNUMXつは、有権者のソーシャルメディアの友人グループを操作して、ソーシャルサークルがその候補者を支持していると思わせることである。

第二に、クロガーは真実を無視します。確かに、何が真実か虚偽かを知る方法はありません。言語モデル「幻覚」このマシンの目的は、正確な情報を提供することではなく、投票を変更することであるため、このマシンにとっては問題にはなりません。

第三に、それはブラックボックス型人工知能、人々はそれがどのような戦略を使用しているかを知る方法がありません。

説明可能な AI の分野は、多くの機械学習モデルのブラックボックスをオープンにして、人々が機械学習モデルがどのように機能するかを理解できるようにすることを目的としています。

クロゴクラシー

共和党大統領陣営が2024年にクロガーを配備した場合、民主党陣営もおそらく同様の機械で同様の対応を余儀なくされるだろう。ドガーと呼んでください。もし選挙運動責任者がこれらの機械が効果的だと考えていたなら、大統領選挙はクロッガー対ドッガーの勝負になり、勝者はより効果的な機械のクライアントとなるだろう。

政治学者や専門家は、なぜどちらかの AI が普及したのかについて多くのことを言いたいでしょうが、おそらく誰も実際には知りません。大統領が選出されたのは、その政策提案や政治的アイデアがより多くのアメリカ国民を説得したからではなく、より効果的なAIを持っていたからである。その日に勝ったコンテンツは、候補者や政党からではなく、独自の政治的思想を持たず、勝利のみに焦点を当てた AI からのものだったでしょう。

この非常に重要な意味では、人間ではなく機械が選挙に勝ったでしょう。たとえ演説、広告、メッセージ、投票、開票といった民主主義の通常の活動がすべて行われたとしても、選挙はもはや民主的ではなくなるだろう。

AI によって選出された大統領は、XNUMX つの方法のいずれかを選択する可能性があります。彼または彼女は、共和党または民主党の政策を追求するために選挙の役割を利用することができます。しかし、党の考えは人々がそのように投票した理由とはほとんど関係がなかった可能性があるため（クロガー氏とドガー氏は政策見解を気にしていない）、大統領の行動が必ずしも有権者の意思を反映しているとは限らない。有権者は政治指導者や政策を自由に選ぶことができず、AIに操作されていただろう。

もう一つの道は、大統領が再選の可能性を最大化すると機械が予測するメッセージ、行動、政策を追求することだ。この道では、大統領は権力の維持以外に特定の綱領や政策を持たないだろう。クロガーに導かれた大統領の行動は、有権者の真の利益や大統領自身のイデオロギーにかなうものではなく、有権者を操作する可能性が最も高いものとなるだろう。

クロゴクラシーの回避

候補者、選挙陣営、コンサルタントが全員そのような政治AIの使用を認めれば、AIによる選挙操作を回避することは可能だろう。私たちはその可能性は低いと信じています。もし政治的に効果的なブラックボックスが開発されれば、それを使用したいという誘惑にはほとんど抵抗できないでしょう。実際、政治コンサルタントは、候補者の勝利を支援するために、専門的責任に応じてこれらのツールを使用することを検討しているかもしれません。そして、XNUMX人の候補者がそのような効果的な手段を使用すると、反対派が一方的に武装解除して抵抗することはほとんど期待できません。

強化されたプライバシー保護役立つだろう。クロガーは、個人をターゲットにし、説得または操作するためにカスタマイズされたメッセージを作成し、キャンペーン中に追跡して再ターゲットするために、膨大な個人データへのアクセスに依存します。企業や政策立案者がその情報を少しでも否定すると、マシンの効果は低下します。

強力なデータプライバシー法は、AIを操作から遠ざけるのに役立つ可能性があります。

もう一つの解決策は選挙管理委員会にあります。彼らはこれらのマシンを禁止したり、厳しく規制したりする可能性があります。あります激しい論争そのようなかどうかについて「レプリカント」のスピーチたとえそれが政治的なものであっても、規制される可能性があります。米国の極端な言論の自由の伝統多くの有力な学者がそれは不可能だと主張している.

しかし、憲法修正第 XNUMX 条の保護をこれらのマシンの製品にまで自動的に拡張する理由はありません。国家が機械に権利を与えるという選択をするのは当然かもしれませんが、それは今日の課題に基づいた決定であるべきです。間違った仮定ではありません 1789 年のジェームズ・マディソンの見解は AI に適用することを目的としていました。

欧州連合の規制当局はこの方向に動いています。政策立案者らは欧州議会の人工知能法草案を修正し、「選挙運動で有権者に影響を与えるAIシステム」を指定した。「ハイリスク」としてそして規制上の監視の対象となります。

小規模ではあるが、憲法上より安全な一歩がすでに部分的に採用されている欧州のインターネット規制当局またはカリフォルニア、ボットが人になりすますことを禁止することです。たとえば、キャンペーンメッセージに含まれるコンテンツが人間ではなく機械によって生成された場合、規制によりキャンペーンメッセージに免責事項を含めることが求められる場合があります。

これは、広告の免責事項の要件「議会委員会のサム・ジョーンズによって支払われました」に似ていますが、AI の起源を反映するように修正され、「この AI 生成の広告は議会委員会のサム・ジョーンズによって支払われました」となります。より強力なバージョンでは、「この AI 生成メッセージは、サム・ジョーンズ議会委員会によってあなたに送信されています。これは、そうすることでサム・ジョーンズに投票する可能性が 0.0002% 増加するとクロガーが予測したためです。」少なくとも、有権者は自分たちに話しかけているのがボットであることを知る権利があり、その理由も知る必要があると私たちは考えています。

Clogger のようなシステムの可能性は、人間の集団的な無力化超人は必要ないかもしれない人工総合知能。それには、何百万人もの人々の多くのボタンを効果的に押すことができる強力な新しいツールを備えた熱心な運動家やコンサルタントが必要なだけかもしれません。

著者について

アルコン・ファン、市民権と自治の教授、 ハーバードケネディスクール and ローレンス·レッシグ、法とリーダーシップの教授、 ハーバード大学

この記事はから再公開されます会話クリエイティブコモンズライセンスの下で読む原著.

編集者の追記: AI が選挙を乗っ取り、民主主義を損なう可能性は、私たちの注意を必要とする差し迫った懸念です。この記事が強調したように、クロガーのような AI 主導の政治運動の台頭は、前例のない規模で機械が有権者の行動に影響を与え、選挙結果を変える可能性があります。このような変化の影響は広範囲に及び、選挙は国民の意志ではなくAI操作の有効性によって決まることになる。

このような国民の権利剥奪を防ぎ、民主主義を守るために、私たちは積極的な対策を講じなければなりません。堅牢なプライバシー保護と、選挙における AI システムの影響を制限する規制が不可欠です。透明性を確保し、AI によって生成されたコンテンツに対する明確な免責事項を強制し、AI の責任ある使用を促進することで、私たちは民主的プロセスの完全性を維持し、社会の基本的価値を保護することができます。

選挙において AI がもたらす課題を乗り越えるためには、私たちが常に警戒し、協力して取り組むことが不可欠です。そうすることで、私たちは社会の基盤である民主主義の理想を維持し、テクノロジーの力が人々の利益や願望と一致する未来を確保することができます。