人工知能システムはどのように民主主義を脅かすことができるか

プライバシー

米国のテクノロジー大手 マイクロソフトは中国の軍事大学と提携しました 開発する 人工知能システム それは潜在的に政府の監視と検閲能力を強化することができます。 二 米国の上院議員は公に非難しました パートナーシップ、しかし何が 中国の国家防衛技術大学 Microsoftからの要望が唯一の関心事ではありません。

As 私の研究は示す、デジタル抑圧の出現は深刻な影響を与えています 市民と国家の関係。 新しい技術は、個々の人々を監視、追跡、および調査するためのこれまでにない機能を備えた政府を武装させています。 民主主義の政府でさえも 法の支配 自分を虐待したい これらの新しい能力.

州では 説明できない制度と頻繁な人権侵害、AIシステムはおそらくより大きな被害を引き起こすでしょう。 中国はその代表的な例です。 そのリーダーシップは熱心にAI技術を受け入れ、そして世界を確立しました 最も洗練された 監視状態 in 新疆県市民の毎日の動きやスマートフォンの使用状況を追跡する。

これらの技術の利用 低温モデルを提示 他の独裁者たちのために、そして開かれた民主的社会に直接の脅威をもたらします。 他の政府がこのレベルのAIサーベイランスを再現したという証拠はありませんが、中国企業は世界中で同じ基礎技術を積極的に輸出しています。

米国でAIツールへの依存度が高まっている

人工知能システム スマートフォン、インターネット検索エンジン、デジタル音声アシスタント、およびNetflixムービーキューの実行を支援し、現代世界のいたるところに存在しています。 多くの人が気付かない 分析するデータ量が増え続け、アルゴリズムと高度なコンピュータチップが改良されたことで、AIが急速に拡大しています。

より多くの情報が利用可能になり、分析が容易になるときはいつでも、政府は興味を持っています - 権威主義的なものだけではありません。 例えば米国では、1970は政府機関(FBI、CIA、NSAなど)が設立したことを明らかにしました。 広範囲にわたる国内監視ネットワーク 公民権抗議者、政治活動家、およびネイティブアメリカングループを監視し、嫌がらせをすること。 これらの問題は消え去っていません。今日のデジタル技術は、さらに多くの機関がさらに侵入的な監視を実施する能力を深めています。

プライバシー 警察は警察が最も集中すべき場所をどの程度公平に予測しているのでしょうか。 Arnout de Vries

たとえば、米国の警察はAI技術を熱心に受け入れています。 彼らはあるソフトウェアを使い始めました 犯罪が発生する場所を予測するためのもの 警備員をどこに派遣するかを決めるため。 彼らはまた使用しています 顔認識DNA分析 犯罪捜査で。 しかし、これらのシステムの分析は それらのシステムが訓練されているデータ バイアスされている 不公平な結果、 といった アフリカ系アメリカ人が犯罪を犯す可能性が高いと誤って判断する 他のグループよりも。

世界中のAI監視

権威主義的な国では、AIシステムは国内の統制と監視を直接無効にすることができます。 内部の治安部隊が大量の情報を処理 - ソーシャルメディアへの投稿、テキストメッセージ、Eメール、電話など - より迅速かつ効率的に。 警察は社会の動向を特定することができます 特定の人々 これらのシステムによって明らかにされた情報に基づいて誰が政権を脅かすか。

たとえば、中国政府は、中国内の少数民族の住む地域での大規模な取り締まりにAIを使用しています。 新疆とチベットの監視システムは、オーウェリアンこれらの取り組みには、 必須DNAサンプルWi-Fiネットワークの監視と広範囲の顔認識カメラは、すべて統合データ分析プラットフォームに接続されています。 これらの制度の助けを借りて、中国当局は、米国国務省によれば、 1と2の百万人.

My 世界中の90諸国を対象とした調査研究 タイ、トルコ、バングラデシュ、ケニアを含む、独占権威主義から欠陥のある民主主義に至るまでの政府タイプ。 私は中国企業は AI監視技術の輸出 少なくともこれらの国々の54に。 多くの場合、このテクノロジは中国の主力製品の一部としてパッケージ化されています。 ベルトとロード・イニシアティブこれは、道路、鉄道、エネルギーパイプラインおよび電気通信ネットワークの広範なネットワークに資金を供給している 世界の人口の60%にサービスを提供 世界のGDPの40%を生み出す経済。

たとえば、中国企業は Huawei社 とZTEは「スマートシティ」を建設中です。 パキスタン, フィリピンケニア豊富な内蔵監視技術を搭載しています。 例えば、Huawei社は装備しています ボニファシオ·グローバルシティ フィリピンでは、高解像度のインターネット接続カメラが24 / 7インテリジェントセキュリティ監視 データ分析を活用して犯罪を検出し、トラフィック管理に役立てます。」

プライバシー フィリピンのBonifacio Global Cityには、数多くの監視機器が埋め込まれています。 alveo land /ウィキメディアコモンズ

のHikvision, ユツセンスタイム のような場所で使用するための最先端の顔認識カメラを供給しています シンガポール - 監視プログラムの設立を発表しました。 ランプポストに取り付けられた110,000カメラ 都市国家の周り。 ジンバブエは、を作成しています 全国画像データベース それは顔認識に使用できます。

ただし、高度な機器を利益のために販売することは、技術を明確な地政学的目的と共有することとは異なります。 これらの新しい能力は、世界的な監視のための種を植えるかもしれません:政府が彼らの人口を管理して、権力を維持するためにますます中国の技術に依存するようになります。 しかし今のところ、中国の主な動機は新技術の市場を席巻し、その過程で多くのお金を稼ぐことであるように思われます。

AIと虚偽情報

包括的できめ細かい監視機能を提供することに加えて、AIは抑圧的な政府が利用可能な情報を操作し、不正な情報を拡散させるのに役立ちます。 これらのキャンペーンは自動化または自動化による支援が可能です 高度にパーソナライズされたメッセージ に向けて - またはに向けて - 特定の人々 またはグループ。

AIはまた、一般的に呼ばれる技術を支えています。ディープフェイクアルゴリズムは リアルなビデオとオーディオの偽造。 真実と小説の間の水を濁らせることは、一人の候補者が対戦相手に実際に起こったことがないことをしていることを示す偽のビデオを作成することができるとき、きつい選挙で役に立つようになるかもしれません。

初期のディープフェイクビデオでは、先端技術の危険性がいくつか示されています。

私の考えでは、民主主義の政策立案者は、自分たちの社会や世界中の権威主義体制のもとで生活する人々に対するAIシステムのリスクについて慎重に考えるべきです。 重要な問題は、中国のデジタル監視モデルをどの国が採用するのかということです。 しかし、それは権威主義的な国だけではありません。 そして、それは中国の企業が技術を広めているだけではありません。 IBM、シスコ、サーモフィッシャー また、厄介な政府に洗練された機能を提供してきました。 AIの誤用は独裁国家に限定されません。会話

著者について

Steven Feldstein、フランク・ベシン教会広報委員長、公共サービス学校准教授 ボイジー州立大学

この記事はから再公開されます 会話 クリエイティブコモンズライセンスの下で 読む 原著.

関連書籍

{amazonWS:searchindex =本;キーワード= AI監視; maxresults = 3}

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

InnerSelfをフォロー

Facebookのアイコンさえずり、アイコンrss-icon

電子メールで最新情報を取得する

{emailcloak =オフ}