記事上で:
- ベンチャーキャピタリストは軍事用 AI 開発にどのような影響を与えているのでしょうか?
- シリコンバレーは選挙干渉においてどのような役割を果たしているのでしょうか?
- 「素早く動いて物事を壊す」ことが防衛にとって危険なマントラなのはなぜですか?
- 抑制されない AI 開発は民主主義そのものを脅かす可能性があるのでしょうか?
- 戦争技術におけるベンチャーキャピタルの倫理的リスクは何ですか?
シリコンバレーは防衛分野で迅速に行動し、物事を打破するのか?
エルケ・シュワルツ
私はプロパガンダを行う者です。真実をねじ曲げて、自分の考えに基づいた主張だけを主張し、人々に自分が信じてほしいことを信じさせる宣伝活動を行います。
これは、ヒットテレビ番組「マッドメン」の特に盛り上がった瞬間の一言ではない。これらの言葉は 発話した シリコンバレーで最も注目されている軍事技術スタートアップのCEO、パーマー・ラッキー氏による記事。ラッキー氏の会社、アンドゥリル・インダストリーズは、自律型兵器システムを含む人工知能対応システムを専門としている。時価総額14億ドルのアンドゥリルは、 ダーリン 防衛関連のスタートアップ業界と、新たに台頭してきたベンチャーキャピタル(VC)のエコシステムでは、大きな約束、大きな賭け、そしてプロパガンダへの傾倒が成功の必須条件となっている。
人工知能(AI)を防衛プログラム、ましてや兵器システムに統合することは、依然として議論の的となっている。英国の兵器システムにおける人工知能委員会は、 注意を促した AI 対応兵器の調達プロセスをめぐっては議論が続いているが、シリコンバレーの製品に関してはよくあることだが、AI 防衛プログラムの開発、調達、展開は近年急速に加速している。
2017年に設立されたばかりのアンドゥリルは、すでに複数の数百万ドル規模の契約を獲得しています。 米国国防総省 (国防総省)および イギリス国防省 (国防省)進行中のロシア・ウクライナ戦争、ガザでの戦争、高まる世界的緊張を背景に、これは驚くべき展開ではないかもしれない。
In 私の最新の研究 軍事用 AI に関する調査で、自律型ドローンやその他の AI 対応システムなど、軍事用スタートアップ製品の調達を加速させる主な要因の 1 つが、ベンチャー キャピタルからの巨額の資金と影響力の流入であることがわかりました。これらのベンチャー キャピタル企業は、防衛機関がテクノロジー業界のスピードと規模の精神と、ベンチャー キャピタルの世界のリスクと革命への欲求を採用することを必要としています。これにより、これらの企業は金融プレーヤーであるだけでなく、政治プレーヤーでもあります。
私の研究は、 金融と社会誌に掲載は、ベンチャーキャピタルの利益を動機としてシリコンバレーのイメージで防衛を形作ろうとするこの傾向が、今後さらに顕著かつ広範囲に広がる可能性が高いことを示唆している。これを念頭に置いて、ベンチャーキャピタルが生死に関わる問題に目を向けるときに働く力学をもっと詳しく調べる価値がある。
軍事金融化の台頭
軍事AI産業と世界の防衛費はともに活況を呈している。現在 見積もり13.3年の世界軍事AI市場規模は2024億ドルで、今後35年間で12億ドルに成長すると予測されている。これらの数字は参照する市場データサービスによって異なるが、過去24か月間は定期的に上方修正されている。世界の防衛予算も、進行中の紛争と過去XNUMXか月間の軍事化への全体的なシフトを背景に膨れ上がっている。
グローバル防衛 支出 2年には2023兆ドルを超える記録的な水準に達した。877億ドルの米国 会計処理 40年には世界の防衛費の約2023%を占める。 NATO同盟 1.47年には2024兆XNUMX億ドルを費やすことになる。これは防衛市場に足がかりを得ようとする大手テクノロジー企業や金融企業にとって魅力的で大きな数字だ。
この インサイトセクション 高品質にこだわっています 長編ジャーナリズム私たちの編集者は、さまざまな社会的、科学的課題に取り組んでいる、さまざまなバックグラウンドを持つ学者と協力しています。
一方、防衛機関は、AIを含む最先端技術により多くの資金を投入し始めている。2024年ブルッキングス研究所 レポート AI関連技術の防衛契約の価値は、1200年12月から2022年2023月までのXNUMXか月間で約XNUMX%増加したことが判明しました。
民間向けであろうとなかろうと、ほとんどの新しい AI 製品には、何らかの形のベンチャー キャピタル資金が絡んでいることがよくあります。特に、問題の AI ベンチャーが銀行融資やその他の金融商品で資金を調達するにはリスクが大きすぎることが判明した場合はそうです。ベンチャー キャピタルは、他の資金提供者が望まない、またはできないイノベーションに賭けることをいといません。
過去 20 年間、この種の資金調達は主にシリコンバレーの民間市場向け製品に重点が置かれ、その動向により投資家は莫大な利益を得ることができました。しかし、防衛市場が成長し、商業分野でベンチャー キャピタルから莫大な利益を得る機会が減るにつれ、多額の投資資金を持つ投資家は、防衛分野で莫大な利益を得る新たな機会が手の届くところにあると見ています。
過去2019年間で防衛技術へのベンチャーキャピタル投資が急増したことは驚くべきことではありません。2022年からXNUMX年にかけて、米国の軍事技術スタートアップへのベンチャーキャピタルの資金は 倍増、そして2021年以降、防衛技術分野では 注射 130億ドルのベンチャーキャピタル資金。
欧州の防衛部門におけるベンチャーキャピタルの支出も過去最高を記録しており、民間のベンチャーキャピタル投資は 投影 防衛予算は過去最高の1億ドルに達する見込みで、その原動力は主に米国のベンチャー企業だ。ベンチャーキャピタルが支援する事業の可能性と防衛分野のあり方を一変させる可能性について、世間では明らかに話題になっている。
ベンチャーキャピタル、軍事、シリコンバレーのつながり
ベンチャーキャピタルは、常に何らかの形で軍事部門と結びついてきました。実際、現在のベンチャーキャピタルによる防衛投資のブームは、その初期の頃への回帰と見ることができます。ベンチャーキャピタルの起源は、 典型的には遡る アメリカ研究開発公社(ARDC)は、米国が少なくとも部分的には最先端技術によって勝利を収めた第二次世界大戦直後の1946年に設立されました。
ARDC は、高い潜在能力を持ちながらも銀行融資にはリスクが大きすぎる新興企業に資金を提供するため、機関投資家から資金を体系的に調達した最初の企業のひとつです。このアプローチにより、ARDC は、ごくわずかな利益しか出せない、あるいは損失を出す大多数の企業を相殺するために、1、2 社の並外れた成功に頼る投資ポートフォリオを作成した最初のベンチャー キャピタル組織となりました。このようにして、ARDC は最初のいわゆる「ユニコーン」企業となりました。
ユニコーンとは、1億ドル以上の評価額を獲得した新興企業です(最近まで、スタートアップにとっては非常に稀なケースであり、すべての投資家がポートフォリオに欲しがるものです)。これがベンチャーキャピタル投資の核心です。つまり、非常に高いリターンを期待できるリスク資本なのです。
特に第二次世界大戦直後の初期には、多くの投資が、 軍事革新と技術これにより、さまざまな分析機器、高電圧発生器、放射線検出技術、そしてデジタル・イクイップメント・コーポレーションのような初期のミニコンピュータ企業が誕生しました。
今日私たちが知っているデジタルの世界は、軍事にそのルーツを持っています。通信理論の革新は1950年代に軍事ミサイル技術のために考案され、AIの祖先のほとんどはXNUMX世紀半ばの軍事プロジェクトに携わり、インターネット自体も軍事から生まれました。 軍事プロジェクト当時は Arpanet と名付けられました。
シリコンバレーの多くの企業は数十年にわたって軍事部門と関わり続けており、人類学者のロベルト・ゴンザレスが指摘するように、 書かれた「今日のハイテク大手のほぼすべてが防衛産業のDNAを受け継いでおり、国防総省と協力してきた長い歴史がある」。つまり、ベンチャーキャピタルのDNAがこの関係に組み込まれているのだ。
しかし、伝統的に技術革新のペース、構造、プロセスを主に決定してきたのは軍事組織と政府のニーズであったことを強調する価値がある。
現在、軍事技術とイノベーションのペースと焦点は、ますます声高に主張する力強いテクノロジー系スタートアップ業界と、その資金提供者によって決められており、彼らは「愛国的な首都”などの取り組み アメリカのダイナミズム; ザ・ 特別競争研究プロジェクト, 民主主義の武器庫を再起動する と アメリカズ・フロンティア基金これらの企業は、防衛技術分野の有力企業や個人によって考案され、防衛と軍事の優先事項を形作り、その過程で大きな利益を得ることを目指しています。膨大なベンチャーキャピタルに支えられ、防衛分野ではユニコーン企業が急増しており、その中には次のような新しい軍事技術ユニコーン企業も含まれています。 アンドゥリル・インダストリーズ, シールドAI, スカイディオ, スケールAI と Palantir (パランティアは2020年に株式を公開して以来、技術的にはもはやスタートアップ企業ではないが、依然として新たな軍事技術の集団の一部である)。
これは最近の展開だ。90年代半ばから2014年までのXNUMX年間、ベンチャーキャピタル部門は、Google、Microsoft、Facebook、PayPalなどのテクノロジー系スタートアップからの収益に限りがないほどの活況を呈していた民間テクノロジー分野に注力してきた。
対照的に、防衛市場は成熟し、統合されていると考えられており、買収に関する規則や規制が厳しく、投資で大きな利益を得る機会があまりありませんでした。政府との契約が実現するまでには、何年もかかることもよくありました。防衛業界は、ロッキード・マーティン、RTXコーポレーション、ノースロップ・グラマン、ボーイング、ジェネラル・ダイナミクス、BAEシステムズなど、いわゆるプライムと呼ばれる少数の主要業界プレーヤーによって支配されていました。
これらの大手企業は防衛市場の大部分を自分たちで分け合っており、テクノロジー系スタートアップが大きな努力なしに参入できるチャンスはほとんどないように思われた。例えば、スペースXやパランティアなどの企業は、2014年にそれぞれ米空軍と米陸軍を相手に、特定の契約の入札機会を求めて訴訟を起こした。それ以来、法律を利用して軍事系スタートアップの防衛権を突破する動きは広がっている。
防衛分野へのベンチャーキャピタル投資に対するこうした構造的なハードルに加え、戦争で利益を得るという考えには、より大きな名目上の道徳的コストが伴う。ベンチャーキャピタルの投資家は、多くの場合、基金、財団、保険会社、大学、年金基金であるため、「防衛ポートフォリオ」、言い換えれば、死の道具に投資していると見られることを表面上は嫌がる傾向があった。 欧州のベンチャーキャピタル投資家 特に慎重でした。
しかし、10年も経たないうちにこうした不安が消えたように見えるスピードは驚くべきもので、ベンチャーキャピタル企業を支える投資家が さまざまな背景を持つ 戦争ビジネスから利益を得ることに関しては躊躇しないかもしれないし、あるいは、それは常に道徳ではなく単に数学の問題だったかもしれない。
ユニコーンと急成長
今日、ユニコーンには評価額が急騰する可能性があるため、誰もがユニコーンに投資したいと考えています。
しかし、実績のない製品やコンセプトで足がかりを得るために、一部のスタートアップ企業は、自社製品の革命的で変革をもたらす性質について大胆に主張する動機を持つ場合があります。そして、企業が資金を確保した後も、急成長に向けて成功を維持するために、過大な約束をする精神が根強く残っていることがよくあります。
最悪のシナリオでは、悪名高い血液検査スタートアップ企業セラノスがそうであったように、過剰な約束が大規模に行われ、犯罪詐欺に相当します。セラノスは、10年のピーク時には評価額が2015億ドルに達し、最もエキサイティングなヘルスケアスタートアップ企業のXNUMXつでしたが、わずかXNUMX年で完全に破綻しました。
セラノスのケースでは、同社のカリスマ的な創業者は、この技術の能力を過大評価し、たった一滴の血液からさまざまな検査を行えると主張していた。この画期的な技術は「医療に革命をもたらし、世界中の命を救うことができる"。
それは未来志向の約束だった。その技術はまだ約束したことを実現できていなかった。それにもかかわらず、同社はすでに機能する検査装置を持っていると主張していたが、それは嘘であることが判明した。セラノスは2018年に倒産し、カリスマ的な創業者であるエリザベス・ホームズは刑務所に入った。
ファンタジーを売る
詐欺ではないものの、同様の展開となる、それほど劇的ではない話は他にもたくさんあります。 約束する企業 画期的なテクノロジーで日常的な物事のやり方を変革しようとしたが、持続不可能、実行不可能、あるいは単に失敗に終わった。
しかし、結局は投資家が損失を被り、さらに重要なことに、その技術の可能性を信頼するようになった人々が損害を被ることになる。
防衛の文脈では、新しい軍事技術の約束は販売を中心に展開される。 強力な抑止力の 民主主義を守る、包括的、正確、 リアルタイムの知識の 完全に透明な地球儀、そして何よりもまず清潔で、 迅速かつ決定的な勝利 スムーズで簡単な接続を実現します。
これは、最悪の場合、全知全能の幻想を助長し、最良の場合、戦争における不可能な革命への欲求をかき立て、抵抗できないほど魅力的で、最終的にはますます幅広い聴衆をその波に巻き込むことになる。これらの物語は、AIのある未来は避けられないという一般的な誇大宣伝によって裏付けられることが多い。これは、約束されたものを決して提供しないかもしれない技術を神話化し、称賛する強力なストーリーラインを生み出す。それは、より冷静な声に抵抗することが多い強力な組み合わせである。 注意を促す.
防衛ユニコーンの主張はもっともらしく見えることが多いが、未来を語るものであるため、通常は検証できない。そして、その未来は、 フィクション と サイエンスフィクション、それは現実の社会的、政治的課題から常にある程度離れています。
過大な約束や、可能性のある技術の神話化への誘惑は、グローバルな透明性とグローバルなリーチを迅速に実現するためのプログラムを形成しています。統合全領域指揮統制(JADC2)プログラムは、ペンタゴンが開始したそのような取り組みのXNUMXつです。このプログラムは、陸、空、海、宇宙、サイバーのすべての領域を単一のネットワークに接続して「「予測分析」と「高速戦闘」"。
JADC2は議会に受け入れられやすいように、しばしば ライドシェアリング Uber というプラットフォームは、システムとプラットフォーム間のシームレスな相互作用を約束し、迅速な介入を可能にします。これにより、すべての軍事資産とプラットフォームのインフラストラクチャとして AI が再び注目されるようになります。軍事 AI を拡張しなければ、このビジョンは実現不可能になります。ここに軍事スタートアップのチャンスがあります。
2つの著名な軍事技術企業がJADCXNUMXの請負業者です。 アンドリル と Palantir両社とも、防衛部門を混乱に陥れ、現在の主要企業を打倒し、市場の独占的地位を確立して利益の増大を確保するという野望をほとんど隠していない。
パランティアは 目を向ける 「米国のすべての防衛計画の中心的なオペレーティングシステムになる」という目標を掲げ、アンドゥリルは「[国防総省の]リストにあるすべてのことを行った後両社にとって、これは成長のための戦いなのです。
アンドゥリルのラッキー氏はこう言う。「複数の分野で戦い、勝利しなければならない(彼は実際の戦場ではなく、企業戦略の観点からそれを意味しています)。同様に、パランティアのCEO兼共同創設者であるアレックス・カープは、防衛市場を大きく開拓するために、「引きずったり蹴ったり甘言で説得したり屈辱を与えたりした「さまざまな議員、政策立案者、政府に協力してもらい、この目標の達成に協力してもらいましょう。迅速に行動して、物事を打破しましょう。」
ユニコーン企業を作るには、この分野で経済的に最も利益を得る立場にある人々の一致団結した努力と積極的な姿勢が必要です。これは、同じ考えを持つ人々と連携して行うのが最善です。現在の防衛ベンチャーキャピタル業界では、創業者と資金提供者が密接に絡み合っています。
たとえば、ピーター・ティールはパランティアの共同創業者であり、スペースX、アンドゥリル、スケールAIなどに投資しているベンチャーキャピタル団体ファウンダーズ・ファンドも運営している。ベンチャーキャピタル企業のアンドリーセン・ホロウィッツも、スペースX、アンドゥリル、シールドAI、スカイディオに資金を提供している。これらのベンチャーキャピタル企業の経営者は、お互いに長年にわたるつながりを持っている。同様に、企業間のつながりもある。たとえばアンドゥリルは、パランティアの元従業員がパランティアでの経験を活かして創業した。元オキュラス・リフトのパーマー・ラッキーが、カリスマ性があり率直な意見を言うCEOに就任した。
ピーター・ティールとエリック・シュミット(元グーグルCEO、米国国家安全保障委員会の人工知能委員長)は 投資 アメリカズ・フロンティア・ファンドなどです。緊密に結びついた、非常によく連携した金融家とスタートアップのネットワークがあり、防衛部門は破壊を必要としており、私たちが物事を揺るがす存在であるという重要な推進メッセージを倍増させるために全員が取り組んでいます。
最近のパネルで 証拠を示す 米軍事委員会には、軍事関連の新興企業 5 社の代表者が出席した。5 社すべてがベンチャーキャピタルのアンドリーセン・ホロウィッツから資金提供を受けているか、同社と何らかの形で提携関係にある。
米軍事委員会の公聴会で、パランティアの最高技術責任者、シャム・サンカー氏は、 証拠を与えた 部門間の競争を通じてイノベーションに必要なインセンティブを育むことができるように、軍事調達プロセスにおいて「もっとクレイジーに」そして「混沌を支配させる」ことを提唱している。
規制上の制限は「監視を強制する」と彼は考えており、「より壊滅的な成功につながるのであれば、喜んで失敗を受け入れる」と述べた。どのような成功なのか、あるいは失敗がどのような意味を持つのかは未だ明らかにされていないが、パランティアのCTOがベンチャーキャピタルの論理を念頭に置いて話していることは明らかである。そして、最近の米国の調査によると、 国防イノベーション委員会報告書政府は、さらなるリスクを受け入れ、そのような「異端者」に最高の保護を提供する用意があるようだ。
「危機」の物語
高い潜在能力を持つスタートアップを育成する以外にも、防衛産業をシリコンバレーの請負業者やそのベンチャーキャピタルの支援者のニーズに合わせる方法は数多くある。ここでも、物語の力は大いに役立つ。ベンチャーキャピタルのマネージャーやそのスタートアップは、しばしば注目を集める論説記事を執筆し、その中で (米国の)防衛の劣悪な状態は嘆かわしい、その必要性 加速されたイノベーション 強調されており、米国が「中国、ロシア、イランとの三正面戦争」に巻き込まれる可能性が「非常に高い」とされている。 思い浮かんだ。 つまり、差し迫った危機に対処していると思われる企業を評価するのに役立つ、緊急性に関する物語が紡がれるのです。
防衛の構造改革の第二の柱は、政府と密接なつながりを持つロビイストや顧問として働く元政府職員の複雑なネットワークを採用することだ。
元共和党下院議員 マイクギャラガー例えば、2024年XNUMX月にパランティアの防衛事業責任者となり、元国家安全保障顧問となった。 人事マクマスター シールドキャピタルのシニアアドバイザーを務めています。他にもこのような「回転ドア「信頼できる専門家が新しいスタートアップに権威を与える瞬間だ。軍事技術のスタートアップシーンは、シリコンバレーのほとんどの創造物と同様に、一定の評判を保っており、資金も魅力的だ」
アンドゥリルはパランティアから学び、 最初の1週間、より多くのお金を「エンジニアよりも弁護士やロビイスト「これは、ラッキー氏がエコノミスト誌の最近のインタビューで指摘した通りだ。」
これにより、アンドゥリルは、防衛分野の状況を形成する比較的伝統的な方法を採用しており、これは、アンドゥリルが認めているように、主要な防衛請負業者によっても採用されている。 2022ブログの投稿「会社の既存の技術に合わせてプログラム要件を形作るために、弁護士とロビイストのチームに多額の費用を費やす」インセンティブ。
アンドゥリルとその支援者たちは、現在、自社の技術スイートに合わせて、まさに同じことを行っている。弁護士は、合併、買収、提携を監督するためだけでなく、改革を強制するための手段として法律を利用する手段としても雇用されることが多い。
先ほど述べた、米陸軍と空軍に対するスペースXとパランティアの訴訟の主な目的は、必ずしも勝つことではなく(スペースXの訴訟は成功しなかったが、パランティアの訴訟は成功した)、買収の見直しのために宇宙を開拓することであり、両訴訟はまさにそれを達成した。
緊迫感を醸成し、ロビイストとの協力を強化し、防衛改革の構造的可能性を創出する戦略が、現在、順調に進んでいる。誤解のないように言っておくと、私は防衛部門が近代化や再編から恩恵を受けないと言っているわけではない。また、軍事関連のスタートアップ製品がすべて無関係または持続不可能であると主張しているわけでもない。また、新たなベンチャーキャピタルの動向や成長への注力に、主要企業を対立させようとしているわけでもない。
しかし、私が検討する価値があると思うのは、これらの新しい企業に働く力学と、その暗黙の優先事項や利益です。なぜなら、それらが慣行や優先事項を形作るからです。そして、混乱が起こっているところでは、ある程度の破壊が予想されます。そして、これは生死の問題では異なる様相を呈します。
破壊の残骸
防衛部門の混乱は順調に進んでおり、シリコンバレーのイメージに近づけようとする努力は近年、多くの具体的な成果を生みだしている。前述のJADC2プログラムもその一つだ。他の成果は、米国防総省のプログラムにも表れている。 レプリケーター イニシアチブシリコンバレーの軍事系スタートアップが提供する目的、タイムライン、製品を組み込んだものです。
高いレベル 国防当局者 ベンチャーキャピタル業界や様々な買収プログラムの論点を繰り返している 適応するために調整した 必要なスピードと規模を実現しています。これらの企業は 政策立案者の耳 そして、準精神的な「防衛改革” の視聴者は増加傾向にあります。
それで、どのような結果が起こり得るのでしょうか?
Uberが民間輸送業界に混乱をもたらした際、その影響で 労働法の弱体化労働者の権利とドライバーの医療保障。AirBnBが宿泊業界を揺るがしたとき、 レンタル価格の上昇 人気の観光地では、独占状態を作ろうとすると、必ず社会的、政治的な影響が生じます。こうした影響は予測可能な場合が多いですが、予測できない場合もあります。
防衛調達プロセスの混乱は、少なくとも、調達プロセスに対する監視の強化を犠牲にすることになる。テクノロジー業界は規制の境界を尊重することでは知られていない。むしろその逆だ。新たな軍事スタートアップ業界に資金を提供する最も著名な企業には、 最も声高に反対した 任意に 規制の種類.
例えば、ベンチャーキャピタルの重鎮マーク・アンドリーセンは、有名な著書で テクノオプティミスト宣言 彼は、リスク管理、信頼と安全対策、予防原則を「敵」と呼んでいます。
規制が減るということは、支出だけでなく、特定の技術がどのように、どこで、どのような効果で使われるかに関しても、監視と説明責任が減ることを意味します。これは明らかなことです。
しかし、戦闘用の軍事技術の取得と展開が加速すれば、他にも多くの非常に起こりそうな結果が予測できる。その一つは、リスクと実験への再焦点化だ。
AI搭載ドローンやAI意思決定支援システムなどの現在の軍事スタートアップ技術は、ロシア・ウクライナ戦争やガザなど、進行中の紛争中にテストされ、改良されている。これは、 プロトタイピング これはますます顕著になってきており、テクノロジーの効果的なテスト、反復、最適化のための活発な戦場が必要です。
これはまた、目的に適さない技術が、テストと改良のためだけに配備される可能性があることも意味します。欠陥があり、おそらくは不十分な AI 製品の発売と販売が促進されないまでも常態化し、紛争の標的となった罪のない民間人に危害を加えることは避けられません。
テクノロジー企業が軍事組織に大規模言語モデルを販売しようとしているのを見ると、このことがよくわかります。例えば、Scale AIはMetaと提携してLLM製品を販売しています。 防衛ラマ防衛目的のためだ。同社によれば、このシステムには人間の関与が「絶対に必要」だという。
しかし、与えられた よく知られた事実 LLM はいわゆる幻覚を起こしやすいと言われているが、戦争のように複雑で動的な状況では、そのような技術が宣伝どおりに機能する可能性は低い。このため、実験、微調整、実地テストの真っ只中に巻き込まれた人々に危害が及ぶ可能性がある。この技術が、戦争における予測しにくい、予測しにくい要素には適さない可能性があるというのが大きな懸念事項である。これには、潜在的なテロの脅威や、北朝鮮のように非合理的とみなされることが多い国家の動きなどが含まれる。
アンドゥリルの CEO、ラッキー氏は、冒頭のインタビューでそのことを認めた。彼は、彼の武器が構築されているロジックは、防御のための AI ロジックの多くを支えているゲームの理論的アプローチを避ける潜在的な敵に対しては崩壊することを認めた。「ゲーム理論に基づかない最適戦略を追求する人々とゲーム理論を交わすのは非常に難しい…それは、脱落して自分のお金をすべて他の誰かに渡す人とモノポリーをプレイするようなものです。」戦争のように偶然に満ちているものにとって、これは深刻な制限です。
また、ベンチャーキャピタルの論理へのこのシフトから生じる二次的、三次的影響もある。差し迫った脅威を思い起こさせることで、より広範な世界的リスクと安全保障の状況が変化する可能性がある。兵器技術を優先させることで、紛争に対処する他の方法への資金が削減される可能性がある。未検証で永続性がない可能性のある技術にますます多くの資金を投入することで、他の場所に割り当てた方がよい多額の資金が無駄になる可能性がある。
しかし、ここは空想とユニコーンの世界であり、そのような考慮は、AI兵器が民主主義の守護者になるという大々的に宣伝されている約束と同じくらい憶測の域を出ない。
シリコンバレーの「早く動いて、物事を壊せ」というモットーは、技術の展開中に生じる問題はいつでも後で対処して解決できるということを暗に意味しています。防衛と戦争の世界では、このようなリスクを取ることで生じた損害はそう簡単には元に戻せません。
The Conversation は、この記事で取り上げた点を、名前の挙がったテクノロジー企業やベンチャーキャピタル企業に伝えた。彼らはコメントの要請には応じなかった。
エルケ・シュワルツ、政治理論講師、 ロンドンのクイーン·メアリー大学
この記事はから再公開されます 会話 クリエイティブコモンズライセンスの下で 読む 原著.
関連書籍:
暴政について:XNUMX世紀からのXNUMXの教訓
ティモシー・スナイダー
この本は、制度の重要性、個々の市民の役割、権威主義の危険性など、民主主義を維持し、擁護するための歴史からの教訓を提供します。
私たちの時代は今です:力、目的、そして公正なアメリカのための戦い
ステイシー・エイブラムス
政治家であり活動家でもある著者は、より包括的で公正な民主主義に対する彼女のビジョンを共有し、政治的関与と有権者の動員のための実践的な戦略を提供します。
どのように民主主義が死ぬか
スティーブン・レヴィツキーとダニエル・ジブラット著
この本は、民主主義の崩壊の警告サインと原因を調べ、世界中のケーススタディを利用して、民主主義を守る方法についての洞察を提供します。
人々、いいえ:反ポピュリズムの簡単な歴史
トーマス・フランク
著者は、米国におけるポピュリスト運動の歴史を紹介し、民主主義の改革と進歩を抑圧したと彼が主張する「反ポピュリスト」イデオロギーを批判します。
XNUMX冊以下の本で民主主義:それがどのように機能するか、なぜ機能しないのか、なぜそれを修正するのはあなたが考えるよりも簡単なのか
デビッド・リット
この本は、民主主義の長所と短所を含む概観を提供し、システムをより応答性と説明責任のあるものにするための改革を提案しています。
記事の要約:
シリコンバレーのベンチャーキャピタリストは、軍事AIの革新を推進すると同時に、その破壊的精神を民主的なプロセスにまで広げている。長らく変化に抵抗してきた防衛産業は、効率化を約束しながらも混乱のリスクを冒すベンチャー支援の新興企業に翻弄されている。この破壊的変化への意欲は、選挙への干渉を煽り、規制監督の弱さを悪用し、公共の利益よりも利益を優先させてきた。軍事システムが未検証のAIによって形作られ、民主主義が企業の野心によって損なわれる中、危険度はかつてないほど高まっている。
ハッシュタグ:
#シリコンバレー #選挙干渉 #軍事AI #技術リスク #脅威にさらされる民主主義