軍隊が AI を導入するにつれ、誇大宣伝が武器になる

May 24, 2023

昨年、ChatGPT や MidJourney などの画像エンジンが発表されて以来、生成人工知能に対する興奮は最高潮に達しています。 しかし、新しいテクノロジーが現在に応用されているという高揚感や不安は、すぐに将来についてのより大きな実存的な予測につながります。 「特異点」と AI が人類に直接取って代わることを除けば、AI が戦争に与える影響ほど不安を引き起こす結果はありません。 自律型兵器や戦略ボットは民間人を抑圧し、人間の操作者に反抗し、さらには第三次世界大戦を引き起こす可能性があるでしょうか?

世界の指導者たちは行動を示しています。 60の州が今年2月に会合を開き、軍による「AIの責任ある使用」の目標を打ち出した。 続いて国務省は、すべての自律型兵器の設計と運用に高官が関与し続けること、「明示的かつ明確に定義された用途」向けに兵器を設計すること、すべての安全機能の注意深く監視を維持することなどを含む米国の原則の政治的宣言を発表した。兵器の寿命全体を通じて、その使用における偏りを避けるよう努めます。 しかし、ヒューマン・ライツ・ウォッチは、これらの目標はいずれもまだ法的拘束力を持たず、運営者が十分に理解していない高度なシステムの開発を遅らせるものでもないと指摘した。

その目新しさにもかかわらず、これらの最近の進歩は、18世紀のヨーロッパにおける常備軍の創設によって最初の大きな飛躍を遂げた国家暴力の自動化における最新のステップにすぎない。 機関銃、戦車、戦闘機はこのプロセスのよりよく知られた象徴であるが、個々の人間の感情を取り除き、指揮官への速度と信頼性を高めるために歩兵を訓練することは、そのような軍隊に準備の整っていないライバルに対する最初の大きな利点をもたらしました。

JSTOR Daily の最高の記事を毎週木曜日に受信トレイで入手できます。

プライバシー ポリシー お問い合わせマーケティング メッセージに表示されているリンクをクリックすることで、いつでも購読を解除できます。

D

それ以来、各国は自動化の利点に後れを取ることを恐れてきました。そのため、米国が軍事用 AI をより早く導入するよう促す報道が並行して行われています。 生成 AI によって機密レベルのデータの分析がはるかに効率化される方法についての息を呑むような特集は、いかなる制限も中国軍に有利になるという厳しい警告と並行して行われます。 ニューヨーク・タイムズはAI軍事請負業者に無料の論説スペースを提供している。 AI ドローンが目的を達成するための仮想演習で操縦者を殺害したと主張した大佐や、米軍は「ユダヤ教とキリスト教の価値観に基づいて AI 兵器をより倫理的に扱っている」と述べた将軍など、偶然に見える失言さえも」（つまり、中国とは異なります）はすべて、軍事AI開発が全力で進んでいるという世界へのメッセージを強化します。

AI の応用、特に知能分析における応用は、まだ仮説の段階にすぎません。 現時点では、誇大宣伝そのものが、地政学的優位性を主張する者たちを警告するための武器になっているようだ。 しかし、軍司令官は本当に戦時中の意思決定そのものを自動化しようとするだろうか？

実際の軍関係者が軍需産業の請負業者やシンクタンクに隣接するメディアよりも多くの場合、より慎重を求めるのは当然です。 3人の米将校はPRISM誌の2018年の記事で要点を真っ直ぐに述べ、2024年に稼働する中国と米国の自動戦略システムにより紛争がわずか2時間で「限定的な核交換」にまでエスカレートする可能性があると提案している。

彼らのシナリオでは、危機は南シナ海でのベトナム漁船と中国船の偶発的な衝突から始まる。 この出来事は、株式市場指数の下落やソーシャルメディア上でのどちらかについての不利なコメントの増加など、サイバースペースで一見無関係に見える一連の連鎖反応を引き起こします。 これらの兆候により、双方の IT インフラに対するインターネット攻撃に関する AI 警告システムが起動され、その後実際の軍事行動が開始されます。 彼らのシナリオでは中国が先制攻撃を行うが、著者らは両国の相互作用が数百万人規模の殺害の可能性の責任があると主張している。