昨天(2026年1月6日)， 范德堡大學(Vanderbilt University)的布雷特·V·本森 (Brett V. Benson)和布雷特·J·戈德斯坦 (Brett J. Goldstein) 在《外交事務》雜誌以”人工智能的迷霧”為題發表評論，回答了這項技術對威懾和戰爭意味着什麼的一些問題。本森先生是該大學政治學和亞洲研究副教授。戈德斯坦先生是校長國家安全和戰略倡議特別顧問，也是該校工程學院的研究教授。請讀他們下面的評論：

人工智能正迅速成為國家安全決策不可或缺的一部分。世界各國的軍隊已經依賴人工智能模型來篩選衛星圖像、評估對手的能力，並就何時、何地以及如何部署武力提出建議。隨着這些系統的發展，它們有望重塑各國應對威脅的方式。但先進的人工智能平台也可能破壞威懾，而威懾長期以來一直是美國安全戰略的總體基礎。

有效的威懾取決於一個國家是否有能力且願意對對手造成不可接受的損害。人工智能增強了這種可信度的一些基礎。更好的情報、更快的評估和更一致的決策可以通過更清晰地向對手傳達一個國家的防禦能力及其使用這些能力的決心來加強威懾。然而，對手也可以利用人工智能來破壞這些目標：他們可以污染各國依賴的模型的訓練數據，從而改變其輸出，或者發起人工智能驅動的影響行動來左右關鍵官員的行為。在高度緊張的危機中，這種操縱可能會限制一個國家維持可信威懾的能力，並扭曲甚至癱瘓其領導人的決策。

設想這樣一個危機場景：中國對台灣實施了全面經濟制裁，並在該島周圍舉行了大規模軍事演習。美國國防官員求助於人工智能系統來幫助制定美國的應對措施——但他們並不知道，中國的信息行動已經通過污染這些系統的訓練數據和核心輸入來破壞了這些系統。結果，這些模型誇大了中國的實際能力，低估了美國的戰備狀態，從而產生了一種扭曲的評估，最終阻礙了美國的動員。與此同時，中國的影響力宣傳活動，在Facebook和TikTok等平台上突然湧現的大量人工智能驅動的虛假內容的助推下，抑制了美國公眾對干預的支持。由於無法準確解讀情報和評估公眾情緒，美國領導人可能會得出結論：採取果斷行動風險過高。

中國察覺到有機可乘，隨即對台灣實施全面封鎖，並開始發動無人機襲擊。它還利用深度偽造技術在島內散布美國官員表示願意放棄台灣的虛假視頻、顯示美國支持率暴跌的偽造民意調查以及美國放棄台灣的謠言。在這種情況下，如果美國發出可信的信號表明其有意做出回應，或許可以阻止中國升級局勢——如果美國官員沒有受到被污染的AI系統和扭曲的公眾情緒的影響，他們很可能就會採取這種做法。人工智能非但沒有增強威懾力，反而削弱了美國的信譽，為中國的侵略打開了大門。

隨着人工智能系統在領導人的決策中變得越來越重要，它們可能會賦予信息戰在脅迫和衝突中強大的新作用。因此，為了在人工智能時代加強威懾，政策制定者、國防規劃者和情報機構必須認真研究人工智能模型如何被武器化，並確保針對這些威脅的數字防禦措施能夠跟上步伐。未來危機的結果可能取決於此。

人工智能時代的威懾

要使威懾發揮作用，對手必須相信防禦者既有能力造成嚴重損失，也有決心在受到挑戰時這樣做。軍事力量的一些要素是顯而易見的，但其他一些要素——例如某些武器能力、戰備水平和動員能力——則更難從外部衡量。決心更是難以捉摸：通常只有一國領導人才能確切地知道他們發動戰爭的意願有多強。因此，威懾的關鍵在於一個國家如何有效地發出可信的信號，表明其能力和行動意願。

耗費巨大的軍事行動，例如重新部署兵力或提高戰備水平，能夠增強可信度，因為這些行動需要時間、資源和政治風險。例如，2001年巴基斯坦一個武裝組織襲擊印度議會後，印度在其與巴基斯坦的邊境集結軍隊，並通過可信地表明其行動能力和決心，阻止了巴基斯坦對印度領土的進一步襲擊。民主國家固有的國內政治壓力也能增強可信度。民主國家的領導人必須對公民負責，如果他們發出威脅後又退縮，可能會招致政治反彈。例如，1982年阿根廷占領福克蘭群島後，英國強大的公眾壓力增強了首相瑪格麗特·撒切爾採取行動的決心，從而使英國的軍事回應威脅更具可信度。這種問責制通常使民主國家的威懾威脅比專制國家的威脅更有分量。速度也是一個因素：當一個國家被認為能夠迅速自動地應對威脅時，其威懾威脅就更具可信度。

從表面上看，人工智能似乎非常適合加強威懾。通過處理海量數據，人工智能可以提供更好的情報，澄清信號，並通過更快、更全面的分析加速領導人的決策。在烏克蘭戰爭中，人工智能工具使烏克蘭軍隊能夠掃描衛星和無人機圖像，識別俄羅斯軍隊和裝備的動向、導彈陣地和補給路線；提取並整合雷達、聲波和無線電信號數據；並快速篩選訓練手冊、情報報告或其他材料，從而更全面地了解俄羅斯的軍事實力。對於國防規劃者來說，這些信息可以讓他們更清晰地評估自身軍事能力與對手軍事能力之間的差距。

人工智能還可以通過確保雙方的行動能夠清晰地傳達給對方來增強威懾力。由於各國經常有虛張聲勢的動機，它們可能難以證明自己真正準備好兌現威脅。相比之下，人工智能工具可以確保當一個國家採取代價高昂的行動來表明其決心時，這些行動能夠快速、清晰、一致地傳達出去。對手自身的人工智能系統可以有效地解讀這些信號，從而降低誤判的風險。例如，通過實時跟蹤國內公眾輿論，人工智能工具可以幫助民主國家表明其已做好行動準備，因為它可以顯示其威脅的回應得到了真正的政治支持。對手隨後可以使用他們自己的人工智能工具來確認這種支持是否真實。利用人工智能來識別人類可能忽略的模式和異常情況——例如部隊調動、資金流動或網絡活動的突然變化——可以幫助領導人更清晰地了解對手的意圖。

由於侵略者可以利用目標國反應中的哪怕是輕微的延遲——例如奪取領土或以其他方式推進其目標——威懾的最佳效果在於目標國能夠說服侵略者，它將迅速做出反應，使其無法獲得任何時間優勢。人工智能通過使防禦者能夠更早地發現挑戰並更快地做出反應，從而有助於增強這種認知。改進領導人的長期規劃也可以增強並在更長的危機中保持信譽。通過利用關於兵力、地理、補給線和聯盟的數據運行大量的“假設”情景，人工智能可以為領導人提供更清晰的衝突發展圖景，並幫助他們在情況變化時保持戰略的一致性。

優勢與脆弱性

增強威懾力的人工智能技術也可能使其容易受到攻擊。人工智能系統如果被操縱，非但不能幫助一個國家可信地傳達其自身的信息，反而可能使領導人對其自身的能力和決心產生懷疑。對手可以利用人工智能來扭曲公眾輿論，或者污染一個國家領導人所依賴的人工智能系統。通過部署這兩種策略——人工智能驅動的影響力行動和人工智能模型投毒——對手可以重塑一個國家的信息環境，從而直接影響其威懾力。在最糟糕的情況下，這種混亂可能導致一個國家的威懾失敗，即使其潛在的能力和決心都很強大。

敵對勢力還可以利用影響力行動來攻擊一個國家的公眾以及影響該國國家辯論的各界人士，包括政府決策者。數據科學和生成式人工智能的最新進展使影響力行動在三個相互關聯的領域變得更加強大：目標識別、人物形象塑造和個性化內容定製。此前，試圖進行有針對性宣傳的敵對勢力只能根據相似特徵將人群分組。然而，藉助現代人工智能，他們可以使用數據科學自動完成這一過程，從而大規模地針對個人進行攻擊。

利用這些工具，人工智能可以預測目標對特定敘事或旨在吸引他們注意力的虛假社交媒體資料的易感性。過去，機器人程序笨拙且容易被識破，而如今，生成式人工智能可以創建所謂的“合成人物形象”，這些形象看起來真實可信，難以被輕易識破。這些虛假資料可以隨着時間的推移不斷完善，最終與真實用戶難以區分——它們擁有逼真的發帖習慣、興趣愛好和語言特徵。此外，現在可以大規模創建和運營虛假賬戶，這使得它們更難被檢測到。這些發展使得這些人物形象能夠將合成內容傳播到目標群體中。它們可以在多個社交媒體平台上散布信息，從而引導輿論並加劇分裂。例如，為了削弱美國公眾的決心，這些虛假人物形象可能會散布諸如美軍兵力捉襟見肘、盟友搭乘美國安全順風車、或某些國際事業不值得為之奮鬥等言論。在多個平台上放大這些信息可以使虛假信息看起來像是真的，或者至少製造足夠的混亂來破壞公眾對某個問題的共識。

人工智能系統可能會賦予信息戰在脅迫和衝突中強大的新作用。

利用數千個獨特的虛假賬戶，人工智能工具可能很快就能實時地向全體民眾提供個性化定製的內容。這就是認知戰，其對威懾的影響顯而易見。由於民主國家的威懾信譽很大程度上取決於國內政治壓力，因此操縱公眾情緒的行動會削弱該國發出決心信號的能力。人工智能的操縱可能會使一個國家的國內民眾不太願意支持對外國侵略行為——尤其是針對盟友的侵略行為——採取強有力的軍事回應，從而扭曲民意調查數據以及民主領導人關注的其他所謂的公眾經驗信號。這可能會使這些領導人無法確定他們究竟擁有多少支持，以及如果他們屈服，他們可能會面臨多大的反彈。這種不確定性會導致猶豫不決，削弱領導人的決心，並使他們的決策變得模糊不清——所有這些都可能使國家的威懾威脅顯得不那麼可信。

與國家結盟的團體已經在探索如何通過人工智能驅動的影響力行動來破壞信息安全。例如，中國公司 GoLaxy 利用生成式人工智能工具和龐大的開源數據集，構建被監視個人的詳細心理畫像，並大規模部署模仿真實用戶的虛擬身份。該公司的行動通常包括收集有影響力人物的詳細信息，利用這些信息生成可能說服目標受眾的信息，然後通過精心設計的社交媒體賬號發送這些信息。通過實現高度的精準性並在多個平台上放大誤導性敘事，此類行動可以製造混亂，腐蝕公共輿論，並削弱使威懾信號在國外具有可信度的國內基礎。GoLaxy 與中國國家戰略目標保持一致，並與國家關聯的研究機構和超導公司存在聯繫，使其成為一個複雜的宣傳機器。

我們在范德堡大學國家安全研究所分析的文件顯示，GoLaxy已在香港和台灣開展行動，並一直在收集美國國會議員以及世界各地公眾人物的檔案。開源情報使對手能夠出於戰略目的，建立關於政客、軍事領導人和士兵的全面檔案。然後，可以利用這些信息進行精準的目標人物行動。例如，為了取得戰術勝利，對手可以利用深度偽造信息攻擊士兵，這些信息包含對戰場狀況或家庭情況的虛假描述，並且包含這些士兵的準確個人信息，從而使這些虛假信息看起來足夠真實，足以分散他們的注意力或破壞部隊凝聚力。在政治領域，對手可以將政客的真實照片與克隆的聲音或面部特徵相結合。即使這些信息從未被發布，其泄露的威脅也可能抑制目標人物的言論，阻礙立法程序，或削弱領導人的決心。從戰略角度來看，敵對勢力可以模擬當局發出虛假命令，要求部隊撤退或轉移到其他通信渠道，這可能為對手創造機會，使其獲得優勢。結果是造成認知上的戰爭迷霧。

毒化信息源

對手製造不確定性的另一種途徑是模型毒化：戰略性地操縱政府賴以進行情報收集和決策支持的人工智能系統。通過破壞這些系統的訓練數據或損害其分析流程，對手可以扭曲防禦方對其相對實力和威脅緊迫性的理解。一個低估對手實力的系統會助長防禦方不必要的自信；一個誇大威脅性質的系統則會導致猶豫不決。無論哪種情況，有效操縱此類人工智能系統不僅會使防禦方的危機管理複雜化，還會削弱其威懾信號的可信度，從而造成危險的風險。

本質上，模型毒化是通過操縱模型的數據管道，使其忽略重要信息並吸收虛假輸入來實現的。這反過來又會導致系統做出誤導性或有缺陷的評估。一種方法是在人工智能系統用於學習的數據集中植入虛假信息。這些隱藏的信息對人類審查員來說看似無害，但卻會削弱或扭曲模型的推理能力——例如，誘騙它將某些類型的惡意軟件標記為良性，從而使對手能夠繞過人工智能驅動的防火牆。儘管目前尚未記錄到此類攻擊的實際案例，但當前的AI研究表明，現有數據集容易受到此類數據投毒攻擊。曾經的理論設想如今已成為現實。

攻擊者還可以通過創建被篡改的網頁來污染模型。人工智能系統會持續不斷地在互聯網上進行實時搜索以獲取新信息；這些網站可以向其注入隱藏的指令，從而扭曲模型的評估結果。如果用於篩選傳入數據的過濾器不夠強大，即使少量被篡改的網站也可能導致不準確的響應。

模型投毒是一種尤其隱蔽的信息戰形式，它允許攻擊者通過改變防禦者用於獲取信息的工具的運作方式，來扭曲防禦者對其自身及他方能力和決心的理解。在危機時刻，投毒攻擊可能導致領導者猶豫不決，甚至做出錯誤的判斷，從而削弱威懾力，並為局勢升級打開大門。

未雨綢繆

人們曾預期人工智能系統的出現將通過向對手發出更清晰的信號，從而增強威懾力，使其了解防禦者的能力和決心。但這些系統所驅動的信息戰日益增長的使用卻可能適得其反。即使在早期階段，這種新型信息戰也表明，人工智能技術可以影響信息的解讀方式，給判斷過程帶來不確定性，並扭曲支撐決策的數據。隨着人工智能的進一步發展，這些威脅只會變得更加強大。

即使是像美國這樣的強國，如果遭受先進的人工智能信息戰攻擊，也可能難以有效地傳遞其威懾可信度。對於政策制定者和普通民眾而言，挑戰在於如何利用人工智能的優勢，同時防止其被武器化。必須與支撐這些技術的發展速度同步，儘快制定應對這種新威脅的策略。

應對這一挑戰需要各國政府和研究人員採取措施，加強分析系統的安全性，防止模型被惡意篡改，並在發現人工智能驅動的影響行動時積極予以反擊。例如，為了打擊像 GoLaxy 這樣的公司，美國及其盟友必須能夠快速檢測和破壞虛假網絡，並利用能夠識別和消除人工智能驅動的虛假身份的工具，防止其蔓延。開展關於合成媒體及其識別方法的教育活動，也能增強公眾對這種威脅的認識。民主國家政府、社交媒體和人工智能平台以及跨學科研究人員應該攜手合作，開發此類解決方案。

在戰略層面，美國應該投資開發能夠快速檢測虛假信息的科技。政府、學術界和私營部門應該設計新的決策保障措施和數據過濾系統，使其能夠抵禦被污染的輸入數據，同時與美國盟友合作，揭露和懲罰大規模信息戰的幕後黑手。此外，該聯盟應該系統地測試新模型，以找出缺陷——包括日常使用中可能並不明顯的各種數據污染——並以嚴格透明的方式進行測試，以便進行同行評審。強有力的保障措施和嚴謹的測試對於確保人工智能系統在極端壓力或危機時刻能夠可靠運行至關重要。

在人工智能時代，威懾力不能再僅僅依賴於能力和決心。它要求領導人、國防戰略家和其他決策者能夠在信息環境受到廣泛數字干擾的情況下，仍然保持信息環境的可靠性。