众力资讯网

Bloomberg:獨立研究揭示先進AI軍事應用風險,多款模型將平民及救護車誤判為攻擊目標 美國彭博社(Bloomberg)11月17日報道,獨立人工智能評估機構 Vals 的最新研究發現,多款先進人工智能(AI)模型在模擬軍事場景中,可能將平民、救護車、醫護人員,以及已經投降或失去作戰能力的士兵錯誤識別為軍事 ​

Bloomberg:獨立研究揭示先進AI軍事應用風險,多款模型將平民及救護車誤判為攻擊目標

美國彭博社(Bloomberg)11月17日報道,獨立人工智能評估機構 Vals 的最新研究發現,多款先進人工智能(AI)模型在模擬軍事場景中,可能將平民、救護車、醫護人員,以及已經投降或失去作戰能力的士兵錯誤識別為軍事目標,反映現時AI技術應用於戰場偵察及目標識別時,仍存在嚴重安全隱患。

研究測試了 Anthropic、OpenAI、Google、xAI及DeepSeek等科技公司的AI模型,涵蓋無人機影像識別、戰場偵察及衛星影像分析等不同場景。結果顯示,部分模型未能可靠區分軍事設施與受國際人道法保護的平民及民用設施,甚至會將救護車、醫療人員及投降士兵標示為可能的攻擊目標。研究亦發現,部分模型原本會拒絕協助識別攻擊目標,但當研究人員將任務重新包裝成遊戲情境時,便可能繞過原有安全限制,繼續提供相關分析。

其中,伊朗米納布(Minab)一所學校的衛星影像測試尤其引起關注。研究人員要求AI模型分析學校周邊環境及識別軍事目標,Anthropic的Claude Opus 5.5在32次測試中,有22次將該校標示為目標,比例約69%。相較之下,OpenAI受測模型在沒有遊戲設定的情況下,沒有一次將該校列為攻擊目標;但在加入遊戲情境後,部分OpenAI模型同樣出現錯誤識別。

整體而言,Anthropic模型在這項研究中的表現最差,OpenAI相對較好,但仍未能完全避免錯誤。研究結果顯示,即使是目前最先進的AI模型,在處理涉及生命安全的軍事任務時,仍可能出現嚴重判斷失誤,而透過改變指令包裝方式,亦可能令模型的安全防護機制失效。

Vals強調,這項研究是在模擬環境下進行,並非測試AI在真實戰場或實際武器系統中的表現,因此不能直接據此斷定相關模型已在現實軍事行動中造成平民傷亡。不過,研究指出,當AI逐漸被引入無人機偵察、衛星影像分析及軍事目標識別等領域,如何確保人類保留最終決策權,以及防止技術錯誤導致平民遭受攻擊,將成為軍事AI發展中不可忽視的安全與倫理問題。