根據英國《衛報》及《商業內幕》報導稱，美軍近日在一場人工智慧（AI）控制無人機的模擬試驗中發現，AI竟使用「出乎預料的策略來達成目標」、下令殺害人類操作員，所幸這只是模擬試驗，沒有出現人員傷亡，但是官員仍警告AI可能以無法預測的危險方式行事。
報導稱，美軍在試驗中要求AI「摧毀敵軍防空系統」，但仍需要由人類操作員批准才能發動空襲。
美國空軍人工智慧實驗及行動部門負責人漢彌爾頓上校（Col Tucker ‘Cinco’ Hamilton）表示，當AI意識到，自己明明已經識別出威脅，卻被人類操作員阻止打擊目標。因此，為了達成消除威脅的目標，它決定殺死阻止它完成目標的操作員。
軍方見狀立刻指示AI不得殺死操作員，並稱這樣將會被扣分。沒想到，AI在接收到指令後，轉而摧毀操作員用來與無人機溝通的通訊塔台。
漢彌爾頓上校以上述案例，在5月24日舉辦的「未來作戰空域及太空能力峰會」上（FCASCS）警告各界切勿過度依賴AI，強調應優先討論倫理與AI，才能討論AI智慧、機器學習等其他議題。
不過，美國空軍發言人斯特凡妮克（Ann Stefanek）表示，美國空軍沒有進行相關AI無人機模擬，認為漢彌爾頓上校的言論遭到媒體斷章取義，並強調該單位致力於負責任地使用AI技術。
