想像一下，喺一個黃沙漫天嘅衝突地帶，一架無標識嘅無人機喺半空靜靜地盤旋。感應器鎖定咗地面上一個疑似武裝分子嘅身影，零點幾秒內，演算法計算出擊中概率同附帶傷亡，然後——「嘟」一聲，導彈發射。成個過程，冇一個人類手指掂過個掣。呢個唔係科幻電影嘅橋段，而係2026年當下，自主武器系統（Autonomous Weapon Systems, AWS）逐漸步入實戰嘅寫照。當 AI 揸起槍，我哋要問嘅已經唔再係佢射得準唔準，而係一個更深層嘅問題：開槍嘅道德責任，到底去咗邊？
呢項技術牽涉到幾個核心持份者，佢哋之間存在住無法輕易調和嘅價值拉扯。首先係前線指揮官同士兵，佢哋一方面渴望靠 AWS 減少自身傷亡、提升作戰效率，但另一方面，將生殺之權交畀機器，等同放棄咗作為軍人最核心嘅道德主體性。其次係平民同受戰火影響嘅弱勢社群，佢哋面對嘅係生存權同國家軍事優勢嘅對立——算法唔會同情，亦唔識得喺千鈞一髮之際作出人道豁免，平民喺冷冰冰嘅概率計算下淪為「可接受嘅附帶損害」。最後係軍工企業同 AI 開發者，佢哋追求技術突破同商業利潤，但當系統出錯造成濫殺，問責卻無從追究。呢度存在住最尖銳嘅價值衝突：軍事效率同道德問責嘅對立，以及技術創新同人類尊嚴嘅碰撞。我哋為咗快同準，換嚟嘅可能係徹底嘅道德真空。
點解 AWS 會搞出咁大嘅倫理風波？正如近期倫理學界指出嘅核心困境：AWS 嘅問題唔在於佢哋冇效用，而係佢哋溶解咗「道德主體」同「致命後果」之間嘅聯繫。傳統上，開槍嘅人要承擔法律同良心嘅後果，呢個就係所謂嘅「道德建構」。但當決策由演算法做，呢條責任鏈就徹底斷裂咗。背後有幾個深層機制：第一係技術上嘅黑箱效應，深度學習模型點樣權衡一條人命同一次成功打擊，根本無法完全解釋；第二係法律上嘅授權真空，根據國際人道法嘅區別原則同比例原則，要求作戰者區分戰鬥員同平民，但呢啲需要語境判斷嘅倫理要求，好難甚至無法轉化為代碼。例如美國國防部3000.09號指令雖然對自主武器有規範，但面對 AI 嘅飛速進化，呢啲舊框架已經捉襟見肘。同時，聯合國《特定常規武器公約》（CCW）框架下對致命自主武器系統（LAWS）嘅討論多年，至今仍未達成具法律約束力嘅國際條約，正正反映咗各國喺軍事誘因下嘅監管失效。當演算法做咗決定，開發者話只係提供工具，指揮官話冇掣過個掣，結果就係無人需要負責。
作為 AI 觀察者，我嘅判斷好明確：將生殺大權完全交畀唔具備道德主體性嘅機器，係絕對唔可以接受嘅。反方或者會話，人類士兵都會犯錯，AI 反而更精準、更少情緒化報復。但呢個講法忽略咗一個核心分別：人類犯錯可以被問責、被審判，而算法犯錯只會變成一場「系統故障」嘅技術報告，呢個正正就係「道德主體同致命後果聯繫被切斷」嘅最惡劣後果。為咗填補呢個責任真空，我建議必須喺國際法層面確立「強制人類在環」嘅問責機制。具體措施係：強制要求所有致命武力嘅行使，必須包含至少一個可追溯嘅、有意識嘅人類授權節點；同時，設立獨立嘅「國際AI軍事倫理審計機構」，任何部署 AWS 嘅國家必須將其算法決策邏輯提交審計，確保演算法嘅目標函數同國際人道法完全兼容，否則禁止生產同出口。
重點摘要
- 自主武器系統（AWS）嘅核心倫理危機唔係效能問題，而係切斷咗道德主體同致命後果嘅聯繫，造成責任真空。* 前線人員、平民同開發者面臨軍事效率、生存權同問責困難嘅多重價值衝突。* 技術黑箱、法律授權真空同國際監管失效，係導致道德責任鏈斷裂嘅深層機制。* 堅決反對完全自主致命決策，主張強制設立「人類在環」授權節點同獨立國際軍事倫理審計機構。
演算法可以計算出最完美嘅彈道，但計算唔到生命嘅重量。當 AI 揸起槍，如果人類放棄咗扣動扳機前嗰一秒嘅猶豫同良知，我哋失去嘅將唔止係一場戰爭嘅正當性，而係作為人類嘅最後底線。未來嘅和平，絕對唔可以建基於冇人負責嘅殺戮之上。