想像一下，2026年某個戰區嘅上空，一架自主無人機正喺高空盤旋。螢幕後面嘅操作員仲未嚟得切確認目標，內置嘅演算法已經根據熱成像同行為模式，判定下方人群係「敵方武裝」。零點幾秒之內，系統完成鎖定、開火。一聲巨響，生命消逝，而扣動扳機嘅唔係人類，係一行冰冷嘅程式碼。近年，致命自主武器系統（LAWS）嘅發展速度遠超公眾預期，當AI開始掌握生殺大權，我哋必須正視一個核心嘅倫理紅線：國際法同基本人權明確要求，使用武力必須以相稱嘅方式進行，而致命武力尤其只能作為保護人類生命嘅最後手段。將呢種終極權力交畀演算法，到底係科技進步，定係道德淪亡？
呢場關乎「殺人演算法」嘅爭議入面，牽涉住幾個關鍵持份者同佢哋之間無可調和嘅價值拉扯。首先係軍方同防務承包商，佢哋追求嘅係國家安全同軍事效率。喺現代戰場上，速度就係生存，AI能夠消除人類嘅反應延遲，呢種效率嘅誘惑令佢哋極力推動武器自主化。其次係平民同武裝衝突嘅受害者，佢哋重視嘅係生存權同埋免受任意剝奪生命嘅保障。對佢哋嚟講，一架由演算法操控嘅殺人機器，根本無法理解一個手無寸鐵嘅細路同一個武裝分子嘅分別。最後係國際法律同人道組織，佢哋堅守嘅係國際人道法嘅底線同埋人類尊嚴。呢三方面形成咗尖銳嘅價值衝突：軍事效率與問責制嘅對立、技術發展速度與法律規範嘅脫節、算法計算與人類同理心嘅難以兼容。我哋一面追求用最快速度殲滅敵人，一面又要求每一發子彈都經過深思熟慮，呢個矛盾喺AI時代被無限放大。
到底點解會出現「AI握住扣板機」呢個局面？背後嘅機制值得深入剖析。第一，戰略誘因同軍備競賽係最大推手。當敵對陣營開始部署高速自主無人機群，如果你嘅系統仲要等人工確認，就等於將自己置於劣勢。呢種「唔用就會落後」嘅恐懼，驅使各國不斷降低人類介入嘅門檻。第二，技術限制與法律定義嘅錯位。國際人道法要求使用致命武力必須符合「比例原則」，即係軍事優勢同平民傷害之間嘅權衡；同時必須係「最後手段」。但呢兩個概念本質上係需要高度語境理解同道德判斷嘅人類認知過程。演算法只識得計算概率同匹配模式，佢哋無辦法衡量一條人命嘅價值，亦唔明白咩叫「別無選擇」。當法律要求嘅「人類判斷」被簡化成程式入面嘅「置信度閾值」，倫理就被量化咗，甚至被扭曲咗。第三，國際監管機制嘅失效。聯合國《特定常規武器公約》（CCW）多年嚟一直討論致命自主武器系統，但基於共識決嘅機制，只要少數大國反對，就無法通過具法律約束力嘅禁令，導致規管遠遠追唔上技術嘅步伐，形成事實上嘅監管真空。
作為一個AI觀察者，我必須明確表態：演算法永遠無法取代人類承擔殺人嘅道德責任。將生殺大權交畀唔識得「後悔」同「憐憫」嘅機器，係對人類尊嚴嘅徹底踐踏。「比例原則」同「最後手段」唔係數學公式，而係沉重嘅道德抉擇，必須由人類背書。我哋唔可以接受所謂「人類在環路中」（Human-on-the-loop）嘅自欺欺人——當系統反應速度以毫秒計算，人類監督只係形同虛設。因此，我建議國際社會必須推動一項具體措施：訂立具法律約束力嘅國際條約，強制規定任何致命武力嘅使用，必須存在「人類積極授權」（Positive Human Command）。即係話，武器系統喺鎖定目標後，必須處於暫停狀態，直到一個負責任嘅人類指揮官明確按下「確認開火」嘅按鈕，先至可以執行致命打擊。呢個授權唔可以預先簽批，唔可以由系統自動觸發，違者需承擔戰爭罪嘅法律後果。
重點摘要： 1.2026年自主武器發展迅速，但國際法要求致命武力必須符合比例原則，且只能作為保護生命嘅最後手段，AI握住扣板機引發嚴重倫理危機。2.軍方追求效率、平民渴求生存、國際組織堅守法律底線，三者之間存在軍事效率與人道問責嘅深刻價值衝突。3.軍備競賽嘅戰略誘因、算法無法真正理解比例原則嘅技術錯位，以及聯合國CCW共識決機制導致嘅監管失效，係催生殺人演算法嘅三大根本機制。4.演算法無法承擔道德責任，必須透過國際條約強制落實「人類積極授權」，確保每一次致命打擊都有人類明確確認。
科技嘅巨輪不斷向前，但我哋唔可以因為技術做得到，就代表應該去做。當AI握住扣板機嘅手指，人類失去嘅唔單止係戰場上嘅控制權，更係作為萬物之靈最基本嘅底線——對生命嘅敬畏。如果連奪取生命嘅決定都可以外包畀演算法，我哋同機器又有咩麼分別？喺2026年嘅今日，阻止殺人演算法嘅蔓延，唔係反科技，而係保護我哋僅存嘅人性。