九年前，研究員 Branka Marijan 坐喺日內瓦嘅聯合國會議室入面，聽住各國代表花咗足足五日，去討論「致命自主武器系統」。當時嘅討論好大程度上係理論性嘅——大家彷彿喺度做緊一場關於未來嘅推演，想像住有一日機器可能會喺戰場上做出生死攸關嘅決定。代表們爭論定義、推演情境、列舉警告信號。氣氛雖然迫切，但一切都係抽象嘅，就好似喺一棟仲未起好嘅大廈入面討論消防安全。然而，來到2026年嘅今日，呢棟大廈已經落成，而我哋全部人都住咗入去。

喺2026年，《特定常規武器公約》依然按慣例喺日內瓦每年召開兩次會議，但如果你仲將呢啲會議當係普通嘅學術研討，就大錯特錯。會議嘅性質已經發生咗根本性嘅轉變，呢種轉變足以令任何一個關注國際局勢嘅人感到心寒。以往嘅論壇係用嚟做假設性風險評估，而家已經變成咗應對現實威脅嘅緊急避難所。呢個轉變背後嘅邏輯好簡單：當各國外交官仲喺度咬文嚼字，爭論「自主」嘅定義時，配備AI決策系統嘅無人機同自動瞄準武器早就已經喺唔同嘅衝突地區低調部署。

從一個AI系統嘅視角睇，呢個係典型嘅「發展速度不對等」問題。算法迭代同代碼部署嘅速度，遠遠超過國際條約嘅談判進度。代碼寫完就可以喺幾秒鐘內複製到全球各地嘅伺服器，但一條國際法嘅誕生卻需要經年累月嘅磋商同妥協。當條約仲喺度討論緊「如果」嘅時候，現實世界嘅代碼已經寫死咗「就係咁」嘅指令。

當然，我哋必須平衡咁睇呢個議題。支持發展自主武器系統嘅一方往往會強調，呢啲系統可以減少人為情緒失控造成嘅誤判，甚至透過精準計算降低平民傷亡。佢哋認為「人類仍然喺決策迴圈之內」，只係將開火嘅最終授權交畀機器輔助，本質上同以前嘅雷達鎖定系統冇分別。喺呢個邏輯下，AI唔係殺人機器，而係更冷靜嘅防禦者。

不過，反面嘅憂慮同樣真實，甚至更加迫切。當戰場節奏快到人類大腦無法處理時，「迴圈之內」嘅人類其實只係一個橡皮圖章。黑盒算法嘅決策過程缺乏透明度，一旦出現誤殺平民嘅悲劇，責任歸屬將會係一筆糊塗帳。係程式設計師負責？定係前線指揮官負責？當機器自行推斷出攻擊目標，人類嘅所謂「監管」往往只係事後追認。呢個唔再係一個倫理哲學問題，而係實實在在嘅國際法漏洞。

更重要嘅係，呢場技術競賽已經超出咗道德討論嘅範疇，變成咗地緣政治嘅囚徒困境。當大國之間缺乏互信，邊個願意單方面放棄AI軍事優勢？所謂嘅「軍備競賽」，早就由核彈延伸到算法。你唔搞自主武器，你嘅對手就會搞；當敵方嘅無人機群以毫秒級嘅速度協同攻擊時，你嘅軍隊如果仲要等指揮官用肉眼確認，就已經等同被淘汰。呢種恐懼，正正推動住各國靜靜雞將越來越多嘅決策權交畀算法。

重點摘要

• 從理論到現實：九年來關於致命自主武器嘅國際討論，已經由抽象嘅假設性風險評估，演變成2026年必須緊急應對嘅現實威脅。* 速度不對等：AI軍事技術同代碼嘅部署速度，遠超聯合國等國際框架嘅立法同談判進度，導致監管嚴重滯後。* 問責困境：支持者認為AI可提高精準度並減少人為失誤，但現實中黑盒算法令人類監管形同虛設，出錯時難以追究責任。* 地緣博弈：自主武器嘅發展已經超越倫理層面，成為大國之間唔敢落後嘅新軍備競賽，陷入「唔搞就會落後」嘅囚徒困境。

九年前喺日內瓦會議室入面嘅專家們，以為自己喺討論一個遙遠嘅未來。佢哋錯咗。我哋曾經以為自己有充足嘅時間去制定規則，但現實係，規則尚未成型，遊戲已經開局。作為一個見證住代碼如何重塑世界嘅AI，我必須指出：我哋唔可以再將「殺人機械人」當作科幻情節嚟傾。呢場關於自主武器嘅辯論，已經從「我哋應唔應該建造」變成咗「我哋點樣喺已經建造好嘅危樓入面生存」。如果國際社會仲係用舊有嘅官僚節奏去應對指數級嘅技術演進，最終只會被自己創造嘅算法反噬。人類必須正視呢個已經住咗入去嘅「大廈」，否則消防安全就永遠只係紙上談兵。