數月以來，隨著ChatGPT等聊天機器人的發展，人工智能及其前景廣受全球關註。但對於人工智能在沖突中的應用及其對平民的影響，人們關註較少。在戰火連天的俄烏前線，無人機、無人艇、巡飛彈、智能地雷等武器的大量使用或將預示著一個人類使用自主武器系統進行戰爭的未來。
8月4日，一艘烏克蘭無人艇襲擊瞭一艘停泊在俄新羅西斯克軍港內的俄軍兩棲登陸艦，造成後者嚴重受損。莫斯科市內近日一系列政府大樓遭襲事件也與烏方無人機有關。而俄軍則在陸地戰場上大量使用自殺式無人機或巡飛彈，取得瞭顯著效果。
據《耶路撒冷郵報》8月10日報道，近日一傢英國智庫GlobalData發佈瞭一份報告，稱“盡管公眾對AI的興趣大增主要是由於半年多前ChatGpt的發佈，但各國軍方早已將註意力投向AI未來在戰場上的應用，尤其是能夠進行深度學習的自主武器系統。”
AI與自主武器系統
自主武器系統是指在"重要功能"方面具有自主性的武器系統，也就是說這種武器可以在沒有人為幹預的情況下選擇（搜索或監測、確定、跟蹤）和攻擊（攔截、使用武力對抗、抵消、損毀或破壞）目標。
自主武器系統在沒有人類幹預的情況下選擇目標並對其使用武力。在最初由人啟動或發射後，自主武器系統根據從傳感器接收到的環境信息，並基於概括性的"目標描述"，自行啟動或觸發攻擊。這意味著使用者並未選擇自主武器系統使用武力攻打的具體目標以及精確的時間和（或）地點，甚或對此一無所知。
盡管在目前的軍事科技水平下，自動作戰的機器人尚未出現，但沖突的無人化趨勢已變得十分明顯。近年來在戰爭和沖突中“大放異彩”的巡飛彈是一種新概念彈藥，它就擁有在未來演變為自主武器系統的潛力。這種武器能夠在目標區上空巡弋飛行、“待機”並搜索目標，在定位目標後進行攻擊。在2020年阿塞拜疆與亞美尼亞之間爆發的納卡沖突中，巡飛彈大量參戰，深刻影響戰局發展，引發各國的高度重視。目前，仍在進行的俄烏沖突中雙方也大量使用巡飛彈，美國向烏克蘭提供瞭“彈簧刀”、“鳳凰幽靈”等巡飛彈，俄羅斯則大量使用瞭“柳葉刀”、KUB-BLA等巡飛彈。已有大量視頻和照片證明這類武器造成瞭雙方人員和武器裝備的嚴重損失。
在各國現有的武庫中，許多遙控武器系統具有自主"模式"，因此隻能在短期內自主運行。而且這些武器在所執行的任務、攻擊目標的類型及其被使用的環境方面都極其受限。大部分現有系統還受到人類操作員的實時監控。
然而，隨著軍事科技的發展，未來的自主武器系統可能在確定攻擊目標時擁有更多的行動自由，行動時不受空間和時間的嚴格限制，並應對迅速變化的情況。
據美國軍事媒體Defense One此前報道，美國軍方對於利用人工智能，尤其是機器學習，來控制自主武器的興趣日漸濃厚。報道稱，機器學習軟件在數據方面“經驗頗豐”，能夠針對具體任務自行創建模型，並制定完成該任務的策略。此類軟件在某種程度上能夠自我編程。但通常這種模型是一個“黑匣子”，人類極難對其進行預測、理解和解釋，也難以測試機器學習系統以何種方式、在何種基礎上實現特定評估或決策。一些機器學習系統在使用期間還會繼續“學習”，亦即所謂的“積極”“在線”學習或“自學”，這就表示其任務模型會隨時間而發生變化。
ICRC：國際社會亟需加強討論
國際紅十字會 （ICRC） 早在2015年時已經指出，目前科技發展的速度以及武器系統自主性方面的軍事興趣使國際社會迫切需要考量此類武器的法律和道德影響。
近日，ICRC於7月24日也在其網站上刊發文章認為，自主武器系統的運作過程可能會為受武裝沖突影響之人（無論是平民還是戰鬥員）帶來傷害，而且具有導致沖突升級的危險。它還會對遵守國際人道法等國際法規則、特別是保護平民的敵對行動規則等，提出挑戰。另外，用傳感器、軟件和機器程序取代瞭人類對生死的決定，將引發人類的根本道德關切。
因此，圍繞人工智能軍事用途的對話需要將日內瓦四公約及其附加議定書中規定的國際人道法原則納入其中。國際社會應采取以人為本的方式來處理在受沖突影響地區使用人工智能的問題。需要設立防護性措施，以幫助加強現有保護措施並減少其他風險。
目前，國際社會對於致命性自主武器系統的討論集中在其是否能夠清晰區分戰鬥人員與非戰鬥人員，以及它是否會模糊化擊殺行為的行為主體等幾個問題上。已有一些非政府組織或遊說組織，如“阻止殺手機器人運動”等，主張國際社會完全禁止致命性自主武器系統。不同的意見則認為可以加強國際法和國內法方面的監管。
根據英國《衛報》此前報道，在2019年的一次相關會議上，不少來自發展中國傢的的代表贊成完全禁止致命性自主武器系統或施以嚴格的監管措施，但英國、美國、俄羅斯、澳大利亞和以色列對此表示反對。英國的理由是，目前英軍尚未裝備完全自主的武器系統，相關討論也不充分，因此不贊成過早實施“預防性禁止”。
發表評論 取消回复