聯(lián)合國安理會(huì)最近的一份報(bào)告指出，2020年3月，一架土耳其STM公司生產(chǎn)的“卡古-2”軍用無人機(jī)，在被編程為不依靠操作員的情況下，在利比亞戰(zhàn)場上跟蹤并攻擊了正在撤退的“利比亞國民軍”，導(dǎo)致一人死亡。有報(bào)道稱，這可能創(chuàng)下了致命性自主武器在自主模式下攻擊人類的首個(gè)案例。在沒有接收到任何指令的情況下自主對人類發(fā)起襲擊，必將帶來戰(zhàn)爭倫理和作戰(zhàn)方式的雙重挑戰(zhàn)。事件曝光后，各國有識(shí)之士紛紛呼吁應(yīng)對致命性自主武器的發(fā)展和使用進(jìn)行限制。一個(gè)明顯的趨勢致命性自主武器擴(kuò)散到越來越多的國家，自主攻擊能力也在迅速提升具備自主攻擊能力的軍用無人機(jī)同無人戰(zhàn)車、哨兵機(jī)器人、無人艦艇一樣，都屬于致命性自主武器系統(tǒng)，俗稱“殺人機(jī)器人”。這些武器具有敵我識(shí)別、數(shù)據(jù)交換、指令交互、行動(dòng)協(xié)調(diào)等功能和全天候作戰(zhàn)能力，能根據(jù)實(shí)際戰(zhàn)場環(huán)境和態(tài)勢變化，實(shí)施自主化、無人化作戰(zhàn)行動(dòng)。作為新型作戰(zhàn)力量的代表，致命性自主武器受到越來越多國家的重視。近年來，俄羅斯相繼成立了國防部機(jī)器人技術(shù)裝備科學(xué)研究與試驗(yàn)總中心、無人機(jī)國家中心和陸軍機(jī)器人研發(fā)中心等機(jī)構(gòu)，大力發(fā)展致命性自主武器。“奧蘭-10”無人機(jī)、“波塞冬”核動(dòng)力洲際無人潛航器、“平臺(tái)-M”履帶式機(jī)器人等裝備陸續(xù)亮相。預(yù)計(jì)到2025年，無人武器在俄裝備體系結(jié)構(gòu)中的比例將達(dá)到30%。美國也發(fā)布了數(shù)份《無人系統(tǒng)綜合路線圖》，對未來無人武器發(fā)展作出長遠(yuǎn)規(guī)劃。美軍計(jì)劃到2030年，將其60%的地面作戰(zhàn)平臺(tái)實(shí)現(xiàn)智能化。此外，法國、日本、英國、土耳其、伊朗、韓國等國也加大了對致命性自主武器的研發(fā)和采購力度。與此同時(shí)，得益于人工智能、態(tài)勢感知、人機(jī)交互等技術(shù)的不斷進(jìn)步，近年來致命性自主武器的智能化水平也得到飛速發(fā)展。早在2000年，美空軍研究實(shí)驗(yàn)室就提出了無人機(jī)自主能力的等級劃分標(biāo)準(zhǔn)，用來衡量無人機(jī)自主水平?！翱ü?2”無人機(jī)屬于微型戰(zhàn)術(shù)多旋翼攻擊無人機(jī)，能按照預(yù)設(shè)航跡飛行，還能以20架組成一個(gè)機(jī)群壓制敵防空系統(tǒng)，搭載的自主目標(biāo)識(shí)別系統(tǒng)可以自主定位、跟蹤和識(shí)別人員、車輛等地面移動(dòng)目標(biāo)，進(jìn)行持續(xù)監(jiān)視或發(fā)動(dòng)攻擊。按照該標(biāo)準(zhǔn)，“卡古-2”無人機(jī)自主能力等級達(dá)到5級以上。美軍正在實(shí)施“空戰(zhàn)進(jìn)化”“空天博格人”等一系列提升無人機(jī)自主作戰(zhàn)能力的研發(fā)項(xiàng)目。美國防部高級研究計(jì)劃局主導(dǎo)的“拒止環(huán)境下的協(xié)同作戰(zhàn)”項(xiàng)目，2018年至今利用“復(fù)仇者”“幽靈”“虎鯊”等不同無人機(jī)開展了多次試飛演示，探索和深化分布式空戰(zhàn)無人機(jī)的自主和協(xié)同技術(shù)，驗(yàn)證的無人機(jī)自主能力等級已達(dá)到8級以上。一組對立的矛盾自主作戰(zhàn)能力的提升能減少己方傷亡和附帶損傷，也帶來相應(yīng)風(fēng)險(xiǎn)通過人工智能等技術(shù)的應(yīng)用提高智能化水平和自主能力，一直是致命性自主武器的發(fā)展方向。一是可以提高目標(biāo)判斷的準(zhǔn)確性和打擊精度，減少平民傷亡和其他附帶損傷；二是隨著自主能力的提升，其可以更多地替代人類執(zhí)行高難度和高風(fēng)險(xiǎn)任務(wù)，最大限度地避免己方人員傷亡；三是采用自主識(shí)別和智能分析等技術(shù)，可以避免由于控制者精神不集中、目標(biāo)誤判等人為失誤引起的誤傷。然而，硬幣都有兩面，致命性自主武器智能化水平的提升也帶來了相應(yīng)的風(fēng)險(xiǎn)。其一，隨著人工智能技術(shù)的發(fā)展和擴(kuò)散，致命性自主武器得以廉價(jià)批量生產(chǎn)，極易被恐怖武裝或極端分子獲得，或被相關(guān)國家大規(guī)模裝備使用，從而引發(fā)新的沖突和軍備競爭。目前，無人機(jī)已經(jīng)擴(kuò)散至包括極端組織“伊斯蘭國”在內(nèi)的多個(gè)武裝組織。敘利亞恐怖分子也曾多次使用無人機(jī)襲擊敘利亞政府軍和俄羅斯駐敘軍事設(shè)施。其二，由于控制者遠(yuǎn)離戰(zhàn)場，其對軍事打擊的后果變得更為“麻木”。隨著越來越多的致命性自主武器出現(xiàn)在武裝沖突一線，人類或?qū)⒈纫酝菀走~過戰(zhàn)爭的門檻。其三，由于戰(zhàn)場態(tài)勢復(fù)雜或程序紕漏，致命性自主武器脫離人類控制后，很難完全避免誤傷已經(jīng)喪失戰(zhàn)斗力的傷員和準(zhǔn)備投降的士兵，遵守相關(guān)國際法變得越發(fā)困難。這些問題的出現(xiàn)，以及由之引發(fā)的道德和倫理問題，使得越來越多的人開始探討如何從道德、條約、法律等不同層面規(guī)制致命性自主武器的發(fā)展和使用。一種理性的聲音人類必須保留“喊停”的權(quán)力，必須通過國際法防止“潘多拉魔盒”打開此次“卡古-2”無人機(jī)自主攻擊事件，折射出國際社會(huì)采取行動(dòng)有效控制致命性自主武器的緊迫性，必須對具有自主決策能力的無人武器發(fā)展和使用進(jìn)行約束。在相關(guān)領(lǐng)域?qū)＜铱磥?，致命性自主武器在沒有人的干預(yù)下自動(dòng)選擇和攻擊目標(biāo)，意味著將剝奪鮮活的自然人生命的權(quán)利交給了冷酷無情的機(jī)器人。這既是“道義責(zé)任的缺失”，也對國際人道法和國際和平與安全提出了嚴(yán)峻的挑戰(zhàn)，是人類“無法承受之重”，必須通過國際法的規(guī)制捂緊這個(gè)“潘多拉魔盒”。中國在安理會(huì)常任理事國中首倡在聯(lián)合國《特定常規(guī)武器公約》框架下締結(jié)具有法律拘束力的國際協(xié)議來規(guī)制致命性自主武器。歐盟擬通過制定文件來避免自主武器對人類的傷害，其發(fā)布的《可信任人工智能道德準(zhǔn)則》是首個(gè)否定致命性自主武器合理性和合法性的區(qū)域性國際法文書，提出人工智能不能侵犯人類的自主性。2014年起，聯(lián)合國《特定常規(guī)武器公約》締約國根據(jù)會(huì)談機(jī)制，專門以致命性自主武器系統(tǒng)的軍備控制為議題，召開多次非正式專家會(huì)議和正式政府專家組會(huì)議。聯(lián)合國人權(quán)理事會(huì)也成立專門委員會(huì)討論是否應(yīng)凍結(jié)“殺人機(jī)器人”研發(fā)。2018年在瑞典斯德哥爾摩舉行的國際人工智能聯(lián)合會(huì)議上，2400多名人工智能領(lǐng)域?qū)W者共同簽署《禁止致命性自主武器宣言》。受戰(zhàn)爭倫理制約，開火權(quán)不可能完全交由致命性自主武器，最多只是在特殊情況下部分地、有條件地放權(quán)。這種放權(quán)改變的只是人類參與戰(zhàn)爭的方式，只是將傳統(tǒng)由有人武器完成的作戰(zhàn)任務(wù)交由無人武器執(zhí)行，人由前臺(tái)退居幕后，在后方起著控制或監(jiān)控作用。因此，即使未來致命性自主武器具備了完全自主決策、完全自主行動(dòng)的能力，人仍然需要對其遂行任務(wù)情況實(shí)時(shí)進(jìn)行監(jiān)督，并在必要的情況下隨時(shí)進(jìn)行干預(yù)。不管是為了戰(zhàn)局還是為了人類自身，人類都必須保留在關(guān)鍵時(shí)刻對致命性自主武器“喊?！钡臋?quán)力。企業(yè)簡介吉林龍航無人機(jī)科技服務(wù)有限公司，成立于2016年2月，公司是一家以無人機(jī)研發(fā)生產(chǎn)、民用無人機(jī)駕駛員培訓(xùn)、無人機(jī)行業(yè)應(yīng)用服務(wù)、青少年航空科普教育為主營業(yè)務(wù)的《國家級高新技術(shù)企業(yè)》，現(xiàn)在長春和沈陽擁有超過100萬平米專用無人機(jī)飛行空域、2000平米無人機(jī)實(shí)訓(xùn)教室、獨(dú)立的無人機(jī)運(yùn)營中心和無人機(jī)技術(shù)服務(wù)中心，超過100架的各類型無人機(jī)，可滿足各行業(yè)的無人機(jī)培訓(xùn)及應(yīng)用需求。公司始終秉持“專注務(wù)實(shí)、拼搏進(jìn)取、誠信共贏”的經(jīng)營理念，一直致力于為各行業(yè)培養(yǎng)優(yōu)秀的無人機(jī)技術(shù)人才及提供優(yōu)質(zhì)的無人機(jī)解決方案，現(xiàn)累計(jì)培訓(xùn)人數(shù)超過2000人，服務(wù)行業(yè)涉及公安、應(yīng)急、消防、交通、電力、水利、氣象、環(huán)保等領(lǐng)域，現(xiàn)合作單位包括：吉林省公安廳、吉林省消防救援總隊(duì)、吉林省交通廳、吉林省水利科學(xué)研究院、國網(wǎng)吉林省電力有限公司等100余家，合作院校包括：吉林科技職業(yè)技術(shù)學(xué)院、吉林省東北亞教育集團(tuán)有限責(zé)任公司、吉林水利電力職業(yè)學(xué)院、吉林省勞動(dòng)技術(shù)學(xué)校、遼源職業(yè)技術(shù)學(xué)院等20余所。 未來我們將繼續(xù)努力，不斷研發(fā)滿足各行業(yè)需求的無人機(jī)產(chǎn)品、創(chuàng)新無人機(jī)服務(wù)、培養(yǎng)更多的無人機(jī)專業(yè)技術(shù)人才，堅(jiān)持新發(fā)展理念，為加快推進(jìn)新時(shí)代吉林全面振興、全方位振興貢獻(xiàn)我們的專業(yè)力量。吉林省無人機(jī)實(shí)訓(xùn)基地：長春市卡倫經(jīng)濟(jì)開發(fā)區(qū)老街3555號吉林省無人機(jī)運(yùn)營中心：長春市凈月區(qū)阿里云創(chuàng)新中心1401室 吉林省無人機(jī)技術(shù)服務(wù)中心：長春市北湖經(jīng)濟(jì)開發(fā)區(qū)盛北大街3222號遼寧省無人機(jī)培訓(xùn)基地：遼寧省沈陽市法庫通用航空產(chǎn)業(yè)基地。編輯：周佳慧審核：周   爽掃碼關(guān)注我們