近年來,以無人機為代表的智能武器系統獲得了長足的發展,日漸成為戰場上一支不可忽視的重要力量。但隨著無人化兵器數量的增多和人工智能技術應用的不斷深入,相關的倫理和法律問題也隨之而來。我們究竟應該如何面對這種變化,自主武器系統會否造成災難,機器的失誤又應該由誰來埋單?今年年初,一架如同普通民航客機大小的無人飛機從美國加利福尼亞州沙漠中悄然躍起,迅速消失在天際。這款名為“全球觀察者”的無人偵察機是全球最大無人機生產商美國航空環境公司研發的最新產品。其最大飛行高度可達19800米,超過目前大部分防空導彈的觀測范圍和射程;偵察范圍高達72.5萬平方公里,能輕松獲得整個阿富汗全境圖像;一次飛行留空時間可長達一周,能直接充當部隊間的通訊中轉站,功能足以媲美衛星。
雖然有消息稱,4月該機在美國加利福尼亞州的愛德華茲空軍基地發生墜毀,但卻絲毫沒有動搖美國推進無人化兵器和機器人武器的步伐。據報道,目前被美軍列入研制計劃的智能化軍用機器人已超過100種,到2015年前后,無人化兵器在其作戰平臺中的比例將達到三分之一。英國、法國、俄羅斯等主要發達國家也有類似的計劃,項目總數也有數十種之多。隨著信息化技術和人工智能技術的發展,武器系統的無人化和智能化已形成一種趨勢。
“機器戰士”的崛起
“長眼睛”的殺戮武器
——“密集陣”系統與自動機槍
由美國研發的“密集陣”系統(Phalanx system)和以色列研發的機槍塔(IDF)便是初級智能武器系統的代表。
目前“密集陣”近防系統已成為包括美國在內的多國海軍艦載防御系統的重要組成部分之一,它能夠實現自動搜索、探測、評估、跟蹤、鎖定和攻擊威脅目標(如反艦導彈、水面水雷、小型飛行器等)。而以色列的機槍塔則曾部署在與巴勒斯坦交界的加沙地帶,這種自動機槍可以在無人值守的情況下自動識別目標并開火。據稱韓國2009年也公布了類似的自動武器,能夠在3公里開外偵測人形物體,并完成自動瞄準和射擊。
但這樣的自動射擊武器還算不上足夠智能。一名以色列指揮官在接受美國《防務新聞》雜志采訪時表示,這種機槍的部署仍處于最初階段,是否開火仍需操作人員下達命令。
六輪式無人戰車——“粉碎者”
相對于上面的幾種自動火器,下面要介紹的戰車則要先進的多。由美國陸軍與國防部高級研究計劃局出資,卡耐基梅隆大學機器人研究所負責研制的這種六輪式無人戰車用時5年,耗資3500萬美元。你也可以將其看作是一種輪式機器人,它能夠自己選擇穿過戰場的道路。這種名為“粉碎者”的戰車重約6噸,每個輪子中都安裝有電動機,采用混合動力系統。在靠電池動力執行任務時,車輛悄無聲息,不易暴露。其最新的原型,被稱為自行行動平臺(APD),載重高達9噸,最高時速可達80公里每小時。
APD能夠自行運動的關鍵在于一種自我導航的裝置。首先,它會從服務器中下載一個諸如谷歌地圖那樣的衛星地圖作為基本參照。啟動之后,它所具備的3D攝像機會立即建立周圍環境的三維圖像,從而可以計劃出一條更為詳細的線路,以繞開障礙物。而對于附近的地形,車廂會通過激光精確測試,從而對路線進行微量調整。其有效荷載主要包括偵查系統和武器系統。可深入到不便人類前去的危險地帶。
美國APD技術主要研發人員,迪米·阿波斯托洛斯說:“這聽起來可能會比較奇怪,但是我們相信機器人技術將改變整個戰爭形態,這點毫無疑問,將有無數的人因此遠離艱苦的戰場環境。并且我認為這對戰爭雙方都是好事情。”
四足全地形機器人——“大狗”
“大狗”——顧名思義,是一個從外形上看起來與一只大型犬類似的機器人。這項研究同樣是由美國國防部高級研究計劃局資助的,而負責研制的則是波士頓動力學工程公司。
與“粉碎者”不同,“大狗”主要靠四肢移動和行走。其四條腿完全模仿動物的四肢設計,內部安裝有傳感器和特制的減震裝置,能夠讓其自動保持平衡。機器人的長度為1米,高70厘米,重量為75千克,動力來自一部帶有液壓系統的汽油發動機。“大狗”的內部還安裝有一臺計算機,可根據環境的變化不斷調整行進姿態,操作人員也能夠實時地跟蹤“大狗”的位置并監測其系統狀況。
該機器人的行進速度可達到7千米/小時,能夠攀越35度的斜坡,可攜帶重量超過150公斤的武器或其他物資。它即可以自行沿著預先設定的簡單路線行進,也可以進行遠程控制。
“大狗”特殊的體形和行進方式,能使其在戰場上發揮重要的作用:在交通不便的地區為士兵運送彈藥、食物和其他物品;它不但能夠行走和奔跑,而且還可跨越一定高度的障礙物。研究人員形容它能夠“像只無頭山羊一樣在崎嶇的山路上一路小跑”。
速度超過人類的奔跑機器——“非洲獵豹”
這款名為“非洲獵豹”的機器人普遍被認為是“大狗”的升級版。據英國《每日郵報》報道,由波士頓動力學工程公司為美國軍方研制的這款專門以奔跑為目的的機器人,奔跑時候的時速可達113公里。這種四足機器人擁有靈活的頸椎和頭部,能夠完成疾速奔跑、急轉彎、折返跑等動作,能適應各種復雜地形的作業。和“大狗”一樣它同樣能夠在戰場上承擔為士兵運送彈藥、食物和其他物品的任務。研究人員稱,其最初的模型將在20個月內問世,奔跑速度將超過人類。
能“自作主張”的智能武器
對于空戰中的飛行員來說,如正面遭遇敵機,無需任何思考最明智的舉措就是發起攻擊。但是2002年12月,一架美國“掠食者”無人機在成功瞄準一架伊拉克的米格戰斗機時卻沒有任何反應,最終被對方擊中,墜落在了伊拉克南部的沙漠里。這一事件已被認為是無人機(UVA)與傳統載人戰斗機空戰的一個典型案例。那么“掠食者”無人機為什么會“愣神”呢?原來,美英的無人機大都由數千公里之外,遠在本土的地面控制人員遙控。信號由地球這一端傳到另一端時往往都存在信號延遲的問題。這個時間一般有四分之一秒甚至更長。這意味著在那個瞬間,避開導彈幾乎是完全不可能的,除非無人機自己做出判斷。無人機外,其他遙控類無人武器其實也存在著類似的情況。
這就為研究人員提出了一個問題——為什么不讓機器人自己照顧自己?
上面提到的幾種武器系統和機器人雖然都是智能化、自動化系統,但仍然不能滿足這個要求,算不上自治系統。它們就如同自動售賣機一樣:只有在你投幣并按下選擇按鈕后,機器才會送出相應的飲料。“密集陣”系統和自動機槍也是類似的,當雷達或是其他探測器上出現制定的目標時就會激活系統,之后實現自動瞄準射擊。
自治系統則是另一個概念,這種系統能夠執行更為復雜的任務,能夠從數以千計的環境信息中識別出自己需要的信息。它的輸入狀態是近似于無限的,而最終結果由特定的計算機程序做出。有科學家認為這幾乎與人類做決定程序沒有什么區別。
而在目前的智能機器人和武器系統中,真正能擔此重任的似乎只有英國研制的下一代無人機Taranis。由于嚴格的保密措施,其具體實現方式目前還不得而知。但從早先公布的消息中,我們能夠知道的是它安裝有最新的隱形設備和高度自主的人工智能系統。
該無人機由BAE系統公司與勞斯萊斯公司和GE Aviation等公司聯合研制,前后共花了4年的時間。成本高達1.43億英鎊(2.33億美元)。該無人機無需地面指示也能自行運作,可深入敵方領土收集情報或投放各種彈藥,此外還能防衛自身受其他有人和無人敵機的攻擊。專家表示這款飛機的設計代表了世界科技的最前沿,以Taranis為原型的相關研究,將助推智能無人機系統更快的發展。曾在2005—2007年間擔任英國國防采購大臣的羅德·雷森稱,Taranis“幾乎不需要操作人員輸入指令”。
Taranis只是一個大型自我防衛系統的一個例子:這些武器可以不依賴任何來自人類的輸入而自行做出決定,這或許會完全改變目前的戰爭形勢。由于其高效率、低傷亡(甚至無人員傷亡)的特性,以英美為主要代表的發達國家正在大力對其進行發展。
但是在這些自制武器系統炫目的技術之后卻隱藏了巨大的倫理和法律問題。大部分的國家都受到戰爭法的約束,這些法規約束了戰爭中國家戰斗員的行動。在戰爭法的規章下,無人戰斗航空載具的研發引起了廣泛的問題,因無人戰斗航空載具一旦投入戰爭,沒有任何現有法律可向其所進行的攻擊追討責任,它們只按照程式行動,不是由人類直接操縱,在此問題上各國一直沒有共識。美國五角大樓還曾發表一份未來戰爭的報告認為,未來戰爭的“主角”將是具有人類思維水平的機器人部隊。
目前的消息是,英國皇家空軍裝備了5架“死神”無人機,并另外訂購了5架。而美軍則更為超前,五角大樓計劃進一步增加由“死神”和“捕食者”以及其他多用途無人機的數量,到2020年,這一機群的數量將從目前的300架增加到800架。此外,美軍還把阿富汗作為無人機的試驗場,用新式無人機來收集阿富汗鄰國的導彈試射數據,并同時測試新式無人機的作戰效能。
誰為機器的失誤埋單
美國聯軍司令部的戈登·詹森對軍事機器人有句名言:“它們不會饑餓,不會害怕,但會牢牢記住自己的使命。”
這句話很容易讓人聯想起1986年上映的電影《霹靂5號》中那位制造霹靂5號的科學家的話——“它不會感到恐懼,沒有歡樂,也不會傷心,它只按程序運行。”但在那部電影中,霹靂五號卻選擇了擅離職守。
如果在現實中,軍事機器人發生故障或出錯會怎樣?雖然現在的機器人距離科幻小說中所描述的復雜機器人還有很長一段的路要走,但軍方已經在考慮如何面對潛在的風險。
2010年6月,美國空軍首席科學家沃納·達姆發布了《“技術地平線”報告》,在該報告中,他表示擁有自治系統的無人飛行器在未來的空戰中作用已經顯現,但其必須經過驗證與確認(V&V認證)以確保其可靠性。自阿波羅計劃后,軍事系統的認證方法從未改變。這也就是達姆所說的“極限測試”。即需要對系統中每一個可能出現的極限狀態進行測試,直至獲得百分之百的確認。目前,美國一半以上現代戰斗機仍然需要通過軟件進行這樣的模擬測試。
不過當面對具有無限輸入可能的高度自治機器人時,V&V認證幾乎是不可能的。雖然借助先進的計算機模擬技術可以讓V&V認證更加容易,但最終無論如何也無法實現100%的認證。但為了將其投入使用,你又不得不讓其以99.99%或者更低的認證成績通過。這就為今后的事故問責埋下了伏筆。
系統工程師以及律師克里斯·埃利奧特說,如果一臺機器在執行任務的時候自行攻擊了一輛救護車而非坦克,這算誰的過錯,應該向誰興師問罪?
謝菲爾德大學人工智能教授諾埃爾·夏基說,目前的自主機器人還無法準確區分平民和戰斗人員,但這是國際法和國際人道主義的基石。他還強調,即便是具有人工智能的機器人,也會缺乏人類所擁有的一種微妙的判斷和拿捏能力——如何在獲得軍事優勢的前提下最大限度的避免平民傷亡。因為,即便是在戰爭中,不必要的殺戮也是可恥的。
據此,英國國防部的一位發言人稱,在可以預見的未來里,英國還是會保留經過適當訓練的操作人員直接參與無人機的操作任務。達姆相信,美國空軍也有著類似的看法,雖然在最新的無人機計劃中并沒有提及這一點。他說,其實并非人類一定要直接操控機器人,而是需要有人參與進來對整個任務過程進行監控,并在關鍵時刻保留決定權。因為,隨著AI(人工智能)技術的發展,甚至可以將一定的戰斗決定權交給機器人而無需人類的輸入。至于是否授權采用致命打擊則取決于政治或軍事領導人對法律和倫理問題的理解。
美國海軍研究辦公室2008年的一份文件也承認,在自治機器人上有倫理和法律障礙。這份文件中稱,“明智的做法”是為自主機器人編入至少與人類士兵一樣的倫理程序,雖然即使這樣“意外也有可能發生”。但這至少將其納入了法律范疇。這份報告還指出,或許某一天這些自主機器人也會和未成年兒童一樣被指派一位“法定監護人”。
紐約大學計算機學科學家羅布·亞歷山大則表達了不同的看法,他說:“這一步或許有些太遠。一臺機器無論如何也無法承擔法律或道德責任,在可以預見的未來里都是如此,我們不是在談論電影《星際迷航》里面的機器人。這些責任必須由操作者或設計者來承擔。”
真正的風險仍在于人
除了智能機器人可能犯下的錯誤外,另外還需要注意到的一點是:這些高科技武器的出現和發展不但改變了現代戰爭的局面也提供了一種新的“低成本、低消耗”的戰爭方式。
英國謝菲爾德大學的人工智能與機器人技術教授諾伊爾·薩基說,這可能會降低戰爭的門檻。此前對戰爭發起者而言壓力最大,也是在抑制戰爭上非常重要的一個因素就是死亡人數,但在無需人員直接前往前線的機器人戰爭中,這一切將變的不再重要。
進入二十一世紀以來,當無人機的機腹被掛上導彈和其他武器后,無人機的主要任務也由偵查轉向了攻擊。這讓發動戰爭變的更加容易,因為相對于昂貴的載人戰斗機,無人機有效而且相對便宜。有機構統計顯示,有關無人機的國防支出已經成為世界航空工業最有活力的部分。根據2011的市場研究估計,未來十年內全球有關無人機的支出或將實現翻番,達到940億美元。南加州大學法學院教授瑪麗·杜齊亞克稱,無人機計劃在技術層面上,使美國人不愿尋求和平解決方法,而更易沉迷于戰爭,并最終陷入無盡的戰爭漩渦之中。對于其他無人化武器系統而言,上述兩點同樣適用。
英國杜倫大學人類地理學專家史蒂芬·格雷厄姆在《被圍攻的城市:新軍事城市》一書中說,而真正的危險在于,自助式機器人將減少發動戰爭的政治成本,從而使其不再成為最后的手段。此外,說這些自主機器人將讓現代戰爭的戰場進一步由曠野轉移到城鎮,因為那里有更多的建筑可供藏身。
近年來,無人機計劃在美國的應用也證明了這一點。2008年美國時任總統布什秘密授權美國中央情局在巴基斯坦境內使用無人機捕殺恐怖嫌疑人。從而違反了1976年由福特總統簽署的美國情報部門不得從事暗殺活動的行政命令。此后,華盛頓有越來越多的政客傾向于支持無人機作戰,并宣稱與其派遣大量的軍隊前往阿富汗等熱點地區,還不如利用高科技手段、采用外科手術式定點清除基地首領及其盟友。奧巴馬上臺后,無人機在巴基斯坦的攻擊頻率變的越來越高,相對于2008年的25次,在奧巴馬上臺后的2009年襲擊次數增加了3倍,而死亡人數也從不足200人上升到700人。今年年初以來,美軍無人機就在巴基斯坦境內發動襲擊43次,打死400多人。而死亡者中只有不到2%的人能夠被有效證實為基地組織或相關團體的頭目,其余更多的只是小嘍啰和平民。
達姆說,即便如此自主系統在軍事領域還是具有很多迫在眉睫用途,在這些領域中它們比人類更仔細、更勤勞、也更精確。衛星就是一個很好的例子,具有自治程序的衛星能夠在無需人們監管的情況下自動尋找和識別目標,并將其圖像及時傳回地面。事實上,目前在軍事指揮系統中已經采用了很多具有自治因素的軟件系統,例如在組織和部署軍需品問題上。這樣的程序能夠完成不少繁重、又要求精度高的任務。隨著時間的推移和的技術的逐步完善,今后戰爭最初階段的戰術決策也有可能交由電腦程序控制。
不少人的自然反應或許是,這為科幻片中所描述的具有自主意識的機器人統治世界鋪平了道路。但這些人或許并沒有看到這一點:在這個世界里,最應該讓人擔心的應該是那些血肉之軀,而非這些金屬和回路。夏基說,總之我不認為我們會走上終結者式的世界,那些機器人被描寫的太過聰明了。