《流浪地球》影片中，劉培強和空間站人工智能——MOSS之間有一番較量。最終，劉培強取得勝利，用自己的生命和空間站燃料點燃了木星。憑借爆炸產(chǎn)生的沖擊波，地球再次踏上流浪的漫漫征程。
回頭細想不禁心頭一驚：如果MOSS中止了劉培強所有行動權限呢？劉培強還能取得勝利，還能有地球的繼續(xù)流浪嗎？確切點說，影片中“有人類的文明”能繼續(xù)存在，恰恰是因為MOSS沒有獲得完全控制權限。
由此聯(lián)想到，對智能化武器系統(tǒng)來說，有“限”倚重，也許是打開它們的正確方式。
當前，世界主要軍事大國都在不斷研發(fā)挖掘智能化武器系統(tǒng)潛力。
一是發(fā)展“人機協(xié)同”式智能指控系統(tǒng)，即通過智能化武器裝備與人的充分配合來完成作戰(zhàn)任務。比如俄羅斯陸軍在2016年底進行的“排級分隊帶機器人實彈射擊”演練，美軍F-35戰(zhàn)機飛行員對無人駕駛型F-16戰(zhàn)機進行指揮與控制，等等。
二是研發(fā)“機器自主”式智能指控系統(tǒng)，即由智能化武器系統(tǒng)自主領會指揮員決策意圖，自主完成相關作戰(zhàn)任務。如俄軍正在研發(fā)的無人機群“任務智能分配系統(tǒng)”。它可以根據(jù)戰(zhàn)場環(huán)境來合理分配無人機“角色”，制定并實施最優(yōu)行動方案，自主完成“行動-評估-再行動”作戰(zhàn)閉環(huán)。
從實際效果來看，這兩種方式都能大幅度提升軍隊的戰(zhàn)斗力。但與此同時，這些舉措，也在客觀上把武器使用和生殺予奪的權力分發(fā)給智能化武器系統(tǒng)，使人類不同程度地處于危險境地。畢竟，由于目前人工智能技術的發(fā)展局限，智能化武器系統(tǒng)有可能在執(zhí)行復雜程序過程中出現(xiàn)失序。比如，美軍在伊拉克戰(zhàn)場上，就出現(xiàn)過軍用機器人失控事件。
再者，即使人工智能發(fā)展到更高水平，實際情況同樣難以預測。一旦雷·庫茲韋爾曾經(jīng)提出的“技術奇點”理論成為現(xiàn)實，人工智能的復雜度達到和人類一個量級水平，類人智能或超人智能就會從機器中自動涌現(xiàn)出來。那時，就難以斷言電影《機械公敵》和《西部世界》中出現(xiàn)的機器人反叛并傷害人類場景不會出現(xiàn)。
從這個角度來講，無論是“人機協(xié)同”式智能化武器系統(tǒng)還是“機器自主”式智能化武器系統(tǒng)，也許“有‘限’倚重”才是其正確打開的方式。這種有“限”不是反對智能化武器的發(fā)展，而是在其快速發(fā)展的同時，設定安全可控的底線，始終將人置于主體地位，并建立預警機制與意外應急處置機制，保證人類指揮員對系統(tǒng)的控制權。
科幻作家艾薩克·阿西莫夫曾說：“在我們這些真正無所不知的人眼中，那些自以為無所不知的人就是一個巨大的麻煩。”
人工智能向何處去？智能化武器系統(tǒng)往何處去？這考驗著人類的智慧。
（作者單位：國防科技大學）