《流浪地球》影片中，劉培強(qiáng)和空間站人工智能——MOSS之間有一番較量。最終，劉培強(qiáng)取得勝利，用自己的生命和空間站燃料點(diǎn)燃了木星。憑借爆炸產(chǎn)生的沖擊波，地球再次踏上流浪的漫漫征程。
回頭細(xì)想不禁心頭一驚：如果MOSS中止了劉培強(qiáng)所有行動權(quán)限呢？劉培強(qiáng)還能取得勝利，還能有地球的繼續(xù)流浪嗎？確切點(diǎn)說，影片中“有人類的文明”能繼續(xù)存在，恰恰是因為MOSS沒有獲得完全控制權(quán)限。
由此聯(lián)想到，對智能化武器系統(tǒng)來說，有“限”倚重，也許是打開它們的正確方式。
當(dāng)前，世界主要軍事大國都在不斷研發(fā)挖掘智能化武器系統(tǒng)潛力。
一是發(fā)展“人機(jī)協(xié)同”式智能指控系統(tǒng)，即通過智能化武器裝備與人的充分配合來完成作戰(zhàn)任務(wù)。比如俄羅斯陸軍在2016年底進(jìn)行的“排級分隊帶機(jī)器人實彈射擊”演練，美軍F-35戰(zhàn)機(jī)飛行員對無人駕駛型F-16戰(zhàn)機(jī)進(jìn)行指揮與控制，等等。
二是研發(fā)“機(jī)器自主”式智能指控系統(tǒng)，即由智能化武器系統(tǒng)自主領(lǐng)會指揮員決策意圖，自主完成相關(guān)作戰(zhàn)任務(wù)。如俄軍正在研發(fā)的無人機(jī)群“任務(wù)智能分配系統(tǒng)”。它可以根據(jù)戰(zhàn)場環(huán)境來合理分配無人機(jī)“角色”，制定并實施最優(yōu)行動方案，自主完成“行動-評估-再行動”作戰(zhàn)閉環(huán)。
從實際效果來看，這兩種方式都能大幅度提升軍隊的戰(zhàn)斗力。但與此同時，這些舉措，也在客觀上把武器使用和生殺予奪的權(quán)力分發(fā)給智能化武器系統(tǒng)，使人類不同程度地處于危險境地。畢竟，由于目前人工智能技術(shù)的發(fā)展局限，智能化武器系統(tǒng)有可能在執(zhí)行復(fù)雜程序過程中出現(xiàn)失序。比如，美軍在伊拉克戰(zhàn)場上，就出現(xiàn)過軍用機(jī)器人失控事件。
再者，即使人工智能發(fā)展到更高水平，實際情況同樣難以預(yù)測。一旦雷·庫茲韋爾曾經(jīng)提出的“技術(shù)奇點(diǎn)”理論成為現(xiàn)實，人工智能的復(fù)雜度達(dá)到和人類一個量級水平，類人智能或超人智能就會從機(jī)器中自動涌現(xiàn)出來。那時，就難以斷言電影《機(jī)械公敵》和《西部世界》中出現(xiàn)的機(jī)器人反叛并傷害人類場景不會出現(xiàn)。
從這個角度來講，無論是“人機(jī)協(xié)同”式智能化武器系統(tǒng)還是“機(jī)器自主”式智能化武器系統(tǒng)，也許“有‘限’倚重”才是其正確打開的方式。這種有“限”不是反對智能化武器的發(fā)展，而是在其快速發(fā)展的同時，設(shè)定安全可控的底線，始終將人置于主體地位，并建立預(yù)警機(jī)制與意外應(yīng)急處置機(jī)制，保證人類指揮員對系統(tǒng)的控制權(quán)。
科幻作家艾薩克·阿西莫夫曾說：“在我們這些真正無所不知的人眼中，那些自以為無所不知的人就是一個巨大的麻煩。”
人工智能向何處去？智能化武器系統(tǒng)往何處去？這考驗著人類的智慧。
（作者單位：國防科技大學(xué)）