《流浪地球》影片中，劉培強(qiáng)和空間站人工智能——MOSS之間有一番較量。最終，劉培強(qiáng)取得勝利，用自己的生命和空間站燃料點(diǎn)燃了木星。憑借爆炸產(chǎn)生的沖擊波，地球再次踏上流浪的漫漫征程。
回頭細(xì)想不禁心頭一驚：如果MOSS中止了劉培強(qiáng)所有行動(dòng)權(quán)限呢？劉培強(qiáng)還能取得勝利，還能有地球的繼續(xù)流浪嗎？確切點(diǎn)說(shuō)，影片中“有人類的文明”能繼續(xù)存在，恰恰是因?yàn)镸OSS沒有獲得完全控制權(quán)限。
由此聯(lián)想到，對(duì)智能化武器系統(tǒng)來(lái)說(shuō)，有“限”倚重，也許是打開它們的正確方式。
當(dāng)前，世界主要軍事大國(guó)都在不斷研發(fā)挖掘智能化武器系統(tǒng)潛力。
一是發(fā)展“人機(jī)協(xié)同”式智能指控系統(tǒng)，即通過智能化武器裝備與人的充分配合來(lái)完成作戰(zhàn)任務(wù)。比如俄羅斯陸軍在2016年底進(jìn)行的“排級(jí)分隊(duì)帶機(jī)器人實(shí)彈射擊”演練，美軍F-35戰(zhàn)機(jī)飛行員對(duì)無(wú)人駕駛型F-16戰(zhàn)機(jī)進(jìn)行指揮與控制，等等。
二是研發(fā)“機(jī)器自主”式智能指控系統(tǒng)，即由智能化武器系統(tǒng)自主領(lǐng)會(huì)指揮員決策意圖，自主完成相關(guān)作戰(zhàn)任務(wù)。如俄軍正在研發(fā)的無(wú)人機(jī)群“任務(wù)智能分配系統(tǒng)”。它可以根據(jù)戰(zhàn)場(chǎng)環(huán)境來(lái)合理分配無(wú)人機(jī)“角色”，制定并實(shí)施最優(yōu)行動(dòng)方案，自主完成“行動(dòng)-評(píng)估-再行動(dòng)”作戰(zhàn)閉環(huán)。
從實(shí)際效果來(lái)看，這兩種方式都能大幅度提升軍隊(duì)的戰(zhàn)斗力。但與此同時(shí)，這些舉措，也在客觀上把武器使用和生殺予奪的權(quán)力分發(fā)給智能化武器系統(tǒng)，使人類不同程度地處于危險(xiǎn)境地。畢竟，由于目前人工智能技術(shù)的發(fā)展局限，智能化武器系統(tǒng)有可能在執(zhí)行復(fù)雜程序過程中出現(xiàn)失序。比如，美軍在伊拉克戰(zhàn)場(chǎng)上，就出現(xiàn)過軍用機(jī)器人失控事件。
再者，即使人工智能發(fā)展到更高水平，實(shí)際情況同樣難以預(yù)測(cè)。一旦雷·庫(kù)茲韋爾曾經(jīng)提出的“技術(shù)奇點(diǎn)”理論成為現(xiàn)實(shí)，人工智能的復(fù)雜度達(dá)到和人類一個(gè)量級(jí)水平，類人智能或超人智能就會(huì)從機(jī)器中自動(dòng)涌現(xiàn)出來(lái)。那時(shí)，就難以斷言電影《機(jī)械公敵》和《西部世界》中出現(xiàn)的機(jī)器人反叛并傷害人類場(chǎng)景不會(huì)出現(xiàn)。
從這個(gè)角度來(lái)講，無(wú)論是“人機(jī)協(xié)同”式智能化武器系統(tǒng)還是“機(jī)器自主”式智能化武器系統(tǒng)，也許“有‘限’倚重”才是其正確打開的方式。這種有“限”不是反對(duì)智能化武器的發(fā)展，而是在其快速發(fā)展的同時(shí)，設(shè)定安全可控的底線，始終將人置于主體地位，并建立預(yù)警機(jī)制與意外應(yīng)急處置機(jī)制，保證人類指揮員對(duì)系統(tǒng)的控制權(quán)。
科幻作家艾薩克·阿西莫夫曾說(shuō)：“在我們這些真正無(wú)所不知的人眼中，那些自以為無(wú)所不知的人就是一個(gè)巨大的麻煩?！?/P>
人工智能向何處去？智能化武器系統(tǒng)往何處去？這考驗(yàn)著人類的智慧。
（作者單位：國(guó)防科技大學(xué)）