隨著人工智能技術(shù)飛速發(fā)展，其軍事化應(yīng)用日益進(jìn)入大眾視野。在以色列空襲加沙和美以對(duì)伊朗的打擊中，人工智能均得到深度應(yīng)用。據(jù)報(bào)道，以色列使用“福音”“薰衣草”等AI系統(tǒng)識(shí)別和追蹤目標(biāo)；美軍使用Palantir的Maven系統(tǒng)和Anthropic的Claude模型分析情報(bào)、規(guī)劃打擊路徑。然而，在技術(shù)大幅提升戰(zhàn)爭(zhēng)效率的背后，深刻的倫理危機(jī)正在發(fā)酵。
任何復(fù)雜自動(dòng)化系統(tǒng)都存在出錯(cuò)概率，且無(wú)法降為零。過(guò)往數(shù)據(jù)難以覆蓋所有真實(shí)戰(zhàn)場(chǎng)場(chǎng)景，在復(fù)雜多變的戰(zhàn)場(chǎng)環(huán)境中，深度學(xué)習(xí)模型極易產(chǎn)生偏差。伊朗小學(xué)慘遭炸毀，百余人遇難，就令美軍所謂的精準(zhǔn)打擊徹底淪為謊言。
盡管美軍稱(chēng)人工智能僅提供分析和建議，但在人工智能海量、高速的決策循環(huán)中，人類(lèi)力量的局限日益凸顯。有報(bào)道稱(chēng)，在以色列對(duì)加沙的空襲中，雖設(shè)有人工核查環(huán)節(jié)，但因核查量大、人員疲勞，常淪為走過(guò)場(chǎng)。隨著系統(tǒng)進(jìn)一步進(jìn)化，人類(lèi)失去實(shí)質(zhì)性控制權(quán)的可能性也在增大。
但為搶占技術(shù)應(yīng)用先機(jī)，美軍正積極推動(dòng)人工智能軍事化應(yīng)用。今年1月，美國(guó)防部發(fā)布《人工智能加速戰(zhàn)略》，將人工智能打造為貫穿作戰(zhàn)、情報(bào)和管理三大核心領(lǐng)域的系統(tǒng)性基礎(chǔ)。
2月，美國(guó)防部與Anthropic公司的重大分歧曝光。Anthropic堅(jiān)持其Claude模型不能被用于大規(guī)模監(jiān)控和沒(méi)有人類(lèi)介入的全自主武器系統(tǒng)。但美國(guó)防部強(qiáng)硬要求“無(wú)限制訪(fǎng)問(wèn)權(quán)”，并將Anthropic列為“供應(yīng)鏈國(guó)家安全風(fēng)險(xiǎn)”以示懲罰。矛盾的實(shí)質(zhì)，是對(duì)人工智能軍事化應(yīng)用是否應(yīng)設(shè)“紅線(xiàn)”、如何設(shè)“紅線(xiàn)”的爭(zhēng)執(zhí)。
然而Anthropic的堅(jiān)持未能阻擋五角大樓的步伐。很快，OpenAI宣布與國(guó)防部達(dá)成協(xié)議，接受“一切合法用途”條款。谷歌和馬斯克旗下的人工智能公司xAI也與美國(guó)防部簽有合同，且未附加公開(kāi)限制條件。人工智能技術(shù)遭濫用的風(fēng)險(xiǎn)正史無(wú)前例地升高。
一旦打擊效率被置于戰(zhàn)爭(zhēng)倫理之前，傷亡風(fēng)險(xiǎn)被包裝為可接受的概率，失誤責(zé)任被推給數(shù)據(jù)和算法，人工智能技術(shù)將面臨制度化濫用，進(jìn)而加劇全球安全困境。
首先，技術(shù)的高效性會(huì)削弱解決沖突的審慎性，可能使武力從“最后手段”變?yōu)椤笆走x手段”。人工智能軍事化程度高的國(guó)家，可能因過(guò)度自信而草率發(fā)起攻擊。
其次，可能引發(fā)新的人工智能軍備競(jìng)賽。技術(shù)不透明將導(dǎo)致安全困境升級(jí)，各國(guó)可能不斷追求更優(yōu)算法、更強(qiáng)算力和更自主的決策鏈。
此外，技術(shù)濫用還可能動(dòng)搖核威懾體系的穩(wěn)定。一旦人工智能用于增強(qiáng)己方核打擊能力或削弱對(duì)方核威懾力，原有戰(zhàn)略穩(wěn)定就會(huì)遭到破壞。
中國(guó)政府高度重視人工智能軍事化應(yīng)用問(wèn)題。中國(guó)提出《全球人工智能治理倡議》，發(fā)布《中國(guó)關(guān)于規(guī)范人工智能軍事應(yīng)用的立場(chǎng)文件》，主張各國(guó)尤其是大國(guó)應(yīng)本著慎重負(fù)責(zé)的態(tài)度在軍事領(lǐng)域研發(fā)和使用人工智能技術(shù)。中方主張遵循“以人為本的軍事人工智能”理念，通過(guò)對(duì)話(huà)合作就如何規(guī)范人工智能軍事應(yīng)用尋求共識(shí)，既要引導(dǎo)軍事人工智能的正確發(fā)展方向，又要防范其毫無(wú)約束的發(fā)展。我們應(yīng)該明確技術(shù)應(yīng)用的道德和法律底線(xiàn)，加強(qiáng)國(guó)際安全和技術(shù)治理合作，堅(jiān)決反對(duì)技術(shù)濫用，保護(hù)人類(lèi)安全與福祉。
（作者是中國(guó)國(guó)際問(wèn)題研究院世界和平與安全研究所副所長(zhǎng)、副研究員）