新華社北京4月15日電　新聞分析丨AI模型“克勞德神話”為何引發(fā)網(wǎng)絡(luò)安全擔(dān)憂

  新華社記者林昊　馮玉婧

  美國人工智能（AI）企業(yè)Anthropic日前披露，該公司研發(fā)的最新大模型“克勞德神話（Claude Mythos）”能夠自主識別主流軟件系統(tǒng)中大量此前未被發(fā)現(xiàn)的安全漏洞，并能開發(fā)出相應(yīng)攻擊手段。

  這一情況在美英等國金融界和科技界引發(fā)高度關(guān)注與隱憂。國際貨幣基金組織總裁格奧爾基耶娃12日警告說，全球貨幣體系尚未做好應(yīng)對AI風(fēng)險快速升級的準(zhǔn)備。美英監(jiān)管機構(gòu)緊急召集多家大型銀行代表提示相關(guān)風(fēng)險。與此同時，美國多家主流科技企業(yè)正在聯(lián)合測試該模型，以應(yīng)對潛在風(fēng)險。

  識別和利用漏洞能力極強

  據(jù)了解，“克勞德神話”號稱在發(fā)現(xiàn)軟件漏洞方面展現(xiàn)出極強能力，已識別出包括主流操作系統(tǒng)和網(wǎng)絡(luò)瀏覽器在內(nèi)的常用軟件程序中的“數(shù)千個”漏洞，其中一些漏洞相當(dāng)隱蔽，難以被常規(guī)手段檢測到，且這些漏洞絕大多數(shù)尚未修復(fù)。它發(fā)現(xiàn)的最早一個漏洞可追溯至27年前，另外一個在視頻處理工具中發(fā)現(xiàn)的漏洞，即便在自動化測試工具運行了500萬次后，仍未被檢測出來。

  Anthropic自稱，“克勞德神話”是一款通用模型，并非專門針對網(wǎng)絡(luò)安全訓(xùn)練，但其強大的自主編碼和推理能力，使其具備發(fā)現(xiàn)網(wǎng)絡(luò)安全漏洞的突出能力。在沒有人工指導(dǎo)的情況下，它能夠“完全自主地識別漏洞，并開發(fā)出許多相關(guān)攻擊手段”。

  但該公司也承認(rèn)，這種能強化網(wǎng)絡(luò)防御的能力，同樣可能被攻擊者利用。測試顯示，“克勞德神話”能夠構(gòu)建復(fù)雜的漏洞利用鏈，實施可繞過多層安全防護的多步攻擊，甚至自主實現(xiàn)了權(quán)限提升技術(shù)?！拌b于人工智能技術(shù)的發(fā)展速度，這種能力或?qū)⒀杆贁U散，甚至可能落入并非致力于安全應(yīng)用的主體手中。這對經(jīng)濟、公共安全和國家安全都可能造成嚴(yán)重后果。”

  據(jù)多家外媒報道，Anthropic在發(fā)布“克勞德神話”前，已主動向美國政府及金融等關(guān)鍵行業(yè)利益相關(guān)方通報了該模型的相關(guān)能力。

  潛在風(fēng)險引發(fā)金融界擔(dān)憂

  “克勞德神話”的潛在風(fēng)險已經(jīng)至少在美國、英國和加拿大引發(fā)金融界高度關(guān)注。格奧爾基耶娃12日在接受美國哥倫比亞廣播公司一檔節(jié)目采訪時表示，目前全球尚不具備足夠能力保護國際貨幣體系免受大規(guī)模網(wǎng)絡(luò)風(fēng)險沖擊，“我們迫切希望各方更加重視在AI時代維護金融穩(wěn)定所必需的監(jiān)管防線”。她呼吁就此展開全球合作。

  據(jù)外媒報道，美國財政部長貝森特和美聯(lián)儲主席鮑威爾7日緊急召集花旗集團、摩根士丹利、美國銀行、富國銀行和高盛等美國主要金融機構(gòu)負(fù)責(zé)人開會，通報了這款新模型可能帶來的網(wǎng)絡(luò)安全風(fēng)險，以確保銀行業(yè)充分認(rèn)識到“克勞德神話”及同類模型帶來的威脅，并采取措施保護自身系統(tǒng)。

  英國央行、英國金融行為監(jiān)管局和英國財政部等也正在與英國國家網(wǎng)絡(luò)安全中心以及各大銀行、保險公司和交易所的代表進行緊急磋商，以評估“克勞德神話”所帶來的網(wǎng)絡(luò)安全風(fēng)險。英國監(jiān)管機構(gòu)預(yù)計將在未來兩周內(nèi)向金融行業(yè)通報相關(guān)情況。

  Anthropic表示，考慮到“克勞德神話”的潛在風(fēng)險，暫時不會面向公眾發(fā)布這款大模型，并啟動名為“Glasswing”的合作項目，向微軟、亞馬遜、谷歌、蘋果、思科等40多家科技企業(yè)、金融機構(gòu)以及基礎(chǔ)設(shè)施服務(wù)商開放了“克勞德神話”預(yù)覽版本的訪問權(quán)限，使它們能夠?qū)δＰ瓦M行測試，實現(xiàn)“提前防御”。

  “Glasswing”項目的參與方將共享各自利用“克勞德神話”發(fā)現(xiàn)的漏洞信息，分析自身系統(tǒng)、識別高風(fēng)險漏洞并加快修復(fù)。同時，“克勞德神話”的訪問權(quán)限受到嚴(yán)格限制，以防有人利用這一模型尋找系統(tǒng)漏洞并發(fā)起攻擊。

  AI正重塑網(wǎng)絡(luò)安全攻防格局

  美國業(yè)內(nèi)人士及媒體普遍認(rèn)為，AI正在從根本上改變網(wǎng)絡(luò)安全攻防格局。

  思科公司首席安全與信任官格里科認(rèn)為，AI能力已經(jīng)跨過一個門檻，從根本上改變了保護關(guān)鍵基礎(chǔ)設(shè)施免受網(wǎng)絡(luò)威脅所需的緊迫程度，必須通過多方合作加以應(yīng)對。美國“眾擊”網(wǎng)絡(luò)安全服務(wù)公司首席技術(shù)官扎伊采夫說，AI使漏洞從被發(fā)現(xiàn)到被對手利用之間的時間窗口大幅壓縮，過去可能需要數(shù)月的過程，如今可能幾分鐘內(nèi)就會發(fā)生。

  美國阿克西奧斯新聞網(wǎng)站的報道指出，美國開放人工智能研究中心（OpenAI）也計劃向少數(shù)合作伙伴發(fā)布一款“具有先進網(wǎng)絡(luò)安全功能的產(chǎn)品”。報道說，AI的網(wǎng)絡(luò)攻擊能力達(dá)到新的臨界點，模型開發(fā)者越來越擔(dān)心可能帶來的破壞性后果，因此不愿直接公開發(fā)布。

  美國微軟公司前首席研究與戰(zhàn)略官克雷格·蒙迪指出，過去只有大國、大企業(yè)和大型犯罪組織才能掌握的復(fù)雜網(wǎng)絡(luò)攻擊能力，未來可能會“徹底普及”。美國作家托馬斯·弗里德曼認(rèn)為，世界上沒有一個國家能夠獨自解決這個問題。相關(guān)國家當(dāng)務(wù)之急是著手開展合作，以防不法分子獲得這種更高層次的網(wǎng)絡(luò)能力。