AI時(shí)代下的黑客攻擊會(huì)以一種系統(tǒng)設(shè)計(jì)者無法預(yù)料甚至難以想象的方式襲來，破壞整體系統(tǒng)或者沖擊其中的一組特定規(guī)則。

　　這將極大提高風(fēng)險(xiǎn)檢測的難度。即使及時(shí)發(fā)現(xiàn)，我們也很難理解黑客AI是怎樣展開攻勢的。

　　哈佛大學(xué)肯尼迪分校安全技術(shù)專家、研究員兼講師布魯斯·施奈爾（Bruce Schneier）表示，目前正如火如荼發(fā)展的人工智能技術(shù)既給全社會(huì)帶來巨大收益，也有可能引發(fā)新一輪安全沖擊。

　　在5月17日舉行的2021年RSA大會(huì)主題演講當(dāng)中，施奈爾重點(diǎn)介紹了AI風(fēng)險(xiǎn)議題。在施奈爾看來，AI時(shí)代下的黑客攻擊不再需要預(yù)先定義；相反，它會(huì)以一種系統(tǒng)設(shè)計(jì)者無法預(yù)料甚至難以想象的方式襲來，破壞整體系統(tǒng)或者沖擊其中的一組特定規(guī)則。

　　施奈爾解釋道，“一切規(guī)則系統(tǒng)都可能遭到入侵。無論我們在設(shè)計(jì)階段多么深思熟慮的規(guī)劃，任何規(guī)則集中都必然存在不完整性或不一致性，這就是設(shè)計(jì)者意想不到、或者無法明確定義的部分。而這些小小的缺口，終將被黑客所利用并引發(fā)系統(tǒng)的全面崩潰?！?/p>

　　黑客AI與可解釋性問題

　　施奈爾認(rèn)為，未來的黑客攻擊很可能會(huì)由某種形式的AI主動(dòng)發(fā)起，這將極大提高風(fēng)險(xiǎn)檢測的難度。而且即使及時(shí)發(fā)現(xiàn)，我們也很難理解黑客AI是怎樣展開攻勢的。

　　這里涉及的就是經(jīng)典的“可解釋性”問題，熱門科幻小說《銀河系漫游指南》中對(duì)此有過獨(dú)特的描述。在書中，一群超智能泛維生物打造出全宇宙最強(qiáng)大的計(jì)算機(jī)，并將其命名為“深思”（ Deep Thought），希望由它回答關(guān)于生命、宇宙以及萬物的終極問題。而計(jì)算機(jī)給出的答案是42。

　　施奈爾表示，“深思無法解釋這個(gè)答案，甚至無法解釋它是如何理解這個(gè)問題的，這就是典型的「可解釋性」問題?，F(xiàn)代AI的本質(zhì)是個(gè)暗箱：一頭輸入數(shù)據(jù)，一頭輸出答案。”

　　施奈爾指出，研究人員正在努力開發(fā)可解釋AI，但出于多個(gè)現(xiàn)實(shí)原因，他認(rèn)為短期之內(nèi)AI領(lǐng)域還實(shí)現(xiàn)不了實(shí)質(zhì)性的成果。在他看來，AI工作原理的可解釋性問題，根源在于如何以符合人類認(rèn)知、記憶與判斷習(xí)慣的形式表達(dá)數(shù)學(xué)計(jì)算。

　　他提到，“強(qiáng)迫AI做出人類可以理解的解釋，這本身就是給AI戴上了一副鐐銬，而且很可能影響到AI的決策質(zhì)量。當(dāng)然，在不久的未來，AI會(huì)變得越來越不透明、越來越難以解釋?！?/p>

　　雖然黑客AI仍只是科幻小說中的題材，但也確有可能出現(xiàn)在現(xiàn)實(shí)世界當(dāng)中。

　　Bruce Schneier

　　即將現(xiàn)身的AI黑客

　　目前，施奈爾倒是還沒看到AI在大規(guī)模黑客入侵活動(dòng)中得到成熟應(yīng)用。但無論如何，這種未來很可能出現(xiàn)，組織也必須提前為此做好準(zhǔn)備。

　　施奈爾提到，“雖然黑客AI仍只是科幻小說中的題材，但也確有可能出現(xiàn)在現(xiàn)實(shí)世界當(dāng)中?！?/p>

　　迄今為止，施奈爾觀察到的黑客攻擊仍然是由人為操縱，對(duì)于攻擊一方的專業(yè)知識(shí)、創(chuàng)造力、時(shí)間乃至運(yùn)氣都有很高的要求。但他警告稱，一旦AI系統(tǒng)獲得了執(zhí)行黑客攻擊的能力，其運(yùn)行速度與運(yùn)行規(guī)模都將遠(yuǎn)超人類的想象。

　　他強(qiáng)調(diào)，“隨著AI系統(tǒng)越來越強(qiáng)大，人類社會(huì)一定會(huì)把愈發(fā)重要的決策交給它們處理。而針對(duì)這類系統(tǒng)的黑客攻擊，也必然引發(fā)更大的破壞。到那時(shí)，攻擊活動(dòng)本身也將由AI技術(shù)負(fù)責(zé)支持及實(shí)現(xiàn)。”

　　抵御AI黑客

　　施奈爾在演講的前半部分中著重強(qiáng)調(diào)了AI黑客風(fēng)險(xiǎn)的嚴(yán)重性與迫切性，但在后一部分內(nèi)容中，他也向聽眾們介紹了網(wǎng)絡(luò)安全領(lǐng)域的潛在提升空間。

　　施奈爾表示，“如果未來的AI能夠發(fā)現(xiàn)計(jì)算機(jī)代碼中的新漏洞時(shí)，那么它一方面是黑客手中的強(qiáng)大攻擊武器，另一方面也會(huì)成為防御一方的護(hù)身神盾。”

　　軟件供應(yīng)商未來可能會(huì)部署更多AI工具，由其自主查找代碼漏洞并提供修復(fù)程序。施奈爾還樂觀地提到，如果能夠?qū)崿F(xiàn)，這類工具將消除我們今天已知的一切軟件漏洞。

　　施奈爾最后總結(jié)道，“在技術(shù)的推動(dòng)下被動(dòng)走向未來確實(shí)更輕松，但只有整個(gè)人類社會(huì)主動(dòng)決定技術(shù)在未來時(shí)代下所應(yīng)扮演的角色，我們才能真正享受技術(shù)發(fā)展帶來的福祉。因此在AI全面普及并覆蓋我們的整個(gè)世界之前，人類必須先用清醒的頭腦做出審視與預(yù)判?！?/p>