北京2020年6月17日 /美通社/ -- 近期，天地和興發(fā)布了一篇《請問(wèn)人工智能，你對網(wǎng)絡(luò )安全造成了什么影響？》的文章，以下是觀(guān)點(diǎn)全文：

　　當前網(wǎng)絡(luò )安全領(lǐng)域攻擊與防御的協(xié)同進(jìn)化如火如荼。像人工智能（AI）和機器學(xué)習（ML）這種先進(jìn)的技術(shù)同時(shí)為惡意的攻擊者也帶來(lái)了攻擊技術(shù)演進(jìn)的機會(huì )。簡(jiǎn)單來(lái)看，對網(wǎng)絡(luò )安全的需求比以往任何時(shí)候都更加重要。AI/ML工具在幫助抗擊網(wǎng)絡(luò )犯罪方面可能走了很長(cháng)一段路，但是這些技術(shù)并非無(wú)所不能，也會(huì )被惡意黑客利用。人工智能將致力于極大地提高網(wǎng)絡(luò )安全性，但黑客也可將其用于網(wǎng)絡(luò )犯罪活動(dòng)，這是對網(wǎng)絡(luò )安全的真正威脅。AI可以有效地分析用戶(hù)行為，推導模式并識別網(wǎng)絡(luò )中的各種異常或不正常情況。有了這些數據，可以快速輕松地識別網(wǎng)絡(luò )漏洞。反之，現在依賴(lài)于人類(lèi)智能的職責將易于受到模仿合法的基于A(yíng)I算法的惡意程序的攻擊。天地和興認為，一些企業(yè)正在熱衷于將其基于A(yíng)I/ML的概念或產(chǎn)品推向市場(chǎng)。但AI/ML的局限性，導致他們可能會(huì )忽略算法正在產(chǎn)生錯誤或虛假的安全感。

　　技術(shù)和業(yè)務(wù)領(lǐng)導者已將網(wǎng)絡(luò )安全行業(yè)作為當今企業(yè)中人工智能（AI）和機器學(xué)習（ML）的頂級高級用例之一。根據最新研究，在未來(lái)五年里，網(wǎng)絡(luò )安全中的AI技術(shù)有望以每年23%的速度增長(cháng)。到2026年，網(wǎng)絡(luò )安全AI市場(chǎng)將從去年的88億美元增長(cháng)到382億美元。

　　2020年，網(wǎng)絡(luò )安全領(lǐng)域的AI將顯著(zhù)增長(cháng)。根據Capgemini去年的《用人工智能重塑網(wǎng)絡(luò )安全》報告研究結果顯示，在2019年之前，只有五分之一的網(wǎng)絡(luò )安全組織在其技術(shù)棧中使用了AI。但是Capgemini的研究人員表示，AI采用率將直線(xiàn)上升，大約有63%的組織計劃在2020年底之前部署AI。最具有潛力的用例是在運營(yíng)技術(shù)（OT）和物聯(lián)網(wǎng)（IoT）。

　　人工智能可能會(huì )是網(wǎng)絡(luò )安全的救星。根據Capgemini研究結果顯示，80%的公司都依靠AI來(lái)幫助識別威脅和阻止攻擊。這是一個(gè)很大的要求，因為實(shí)際上，很少有非專(zhuān)家真正了解AI對安全的價(jià)值，或者該技術(shù)是否可以有效解決信息安全的許多潛在用例。

　　發(fā)現新型惡意軟件并不是部署機器學(xué)習以提高網(wǎng)絡(luò )安全性的唯一方法：基于A(yíng)I的網(wǎng)絡(luò )監視工具還可以跟蹤用戶(hù)的日常行為，從而了解其典型行為。通過(guò)分析此信息，AI可以檢測異常并做出相應的反應。

　　領(lǐng)先的網(wǎng)絡(luò )安全公司Darktrace使用機器學(xué)習來(lái)檢測威脅，該公司聯(lián)合首席執行官Poppy Gustafsson表示，“人工智能使我們能夠以一種智能的方式做出反應，了解違規行為或行為改變的相關(guān)性和后果，并實(shí)時(shí)制定相應的反應。”

　　Darktrace的工業(yè)免疫系統是一項尖端創(chuàng )新，可為運營(yíng)技術(shù)實(shí)施實(shí)時(shí)的“免疫系統”，并實(shí)現傳統網(wǎng)絡(luò )防御方法的根本轉變。該系統以貝葉斯數學(xué)和無(wú)監督機器學(xué)習為基礎，對復雜的網(wǎng)絡(luò )環(huán)境進(jìn)行分析，以了解每個(gè)網(wǎng)絡(luò )，設備和用戶(hù)的“生活模式”。該技術(shù)不依賴(lài)于過(guò)去的攻擊知識，而是像人類(lèi)免疫系統一樣運作，并且可以通過(guò)檢測預期行為的細微變化來(lái)發(fā)現以前未知的威脅。

　　網(wǎng)絡(luò )安全主管越來(lái)越相信AI對于增加響應時(shí)間和降低預防漏洞的成本至關(guān)重要。根據Capgemini的《用人工智能重塑網(wǎng)絡(luò )安全》研究，四分之三的高管表示，網(wǎng)絡(luò )安全領(lǐng)域的AI可以加快對漏洞的響應速度，無(wú)論是在檢測還是補救方面。約有64%的人表示，這也降低了檢測和響應的成本。

　　盡管人們對過(guò)度依賴(lài)AI存有疑慮，但人們似乎正在為一種中庸之道建立共識，AI并不是魔杖，而是一種有助于增強SOC和整個(gè)安全組織的人類(lèi)智能（HI）的有用方法。根據White Hat的《人工智能與人類(lèi)要素安全情感研究》，大約70%的安全專(zhuān)業(yè)人員同意AI通過(guò)消除多達55%的手動(dòng)任務(wù)來(lái)提高團隊效率。這有助于他們專(zhuān)注于更重要的任務(wù)并減輕壓力水平。

　　經(jīng)驗豐富的網(wǎng)絡(luò )安全專(zhuān)家們現在正在研究的問(wèn)題是：“人工智能到底能在多大程度上幫助改善安全狀況和安全運營(yíng)？”AI在網(wǎng)絡(luò )安全中的成熟度到底如何？它能取代安全團隊嗎？網(wǎng)絡(luò )安全行業(yè)在2020年的發(fā)展很大一部分將是如何有效平衡人工智能（AI）和人類(lèi)智能（HI）。

　　盡管AI驅動(dòng)的網(wǎng)絡(luò )安全不斷向前發(fā)展，許多安全專(zhuān)業(yè)人員仍認為，人類(lèi)智能（HI）仍將根據具體情況提供最佳結果。白帽安全公司（White Hat Security）在RSA大會(huì )上進(jìn)行的一項最新《人工智能與人類(lèi)要素安全情感研究》表明，60%的安全專(zhuān)業(yè)人員仍然對由人類(lèi)驗證的網(wǎng)絡(luò )威脅結果比人工智能生成的結果更有信心。大約三分之一的受訪(fǎng)者表示，直覺(jué)是推動(dòng)人類(lèi)分析的最重要的人為因素，21%的人認為創(chuàng )造力是人的優(yōu)勢，20%的人認為以前的經(jīng)驗和參考框架是使人們對安全操作流程至關(guān)重要的因素。

　　Osterman Research的《網(wǎng)絡(luò )安全中人工智能現狀》研究表明，在部署的早期階段，部分問(wèn)題是人們強烈認為AI尚未準備就緒。一些常見(jiàn)的投訴包括結果不準確的問(wèn)題、在端點(diǎn)上放置某些類(lèi)型的AI平臺的性能權衡、使用困難以及對誤報的擔憂(yōu)。

　　網(wǎng)絡(luò )安全專(zhuān)家認為，他們對人工智能的過(guò)度依賴(lài)也令人擔憂(yōu)，因為他們認為他們所做的工作過(guò)于復雜，無(wú)法被機器復制。去年P(guān)onemon的《自動(dòng)化時(shí)代IT安全功能的人員配置》報告調查結果顯示，超過(guò)一半的安全專(zhuān)家表示，他們將無(wú)法訓練AI來(lái)完成其團隊執行的任務(wù)，并且他們更有資格實(shí)時(shí)捕獲威脅。幾乎一半的人還報告說(shuō)，人為干預是網(wǎng)絡(luò )保護的必要條件。

　　但是，盡管AI和ML確實(shí)為網(wǎng)絡(luò )安全提供了好處，但對于組織而言，重要的是要認識到這些工具并不能代替人類(lèi)安全人員。因此，關(guān)于A(yíng)I將解決網(wǎng)絡(luò )技能危機的任何想法都具有廣泛意義。實(shí)際上，這些解決方案通常需要安全團隊花費更多的時(shí)間，這一事實(shí)經(jīng)常被忽略。

　　例如，基于機器學(xué)習的安全性工具可能會(huì )被錯誤地編程，從而導致算法遺漏意外甚至明顯的事情。如果該工具由于沒(méi)有經(jīng)過(guò)編碼以考慮某些參數而錯過(guò)了特定類(lèi)型的網(wǎng)絡(luò )攻擊，那將會(huì )導致問(wèn)題。確實(shí)，AI和ML可能會(huì )產(chǎn)生其他問(wèn)題，因為盡管這些工具有助于防御黑客，但網(wǎng)絡(luò )犯罪分子自己很有可能會(huì )使用相同的技術(shù)來(lái)使攻擊更加有效。

　　例如，可以使用ML自動(dòng)發(fā)送網(wǎng)絡(luò )釣魚(yú)電子郵件，并學(xué)習在活動(dòng)中使用哪種語(yǔ)言，生成點(diǎn)擊的原因以及應如何針對不同目標進(jìn)行攻擊。

　　例如，以異常檢測為例。對于安全運營(yíng)中心分析人員而言，能夠發(fā)現網(wǎng)絡(luò )中的任何“壞東西”確實(shí)很有價(jià)值，并且機器學(xué)習可以很好地解決此問(wèn)題。但是，找到比以前更多“壞東西”的算法可能并不像聽(tīng)起來(lái)那樣好。所有ML算法都有一個(gè)誤報率（當事件是良性事件時(shí)將其標識為“不良”），其值是各種所需行為之間權衡的一部分。因此，仍然需要人工來(lái)分類(lèi)這些結果，而且算法發(fā)現的“錯誤”越多，團隊成員需要評估的事件就越多。

　　這并不是說(shuō)這對于熟悉ML的人來(lái)說(shuō)是一個(gè)特別令人驚訝的結果，只是對于那些希望采用這些解決方案的團隊來(lái)說(shuō)，這并不一定是常識，這可能導致人們對ML可以為他們節省多少時(shí)間的期望過(guò)高。

　　盡管上面的示例是關(guān)于如何將ML算法直接用于完成安全團隊的某些工作的示例，但是算法也可以用于幫助用戶(hù)避免犯可能帶來(lái)風(fēng)險的錯誤，從而間接地為他們提供幫助。這種方法之所以令人興奮，是因為它開(kāi)始著(zhù)眼于減少進(jìn)入渠道的可能事件的數量，而不是試圖在事件最終導致安全事件時(shí)識別并減輕它們。不僅僅是解決最明顯的問(wèn)題，從長(cháng)遠來(lái)看，這些問(wèn)題可能會(huì )帶來(lái)預期的結果。

　　考慮ML時(shí)，另一個(gè)容易忽略的問(wèn)題是數據問(wèn)題。任何ML算法只有在有足夠的數據可供學(xué)習時(shí)才能工作。學(xué)習需要時(shí)間。試想，在識別貓之前，您需要顯示多少張互聯(lián)網(wǎng)貓圖片？模型開(kāi)始運行之前，算法需要運行多長(cháng)時(shí)間？學(xué)習過(guò)程所花費的時(shí)間可能比預期的長(cháng)得多，因此安全團隊需要考慮這一點(diǎn)。此外，對于某些用例而言最佳的標記數據在安全性方面供不應求。這是另一個(gè)需要“人員參與”來(lái)對安全事件進(jìn)行分類(lèi)并協(xié)助算法訓練的領(lǐng)域。

　　消息來(lái)源：北京天地和興科技有限公司