一. 人工智能爆炸才剛剛開(kāi)始
雖然人工智能已經(jīng)“嶄露頭角”多年,我們仍處于全面了解這項技術(shù)的早期階段。隨著(zhù)關(guān)于人工智能的新知識不斷涌現,領(lǐng)導者必須不斷學(xué)習人工智能創(chuàng )新知識,以便在快速變化的時(shí)代有效指導決策。領(lǐng)導者還應鼓勵自己的團隊,尤其是安全和數據保護領(lǐng)域的人員,盡可能多地了解人工智能,以熟悉黑客將如何利用人工智能進(jìn)行犯罪行為。在不斷演變的以人工智能為驅動(dòng)的威脅環(huán)境中,需要采取全員參與的方法來(lái)應對即將到來(lái)的威脅。
二. 輕松獲取人工智工具能讓不法分子有機可乘
隨著(zhù)人工智能的發(fā)展,很多企業(yè)面臨的一個(gè)關(guān)鍵挑戰是有效制定和執行人工智能道德政策和負責任的使用準則。例如,員工必須了解何時(shí)允許使用 ChatGPT 等生成式人工智能聊天機器人,以及使用該技術(shù)所需的數據共享可能會(huì )導致的例如機密信息泄露等有害結果。
不幸的是,黑客沒(méi)有義務(wù)遵守同樣的道德準則。因此,輕松獲取人工智能工具有助于黑客在攻擊中占據上風(fēng)。例如,壞人現在可以使用生成式人工智能來(lái)創(chuàng )建更高效的勒索軟件,或利用 WormGPT 等不受約束的語(yǔ)言模型來(lái)實(shí)現更復雜的網(wǎng)絡(luò )釣魚(yú)攻擊。
三. 人工智能讓攻擊更不容易被察覺(jué)
如果沒(méi)有人工智能,勒索軟件攻擊需要攻擊者具備深入的知識,才能手動(dòng)枚舉網(wǎng)絡(luò )、找到更多目標并進(jìn)行傳播。通常情況下,黑客是專(zhuān)業(yè)人士,但可能會(huì )因為人為錯誤而被拖慢速度。人工生成的威脅對 IT 專(zhuān)業(yè)人員來(lái)說(shuō)更容易識別,預編程的自治解決方案可以識別警告信號,從而預防或阻止即將到來(lái)的攻擊。
然而,人工智能運行的攻擊更容易躲避檢測,使攻擊以更快的速度和更高的精度通過(guò)網(wǎng)絡(luò )傳播。聊天機器人還可以創(chuàng )建更接近人類(lèi)的網(wǎng)絡(luò )釣魚(yú)計劃,從而誘使員工無(wú)意中向黑客提供網(wǎng)絡(luò )訪(fǎng)問(wèn)權限。
鑒于上述現實(shí),Veritas建議,首席信息安全官應采取積極主動(dòng)的方法,平衡人工智能技術(shù)應用與數據安全隱私。以下是幾種有助于組織實(shí)現微秒平衡的關(guān)鍵策略:
1.評估數據隱私和保護并實(shí)施指南:CISO應仔細評估用于訓練模型的數據,并確保遵守相關(guān)行業(yè)法規和相關(guān)公司政策。對敏感信息進(jìn)行匿名化或假名化并應用嚴格的訪(fǎng)問(wèn)控制來(lái)保護用戶(hù)數據免遭未經(jīng)授權的訪(fǎng)問(wèn)或濫用至關(guān)重要。與法律和人力資源團隊合作制定預測文本技術(shù)使用的合規指南也很重要。
2.保護模型訓練和部署:保護用于訓練和部署預測文本模型的基礎設施是關(guān)鍵舉措。實(shí)施強大的安全控制,包括加密、安全協(xié)議和訪(fǎng)問(wèn)管理,以保護底層系統并防止未經(jīng)授權的修改或篡改模型。
3.加強用戶(hù)意識并獲得同意:教育用戶(hù)了解預測文本技術(shù)的影響和功能。清楚地傳達數據收集和使用的目的以及所涉及的潛在風(fēng)險,使用戶(hù)能夠就選擇加入或退出預測文本功能做出明智的決定。
4.與供應商和研究人員合作:與技術(shù)供應商和研究人員合作,隨時(shí)了解與預測文本技術(shù)相關(guān)的最新進(jìn)展、安全補丁和最佳實(shí)踐。積極協(xié)作有助于更有效地應對新出現的安全和隱私挑戰。
5.發(fā)展事件響應和持續監控能力:制定針對預測文本技術(shù)的事件響應計劃。監控系統日志、用戶(hù)反饋和異常檢測機制,及時(shí)識別任何潛在的安全事件或隱私泄露。建立流程以及時(shí)響應此類(lèi)事件,緩解潛在影響,確保將對用戶(hù)和數據的影響降至最低。
毫無(wú)疑問(wèn),人工智能作為科技領(lǐng)域的一大趨勢正在重塑網(wǎng)絡(luò )威脅格局。未來(lái)企業(yè)必須高度重視AI帶來(lái)的威脅,并采取相應的措施來(lái)應對。隨著(zhù)人工智能技術(shù)的不斷發(fā)展和應用,領(lǐng)導者需要時(shí)刻關(guān)注新技術(shù)的發(fā)展,不斷學(xué)習新的知識和技能,以應對不斷演變的威脅。同時(shí),強化數據隱私保護和管理措施也是企業(yè)的當務(wù)之急,確保數據安全不被侵犯。只有全面、系統地應對這些挑戰,企業(yè)才能穩固數據安全,保障穩定的發(fā)展和運營(yíng)。
關(guān)于 Veritas
Veritas Technologies是安全多云數據管理領(lǐng)域的領(lǐng)導者。超過(guò)八萬(wàn)家企業(yè)級客戶(hù), 包括91%的全球財富100強企業(yè),均依靠Veritas確保其數據的保護、可恢復性和合規性。Veritas在規模化的可靠性方面享有盛譽(yù),可為企業(yè)提供抵御勒索軟件等網(wǎng)絡(luò )攻擊威脅所需的韌性。Veritas通過(guò)統一的平臺,支持超過(guò)800種數據源,100多種操作系統以及1400多種存儲設備。在云級技術(shù)的支持下,Veritas現正在實(shí)踐其數據自治戰略,在降低運營(yíng)成本的同時(shí),實(shí)現更大價(jià)值。
Veritas中國官方網(wǎng)站 https://www.veritas.com/zh/cn/
Veritas官方微信平臺:VERITAS_CHINA(VERITAS中文社區)
