文/ Veritas公司大中華區技術(shù)銷(xiāo)售與服務(wù)總監吳振崗
從ChatGPT到Sora，短短兩年時(shí)間，AI的進(jìn)化速度和程度再次刷新了所有人的想象，而數字經(jīng)濟在全球范圍內的快速增長(cháng)，也在推動(dòng)人工智能逐步從“探索期”向“成長(cháng)期”的快速過(guò)渡。據統計，預計到2026年，僅生成式人工智能市場(chǎng)將從2021年的15億美元增長(cháng)到65億美元，復合年增長(cháng)率34.9%。
然而，當我們驚嘆于人工智能在推進(jìn)技術(shù)和各個(gè)產(chǎn)業(yè)轉型重塑，幫助企業(yè)提高生產(chǎn)效率，豐富人們日常生活等方面展現出的超凡能力的同時(shí)，也絕不該忽視其引發(fā)的由于數據量激增及泛用化等帶來(lái)的一系列前所未有的安全風(fēng)險，有機構預測，AIGC產(chǎn)生的數據到2026年將占所有數據的10%，而目前這一比例還不到1%。也就是說(shuō)，也許10倍于當前的挑戰將要到來(lái)。
面對挑戰，放眼全球，中國用戶(hù)似乎對使用AI技術(shù)尤其“癡迷”。Veritas最新調研結果顯示，85%的中國受訪(fǎng)者在工作中使用ChatGPT等人工智能生成工具，包括輸入客戶(hù)、員工和公司財務(wù)等信心，敏感數據暴露的風(fēng)險也因此增加。但是，類(lèi)似的行為卻似乎缺少應有的“約束”，雖然有90%的中國受訪(fǎng)者認為針對AI的使用指導和政策非常重要，但目前只有34%的中國企業(yè)向員工提供了強制性的使用指導。
對此，Veritas認為:AI技術(shù)“奇點(diǎn)”的到來(lái)，需要數據管理的加速“蝶變”。在人工智能發(fā)展和數據安全問(wèn)題日益深度交織融合的當下，企業(yè)及其員工正成為面對數據安全風(fēng)險的主要群體。因此，明確AI使用過(guò)程中和黑客利用AI勒索等威脅，開(kāi)展及時(shí)的培訓和指導，并強化自身網(wǎng)絡(luò )韌性，顯得至關(guān)重要。也許唯有對AI保持敬畏之心，才能真正讓其“無(wú)害”地為我們所用。
AI泛用讓數據風(fēng)險“層層加碼”
如今，AI的無(wú)處不在，讓各類(lèi)風(fēng)險層出不窮。
一方面，在A(yíng)I的使用過(guò)程中，可能不經(jīng)意間便會(huì )觸及“紅線(xiàn)”。根據數據安全服務(wù)機構賽博天堂(Cyber Heaven)的檢測顯示，其客戶(hù)公司的160萬(wàn)名員工中已有4.2%將包含商業(yè)秘密的數據輸入ChatGPT，其中有高管將戰略文件復制到ChatGPT并利用其生成幻燈片，一旦被盜用或竊取，后果不可想象。
然而類(lèi)似的“無(wú)意”行為，卻并非罕見(jiàn)現象。根據Veritas的調研，在中國受訪(fǎng)者中有37%的員工承認曾將潛在敏感信息輸入AIGC工具，且有50%和58%的受訪(fǎng)者沒(méi)有意識到風(fēng)險，或并不了解這樣是否會(huì )導致其公司違反數據隱私合規法規。
從數據使用全生命周期的視域來(lái)看，企業(yè)在使用AI時(shí)可能會(huì )面臨諸如數據泄露、合規、操縱篡改、數據偏差等多類(lèi)型風(fēng)險。
· 數據泄露風(fēng)險。在使用AI過(guò)程中，將包括個(gè)人信息、客戶(hù)數據、企業(yè)機密等敏感數據鍵入，以提高搜索效率等，這些行為極大增加了信息泄露的風(fēng)險，且該類(lèi)風(fēng)險發(fā)生的概率看上去也是最高的一種。
· 數據合規風(fēng)險。在一些特殊行業(yè)中，企業(yè)數據受到法律嚴格管治，例如制藥行業(yè)，任何藥企都要遵守cGMP中對于數據連續性和完整性的規定，一旦因AI使用造成數據丟失，企業(yè)不但要接受監管機構的處罰，整個(gè)批次的藥品都可能被報廢處理，造成嚴重損失。
· 數據操縱或篡改風(fēng)險。在自動(dòng)駕駛、智能工廠(chǎng)等對實(shí)時(shí)性要求極高的場(chǎng)景中，數據操縱或篡改對AI核心模塊產(chǎn)生的定向干擾將會(huì )直接擴散到智能設備終端(如智能駕駛汽車(chē)的剎車(chē)裝置等)，很可能導致災難性事故發(fā)生。
· 數據偏差導致決策風(fēng)險。數據偏差是指AI決策中所使用數據因不夠全面，使所承載的信息帶有難以用技術(shù)手段消除的偏差，進(jìn)而導致決策結果不夠科學(xué)。比如對于金融征信、醫療領(lǐng)域企業(yè)，可能會(huì )因數據量不足、數據質(zhì)量不高等原因，導致決策準確率偏低，影響最終效果。
另一方面，即使企業(yè)對AI使用格外謹慎，也難免會(huì )遭遇黑客利用AI進(jìn)行詐騙或勒索。近日，一家英國跨國企業(yè)的中國香港分公司，被騙子用偽造的“AI換臉”和AI音頻合成的視頻內容，冒充總公司的CFO，直接騙走了2億港幣。此外，相關(guān)數據顯示，僅2022年上半年，全球就記錄了2.361億次勒索軟件攻擊，勒索軟件的速度已經(jīng)快至可以在43分鐘內加密54GB的數據，由此引發(fā)的網(wǎng)絡(luò )攻擊也被IDC認為是全球組織面臨的最大威脅之一，而這種威脅在得到AI技術(shù)加持之后，所造成的后果更難以想象。
眾所周知，海量多源數據是AI，特別是生成式AI訓練和產(chǎn)出的原始素材，也是當前企業(yè)數字化發(fā)展中寶貴的資源。有研究數據顯示，86%的企業(yè)開(kāi)始將AI作為未來(lái)數字化發(fā)展的“主流”技術(shù)，并加大投資，以幫助企業(yè)做出更好的決策、改善客戶(hù)服務(wù)并降低成本。如此一來(lái)，企業(yè)將會(huì )有更多的“無(wú)形資產(chǎn)”以數據的形式暴露在網(wǎng)絡(luò )環(huán)境中，黑客可以使用AIGC來(lái)創(chuàng )建更高效的勒索軟件，或利用WormGPT等不受約束的語(yǔ)言模型來(lái)實(shí)現更復雜的網(wǎng)絡(luò )釣魚(yú)攻擊。為此，除了支付贖金，企業(yè)還可能承受包括收入損失、失去客戶(hù)、員工生產(chǎn)力下降、監管罰款、數據無(wú)法恢復、甚至面臨訴訟等后果。而這對于眾多正處于數字化轉型加速期的中國企業(yè)來(lái)講，勢必將構成更大的威脅，如何有效應對，便也更加任重道遠。
全面部署積極防御，從容應對更大挑戰
正像AI技術(shù)本身自帶的“雙刃劍”屬性，各個(gè)國家在積極擁抱這項新技術(shù)的同時(shí)，也對如何保障安全實(shí)施了相應對策。如意大利個(gè)人數據保護局率先封禁了ChatGPT，美國聯(lián)邦貿易委員會(huì )也收到了請求調查OpenAI的動(dòng)議。中國從2019年開(kāi)始，陸續發(fā)布了《新一代人工智能治理原則——發(fā)展負責任的人工智能》、《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》等，提出“發(fā)展與治理雙輪驅動(dòng)”思路，加速推動(dòng)建立AIGC的治理框架。
而對于企業(yè)來(lái)說(shuō)，制定具有前瞻性，切實(shí)可行的策略和方案同樣迫在眉睫。對此，Veritas建議:針對在使用AI過(guò)程中，及黑客網(wǎng)絡(luò )攻擊、勒索等可能面臨的風(fēng)險，企業(yè)在提高重視程度的同時(shí)，在“前端”緊跟相關(guān)技術(shù)發(fā)展趨勢，積極創(chuàng )建對應的指導和規則，在“中端”運用正確的治理工具可靠合規的進(jìn)行管理，并在“后端”塑造更具韌性的網(wǎng)絡(luò )架構，筑牢“最后一道防線(xiàn)”。
· 與時(shí)俱進(jìn)了解趨勢。企業(yè)應積極與供應商和研究機構合作，掌握AI技術(shù)、勒索攻擊等發(fā)展的最新趨勢，并對其之于數據管理的威脅做出評估，通過(guò)加強與員工、用戶(hù)的溝通，制定事件響應計劃等，進(jìn)一步提高全員的風(fēng)險應對意識。
· 事無(wú)巨細規范行為。在企業(yè)內部，應及時(shí)制定并清晰傳達相應的使用指導和規則，規范員工對AI的使用。根據Veritas的調研，近九成(89%)的中國員工希望企業(yè)提供AI的使用指導、政策或培訓，以明確工具使用的正確方式(68%)、降低風(fēng)險(51%)和在工作場(chǎng)所創(chuàng )造公平競爭的環(huán)境(31%)。在此基礎上，通過(guò)定期的培訓，讓員工真正意識到什么是可以做的，什么是不能做的。
· 全面周密數據管理。企業(yè)應從加密、控制和保護敏感數據，確保數據可靠性和完整性，建立管理流程，對數據進(jìn)行分類(lèi)和標記并審計和監控等幾方面入手，把握“全面辨識和分類(lèi)數據、實(shí)現自動(dòng)化分類(lèi)系統、普及數據分類(lèi)”關(guān)鍵三步，并攜手可靠的供應商，運用正確的數據合規治理工具，監測管理落地實(shí)施過(guò)程并持續執行。此外，面對海量數據管理的龐大工程，企業(yè)可采用AI驅動(dòng)的異常檢測和其他類(lèi)似的安全措施，來(lái)提高抵御威脅的效率和能力。
· 未雨綢繆強化韌性。在網(wǎng)絡(luò )環(huán)境逐漸AI化時(shí)，單獨依賴(lài)災難恢復的方式已不足以充分應對網(wǎng)絡(luò )事件，企業(yè)需要依托更高水平的災難恢復流程，重點(diǎn)確保關(guān)鍵數據和系統的生存、完整性和快速恢復，不斷提升網(wǎng)絡(luò )韌性。為此，企業(yè)在擁有足夠的存儲冗余，采用防篡改和不可變的存儲，將零信任擴展到企業(yè)數據保護環(huán)境中，采用獨立備份系統等，確保數據“可恢復”的同時(shí)，還要定期進(jìn)行災難恢復演練等，真正做到有“備”無(wú)患。
人工智能技術(shù)的日新月異，對企業(yè)的數據管理提出了新的更艱巨的難題，但幸運的是，AI在制造威脅的同時(shí)，也可以被用來(lái)監測、規避威脅，為企業(yè)提供更適用的工具，幫助企業(yè)采取更迅速、智慧的行動(dòng)。為了激發(fā)AI創(chuàng )造更多正面價(jià)值，盡可能地規避AI帶來(lái)的潛在風(fēng)險，實(shí)現自身利益的最大化，企業(yè)更應加快從認識、了解，到使用、防范AI及其衍生技術(shù)的腳步，結合全方位的數據管理和保護策略，在充滿(mǎn)了機遇和挑戰的數字化轉型中迎接美好的明天。
關(guān)于 Veritas
Veritas Technologies是安全多云數據管理領(lǐng)域的領(lǐng)導者。超過(guò)八萬(wàn)家企業(yè)級客戶(hù)， 包括91%的全球財富100強企業(yè)，均依靠Veritas確保其數據的保護、可恢復性和合規性。Veritas在規模化的可靠性方面享有盛譽(yù)，可為企業(yè)提供抵御勒索軟件等網(wǎng)絡(luò )攻擊威脅所需的韌性。Veritas通過(guò)統一的平臺，支持超過(guò)800種數據源，100多種操作系統以及1400多種存儲設備。在云級技術(shù)的支持下，Veritas現正在實(shí)踐其數據自治戰略，在降低運營(yíng)成本的同時(shí)，實(shí)現更大價(jià)值。
Veritas中國官方網(wǎng)站 https://www.veritas.com/zh/cn/
Veritas官方微信平臺:VERITAS_CHINA(VERITAS中文社區)
