你能信任智能虛擬助理嗎？

　　CTI論壇(ctiforum.com)（編譯/老秦）:你曾與Siri、Alexa或Cortana打過(guò)交道嗎？這些都開(kāi)始于面向消費者的虛擬個(gè)人助理（VPA），用于大多數智能手機和像聲控電視遙控器這樣的產(chǎn)品。但是，到最近為止，VPAs正在演變?yōu)橹悄芴摂M助理（IVA），用于商業(yè)應用。一些通信供應商現在使用IVAs來(lái)支持業(yè)務(wù)功能，比如安排會(huì )議和電話(huà)會(huì )議。

　　你知道嗎，有了這樣的數字助手，你的語(yǔ)音數據就會(huì )被發(fā)送到云或另一個(gè)遠程位置進(jìn)行處理？在你的電視遙控器前講話(huà)安全嗎？要求Alexa開(kāi)始你的會(huì )議，你是否正在把你的商業(yè)數據置于危險之中？

　　IVA是一個(gè)使用人工智能（AI）的系統，它模擬人的交互來(lái)完成任務(wù)。由于神經(jīng)網(wǎng)絡(luò )、機器學(xué)習以及人工智能等技術(shù)的進(jìn)步，IVAs正在快速發(fā)展。智能技術(shù)允許IVAs學(xué)習、推理和理解，執行像客戶(hù)服務(wù)座席這樣的任務(wù)來(lái)解決客戶(hù)的問(wèn)題。

　　實(shí)際上，在多個(gè)垂直市場(chǎng)中，IVAs被用于各種應用程序。他們通過(guò)為聯(lián)網(wǎng)的家庭和車(chē)輛提供一個(gè)直觀(guān)的界面來(lái)幫助消費者完成任務(wù)。

　　IVA生態(tài)系統由三個(gè)主要部分組成。在遠程云位置，調用處理中心對文本和/或語(yǔ)音命令進(jìn)行分析和響應，并執行請求的操作。在用戶(hù)端，有一個(gè)終端設備，如AmazonEcho或帶有Cortana的PC。這些設備安裝了與IVA通信的嵌入式應用程序。

　　用戶(hù)的請求以文本或聲音的形式提交給IVA，或者以聊天格式提交，并存儲在云中。IVA對話(huà)可以通過(guò)應用程序和用戶(hù)的設備訪(fǎng)問(wèn)。這就產(chǎn)生了一種隱私風(fēng)險，因為語(yǔ)音記錄可能提供個(gè)人身份識別信息，或者未經(jīng)授權的實(shí)體可以使用這些數據來(lái)識別用戶(hù)。

　　IVA軟件可以集成到物聯(lián)網(wǎng)設備中。許多IVAs允許第三方供應商鏈接他們的設備和服務(wù)，擴展IVA的特性和技能。例如，Alexa技能商店包含超過(guò)10，000個(gè)語(yǔ)音激活應用程序。

　　我確信會(huì )有創(chuàng )造性的黑客開(kāi)發(fā)惡意軟件，為IVAs的隱私和安全攻擊提供機會(huì )。最近發(fā)生的一些事件突顯了與IVAs相關(guān)的重大安全和隱私風(fēng)險。由于IVAs還在不斷成熟，預計會(huì )有更多的這些風(fēng)險浮出水面，并且隨著(zhù)時(shí)間的推移會(huì )發(fā)生更富有想象力的攻擊。

　　一篇題為“Alexa我可以信任你嗎？”的NIST文章，指出了四個(gè)可能的安全/隱私漏洞場(chǎng)景，如下圖所示。

圖片來(lái)自NIST的文章“Alexa，我能信任你嗎？”

　　Packet sniffing是網(wǎng)絡(luò )診斷系統的一部分。它可以應用于捕獲來(lái)自IVA的通信。可以分析請求和響應，以確定使用了哪些APIs。

　　正如文章指出的那樣，并不是所有的網(wǎng)絡(luò )通信都是通過(guò)安全連接傳輸的。有些人使用未加密的連接來(lái)檢查網(wǎng)絡(luò )的傳輸率，這使得檢測IVA設備成為可能。盡管IVA通信可能是加密的，但是有機器學(xué)習技術(shù)可以對流量進(jìn)行分類(lèi)，并報告有效載荷大小、數據率和其他模式。加密的流量可以用來(lái)識別設備的狀態(tài)。

　　我曾經(jīng)發(fā)表過(guò)關(guān)于物聯(lián)網(wǎng)（IoT）安全的博客--“爭取安全的物聯(lián)網(wǎng)”和“剝離物聯(lián)網(wǎng)互操作層”。

　　需要注意的是，IVA設備可以像任何其他端點(diǎn)一樣被破壞。你甚至可以體驗到拒絕服務(wù)的攻擊。網(wǎng)絡(luò )攝像頭和DVRs可以被惡意軟件感染。終端設備可以被命令設置成為一直在聽(tīng)的狀態(tài)，這就像已經(jīng)在許多聯(lián)網(wǎng)的嬰兒監視器上所做的那樣。你的協(xié)作系統怎么樣？他們正處于危險之中嗎？

　　由于IVAs處理語(yǔ)音命令，攻擊者可以模擬用戶(hù)并發(fā)出惡意的語(yǔ)音命令。它可以打開(kāi)一扇智能門(mén)，啟動(dòng)一輛汽車(chē)，甚至可以在沒(méi)有用戶(hù)信息的情況下在線(xiàn)訂購商品。一些IVAs提供了一個(gè)語(yǔ)音訓練功能，以防止這種模擬。如果模仿是高質(zhì)量的，那么IVA可能無(wú)法區分真假。

　　在IVA裝置范圍內說(shuō)話(huà)的人可能被錄音。這可能是偶然的，但是這個(gè)人說(shuō)的話(huà)仍然會(huì )被傳送到云上，這使其他各方（包括合法訪(fǎng)問(wèn)存儲數據的人以及黑客）入侵數據庫。他們可以偷聽(tīng)私人談話(huà)。非預期錄音的潛在影響是意味著(zhù)你不能完全控制你的語(yǔ)音數據。我們的協(xié)作網(wǎng)絡(luò )會(huì )被破壞嗎？

　　我們已經(jīng)了解到，當我們在IP網(wǎng)絡(luò )中引入新設備時(shí)，他們通常沒(méi)有把安全性作為他們的主要設計目標。Internet從來(lái)沒(méi)有被設計成一個(gè)真正安全的網(wǎng)絡(luò )環(huán)境，所以安全是留給端點(diǎn)的。安全性通常是一個(gè)附加組件，在發(fā)生了一些突出安全性問(wèn)題的事件之后才采用的。似乎那些構建端點(diǎn)和生產(chǎn)軟件的人需要在他們的設計和開(kāi)發(fā)中提升安全性保護措施。