公司每年使用AI來(lái)處理數十億的客戶(hù)通信。AI系統可以響應最常見(jiàn)和最簡(jiǎn)單的查詢(xún)，例如“我的帳戶(hù)余額是多少”，從而使人工座席可以自由處理更復雜的客戶(hù)服務(wù)問(wèn)題。AI系統的設計不僅可以理解客戶(hù)的查詢(xún)，還可以確定最佳的響應方式，這是否意味著(zhù)提供直接答案，提出明確的問(wèn)題，將交互傳遞給現場(chǎng)座席，下訂單或其他。

　　對系統進(jìn)行編程以做出這些決定并采取這些行動(dòng)絕非易事，而且要承擔與承擔該任務(wù)的人員相同的失敗。因此，偏見(jiàn)可能會(huì )滲入算法，特別是因為AI僅與輸入的訓練數據一樣好，并且該數據可能包括關(guān)于性別，種族，性取向或其他歷史或社會(huì )不平等因素。

　　在許多公司正在擴大對AI的使用的時(shí)候，意識到這些偏見(jiàn)并緩解它們是當務(wù)之急。

　　“這是一個(gè)重要的問(wèn)題，因為我們正在做出越來(lái)越重要的AI決策，”Spark Beyond的首席執行官兼聯(lián)合創(chuàng )始人Sagie Davidovich說(shuō)。Spark Beyond是使用AI的自動(dòng)化研究引擎的提供商。“您要有責任心，透明性和包容性。”

　　“發(fā)現AI語(yǔ)音識別系統包含歧視特定人群的偏見(jiàn)。”Pro Privacy.com的數字隱私專(zhuān)家Ray Walsh說(shuō)：“這令人不安，因為這類(lèi)算法通常部署在所有公民使用的平臺上。結果，這些技術(shù)可能積極地導致偏見(jiàn)或歧視的重新表達。”

　　如果不加發(fā)現，人工智能的偏見(jiàn)可能導致有害的歧視性做法，競選結果失真，違反法規或失去公眾信任。

　　沒(méi)有比在2016年失敗的Microsoft Twitter機器人Tay失敗命運更明顯的事實(shí)了。Microsoft將Tay描述為一種對話(huà)理解的實(shí)驗，其中Tay參與度越高，越聰明，它就會(huì )通過(guò)“隨意而有趣的對話(huà)。”

　　但是，一旦Tay上線(xiàn)，人們就開(kāi)始在Twitter上發(fā)布推文，其中包括各種厭惡種族主義言論。Tay開(kāi)始向用戶(hù)重復這些種族主義，厭惡女性的情緒。僅僅運行了16個(gè)小時(shí)，Microsoft就停止了該技術(shù)的使用。

　　Tay當然不是第一次發(fā)生這樣的事情。多年來(lái)，自動(dòng)化技術(shù)也被歸咎于貸款行業(yè)的偏見(jiàn)。金融機構成群結隊地轉向自動(dòng)化，以加快貸款批準和拒絕決策的速度，大概沒(méi)有相同的偏見(jiàn)，而這種偏見(jiàn)可能會(huì )滲入人類(lèi)的思維過(guò)程。

　　WPEngine的研究至少在理論上支持了這一觀(guān)點(diǎn)。在接受調查的受訪(fǎng)者中，有92％的人表示，他們相信AI將為檢查組織和數據相關(guān)偏見(jiàn)提供機會(huì )。53％的人表示，他們相信AI為克服人類(lèi)偏見(jiàn)提供了機會(huì )。

　　但是研究還發(fā)現，將近一半（45％）的人認為AI的偏見(jiàn)可能導致少數群體的代表不平等。

　　最后，確實(shí)發(fā)現借貸過(guò)程中的自動(dòng)化系統存在偏見(jiàn)，因為它們使用的數據和變量往往會(huì )歧視屬于少數族裔的抵押貸款申請人。

　　如今，已顯示出功能更強大的計算系統和更易獲得的數據可以消除早期技術(shù)的某些固有偏見(jiàn)，但許多專(zhuān)家都同意，當今的系統中仍然存在某些偏見(jiàn)。

　　Davidovich說(shuō)：“我們需要開(kāi)始考慮AI系統中的偏見(jiàn)。”

　　原文網(wǎng)址：https://www.speechtechmag.com/Articles/Editorial/Features/Overcoming-Bias-Requires-an-AI-Reboot-140548.aspx