公司每年使用AI來處理數(shù)十億的客戶通信。AI系統(tǒng)可以響應最常見和最簡單的查詢，例如“我的帳戶余額是多少”，從而使人工座席可以自由處理更復雜的客戶服務問題。AI系統(tǒng)的設計不僅可以理解客戶的查詢，還可以確定最佳的響應方式，這是否意味著提供直接答案，提出明確的問題，將交互傳遞給現(xiàn)場座席，下訂單或其他。
對系統(tǒng)進行編程以做出這些決定并采取這些行動絕非易事，而且要承擔與承擔該任務的人員相同的失敗。因此，偏見可能會滲入算法，特別是因為AI僅與輸入的訓練數(shù)據(jù)一樣好，并且該數(shù)據(jù)可能包括關于性別，種族，性取向或其他歷史或社會不平等因素。
在許多公司正在擴大對AI的使用的時候，意識到這些偏見并緩解它們是當務之急。
“這是一個重要的問題，因為我們正在做出越來越重要的AI決策，”Spark Beyond的首席執(zhí)行官兼聯(lián)合創(chuàng)始人Sagie Davidovich說。Spark Beyond是使用AI的自動化研究引擎的提供商。“您要有責任心，透明性和包容性。”
“發(fā)現(xiàn)AI語音識別系統(tǒng)包含歧視特定人群的偏見。”Pro Privacy.com的數(shù)字隱私專家Ray Walsh說：“這令人不安，因為這類算法通常部署在所有公民使用的平臺上。結(jié)果，這些技術可能積極地導致偏見或歧視的重新表達。”
如果不加發(fā)現(xiàn)，人工智能的偏見可能導致有害的歧視性做法，競選結(jié)果失真，違反法規(guī)或失去公眾信任。
沒有比在2016年失敗的Microsoft Twitter機器人Tay失敗命運更明顯的事實了。Microsoft將Tay描述為一種對話理解的實驗，其中Tay參與度越高，越聰明，它就會通過“隨意而有趣的對話。”
但是，一旦Tay上線，人們就開始在Twitter上發(fā)布推文，其中包括各種厭惡種族主義言論。Tay開始向用戶重復這些種族主義，厭惡女性的情緒。僅僅運行了16個小時，Microsoft就停止了該技術的使用。
Tay當然不是第一次發(fā)生這樣的事情。多年來，自動化技術也被歸咎于貸款行業(yè)的偏見。金融機構(gòu)成群結(jié)隊地轉(zhuǎn)向自動化，以加快貸款批準和拒絕決策的速度，大概沒有相同的偏見，而這種偏見可能會滲入人類的思維過程。
WPEngine的研究至少在理論上支持了這一觀點。在接受調(diào)查的受訪者中，有92％的人表示，他們相信AI將為檢查組織和數(shù)據(jù)相關偏見提供機會。53％的人表示，他們相信AI為克服人類偏見提供了機會。
但是研究還發(fā)現(xiàn)，將近一半（45％）的人認為AI的偏見可能導致少數(shù)群體的代表不平等。
最后，確實發(fā)現(xiàn)借貸過程中的自動化系統(tǒng)存在偏見，因為它們使用的數(shù)據(jù)和變量往往會歧視屬于少數(shù)族裔的抵押貸款申請人。
如今，已顯示出功能更強大的計算系統(tǒng)和更易獲得的數(shù)據(jù)可以消除早期技術的某些固有偏見，但許多專家都同意，當今的系統(tǒng)中仍然存在某些偏見。
Davidovich說：“我們需要開始考慮AI系統(tǒng)中的偏見。”
聲明:版權(quán)所有 非合作媒體謝絕轉(zhuǎn)載
原文網(wǎng)址：https://www.speechtechmag.com/Articles/Editorial/Features/Overcoming-Bias-Requires-an-AI-Reboot-140548.aspx
