• <strike id="fdgpu"><input id="fdgpu"></input></strike>
    <label id="fdgpu"></label>
    <s id="fdgpu"><code id="fdgpu"></code></s>

  • <label id="fdgpu"></label>
  • <span id="fdgpu"><u id="fdgpu"></u></span>

    <s id="fdgpu"><sub id="fdgpu"></sub></s>
    您當(dāng)前的位置是:  首頁 > 資訊 > 文章精選 >
     首頁 > 資訊 > 文章精選 >

    陳根:Meta又有新動作——開發(fā)支持128種語言的模型

    2021-11-24 13:47:20   作者:   來源:CTI論壇   評論:0  點擊:


      今年10月28日,F(xiàn)acebook正式宣布將母公司改名為Meta,而Facebook成為其母公司旗下眾多產(chǎn)品之一。Meta一詞源于科幻元宇宙Metaverse,反映出該公司搭建元宇宙的決心。
      此前,為了提升元宇宙中的觸感交互,Meta公司的研究團(tuán)隊開發(fā)了一款觸覺手套,這種手套舒適、可定制,最重要的是能夠在虛擬世界中再現(xiàn)一系列感覺,包括紋理、壓力和振動等。
      近日,Meta公司又有新動作。其發(fā)布了自監(jiān)督語音處理模型XLS-R,該模型共支持128種語言,目的是助力元宇宙中的跨語種交流。
      當(dāng)今,有據(jù)可考的語言有7000余種。盡管現(xiàn)在的翻譯系統(tǒng)越來越強(qiáng)大,但要用AI完全實現(xiàn)這些語言的互通并非易事。一般來說,語料庫的豐富程度決定了語言翻譯模型的質(zhì)量,現(xiàn)有的語音翻譯一般集中于大語種之間,小語種語料往往比較匱乏,因此使用這類母語的人往往較難通過AI獲得較高的翻譯質(zhì)量。
      但XLS-R通過自監(jiān)督技術(shù)對10倍的語音數(shù)據(jù)進(jìn)行訓(xùn)練,大大改善了以前的多語言模型,尤其是小語種的處理。因此母語不同的人,比如一位說英語,一位說漢語的人,兩人可以靠XLS-R在元宇宙中進(jìn)行無障礙對話。
      XLS-R基于的是Facebook去年發(fā)布的wav2vec 2.0技術(shù)。該技術(shù)通過多層卷積神經(jīng)網(wǎng)絡(luò)對語音音頻進(jìn)行編碼,以及對產(chǎn)生的潛伏語音表征進(jìn)行跨度遮蔽,能夠建立捕捉整個序列信息的表征。
      這樣訓(xùn)練出的模型,可以預(yù)測音頻中被掩蔽部分的正確語音單元,同時也可以學(xué)習(xí)新的語音單元。在此基礎(chǔ)上開發(fā)的XLS-R,不僅能夠建立上下文表征,還可以捕獲整個潛伏表征序列上建立的依賴關(guān)系。
      XLS-R共有20億參數(shù),它在測試的37種語言中,表現(xiàn)優(yōu)于大多數(shù)語種先前的工作。甚至在老撾語等小語種識別上,也能低于之前的錯誤率。此外,XLS-R也讓低資源語言與英語之間的翻譯大幅改進(jìn),例如從印度尼西亞語到英語的翻譯,準(zhǔn)確性平均翻了一番。
      目前,XLS-R還只是一個預(yù)訓(xùn)練模型,為了能更好的應(yīng)用于具體任務(wù),還需要對其進(jìn)行相關(guān)改進(jìn)。
    【免責(zé)聲明】本文僅代表作者本人觀點,與CTI論壇無關(guān)。CTI論壇對文中陳述、觀點判斷保持中立,不對所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考,并請自行承擔(dān)全部責(zé)任。

    相關(guān)閱讀:

    專題

    CTI論壇會員企業(yè)

    亚洲精品网站在线观看不卡无广告,国产a不卡片精品免费观看,欧美亚洲一区二区三区在线,国产一区二区三区日韩 英山县| 海林市| 梓潼县| 五台县| 宝清县| 柘城县| 卢龙县| 江安县| 甘孜县| 甘德县| 珲春市| 本溪| 徐州市| 四会市| 华坪县| 怀集县| 友谊县| 额尔古纳市| 江都市| 沙湾县| 荥阳市| 杭锦后旗| 千阳县| 大足县| 屏边| 临朐县| 攀枝花市| 赫章县| 阿克苏市| 丹东市| 太和县| 都匀市| 红河县| 元朗区| 焉耆| 梓潼县| 焦作市| 多伦县| 逊克县| 文登市| 桂林市| http://444 http://444 http://444 http://444 http://444 http://444