• <strike id="fdgpu"><input id="fdgpu"></input></strike>
    <label id="fdgpu"></label>
    <s id="fdgpu"><code id="fdgpu"></code></s>

  • <label id="fdgpu"></label>
  • <span id="fdgpu"><u id="fdgpu"></u></span>

    <s id="fdgpu"><sub id="fdgpu"></sub></s>
    您當(dāng)前的位置是:  首頁 > 資訊 > 文章精選 >
     首頁 > 資訊 > 文章精選 >

    陳根:Meta又有新動作——開發(fā)支持128種語言的模型

    2021-11-24 13:47:20   作者:   來源:CTI論壇   評論:0  點擊:


      今年10月28日,F(xiàn)acebook正式宣布將母公司改名為Meta,而Facebook成為其母公司旗下眾多產(chǎn)品之一。Meta一詞源于科幻元宇宙Metaverse,反映出該公司搭建元宇宙的決心。
      此前,為了提升元宇宙中的觸感交互,Meta公司的研究團(tuán)隊開發(fā)了一款觸覺手套,這種手套舒適、可定制,最重要的是能夠在虛擬世界中再現(xiàn)一系列感覺,包括紋理、壓力和振動等。
      近日,Meta公司又有新動作。其發(fā)布了自監(jiān)督語音處理模型XLS-R,該模型共支持128種語言,目的是助力元宇宙中的跨語種交流。
      當(dāng)今,有據(jù)可考的語言有7000余種。盡管現(xiàn)在的翻譯系統(tǒng)越來越強(qiáng)大,但要用AI完全實現(xiàn)這些語言的互通并非易事。一般來說,語料庫的豐富程度決定了語言翻譯模型的質(zhì)量,現(xiàn)有的語音翻譯一般集中于大語種之間,小語種語料往往比較匱乏,因此使用這類母語的人往往較難通過AI獲得較高的翻譯質(zhì)量。
      但XLS-R通過自監(jiān)督技術(shù)對10倍的語音數(shù)據(jù)進(jìn)行訓(xùn)練,大大改善了以前的多語言模型,尤其是小語種的處理。因此母語不同的人,比如一位說英語,一位說漢語的人,兩人可以靠XLS-R在元宇宙中進(jìn)行無障礙對話。
      XLS-R基于的是Facebook去年發(fā)布的wav2vec 2.0技術(shù)。該技術(shù)通過多層卷積神經(jīng)網(wǎng)絡(luò)對語音音頻進(jìn)行編碼,以及對產(chǎn)生的潛伏語音表征進(jìn)行跨度遮蔽,能夠建立捕捉整個序列信息的表征。
      這樣訓(xùn)練出的模型,可以預(yù)測音頻中被掩蔽部分的正確語音單元,同時也可以學(xué)習(xí)新的語音單元。在此基礎(chǔ)上開發(fā)的XLS-R,不僅能夠建立上下文表征,還可以捕獲整個潛伏表征序列上建立的依賴關(guān)系。
      XLS-R共有20億參數(shù),它在測試的37種語言中,表現(xiàn)優(yōu)于大多數(shù)語種先前的工作。甚至在老撾語等小語種識別上,也能低于之前的錯誤率。此外,XLS-R也讓低資源語言與英語之間的翻譯大幅改進(jìn),例如從印度尼西亞語到英語的翻譯,準(zhǔn)確性平均翻了一番。
      目前,XLS-R還只是一個預(yù)訓(xùn)練模型,為了能更好的應(yīng)用于具體任務(wù),還需要對其進(jìn)行相關(guān)改進(jìn)。
    【免責(zé)聲明】本文僅代表作者本人觀點,與CTI論壇無關(guān)。CTI論壇對文中陳述、觀點判斷保持中立,不對所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考,并請自行承擔(dān)全部責(zé)任。

    相關(guān)閱讀:

    專題

    CTI論壇會員企業(yè)

    亚洲精品网站在线观看不卡无广告,国产a不卡片精品免费观看,欧美亚洲一区二区三区在线,国产一区二区三区日韩 格尔木市| 荣成市| 丰原市| 柯坪县| 丘北县| 临颍县| 通化县| 昌图县| 普兰县| 宁德市| 英吉沙县| 邵阳市| 仙居县| 舟曲县| 大丰市| 石屏县| 酒泉市| 郓城县| 仁布县| 朝阳县| 冕宁县| 华宁县| 淄博市| 万宁市| 德令哈市| 台北县| 朝阳县| 西青区| 武清区| 泰兴市| 吴忠市| 平和县| 包头市| 衡山县| 高安市| 安宁市| 岳阳县| 京山县| 鄄城县| 上蔡县| 大同县| http://444 http://444 http://444 http://444 http://444 http://444