使用词向量表示与概念资讯于中文大词汇连续语音辨识之语言模型.pdfVIP

使用词向量表示与概念资讯于中文大词汇连续语音辨识之语言模型.pdf

  1. 1、本文档共14页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  5. 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  6. 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  7. 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  8. 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
使用词向量表示与概念资讯于中文大词汇连续语音辨识之语言模型

The 2015 Conference on Computational Linguistics and Speech Processing ROCLING 2015, pp. 4-17  The Association for Computational Linguistics and Chinese Language Processing 使用詞向量表示與概念資訊於中文大詞彙連續語音辨識之 語言模型調適 Exploring Word Embedding and Concept Information for Language Model Adaptation in Mandarin Large Vocabulary Continuous Speech Recognition 陳思澄 Ssu-Cheng Chen, 洪孝宗 Hsiao-Tsung Hung, 陳柏琳 Berlin Chen 國立臺灣師範大學資訊工程學系 Department of Computer Science and Information Engineering National Taiwan Normal University ,, berlin}@.tw 陳冠宇Kuan-Yu Chen 中央研究院資訊科學研究所 Institute of Information Science, Academia Sinica Kychen@.tw 摘要 近年來深度學習(Deep Learning)激起一股研究熱潮;隨著深度學習的發展而有分 散式表示法(Distributed Representation)的產生。此種表示方式,不僅能以較低維 度的向量表示詞彙 ,還能藉由向量間的運算,找出任兩詞彙之間的語意關係。本 論文以此為發想,提出將分散式表示法 ,或更具體來說是詞向量表示(Word Representation) ,應用於語音辨識的語言模型中使用 。首先,在語音辨識的過程 中,對於動態產生之歷史詞序列與候選詞改以詞向量表示的方式來建立其對應的 語言模型 ,希望透過此種表示方式而能獲取到更多詞彙間的語意資訊。其次,我 們針對新近被提出的概念語言模型(Concept Language Model)加以改進;嘗試在調 適語料中以句子的層次做模型訓練資料選取之依據,去掉多餘且不相關的資訊 , 使得經由調適語料中訓練出的概念類別更為具代表性,而能幫助動態語言模型調 適。另一方面,在語音辨識過程中,會選擇相關的概念類別來動態組成概念語言 模型 ,而此是透過詞向量表示的方式來估算,其中詞向量表示是由連續型模型 (Continue Bag-of-Words Model)或是跳躍式模型(Skip-gram Model)生成,希望藉由 詞向量表示記錄每一個概念類別內詞彙彼此間的語意關係。最後,我們嘗試將上 述兩種語言模型調適方法做結合。本論文是基於公視電視新聞語料庫來進行大詞 彙連續語音辨識(Large Vocabulary Continuous Speech Recognition, LVCSR)實驗, 實驗結果顯示本論文所提出的語言模型調適方法相較於當今最好方法有較佳的 效用 。 關鍵詞:語音辨識、語言模型、詞向量表示 、概念模型 Abstract Research on deep learning has experienced a surge of interest in recent years. Alongside the rapid development of deep learning related technologies, various

文档评论(0)

suijiazhuang1 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档