- 1、本文档共14页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
使用词向量表示与概念资讯于中文大词汇连续语音辨识之语言模型
The 2015 Conference on Computational Linguistics and Speech Processing
ROCLING 2015, pp. 4-17
The Association for Computational Linguistics and Chinese Language Processing
使用詞向量表示與概念資訊於中文大詞彙連續語音辨識之
語言模型調適
Exploring Word Embedding and Concept Information for
Language Model Adaptation in Mandarin Large Vocabulary
Continuous Speech Recognition
陳思澄 Ssu-Cheng Chen, 洪孝宗 Hsiao-Tsung Hung, 陳柏琳 Berlin Chen
國立臺灣師範大學資訊工程學系
Department of Computer Science and Information Engineering
National Taiwan Normal University
,, berlin}@.tw
陳冠宇Kuan-Yu Chen
中央研究院資訊科學研究所
Institute of Information Science, Academia Sinica
Kychen@.tw
摘要
近年來深度學習(Deep Learning)激起一股研究熱潮;隨著深度學習的發展而有分
散式表示法(Distributed Representation)的產生。此種表示方式,不僅能以較低維
度的向量表示詞彙 ,還能藉由向量間的運算,找出任兩詞彙之間的語意關係。本
論文以此為發想,提出將分散式表示法 ,或更具體來說是詞向量表示(Word
Representation) ,應用於語音辨識的語言模型中使用 。首先,在語音辨識的過程
中,對於動態產生之歷史詞序列與候選詞改以詞向量表示的方式來建立其對應的
語言模型 ,希望透過此種表示方式而能獲取到更多詞彙間的語意資訊。其次,我
們針對新近被提出的概念語言模型(Concept Language Model)加以改進;嘗試在調
適語料中以句子的層次做模型訓練資料選取之依據,去掉多餘且不相關的資訊 ,
使得經由調適語料中訓練出的概念類別更為具代表性,而能幫助動態語言模型調
適。另一方面,在語音辨識過程中,會選擇相關的概念類別來動態組成概念語言
模型 ,而此是透過詞向量表示的方式來估算,其中詞向量表示是由連續型模型
(Continue Bag-of-Words Model)或是跳躍式模型(Skip-gram Model)生成,希望藉由
詞向量表示記錄每一個概念類別內詞彙彼此間的語意關係。最後,我們嘗試將上
述兩種語言模型調適方法做結合。本論文是基於公視電視新聞語料庫來進行大詞
彙連續語音辨識(Large Vocabulary Continuous Speech Recognition, LVCSR)實驗,
實驗結果顯示本論文所提出的語言模型調適方法相較於當今最好方法有較佳的
效用 。
關鍵詞:語音辨識、語言模型、詞向量表示 、概念模型
Abstract
Research on deep learning has experienced a surge of interest in recent years.
Alongside the rapid development of deep learning related technologies, various
您可能关注的文档
- 不同沟灌方式棉花的水氮耦合效应-应用生态学报.pdf
- 不同加载方向的山岭隧道洞口段地震响应振动台模型试验-中南大学学报.pdf
- 不同来源腐殖酸在纳米四氧化三铁上的吸附及对其沉降性的-环境化学.pdf
- 不同车型对城道路并入型渐变段的通行影响-东南大学学报.pdf
- 不同负荷下生物膜脱落与载体生物膜生物特性的相互影响-环境科学学报.pdf
- 不同文献类型中的知识关系挖掘.pdf
- 不同预处理方法对剩余污泥厌氧发酵产氢的影响-哈尔滨工业大学学报.pdf
- 不确定性数据频繁项集挖掘算法-计算机系统应用.pdf
- 不确定数据管理的一点探讨-中国科技论文在线.pdf
- 不确定性防范与城务工人员主观幸福感-中国社会学网.pdf
- 第18讲 第17课 西晋的短暂统一和北方各族的内迁.docx
- 第15讲 第14课 沟通中外文明的“丝绸之路”.docx
- 第13课时 中东 欧洲西部.doc
- 第17讲 第16 课三国鼎立.docx
- 第17讲 第16课 三国鼎立 带解析.docx
- 2024_2025年新教材高中历史课时检测9近代西方的法律与教化含解析新人教版选择性必修1.doc
- 2024_2025学年高二数学下学期期末备考试卷文含解析.docx
- 山西版2024高考政治一轮复习第二单元生产劳动与经营第5课时企业与劳动者教案.docx
- 第16讲 第15课 两汉的科技和文化 带解析.docx
- 第13课 宋元时期的科技与中外交通.docx
文档评论(0)