基于多任务学习的神经网络语言模型建模方法
张一珂;  张鹏远;  颜永红
2017
会议日期2017-10-11
会议地点中国江苏连云港
关键词语音识别 语言模型 多任务学习 状态子空间共享 递归神经网络
英文摘要针对特定的语言模型建模任务而言,领域相关的语料往往非常稀缺。针对此问题,本文提出了一种基于状态子空间共享的多任务学习模型,并将其应用于多个低资源的递归LSTM神经网络语言模型建模任务中。实验证明,相比于单任务建模方法,本文提出的方法使得语言模型的困惑度在全部任务上均有不同程度的下降。将本文提出的模型与传统的共享隐含层多任务学习模型融合后,在各个任务上,语言模型的困惑度进一步下降。此外,在语音识别任务中,本文提出的方法可以进一步降低识别错误率。
内容类型会议论文
源URL[http://ir.xjipc.cas.cn/handle/365002/5368]  
专题新疆理化技术研究所_多语种信息技术研究室
作者单位中国科学院声学研究所语言声学与内容理解重点实验室;中国科学院大学;中国科学院新疆理化技术研究所新疆民族语音语言信息处理实验室
推荐引用方式
GB/T 7714
张一珂;张鹏远;颜永红. 基于多任务学习的神经网络语言模型建模方法[C]. 见:. 中国江苏连云港. 2017-10-11.
个性服务
查看访问统计
相关权益政策
暂无数据
收藏/分享
所有评论 (0)
暂无评论
 

除非特别说明,本系统中所有内容都受版权保护,并保留所有权利。


©版权所有 ©2017 CSpace - Powered by CSpace