类脑皮层表征神经计算模型及其应用

CORC > 自动化研究所 > 中国科学院自动化研究所 > 毕业生 > 硕士学位论文

题名	类脑皮层表征神经计算模型及其应用
作者	王寓巍
答辩日期	2017-05
授予单位	中国科学院研究生院
授予地点	北京
导师	曾毅
关键词	小样本学习脉冲神经网络脑皮层层次时序记忆模型
英文摘要	传统人工神经网络，尤其是深度学习（Deep Learning，DL）所代表的人工神经网络（Artifitial Neural Networks，ANN）在进行模式识别任务时，强调通过定义损失函数，并通过数据的不断迭代训练，对神经元间的连接权重进行调整，从而完成学习任务。然而，人类并不是采用这种方式习得知识的，从生物学上来讲，传统人工神经网络所考虑的机理过于简单，并不能解释人类需要小样本的训练即可习得新知识的现象。本文着眼于具有生物学可解释性的神经元模型进行文本表征、并通过构建类脑皮层神经计算模型，进行文本生成、自动问答等小样本学习任务。首先，本文基于脉冲神经网络，将脉冲发放时间作为模式表示的特征，提出了基于齐次Poisson过程的神经编码方法、基于LIF 神经元模型的二值词表征转化方法、基于Izhikevich神经元模型的二值词表征转化方法等多种类脑无监督表示学习方法，将原始稠密的词向量转化为对大脑皮层友好的二值词表征。基于GloVe 及Word2Vec 两个不同源的词向量在五个数据集上进行试验，结果表明，所提出的二值词表征方法不仅在可解释性上胜于传统方法，还在语义相似性、文本分类等相关测试中超越传统方法。其次，本文提出基于语义化层次时序记忆模型的小样本学习模型。该工作结合受大脑皮层相关中神经元、远端突触、细胞柱及时序计算机制的启发的层次时序记忆模型，建立神经计算模型，在完善原始模式表征方式的同时，结合脉冲神经网络所转化的二值词表征，进行小样本学习任务，并在文本生成、自动问答等任务的三个数据集上取得了较传统模型LSTM模型更好的效果。
学科主题	模式识别与智能系统
内容类型	学位论文
源URL	[http://ir.ia.ac.cn/handle/173211/14745]
专题	毕业生_硕士学位论文
作者单位	中国科学院自动化研究所
推荐引用方式 GB/T 7714	王寓巍. 类脑皮层表征神经计算模型及其应用[D]. 北京. 中国科学院研究生院. 2017.