CORC  > 自动化研究所  > 中国科学院自动化研究所  > 毕业生  > 硕士学位论文
题名基于好奇心的类脑脉冲神经网络模型
作者史梦婷
答辩日期2020-05-22
文献子类硕士
授予单位中国科学院大学
授予地点中国科学院自动化研究所
导师曾毅
关键词类脑智能 脉冲神经网络 好奇心 可塑性 主动学习
学位名称工程硕士学位
学位专业计算机技术
英文摘要

    传统的人工神经网络(Artificial Neural Network, ANN)目前在计算机视觉和自然语言处理等模式识别任务中表现出卓越的性能,但是鉴于其依赖于大量的训练样本和强大的算力基础并且增量学习和自适应能力比较弱,以深度神经网络(Deep Neural Network, DNN)为基础的一些计算模型依然有许多亟待改进的地方。近年来脉冲神经网络(Spiking Neural Network, SNN)以其更加类生物的结构和计算方式受到了许多研究者的关注,并且因为其可以更多地与哺乳动物大脑的层次化结构和多种可塑性规则相结合,SNN被认为更有潜力突破当前人工智能方法鲁棒性不足和计算开销巨大的问题。与此同时,大脑中好奇这类的机制和所涉及的认知通路在我们主动、高效的终生学习过程中起到至关重要的作用。因此本文将以SNN的优化为基础,结合好奇机制,探索其与SNN结合的方式及其认知环路的计算建模,主要成果如下:

    1. 提出了多种生物可塑性机制启发的脉冲神经网络优化方法

    从SNN学习算法角度而言,不同于将SNN的激活函数变换为类似ANN中连续可微的形式,或者将原始脉冲序列转换成放电率运算,本文直接建模大脑神经元的稳态膜电位调控机理,提出了以电压为中心的优化算法(Voltage-driven Plasticity-centric SNN, VPSNN),并在MNIST数据集上进行了验证,得到98.52%的分类准确率,为当下纯生物可塑性优化SNN的最好结果。

    2. 构建了融合好奇机制的脉冲神经网络模型

    从SNN效率提升角度而言,在传统调优的基础上,本文受大脑中好奇机制的特点和优势启发,提出了一种有效地和目前SNN学习规则融合的模型Curiosity-based Spiking Neural Network (CBSNN),并在MNIST、Iris、NET talk、Fashion-MNIST和CIFAR-10数据集上进行了验证,达到同等分类正确率的前提下,CBSNN只用VPSNN约50%(甚至更少)的计算时间,以此优化了SNN在冯·诺伊曼结构下计算开销巨大的问题。

    3. 讨论了好奇相关的多脑区、多认知功能协同交互学习系统

    从基于好奇的计算系统而言,本文分析了与好奇相关的初级视觉皮层信息处理和高级认知脑区之间的协同关系。重点讨论了自上而下的神经递质和信号传递对初级视觉皮层的全局和局部调控机制(有助于深度脉冲网络的优化),以及类好奇的主动学习多脑区协同架构(有助于智能体实现时空信息处理、异常场景感知、快速强化学习以及一定程度的迁移学习能力)。

语种中文
页码64
内容类型学位论文
源URL[http://ir.ia.ac.cn/handle/173211/39286]  
专题毕业生_硕士学位论文
推荐引用方式
GB/T 7714
史梦婷. 基于好奇心的类脑脉冲神经网络模型[D]. 中国科学院自动化研究所. 中国科学院大学. 2020.
个性服务
查看访问统计
相关权益政策
暂无数据
收藏/分享
所有评论 (0)
暂无评论
 

除非特别说明,本系统中所有内容都受版权保护,并保留所有权利。


©版权所有 ©2017 CSpace - Powered by CSpace