题名基于神经网络的自主情境特征提取研究
作者秦赛男
答辩日期2021-05-24
文献子类硕士
授予单位中国科学院大学
授予地点中国科学院自动化研究所
导师余山
关键词前额叶皮层 海马体 互补学习系统 情境处理模块
学位名称工程硕士
学位专业计算机技术
英文摘要

生物体能够根据变化的目标、环境及内部状态等组合成的不同情境对同一刺激做出不同的反应,这种动态响应环境的能力即为情境学习(Contextual Learning,CL)。在人工智能(Artificial Intelligence,AI)领域,情境学习并未引起广泛的关注,但其实这种能力是通用人工智能的必备能力之一。目前的人工神经网络(Artificial Neural Network,ANN)的函数映射较为刻板,缺乏在动态变化环境中灵活修改规则的能力,面临无法连续学习和灾难性遗忘等问题。其实,诸多任务中包含许多关键的情境信息,这些信息对于决策和判断有着直接或间接的影响,神经网络往往隐式地学习该类知识,使得网络的学习能力和容量受到限制。如果网络能自主显式地提取情境信息实现根据情境转换映射规则,则会大大提升其灵活性。灵长类生物的前额叶皮层(Prefrontal Cortex,PFC)和海马体(Hippocampus,HPC)负责情境信号的提取和转化,可以根据情境信息调控信息处理的流程,灵活处理不同的任务。本文受 PFC、HPC 和互补学习系统(Complementary Learning System,CLS)原理的启发,结合实际应用场景,提出了一种新的通用计算架构,设计了包含三个子模块的复合情境处理模块(Context Processing Module,CPM)。该模块能自主地通过端到端学习,有效提取关键情境信息,并将这一信息融入基准网络中从而实现高效的情境化信息处理。

本文首先通过强化学习的实验证实,CPM 能够有效提升基准网络的性能并加速训练,子模块间相互配合,协同合作,分别承担着不同的功能。实验证明,在包含复杂情境信息的 Pacman 游戏中,CPM 能显式学习提取判别与任务相关的重要情境信号,增大了游戏中情境元素表征之间的类间距离,并通过与基准网络所学习到的规则信息的有效融合,达到了缩短训练时长、节省计算资源的目的,改变了之前算法中智能体必须隐式学习情境信息的现状。通过对不同特征表征分布的研究,证实了 CPM 各子模块对于整体情境化信息处理的作用,并初步验证了其中一些子模块的功能机理,表明了本文所提出的类脑模块的有效性。为了深入研究 CPM 的作用原理与机制,本文设计了新颖的情境图像分类任务,使得输入图像中的情境信息和其他信息具有明确的定义。实验结果表明,我们提出的网络架构实现了对于这两种重要特征信息的解耦,降低了任务复杂度,并最终提升了分类的效果。进一步的分析表明,网络能够跟据各种类别信息的相对复杂程度,自主优化资源配置,实现情境信息的有效处理。

本研究结合神经科学的重要启发与机器学习的网络设计,提出并验证了能够通过端到端学习,自主地提取环境中的重要情境信息,并使之与其他信息的处理有效整合,从而提高系统性能的网络结构,并初步阐明了其作用机制。利用脑启发的网络结构,实现情境化信息处理与现有深度网络的有效结合,是面向通用人工智能的积极探索,也为研究人脑处理复杂信息的机制提供了新的思路,具有重要的理论和实际意义。

语种中文
学科主题人工智能
页码94
内容类型学位论文
源URL[http://ir.ia.ac.cn/handle/173211/44704]  
专题自动化研究所_脑网络组研究中心
推荐引用方式
GB/T 7714
秦赛男. 基于神经网络的自主情境特征提取研究[D]. 中国科学院自动化研究所. 中国科学院大学. 2021.
个性服务
查看访问统计
相关权益政策
暂无数据
收藏/分享
所有评论 (0)
暂无评论
 

除非特别说明,本系统中所有内容都受版权保护,并保留所有权利。


©版权所有 ©2017 CSpace - Powered by CSpace