黑龙江大学自然科学学报

2015, (06) 135-144

[打印本页] [关闭]
本期目录(Current Issue) | 过刊浏览(Past Issue) | 高级检索(Advanced Search)

UGES反向传导算法:一种新的小样本深度机器学习模型
UGES backpropagation: a new deep machine learning model for small sample learning

马超;徐瑾辉;侯天诚;蓝斌;张振华;

摘要(Abstract):

针对传统深度学习算法在样本不足时易出现过拟合的问题,提出了一类新的小样本深度学习模型:UGES反向传导模型。其基本思路是:在保留深层结构的同时,压缩需要学习参数的数量。作为一种与误差反向传导算法相容的间接编码模型,该算法对权值的随机分布特性进行重新编码,打破了不同隐含层之间的隔阂,并使用变分贝叶斯学习对网络进行全局训练。新模型的参数数目不再与输入变量维数及网络结构大小相关,同时强迫权值对于一定程度的扰动具有鲁棒性。最后,将所提出的算法用于外包软件项目风险识别这一典型的多维小样本问题中。对比实验表明,该模型达到了93.3%的样本外准确率,不仅保留了深度模型非线性表达能力,亦具备了小样本下优秀的泛化能力。

关键词(KeyWords): 深度机器学习;不确定性间接编码;变分贝叶斯学习;小样本问题;外包软件项目风险识别

Abstract:

Keywords:

基金项目(Foundation): 国家自然科学基金资助项目(71271061,70801020);; 广东省大学生科技创新培育专项资金重点资助项目(308-GK151011);; 广东省自然科学基金资助项目(2014A030313575);; 广东省哲学社会科学“十二五”规划项目(GD12XGL14);; 广东省公益研究与能力建设之软科学项目(2015A070704051);; 广东省教育厅科技创新基金资助项目(2013KJCX0072);; 广州市哲学社会科学发展“十二五”规划共建课题项目(14G41);; 2014年国家级大学生创新训练计划项目(201411846001);; 广东外语外贸大学教学研究重点A类项目(GYJYZDA14002)

作者(Author): 马超;徐瑾辉;侯天诚;蓝斌;张振华;

Email:

DOI:

参考文献(References):

扩展功能
本文信息
服务与反馈
本文关键词相关文章
本文作者相关文章
中国知网
分享