张海天|这个新型AI电子器件没有硅!能模拟大脑神经元,还登上了Science( 二 )
平均性能则分别高出1.4倍、1.2倍和5.1倍。
文章插图
此外,基于这一新型电子器件设计的动态神经网络,在处理增量学习上的表现也非常好。
如下网络(GWR)是一个可以识别红鸟、黄鸟的系统。理想状态下,当网络检测到新类型(蓝鸟)的输入时,系统会通过增加节点的方式来扩大网络规模。
如果其中任何一类动物长时间没有出现在输入中,其对应的节点也会随之关闭,以此来节省能耗。
文章插图
研究人员继续使用了手写数字识别这一数据集来进行测试。
首先,他们让网络识别0-4范围内的数字。然后将范围扩大到0-9训练一段时间,之后再只识别0-4。
结果显示,随着后来5-9的数字不再出现,网络中的相关节点也在逐渐关闭。
下图i-iii中,数字表示对应打开节点,黑色区域则表示关闭的节点。
文章插图
再将这一动态神经网络与静态网络对比,研究人员发现在增量学习场景下,对于MNIST、CUB-200两个数据集,动态网络的表现都更好。
从如下图B-E中可以看到,在MINIST数据集测试中,动态网络最终准确性是静态网络的2.1倍;数据集CUB-200的最终准确性则是静态网路的2.5倍。
文章插图
北航张海天教授为共同一作及通讯作者北京航空航天大学张海天教授为该论文的共同一作及通讯作者。
文章插图
他博士毕业于美国宾夕法尼亚州立大学材料科学与工程专业。
2018年获得美国吉尔布雷斯学者基金(Gilbreth Research Fellow),于普渡大学工程院开展独立研究工作(合作教授:Shriram Ramanathan以及Kaushik Roy)。
去年9月,张海天全职加入北京航空航天大学材料科学与工程学院。
主要研究领域为功能相变材料的调控及神经计算学器件应用、磁性功能材料、纳米材料等。
论文链接:
https://www.science.org/doi/10.1126/science.abj7943
参考链接:
https://arstechnica.com/science/2022/02/hydrogen-soaked-crystal-lets-neural-networks-expand-to-match-a-problem/
— 完 —
量子位 QbitAI · 头条号签约
- 比亚迪|早报:全球半导体收入超5千亿美元 比亚迪发布全新主张
- 李文龙预赛前给省队教练发信息:紧张啊,老师
- 本文转自:中国科技网 关注 科技日报记者 张佳星记者7日获悉|5G、机器人、自动化……多项技术成果助力冬奥会医疗保障实现“无接触”
- 奥林巴斯挖藕新机规格曝光:每秒120张连拍4K60P内录
- 文学|著名女作家张洁去世:曾两度荣获茅盾文学奖
- 薛定谔方程|《张朝阳的物理课》探究谐振子模型的量子化问题
- 《张朝阳的物理课》探究谐振子模型的量子化问题
- vivo S12 Pro拍照实力如何?春节期间的实拍样张来了
- 恶果|“踩点”交出数据后,张忠谋开始后悔:美国此举会酿成恶果
- 前国脚高红:夺冠是中国足球的及时雨 很荣幸执教过张琳艳等人