人工神经网络与生物神经网络的研究展望

人工神经网络与生物神经网络的研究展望
密集采样的直接拟合学习支持基于插值的泛化。(A)过于简单的模型将无法拟合数据。(B)理想拟合模型在数据的背景下,依靠相对简单的生成过程,在参数较少的情况下产生良好的拟合;事实上,这就是用于生成合成数据(带有噪声)的模型。(C)过于复杂(即过度参数化)的模型可能专注于噪声而产生爆炸性的过拟合。(A) - (C)获取欠拟合和过拟合的“教科书”描述。(D)然而,复杂模型,如ann,仍然可以产生一个拟合,既能捕获训练数据,又能很好地泛化到训练样本范围内的新数据(参见G和Bansal等人,2018年的相关讨论)。(E)传统的实验主义者通常使用高度受控的数据来构建基于规则的理想拟合模型,希望这样的模型能从训练集的范围推广到外推区(现实生活数据)。(F)直接拟合模型——像神经网络和我们认为的bnns——依赖于密集抽样来使用简单插值进行推广。密集、详尽的真实事件采样(该领域俗称为“大数据”)有效地扩展了插值区域,以模拟理想化的外推。 (G) A direct-fit model will generalize well to novel examples (black triangles) in the interpolation zone but will not generalize well in the extrapolation zone. Credit: Hasson, Nastase & Goldstein.

进化,即生物随着时间的推移适应周围环境的过程,多年来一直被广泛研究。正如达尔文在19世纪中期首次提出的假设,研究证据表明,包括人类在内的大多数生物物种都在不断地适应新的环境,这最终使他们得以生存。

近年来,研究人员一直在开发基于人工神经网络的高级计算技术,这是受到.基于人工神经网络的模型经过训练,可以在数百万个观察结果上优化数百万个突触权重,以便做出准确的预测或对数据进行分类。

普林斯顿大学的研究人员最近进行了一项研究,从进化的角度调查人工神经网络和生物神经网络的异同。他们的论文发表在神经元,利用心理学理论比较了生物神经网络和人工神经网络的进化。

这篇论文的主要作者Uri Hasson和Sam Nastase在接受《医学快讯》采访时表示:“这个项目源于一个谜题:为什么现代深度神经网络在许多复杂的认知任务中表现出色——如果不是比人类更好的话,也能学会和人类一样好。”欧宝娱乐地址“这个谜题让我们注意到人工神经网络和生物神经网络之间的异同。”

虽然有不少心理学和神经科学研究人员试图更好地理解大脑的结构和功能在美国,由于它们的复杂性,许多人发现它们很难或不可能解释。Hasson, Nastase和他们的同事Ariel Goldstein想要证明,试图用简单直观的表示来描述大脑中受到启发的复杂神经网络可能是非常具有挑战性和不现实的。

“我们认为,人工神经网络和生物神经网络都旨在指导行动哈森和纳斯塔斯解释道。“科学家试图理解世界的底层结构,但神经网络学习从世界的有用元素到有用行为(或输出)的直接映射。它们并不构建理想的或直观的世界模型——相反,它们使用过多的参数(例如,连接权重或突触)来反映世界上与任务相关的结构。”

人工神经网络与生物神经网络的研究展望
图中显示了ann中的插值区域如何被训练集绑定。图片来源:Hasson, Nastase & Goldstein。

在他们的论文中,研究人员基本上提出,基于人工神经网络的模型不会学习人类容易理解的规则或周围世界的表示。相反,它们通常使用局部计算来分析高维参数空间中数据的不同方面。

为了进一步解释他们的推理,Hasson, Nastase和Goldstein使用了两个现有神经网络的简单例子。在他们的论文中,他们描述了这两个网络如何学习插入它们遇到的不同数据及其特征,而不学习用于泛化的理想“规则”。然后,他们将人工神经网络采用的基于优化的“无意识”学习策略与包括人类在内的物种在数年生物进化过程中的“盲目”适应进行了类比。

“我们认为,大脑和人工神经网络之间的相似性可能会破坏实验神经科学中的一些标准实践,”Hasson和Nastase说。“更具体地说,我们认为,使用严格控制的实验操作来探测大脑的简单、直观反应的传统可能是误导性的。另一方面,我们怀疑人工神经网络将从更多的生态目标函数(即目标)的开发中获益良多。”

这个研究团队进行的理论分析可能会对未来的心理学和神经科学研究产生许多有趣的影响,特别是对旨在更好地理解人工神经网络的研究。值得注意的是,他们的发现强调了需要改变通常用于研究人类大脑的方法,以及受其启发的新的计算架构。

从本质上讲,哈森、纳斯塔斯和戈尔茨坦认为,使用人为设计的实验操作,希望揭示简单的规则或表示,不太可能产生可以有效应用于现实世界的模型。相比之下,不加思考地将大数据与大模型进行拟合,很可能会为大脑提供所需的偏见,以采取行动并预测现实世界中的现象。这种盲目优化,就像进化论一样,可能更适合大脑,因为它是一种相对简单但强大的方法,可以指导人们学习不同的现实世界现象。

“我们现在计划开发进一步的自然主义实验范式来探索人类在更多的生态环境中,”哈森和纳斯塔斯说。“我们也对探索人类大脑如何和相互作用,以及我们能否识别两者之间的共享信号。”


进一步探索

神经科学打开了人工智能的黑匣子

更多信息:Uri Hasson等人。直接适应自然:生物和人工神经网络的进化视角,神经元(2020)。DOI: 10.1016 / j.neuron.2019.12.002
期刊信息: 神经元

©2020科学欧宝app网彩X网

引用:对人工和生物神经网络研究的展望(2020年,2月24日)检索于2022年6月4日//www.puressens.com/news/2020-02-perspective-artificial-biological-neural-networks.html
本文件受版权保护。除用于个人学习或研究的公平交易外,未经书面许可,不得转载任何部分。内容仅供参考之用。
627股票

对编辑的反馈