2020年2月24日功能
人工神经网络与生物神经网络的研究展望
![Direct-Fit Learning with Dense Sampling Supports Interpolation-Based Generalization. (A) An overly simplistic model will fail to fit the data. (B) The ideal-fit model will yield a good fit with few parameters in the context of data relying on a relatively simple generative process; in fact, this is the model used to generate the synthetic data (with noise) shown here. (C) An overly complex (i.e., over-parameterized) model may fixate on noise and yield an explosive overfit. (A)–(C) capture the ‘‘textbook’’ description of underfitting and overfitting. (D) Complex models, such as ANNs, however, can nonetheless yield a fit that both captures the training data and generalizes well to novel data within the scope of the training sample (see G and Bansal et al., 2018 for a related discussion). (E) Traditional experimentalists typically use highly controlled data to construct rule-based, ideal-fit models with the hope that such models will generalize beyond the scope of the training set into the extrapolation zone (real-life data). (F) Direct-fit models—like ANNs and, we argue, BNNs—rely on dense sampling to generalize using simple interpolation. Dense, exhaustive sampling of real-life events (which the field colloquially refers to as ‘‘big data’’) effectively expands the interpolation zone to mimic idealized extrapolation. (G) A direct-fit model will generalize well to novel examples (black triangles) in the interpolation zone but will not generalize well in the extrapolation zone. Credit: Hasson, Nastase & Goldstein. 人工神经网络与生物神经网络的研究展望](https://scx1.b-cdn.net/csz/news/800a/2020/aperspective.jpg)
进化,即生物随着时间的推移适应周围环境的过程,多年来一直被广泛研究。正如达尔文在19世纪中期首次提出的假设,研究证据表明,包括人类在内的大多数生物物种都在不断地适应新的环境,这最终使他们得以生存。
近年来,研究人员一直在开发基于人工神经网络的高级计算技术,这是受到生物神经网络在人类的大脑.基于人工神经网络的模型经过训练,可以在数百万个观察结果上优化数百万个突触权重,以便做出准确的预测或对数据进行分类。
普林斯顿大学的研究人员最近进行了一项研究,从进化的角度调查人工神经网络和生物神经网络的异同。他们的论文发表在神经元,利用心理学理论比较了生物神经网络和人工神经网络的进化。
这篇论文的主要作者Uri Hasson和Sam Nastase在接受《医学快讯》采访时表示:“这个项目源于一个谜题:为什么现代深度神经网络在许多复杂的认知任务中表现出色——如果不是比人类更好的话,也能学会和人类一样好。”欧宝娱乐地址“这个谜题让我们注意到人工神经网络和生物神经网络之间的异同。”
虽然有不少心理学和神经科学研究人员试图更好地理解大脑的结构和功能深度神经网络在美国,由于它们的复杂性,许多人发现它们很难或不可能解释。Hasson, Nastase和他们的同事Ariel Goldstein想要证明,试图用简单直观的表示来描述大脑中受到启发的复杂神经网络可能是非常具有挑战性和不现实的。
“我们认为,人工神经网络和生物神经网络都旨在指导行动现实世界中哈森和纳斯塔斯解释道。“科学家试图理解世界的底层结构,但神经网络学习从世界的有用元素到有用行为(或输出)的直接映射。它们并不构建理想的或直观的世界模型——相反,它们使用过多的参数(例如,连接权重或突触)来反映世界上与任务相关的结构。”
![人工神经网络与生物神经网络的研究展望](https://scx1.b-cdn.net/csz/news/800/2020/1-aperspective.jpg)
在他们的论文中,研究人员基本上提出,基于人工神经网络的模型不会学习人类容易理解的规则或周围世界的表示。相反,它们通常使用局部计算来分析高维参数空间中数据的不同方面。
为了进一步解释他们的推理,Hasson, Nastase和Goldstein使用了两个现有神经网络的简单例子。在他们的论文中,他们描述了这两个网络如何学习插入它们遇到的不同数据及其特征,而不学习用于泛化的理想“规则”。然后,他们将人工神经网络采用的基于优化的“无意识”学习策略与包括人类在内的物种在数年生物进化过程中的“盲目”适应进行了类比。
“我们认为,大脑和人工神经网络之间的相似性可能会破坏实验神经科学中的一些标准实践,”Hasson和Nastase说。“更具体地说,我们认为,使用严格控制的实验操作来探测大脑的简单、直观反应的传统可能是误导性的。另一方面,我们怀疑人工神经网络将从更多的生态目标函数(即目标)的开发中获益良多。”
这个研究团队进行的理论分析可能会对未来的心理学和神经科学研究产生许多有趣的影响,特别是对旨在更好地理解人工神经网络的研究。值得注意的是,他们的发现强调了需要改变通常用于研究人类大脑的方法,以及受其启发的新的计算架构。
从本质上讲,哈森、纳斯塔斯和戈尔茨坦认为,使用人为设计的实验操作,希望揭示简单的规则或表示,不太可能产生可以有效应用于现实世界的模型。相比之下,不加思考地将大数据与大模型进行拟合,很可能会为大脑提供所需的偏见,以采取行动并预测现实世界中的现象。这种盲目优化,就像进化论一样,可能更适合大脑,因为它是一种相对简单但强大的方法,可以指导人们学习不同的现实世界现象。
“我们现在计划开发进一步的自然主义实验范式来探索人类大脑在更多的生态环境中,”哈森和纳斯塔斯说。“我们也对探索人类大脑如何和人工神经网络相互作用,以及我们能否识别两者之间的共享信号。”
进一步探索
©2020科学欧宝app网彩X网