研究人员假设，一种被称为变压器的强大人工智能模型可以通过神经元和星形胶质细胞网络在大脑中实现。这项工作可以深入了解大脑的工作原理，并帮助科学家理解为什么 Transformer 在机器学习任务中如此有效。图片来源：MIT News，数据来自 iStock
一项连接神经科学和机器学习的新研究提供了对星形胶质细胞在人脑中潜在作用的见解。
人工神经网络是无处不在的机器学习模型，可以经过训练来完成许多任务。他们的名字源于这样一个事实：他们的架构受到生物神经元处理人脑信息的方式的启发。
大约六年前，科学家们发现了一种更强大的新型神经网络模型，称为“变压器”。这些模型可以实现前所未有的性能，例如通过以接近人类的准确性根据提示生成文本。例如，变压器是 OpenAI 的 ChatGPT 和 Google 的 Bard 等人工智能系统的基础。虽然非常有效，但变形金刚也很神秘：与其他受大脑启发的神经网络模型不同，目前尚不清楚如何使用生物组件构建它们。
连接生物学和变形金刚
现在，来自麻省理工学院、麻省理工学院-IBM 沃森人工智能实验室和哈佛医学院的研究人员提出了一个假设，可以解释如何使用大脑中的生物元素构建变压器。他们认为，由神经元和其他称为星形胶质细胞的脑细胞组成的生物网络可以执行与变压器相同的核心计算。
最近的研究表明，星形胶质细胞是大脑中丰富的非神经元细胞，可以与神经元进行交流，并在一些生理过程中发挥作用，例如调节血流。但科学家们仍然对这些细胞的计算功能缺乏清晰的了解。
这项新研究最近以开放获取形式发表在《美国国家科学院院刊》上，研究人员从计算角度探讨了星形胶质细胞在大脑中的作用，并制作了一个数学模型来展示如何使用它们，与神经元一起构建一个生物学上合理的变压器。
他们的假设提供了一些见解，可以激发未来对人脑如何运作的神经科学研究。同时，它可以帮助机器学习研究人员解释为什么 Transformer 在各种复杂任务中如此成功。
“大脑远远优于我们开发的最好的人工神经网络，但我们并不真正知道大脑到底是如何工作的。思考生物硬件和大规模人工智能网络之间的联系具有科学价值。这是人工智能的神经科学和神经科学的人工智能。”麻省理工学院-IBM 沃森人工智能实验室的研究人员、该研究论文的高级作者 Dmitry Krotov 说道。
标签：
免责声明：本文由用户上传，如有侵权请联系删除！