金博士想要打开深度学习的黑匣子。

金是谷歌Brain的高级研究员这是一种人工智能心理学。就像她之前的认知心理学家一样,她开发了各种方法来探索人工神经网络(ann)的异类思维,挖掘其血淋淋的细节,以更好地理解模型及其对输入的反应。

推理表明,ann越容易解释,就越容易揭示其推理中的潜在缺陷。如果我们知道什么时候或者为什么我们的系统会崩溃,我们就会知道什么时候用它们作为建筑的基础负责人工智能

已经几种方法来利用安推理但Kim解开人工智能黑匣子的灵感来自一个完全不同的领域:认知心理学。金和她的同事在研究中写道,这个领域的目标是发现人类思维——本质上也是一个诱人的黑匣子——是如何运作的基本规则。

一篇新论文上传到预发布服务器arXiv后,该团队描述了一种在ann上进行人类认知测试的方法。该测试探测我们如何自动完成所看到的空白,从而形成完整的物体——例如,从沿时钟表面排列的一堆松散的点来感知一个圆。心理学家称之为“完成法则”,这是一个非常有影响力的观点,可以解释我们的大脑是如何将数据归纳为概念的。

由于机器视觉中的深层神经网络会松散地模仿视觉皮层的结构和连接,作者自然会提出这样的问题:神经网络是否也表现出了完成法则?这告诉我们人工智能是如何思考的?

进入德国

完满法则是一系列思想的一部分格式塔心理学。早在20世纪20年代,远在现代神经科学出现之前,一群德国实验心理学家就提出了这样一个问题:在这个混乱、浮华、不可预测的世界里,我们如何拼凑输入信息,从而产生有意义的感知?

其结果就是一组被称为格式塔效应的原则:思维自我组织形成一个整体。用完形心理学家Kurt Koffka更著名的话来说,我们的知觉形成了一个整体,它“不是各部分之和”。不超过;就不同。

尽管该理论遭到了批评,但随后对人类和动物的研究表明,完满法则同时发生在认知和神经解剖学层面。

看看下面的图。你立即“看到”一个形状实际上是负面的:一个三角形或正方形(a和B)。或者你进一步感知三维球(C),或一个蛇形蠕动(D)。你介意填写空白的地方,所以,最后的感觉不仅仅是黑色的形状你显式地给出。

心理学完形人工智能
图片来源:维基共享贡献者,免费媒体存储库。

神经科学家现在认为,这种影响来自于我们的视觉系统处理信息的方式。层次较低的神经元——首先处理数据的神经元——以多层和列的形式排列,往往会提取出更简单的特征,如线条或角度。用完形语言来说,他们“看到”了部分。

然后,一层一层地,感知变得更加抽象,直到更高层次的视觉系统直接解释面孔或物体——或根本不存在的东西。也就是说,“整体”出现了。

实验设置

受这些经典实验的启发,Kim和他的团队开发了一种协议来测试前馈神经网络的格式塔效应:一个简单,另一个被称为“Inception V3”,要复杂得多,在机器视觉领域广泛应用。

其主要思想与上面的三角形图相似。首先,该团队生成了三个数据集:一个数据集显示的是完整的普通三角形。第二,“虚幻”集,显示三角形的边缘被删除,但角落完好无损。由于格式塔效应,对我们人类来说,这些东西通常看起来还是像三角形。第三组也只显示不完整的三角角。但在这里,这些角是随机旋转的,因此我们无法想象有一条线将它们连接起来——因此,不再有三角形。

为了生成足够大的数据集来梳理出小的效果,作者改变了数据集的背景颜色、图像旋转和其他方面。他们总共制作了近1000张图片来测试他们的ann。

“在较高的水平上,我们比较了三组刺激中ANN激活的相似性,”作者解释说。这个过程有两个步骤:首先,在完整三角形上训练AI。第二,在数据集上测试它们。如果错觉集和完整三角形之间的响应更相似——而不是随机旋转的三角形集——那么就应该表明网络中存在一种完形闭合效应。

机器完形

研究小组立刻得到了他们的答案:是的,ann确实表现出了闭合定律。

当在自然图像上训练时,这些网络比那些随机连接权值的网络或在白噪声上训练的网络更好地将虚幻集分类为三角形。

当团队深入研究“原因”时,事情变得更有趣了。完成图像的能力与网络的泛化能力有关。

人类潜意识里一直在这么做:任何把手是陶瓷做的东西,不管形状如何,都很容易成为杯子。ann仍然在努力掌握共同的特征,这些线索会立即告诉我们“嘿,这是一个马克杯!”但当他们这样做的时候,它有时会让网络更好地一般化。

“我们在这里观察到的是,一个能够概括展品的网络……更多的研究小组写道:“这种封闭效应(强调他们的)暗示了封闭效应反映了一些不仅仅是学习特征的东西。”

更重要的是,与视觉皮层非常相似的是,“高”层次的神经网络比低层次的神经网络表现出更多的闭合效应,也许并不奇怪,网络的层次越多,它表现出的闭合效应就越多。

随着网络的学习,它们从碎片中绘制物体的能力也得到了提高。当团队对图像的亮度和对比度进行调整时,人工智能仍然学会了从树木中看到森林。

“我们的研究结果表明,用自然图像训练的神经网络确实表现出了闭合,”该团队总结道。

AI心理学

这并不是说ann再现了人类大脑。谷歌的深的梦想它清楚地表明,机器视觉看到了一些真正奇怪的东西。

相比之下,因为它们是模仿人类视觉皮层的,所以可能不是全部令人惊讶的是,这些网络也表现出我们处理信息方式固有的高级属性。

但对金和她的同事来说,这正是问题的关键。

他们写道:“心理学领域已经开发出了研究人类大脑的有用工具和见解——我们或许可以借用这些工具来分析人工神经网络。”

通过调整这些工具来更好地分析机器的思维,作者能够了解到他们看待世界的方式与我们是如何相似或不同的。这就是关键:关键不是说ann对世界的感知有点,有点,也许和人类相似。而是利用大量的认知心理学工具在过去的几十年里,他利用人类的思维来探索ann。

作者总结道:“这项工作只是漫长道路上的一步。”

“了解人类和神经网络的不同之处,将有助于揭示这两个有趣物种之间的根本差异,从而研究可解释性。”

图片来源:罗德阿勒娜/Shutterstock.com

范雪来是一位神经科学家出身的科学作家。她在不列颠哥伦比亚大学(University of British Columbia)完成了神经科学博士学位,在那里她开发了神经退化的新疗法。在研究生物大脑时,她开始对人工智能和所有生物技术着迷。毕业后,她搬到了加州大学旧金山分校,研究以血液为基础的因素,使衰老的大脑恢复活力。她是……

跟雪莉: