神经拟态计算如何为机器赋予灵魂?

来源:雷锋网 作者:人工智能学家
  

人们喜欢变着花样来形容大脑。以前,大脑被时髦地比作17世纪贵族花园中赏心悦目的喷泉背后的水力供应系统。随着技术的发展,大脑先后被形容为电报通信网和电话交换系统。现在则是轮到用计算机来形容大脑。虽然“计算机般的大脑”还只是个比喻,但是有一群科学家试图将这个比喻颠倒过来。他们希望与其将大脑看作计算机,还不如让计算机表现得更像大脑。他们相信,人们最终不仅能对大脑的工作机制有更深的了解,还能构造出更好的计算机。

这些有远见的人自称为神经拟态学工程师。根据他们中的一名领军人物 —— 德国海德堡大学的物理学家卡尔海因茨·迈耶(Karlheinz Meier)所述,他们的目标是设计一台计算机,能够具备大脑所具有的三大特性中的一部分(或最好是全部)。这三大特性是:低能耗(人脑的功率大约是20瓦特,而当前试图模拟人脑的超级计算机需要几百万瓦特),容错性(失去一个晶体管就能破坏一个微处理器,但大脑时刻都在失去神经元),以及无须编程(大脑在与外界交互的过程中自发地学习和改变,而非遵循预设算法所限制的路径和分支)。

然而为了实现这些目标,神经拟态学工程师不得不先实现计算机对大脑的模拟。而且由于没人知道大脑实际上到底是如何工作的,他们只能自己来解决这个问题。这意味着他们要填补神经系统科学家对这一器官认知的空白。具体来说,这意味着要构造人工大脑细胞并且用各种方式将它们连接起来,以此来模拟大脑的工作。

回到模拟机

当前神经系统科学家对大脑的认知空缺主要在中等尺度脑解剖。单个神经细胞(即神经元)的工作模式大体上已被掌握,大脑中每个可见的脑叶和神经节的作用也已探明,但是脑叶和神经节中的神经元如何组织依旧是个谜。然而正是神经元的组织方式决定了大脑的思考方式 —— 同时也很可能是意识的存在方式。这正是为什么绘制大脑图谱以及了解大脑成为奥巴马在2013年4月高调宣布的美国人脑计划(BRAIN initiative)的一大目标的原因。要想了解大脑图谱显示的是什么,唯一的方法可能就是在计算机中对其进行建模。模型甚至可能会先出现,并且反过来指导大脑图谱的绘制。换句话说,神经拟态工程学可能比神经科学更早发现思考的基本原理。

两个最前沿的神经拟态计算项目正由人类大脑研究计划(Human Brain Project,HBP)主导下进行,这个计划是由欧洲科研机构联合发起的一个野心勃勃的尝试,试图在2023年构建一个大脑的拟象。这些项目开发的计算机走的是完全不同的路线。曼彻斯特大学的史蒂夫·弗伯(Steven Furber)制造的SpiNNaker便是其中之一。SpiNNaker是一台数字计算机,也就是平时最常见的那种,通过一系列代表电压有无的1和0来处理信息。由此可见,其核心是一个定制的微处理器网络。

 

另一部机器叫做Spikey,由迈耶博士的团队制造。Spikey让人回想起更早期的计算机。第一批计算机中有好几部是模拟计算机。这些模拟计算机用持续变化的电压范围中的点来表示数字 —— 因此无论是0.5伏、1伏还是1.5伏,各自的含义都不相同。Spikey的工作方式某种程度上与之类似。虽然由于数字系统没有歧义,不易出错,导致模拟计算机败给了数字计算机,但是迈耶博士认为,因为模拟计算机的工作方式与真实神经系统的某些特性更为相近,所以它们是对这些特性进行建模的更好的方法。

弗伯博士和他的团队自2006年就投入到SpiNNaker的研究工作中。2011年,他们为了验证自己的想法,构建了一个仅有18个处理器的版本。他们正准备制造一台更大的机器,比之前的要大得多。并预计在2014年,他们就能制造出拥有百万处理器的计算机。弗伯博士认为,借助这么多芯片,他能够对人脑的1%进行建模 —— 关键是他的模型能够在实时条件下工作。当前,即使用那些超级计算机来模拟大脑的更小部分,其运行速度也远比不上真实大脑。弗伯博士并非止步于此,他希望到2020年开发出性能是百万处理器计算机10倍的SpiNNaker版本。

SpiNNaker达到这样的速度要靠实现迈耶博士的第三个期望 —— 无须编程。大多数现代计算机的工作方式是在中央时钟的控制下来回搬运数目相对较少的几个大数据块。与之不同的是,SpiNNaker的处理器只在适当的时候才发出大量微小的信息“脉冲”。这和神经元的工作方式十分类似(这是特意如此设计的),信号以被称为“动作电位(action potentials)”的电子脉冲(electrical spikes)的形式通过神经元,这些动作电位除了表明自己发生过之外,几乎不携带额外的信息。

这种异步信号(之所以这样称呼是因其没有用于同步的中央时钟)由于没有等待时间,处理信息的速度比同步信号快得多。它的能耗也更低,因此满足了迈耶博士的第一个期望。如果某个处理器失效了,系统会在其周围重新规划路线,由此满足了他的第二个期望。大多数计算机工程师不采用异步信号是由于其难以编程,然而作为模拟大脑的一个方案来说,异步信号几乎是完美的。

但是(在用于模拟大脑时)这种思路可能不如模拟技术。虽然迈耶博士还未完全放弃数字路线,但是他在使用中已经有所差别。他用数字组件来模拟通过突触(神经元间的连接)的信息传播。在真实的神经元里这些信息以被称为“神经递质”的化学物质作为载体,传播时只有“有”或“无”的区别。换句话说,它们是数字的。

神经递质的释放会导致一个对动作电位到来的响应。当神经元接收到其中一个神经递质信号后,便不再继续发射动作电位,而是建立一个阈值。只有当它们接收到一定数量的信号,直至超过阈值之后(这基本上是一个模拟过程)它们才能再发射一个动作电位,并重置自身。Spikey机器中的人造神经元的功能正是如此,每当其被激励时,就在电容中累积电荷,直到电荷量达到阈值后电容放电。

实际进展如何?

苏黎世神经信息研究所(由苏黎世大学和同城的工程院校苏黎世联邦理工学院共同运营)的神经拟态学工程师吉亚科莫·印第维里(Giacomo Indiveri)走的同样是模拟路线。印第维里博士的工作独立于人类大脑工程,他有一个不同的、更为实际的目标。他正在尝试利用神经拟态学的原理构建所谓的“自主认知系统”—— 比如植入式耳蜗,它可以分辨佩戴者是在音乐厅、汽车内或是在海滩,并能相应地调整输出。他自己额外定了一个约束条件:要求这些系统要与所替代的天然神经部件具有相同的重量、体积和能耗,同时尽量使其功能接近自然。

这种追求自然的方法有一部分是利用了系统中的晶体管经常工作在技术上被称为“亚阈值区(sub-threshold domain)”的状态中。这种状态下的晶体管虽然是关闭的(也就是说电流不能通过,因此代表二进制中的0),但仍然会流失一部分微小的漏电流(几微微安),因为电子能通过晶体管扩散出去。

早在20世纪80年代,被公认为神经拟态计算之父(同时也是“neuromorphic”这个词的发明者)的加州理工学院工程师卡弗·米德(Carver Mead)证明,晶体管在亚阈值区的行为与细胞膜上的离子通道蛋白十分相似。离子通道的作用是在细胞内外传递钠、钾离子,其主要任务之一就是产生动作电位。因此,利用亚阈值区状态下的晶体管是模拟动作电位很好的方法,并且功耗很低 —— 这是与真实的生物系统相仿的另一个方面。

印第维里博士的设备的运行速度也与生物电路的相同(几十或几百赫兹,而非计算机处理器千兆赫兹这样的超级速度)。这使他们的设备能与真实的生物电路(例如植入式耳蜗中耳内的生物电路)进行交互,从而能有效地处理像人们说话或者打手势这样的自然信号。

印第维里博士当前正在利用晶体管亚阈值区的原理开发包含数百个人造神经元和数千个神经元间的突触的神经拟态学芯片。虽然这听起来与弗伯博士要做的百万处理器系统差距甚远,但是它不需要一整间屋子来容纳它 —— 如果你的目标是一个可用的“人造器官”的话,这点就显得尤为重要。

神经拟态计算研究由欧洲人而非美国人占据着主导地位,这对于一个信息技术领域来说,实属罕见。但是这个状态能维持多久是个问题,因为大西洋彼岸的研究者们正在奋力追赶。特别是与人类大脑研究计划中神经拟态学这部分的规模相当的,由美国国防部高级研究计划署出资的自适应可塑可伸缩电子神经拟态系统(Systems of Neuromorphic Adaptive Plastic Scalable Electronics,SyNAPSE),也正在研制两台神经拟态学计算机。

美国队登场

其中一台机器由位于加州马里布的HRL实验室设计,该实验室由波音公司和通用汽车共同拥有。该项目的带头人纳拉扬·斯里尼瓦桑(Narayan Srinivasa)表示,他的神经拟态学芯片一行代码都不需要写就能工作,它可以像真的大脑那样边干边学。

真正的大脑有一个被称为“小世界网络”的重要特性。大脑中的每个神经元都有上万个突触与其他神经元相连。“小世界网络”特性意味着,即使人脑包含860亿个神经元,在千千万万条可能的路径中,每个神经元只须经过两到三次连接就能抵达其他任意一个神经元。

在真正的大脑和众多对人工大脑的尝试(包括斯里尼瓦桑博士的芯片)中,记忆的形成都牵涉到加强部分突触的连接,而削弱其他连接。正是这一点使得网络无须依赖传统的计算机程序就能处理信息。而构建这种人造小世界网络的一大障碍在于如何在包含大量神经元的系统中连接所有的神经元。

许多神经拟态学芯片通过所谓的纵横制交换架构(cross-bar architecture)来完成这个任务。一个纵横交换网络由密集的连线网格组成,每个节点在外围都连接着一个神经元,而突触位于网格线的交叉连接处。这在小规模电路中工作良好,但是随着神经元数量的增加,这种结构逐渐不再适用。

斯里尼瓦桑博士采用 “突触时分复用”来解决这个问题,其中每个物理突触充当着1万个虚拟突触的角色,每个虚拟突触轮流占用100纳秒的时间。这样一个系统需要一个中央时钟来协调一切,而且这个时钟要运行得足够快。大脑基本工作在10赫兹到100赫兹之间,而斯里尼瓦桑博士的芯片运行速度高达一兆赫兹。但这允许芯片中的576个人造神经元每一个都能以与同等规模真实网络中神经元相同的速度和其他人造神经元进行交流。

这种规模的天然神经网络的确存在。秀丽隐杆线虫是一种小型线虫,因其发育途径完全规范而成为地球上被研究得最彻底的动物之一。除了生殖细胞外,每个秀丽隐杆线虫个体有959个细胞(如果是雌雄同体)或1031个细胞(雄性,秀丽隐杆线虫没有纯雌性)。雌雄同体的个体中有302个细胞是神经元细胞,雄性个体中有381个。这种动物大约有5000个突触。

即便如此简单,也依然没有一台神经拟态学计算机能够模拟秀丽隐杆线虫的神经系统。谁要是能构建一台这样的计算机,他就能在神经拟态学工程师的行列中由新手晋级为大师。斯里尼瓦桑博士希望他的芯片中有一块能成为这样的传世之作。

与此同时,更为实际的是,他和他的团队正与美国航空环境公司展开合作。这家公司制造的微型无人机能够完成像在建筑物内飞来飞去排查故障这样的任务。他的团队设计的芯片中有一个能充当这种无人机的大脑,学着执行诸如识别无人机曾经去过哪个房间,以及房间里的东西是否有变化这样的任务。更高版本的芯片甚至可以获取控制权,自主驾驶无人机。

SyNAPSE的另一个项目由位于圣何塞的IBM阿尔马登实验室的德尔门德拉·莫德哈(Dharmendra Modha)负责。通过与四所美国大学(哥伦比亚大学、康奈尔大学、加州大学美熹德分校以及威斯康星大学麦迪逊分校)合作,他和他的团队构建了一个拥有256个“整合放电(integrate-and-fire)”神经元的神经拟态计算机原型。LIF模型的得名是由于它们累加(整合)输入直至达到阈值,然后发射信号并重置自己。从这点看,这些神经元与Spikey中的神经元很像,不过二者的电子细节有所不同,因为前者用于记录输入信号的是数字存储器而不是电容。

莫德哈博士的芯片拥有26.2万个突触,更重要的是其中的神经元可以像真正的大脑那样,根据接收到的输入重新布线。而且,这些神经元也能像真正的大脑一样记住它们近期的行为(它们触发了哪些突触),并在重新布线的过程中利用这些信息削弱一些连接,增强另一些连接。

迄今为止,莫德哈博士和他的团队已经教会他们的电脑玩一款叫做“乒乓(Pong)”的最早的(也是最简单的)街机游戏,还能识别从0到9的数字。在数字识别的程序中,当某个人在触摸屏上随手写个数字,神经拟态学芯片就能从笔迹中提取关键特征,并用这些特征来猜测写的是哪个数字(结果通常是正确的)。

虽然这看起来还相当初级,但它仅仅是为了证明原理的可行性。他们的下一步计划就是将其规模扩大。

已经被探明大脑的中层结构是模块化的。包含绝大多数神经元的新皮质占据着大脑体积的3/4,其本身由许多柱状体组成,每一个都包含大约7万个神经元。莫德哈博士计划制造某种与之类似的东西。他打算将他的芯片视为皮质柱,并将这些芯片连接起来构成一台计算机,使之至少在这点上很像大脑。他正在接近这个目标。实际上,他已经仿真了一个包含100万亿个突触的系统 —— 真实大脑中神经元的数目大约在同一数量级。

在此之后

当然,神经拟态计算将朝什么方向发展依然未知。虽然此刻它还十分原始,但是一旦成功,它就能够构造出和人一样聪明 —— 甚至比人更聪明 —— 的机器。科幻小说或许因此成为科学事实。

此外,对于习惯了将大脑看做科学尚未破解的黑盒的旁观者来说,事物的发展可能比预想的要快得多。大把资金开始投入到这个领域。人类大脑研究计划10年间的预算为10亿欧元(13亿美元),而美国人脑计划第一年的预算也有1亿美元,神经拟态计算会从这两个计划受益。假如规模是唯一瓶颈的话,那么答案将会很快揭晓,因为这真的只是一个将足够多的皮质柱形的硅的等价物连接起来,再看看其如何削弱和增强系统内部连接的问题。

人们常常觉得他们的大脑比其他生物更复杂 —— 事实也确实如此。但是已知的是,人脑与猿脑或猴脑的主要不同之处在于人脑更大。因此,问题可能真的只在于连接足够多的适当的部件,再让它们自行去解决问题。人工智能领域的创造者之一马文·明斯基(Marvin Minsky)曾预言过,如果这样真的可行,机器将会把人类当作宠物。

【编者按】本文译自The Economist, “Neuromorphic computing—the machine of a new soul”, 2013.8一文。译者邢东,浙江大学硕士研究生,主要研究方向为机器学习、模式识别;潘纲,CCF高级会员,浙江大学教授,主要研究方向为普适计算、计算机视觉、智能系统等。未经允许不得转载或修改。


时间:2015-11-04 21:55 来源:雷锋网 作者:人工智能学家 原文链接

好文,顶一下
(0)
0%
文章真差,踩一下
(0)
0%
------分隔线----------------------------


把开源带在你的身边-精美linux小纪念品
无觅相关文章插件,快速提升流量