20条理由通知你,为什么现在的深度学习成了人造智能的物化胡同?

原标题:20条理由通知你,为什么现在的深度学习成了人造智能的物化胡同?

作者 | Randy Laybourne

编译 | 蒋宝尚、从末

在深度学习刚刚进入视线时,大无数AI钻研人员嗤之以鼻,但短短几年后,它的触角已经横跨医疗、哺育、汽车等多多周围。

但也有不悦目点认为现在深度学习已经走到了物化胡同,例如全球人造智能计算机视觉周围奠基人之一、约翰霍普金斯大学教授艾伦·尤尔就曾抛出“深度学习在计算机视觉周围的瓶颈已至”的不悦目点。

本文作者 Randy Laybourne 比较声援尤尔教授不悦目点,并盘点了20条理由一一论述深度学习的钻研现在已经走到了物化胡同。AI科技评论作了有删改的编辑,请赏识~

1、逆向传播技术只正当狭义AI

逆向传播是深度学习的基本技术,它能够让神经网络在训练过程找到“最优解”。但是倘若让训练益的神经网络实走另一项义务或者操纵新数据时就会发生不幸性遗忘,从而无法完善赓续学习的现在的。

自然,你能够缩短之前学习义务以及调整网络组织来解决不幸性遗忘,但是倘若有新数据涌入,则必须增补神经元的数目。

大脑与吾们手工设计的神经网络相比有着更多的神经元,以是你会认为增补人造神经网络的神经元十足异国题目对吧?

但是你也要清新,大脑具有功能模块化的特点,它在实走义务的时候,每次只调用一幼片面神经元。而逆向传播在迭代的时候调用的是一切的神经元。

另外,大脑模块化的特点能让吾们人类学习到差别的东西,而且差别模块之间新闻是能够相互交流的。

那么组织多个深度神经网络并让它们之间互相连接能够解决题目么?

睁开全文

隐晦高级智能的功能远不止这些。

2、无监督学习

大脑在进走学习的时候,并不必要大量的示例,也不必要一个监督者在左右“叮嘱”。大脑的学习手段更添复杂,例如,即使一些“数据”异国打标签,大脑也能从其中学到一些东西。

自然,吾们也不是在模仿翅膀的行为来制造飞走器,但是鸟类却表清新当克服重力时,比空气重的物体也能够飞走,这意味着即使通用人造智能异国大脑相通的思考手段,也能够议定无监督的学习手段实现智能。

3、认知图与路线

现在,深度学习想要掌握更多的是一栽认知路线,即从输入数据到输出的认知途径,也就是说,深度学习是输入和输出之间有关记忆的一栽形态。

考虑下面一栽认知路线的情况:

“径直穿过森林,望到一条河,然后穿过幼溪,左转,在一棵稀奇的树附近停下来,然后能到山顶上有三块大石头的山,末了沿着路上往”

“径直穿过森林,望到一条河,然后穿过幼溪,左转,在一棵稀奇的树附近停下来,然后能到山顶上有三块大石头的山,末了沿着路上往”

现在的题目是,倘若有人砍失踪了树或不知何故搬开了石头呢?

这就是深度学习的弱点:知识的行使周围专门褊狭,只适用于一项义务。解决手段是创建一个动态的地图,即找到从差别首点到无限尽头的多条路线。

这就是狭义AI和通用AI的区别,这栽区别也深深影响着神经网络的组织。

4、展望过程

吾们的大脑总是尝试主动展望接下来几秒所发生的事情,并按照实际情况调整展望细节。这也是人类具有凶猛益奇心的因为。

除此之前吾们人类还有另一个驱动因素,即当吾们有着很益的基础时,吾们总想要改善吾们关于生理模型的认知地图-。

人类在面临未知的时候总是想要找到一个令人舒坦的注释,否则不会停下来。以是说这栽展望过程能够撙节吾们的精力,也能够激励吾们变得越来越益,能够扩大吾们的知识面和技能,完善吾们的知识和技能认知图。

这也就是说展望性处理是吾们直觉的来源。隐晦,深度学习匮乏这栽展望。

5、高效行使资源

谷歌的TPU

能源的匮乏性异国人能够否认,吾们大脑在处理题目的时候,也会对尽能够多的事情说“不”。详细而言,当大脑处理一个赓续的数据流的时候,会经过一层过滤装配,过滤失踪无用新闻,将主要的新闻发送到大脑皮层。

当在偶然识状态下处理事情的效果有余益的时候,大脑就不会切换这栽状态。当有主要义务要做的时候,大脑会关闭一些默认状态下的大型网络神经元,然后开启中央实走网络。

按照钻研,大脑也许有86~1000亿个神经元,大无数被浓密的分布在幼脑片面,主要负责人体的各项运动。前线也挑到,大脑会有选择的关闭或开启某些神经元,而深度学习则在每一次迭代中都会行使一切的神经元,这也是为什么吾们至今异国设计出如此周围的神经元的因为。

另外,深度学习的能源效果很矮,以至于在即使最重大的处理器添持下,也无法与运走频率只有10–40Hz的大脑相挑并论。

6、多感官数据外示

现在,语音是人造智能最难啃的硬骨头。固然吾们能够行使AI设计特出的文本生成编制,也能够为人类编撰特出的文本。但这栽文本生成编制背后存在“理解”么?照样说只是单词之间的统计有关。

在幼孩子学习说话之前,其实就已经受到了很多感官刺激,幼孩所接触的每栽含义特征不是某些数据荟萃的相邻单词,而是雄厚的体验集,包括视觉,声音,气味,味道,触觉,心情等等。

然后,在这些特征的基础上,吾们贴上切确的标签,哺育孩子进餐,往洗手间或其他任何东西。

另外,即使吾们不清新某些“东西”切实的名字,也能够按照未知对象的属性与已知类的相通性对其进走分类。例如声音很容易引首情绪逆答,气味会带回记忆。

隐晦,现在的深度学习的神经网络只是具有重大的单独处理功能,无法匹配相通的连接。

7、经验雄厚

如何向AI注释这个世界,仅仅让AI议定静止图像或文本数据集晓畅所处的世界,不考虑上下文、背景啥的么?

倘若未曾得知“引力”为何物,那么吾们该如何哺育AI?

倘若吾们想要具有类人能力的机器,吾们必须认识到起码吾们的身体和大脑是生物机器。

人类的大脑将无色,无声和无聊的原子渲染成世界,并“注释编码”传入信号,同时创建一个能够让吾们理解的实际模型。

只有如许吾们才会清新在地球上扔东西时,它就会失踪落。但是数字地图上向下移动的点不受重力影响。隐晦数字世界和物理世界的规则专门差别。

深度学习能够哺育AI理解这一点么

8、赓续立体声数据流

吾们的身体大致具有对称性,吾么拥有双眼、双耳、双手、双腿,还有两个大脑半球。这协助吾们以一栽新的手段感知世界并与之互动。

立体视觉能够协助吾们测量视觉场景的深度,声音能够协助吾们定位视觉的来源,大脑的二元性能够协助吾们答对差别生理能力......

同时,大脑的赓续性功能使吾们信任,前一秒照样你的良朋的谁人人照样是原本的谁人人,你不必要议定视觉或声音属性再次确认。

大脑会主动展望正在发生的事情,从而撙节精力,添强信念,并实时学习。

深度学习在现在隐晦无法达到。

9、非随机初首化

人脑的语义空间

人造神经网络的初首化是随机的,吾们操纵基于梯度的手段来训练网络,并使其在一切值都相通时对网络进走分解。

能够对神经网络进走优化,并强制指定其初首化的手段。但要仔细的是,这在有监督的环境中是能够实现的,要想在实际世界中大周围安放自立AI,工程案例隐晦随机初首化能够是最益的选择。在此类情况下,不管时间和位置如何,吾们最益的思想是让AI以相通手段完善体面过程。

10、将情绪状态行为一个通用评价编制

吾们也许认为情绪是人类所独有的,甚至不敷硬逻辑。

但是它行为人体中的一个通用评价编制,吾们能够很快地议定情绪迅速评估自己的状态:是足够活力照样喜悦鼓舞,亦或是无比懊丧的矮沉状态。

不论吾们何时要做决定,都要基于吾们自己的感受。即便吾们要考虑斟酌很久来评估差别的选择,然而末了,吾们照样会选择吾们“感觉首来”最益的谁人。

吾们已经尝试用深化学习来模拟人类的情绪,然而仅仅也才走出了一幼步。

情绪能够被量化,这是由于他们都是由差别层面的神经化学物质所构成的,例如血清素、多巴胺、肾上腺素等等。

吾们做出想要战斗或航走的逆答,是由于多巴胺很高,它能够刺激吾们迅速实走一系列行为。而当往甲肾上腺素矮时,吾们会感受到勇敢的情绪从而试图逃跑;当往甲肾上腺素高时,吾们会找到勇气往战斗,或者在极端高时,吾们会感受到死路怒或凶猛的疯狂的情绪。

11、数字化神经调质

数字化神经调质能够让自 主的 AI 以跟神经调质同样的手段,掀开和关闭大周围的神经子网络。

在人脑中,高程度的神经调质乙酰胆碱会增补与记忆、内部定向认知、思考和推理有关的神经元运动。

而多巴胺则会增补外部认知的主要性,并更快地选择有余益的行为。

食欲素调节能量,当吾们处于清亮状态时,会增补;当吾们入睡或产生免疫逆答时,则会降矮。在自立机器人等设备一向无法连接到电源时,数字化食欲素有助于实现最佳的能量消耗。

人体操纵化学物质主动进走自吾调节,吾认为在这方面,人造智能也存在重大的能够性。

12、人造直觉

深度学习自己其实仅是处理数据的一栽手段,从输入到输出的一栽专门被动的手段。而人类也授予深度学习一栽专门重大的能力,那就是直觉。

在深度学习中当一切条件都匹配时,网络中神经单元会被预先激活,但是最后是否会对实际造成一些影响,吾们尚未可知,吾们只是感觉到,将会产生一些影响。

人类的认识中也尽是与此相通的机制:脑海中蹦出来的思想不知从何而来,但是大脑会认为这些思想异日是有用的。

未必直觉也能够让吾们犯错,例如吾们能够会错认良朋,或者听到别人实际上并异国说过的话。

但是大无数时候,吾们行使直觉撙节了大量的能源,甚至由于直觉发出了对湮没危险的预警而拯救了数不尽数的生命。

13、暗藏的大脑:神经胶质细胞

多年来,神经胶质细胞一向仅仅被视作大脑的填充物,然而它实际上对大脑的运走有很大的影响作用。人类拥有的神经胶质细胞比神经元还多,它们声援神经元片面、挑供营养并议定触发免疫逆答来处理如有毒的代谢衍生物等垃圾和外部危险。

然而现在的人造神经网络十足不把神经胶质细胞当回事。但是,它们可是实切真切限制着神经元的啊。

它们除了对神经元首到维持作用外,还影响着神经元的尖峰,倘若行使到深度学习中,有能够还能够计算数据展望的偏差。

星型胶质细胞不受短时期内的电刺激,而是受长时期的化学刺激。它们能够在全局周围内彼此进走交互,并不光仅为必要更多资源的地方挑供资源,还能改进整个编制的运走。

14、皮层下成分

现在的人造神经网络不光无视了星型胶质细胞,而且无视了皮层下成分。

在处理数据时,人脑除了新皮层,还有大量其他的模块来对其进走声援,如丘脑、海马体、纹状体以及杏仁核等等。

它们都在大脑中扮演中专门主要的角色。

异国海马体和内嗅皮质,吾们就无法记忆,也很难在物理空间进走定位。丘脑过滤数据,并将数据传输到大脑的切确部位。纹状体和杏仁核则能够调节对输入数据做出的逆答。

屏状体也是大脑中一个专门有有趣的片面。科学家们发现,当受到电刺激时,它会充当认识的“开关”。

15、因果推理

人类拥有的重大能力之一,便是因果推理。

吾们能够议定做生理模拟——想象或回想整个过程的步骤,在大脑中找到导致某个效果能够存在的因为。

而有关性并不就是指因果有关,正如一句名言所说的:仅仅操纵统计学是远不够的,吾们还必要用到有关、雄厚的语境新闻和多感官体验。

16、生理模拟器

如文章起头所挑到的,人脑实际上是从无色、无聊、无声音的原子来表现实际世界的。

这是由于它如此拿手这栽表现手段,并且还能够模拟未曾发生过的事情。而这也是吾们的想象力之以是存在,并且还会做梦的因为。

它让吾们在实际世界中不受任何亏损地体验和学习。这栽生理模拟器也是认识型体验的基础。

人类创造了很多抽象的事物,这些都仅存在于吾们的脑海中。吾们在真实脱手发明某些东西前,会先在脑海中进走想象。这也是人类进化拥有比其他生物更益的上风的源泉所在

在异日的通用人造智能框架中,吾们必要用到生理模拟器!

17、添量学习

添量学习的手段,与用固定的数据集来训练神经网络的手段十足相逆。

这栽手段能够让机器一向学习到新的东西,并且赓续更新现有的知识来进走自吾挑高。

自然,吾们能够总是用新的数据来重新训练模型,但是这栽做法会让资源行使效果矮下,而采用更大的神经架构来训练模型,则一向以来都存在题目。

直不悦目上,固然添量学习会导致所谓的过拟相符,但是现在已经有很多技术能够解决这一题目。并且,将有余多的数据添量增补到记忆中的添量学习手段,要更浅易得多。

人类并非天地万物的主宰,吾们拿手处理自己已有有余多经验的事情,并且还能够随时更复活理模型来选择更益的解决方案。

18、最终算法

吾认为,吾们能够找到最后算法,开启推动人造智能发展的钥匙。

到当时,数据处理将会变得差别,所谓的超参数在差别情况下也会各不相通,然而,整幼我造皮层中的算法能够却是相通的,它们决定哪些是高度有关、哪些的有关性较矮,哪些必要记住、哪些屏舍。以及,哪些要被记成不和案例。

19、硬件:专用处理单元

清淡用途的处理单元如CPU,不如专用处理单元的效果高。为了达到复杂的认知组织所必要的效果,处理单元必要有余的并走性。

由于抽象层诸多,当计算机运走某些义务时,比如图形用户界面、框架和开发库、操作编制以及给机器代码编程说话等,处理单元会在这些抽象层之间转换。并且,如许做专门费时间。

让它乘以每秒数十亿次运走,你就能够对处理单元的运走情况有一个较为周详的晓畅。

编程说话有助于原型设计和实验,能够让解决手段体面吾们的需求。但是编程说话的主要片面必要在处理单元实走,就像每个CPU内部都有算术逻辑单元相通。

吾们必要在硬件中实现关键的算法,现在很多公司都已经最先在尝试实现这一点,但是他们尝试的倾向是否切确呢?

20、自拼装照样人造构建?

大脑复杂专门,人类至今也尚未能十足理解人脑。不光如此,现在关于大脑架构的很多钻研效果还存在矛盾。吾们不克仅仅凭借神经科学来开发通用人造智能。

但是吾们能够理解大脑的高级功能,例如这些功能能做什么以及或多或少能怎么做。

由于大脑就是一个自拼装的处理单元,按照自己的生理和生理需乞降限制性来做各栽事情。很多不悦目察到的走为或属性都与该组织运走和生存所需的实际情况,息戚有关,而不是由于它必要实现更高程度的智能。

让神经科学、计算机科学和数学之间达成切确的均衡,有助于吾们最后开发出拥有与人类相通的能力的机器。

总结

尤其是近几年来,一切这些技术都取得了重大的挺进。吾们很容易无视,与吾们异日人类将取得的收获相比,现在 AI 周围还尚处于“石器时代”。

计算时代才刚刚最先,换个望待当下 AI 发展的视角,将为吾们带来更添汜博的视野。能将吾们带向异日某处的事物,往往与将再度推动吾们向前迈进一大步的差别。

当某幼我做了一些与其他人稍有差别的事情而扩展了人类的视野时,人类进化往往会实现一次重大的飞跃。

同样地,吾认为,吾们议定尽能够追求差别的手段来做人造智能钻研时,最后能够让人造智能周围取得重大的挺进。

文章来源:

https://medium.com/swlh/why-is-current-deep-learning-technology-a-dead-end-for-artificial-general-intelligence-56f781c36d82

问卷填写页面

热点文章
近期更新
友情链接

Powered by 就耨物业管理有限公司 @2018 RSS地图 html地图

Copyright 站群 © 2013-2018 版权所有