昆明侦探调查昆明侦探社

侦探
侦探

常见问题

Bangtan synopsis

昆明市私家侦探

总部地址 :

昆明市交财智大厦1611

全国咨询热线:

网站招租:18530930310
看AI调查破解深度学习黑匣子 Click: Release:昆明信诚婚姻服务公司 Posttime:2018-11-01
编者按:人工智能在很多方面显示了与人类相匹配甚至超越的能力。但是人工智能如何获得这种能力是一个难题。随着神经网络在科学上的日益广泛应用和深入学习,人工智能的黑箱特性引起了技术人员、科学家越来越多的关注。结果,一群人工智能专家开始关注人工智能本身,他们用各种方法试图提高人工智能实施的透明度,从而形成了一门新的人工智能学科——人工智能神经科学。

Jason Yosinski坐在加利福尼亚旧金山Uber总部的一个小玻璃盒子里,思考着人工智能的想法。Uber研究科学家Yosinski正在对他的笔记本电脑上的深圳情感维护人工智能做一些脑部手术。像很多AIS(包括Uber的无人驾驶车)一样。Yosinski的程序使用深层神经网络,它的结构部分受到大脑的启发。和大脑一样,这个程序在外部也很难理解:它是一个黑盒子。

这个特殊的人工智能已经用大量的标签图像训练过,这些图像允许它识别随机物体,如斑马、消防车和安全带。它能识别出约辛斯基和记者停在摄像机前吗Yosinski放大了AI的一个独立的计算节点,或者说是神经元,看看是什么让它做出反应。两个鬼魂般的白色椭圆形外壳弹出来挂在屏幕上。看起来这个神经元已经学会了检测脸部的轮廓。他说:这是对你的脸部的反应。它对脸部做出反应。大小不同,肤色不同。

从来没有人教过这个网络识别人脸的能力。在它的训练图像中,人类没有被标记。但它仍然学会了理解人脸,以及识别伴随它们的东西,如领带和牛仔帽。神经网络太复杂了,人类无法解开。理解它的确切决定。Yosinski的调查发现了其中的一小部分,但总的来说,它仍然晦涩难懂。我们已经建立了令人惊叹的模型,但我们并不完全理解它们,他说。而且这种理解上的差距每年都在扩大。

深层神经网络,或者用行话说,深度学习,似乎每个月都把触角延伸到各种科学学科。它们可以预测合成有机分子的最佳方法。它们可以检测与自闭症相关的基因。它们甚至可以改变科学的工作方式。人工智能总是如此。CeEDS在做任何事情,但他们也解释了一个困难的问题,科学家谁是他们的职业生涯的基础:为什么为什么我们需要这样做

这个解释问题正在刺激工业界和学术界的新一代研究者。正如显微镜揭示细胞一样,这些研究人员正在设计工具来研究神经网络是如何做出决定的。一些工具被调查而没有穿透AI;有些是替代的。与神经网络竞争但更透明的算法;另一些则使用更深入的学习来探索黑箱。这些构成了一门新学科。Yosinski称之为人工神经科学。

模拟人脑的深度神经网络正在促进科学创新,但这种模型的机制非常神秘:它们是黑匣子。科学家现在正在开发进入这台机器的大脑的工具。

西雅图华盛顿大学的研究生马可·里贝罗(Marco Ribeiro)试图通过一门叫做反事实调查的人工智能神经科学工具来理解这个黑匣子。这个想法是改变人工智能的输入——不管是文本、图形还是其他东西——然后看看SM。巧妙地指出什么变化影响输出以及它们如何影响输出。例如,阅读电影评论,然后标记主动神经网络。Ribeiro的程序,称为局部可解释模型-不可知解释(LIME),取出标记为肯定的评论,并通过删除或进行微妙的变化替换文本。然后将这些变化放入黑盒中,看它是否仍然认为注释是肯定的。基于数千个测试,LIME可以识别哪些单词,或者哪些图像或分子结构,或者任何类型的数据的成分,对于AI的原始判断者来说都是最重要的测试可能发现恐怖这个词对于拍摄来说极其重要,或者丹尼尔·戴·刘易斯可以给电影带来正面的评价。但是尽管LIME可以诊断出个体的例子,但是结果并没有揭示出对网络的整体洞察力。

像LIME这样的新的反事实方法似乎每个月都会出现。但是Google的另一位计算机科学家Mukund Sundararajan构想了一项调查,该调查不需要对神经网络进行数千次测试:如果你想了解很多,而不是一些决策,这是一个好处。而不是随机的。Sundararajan和他的团队改变了输入,引入了空白的比较——一个空白的图片或者用一个返回零的数组替换文本——然后逐步地将它移动到被测试的示例中。T对于预测是重要的。

SunDaRajaAn将这一过程与他所居住的玻璃墙空间的关键特征进行比较,这个地方配备了像杯子、桌子、椅子和计算机等标准的东西,比如谷歌的会议室。我可以给出无数的推论。但是,例如,你慢慢地变暗了。当光线变得非常暗时,只有最大的推论是最突出的。从里贝罗的变化法看,空白对比度允许SunDalajaN捕捉更多的神经网络决定。但是更深层次的问题仍然没有得到答案,Sundararajan说,他熟悉状态。作为一个父亲的思想:我四岁的孩子总是提醒我为什么这个问题的无限递归。

这种紧迫性不仅来自科学。根据欧盟的说法,算法将对公众产生重大影响的公司明年必须解释其模型的内部逻辑。美国军事研究机构国防高级研究计划局(.seAdvancedResearchProjectsAgency)已经在一项名为可解释人工智能(Explainable AI)的新项目中投入了7000万美元来解释支持无人机和智能采矿操作的深入学习。谷歌机器学习研究员玛亚古普塔(Maya Gupta)说,硅谷自己有能力打开人工智能黑匣子。当她2012年加入谷歌时,她问道人工智能工程师出了什么问题,准确度不是唯一的问题。另一个人告诉她,我不知道人工智能在做什么,我不知道我是否能相信它。

由于缺乏信任,微软研究院计算机科学家Rich Caruana有自己的经验。20世纪90年代,作为卡内基梅隆大学的研究生,他加入了一个研究小组,研究机器学习能否指导肺炎患者的治疗。在医院里,把精力充沛的人送回家是避免继发感染的最好方法。然而,有些病人,尤其是那些具有复杂因素的病人,如哮喘,应该立即住院。Caruana使用神经网络来分析78家医院提供的临床和结果数据集。不幸的是,他发现基于相同记录训练的更简单、更透明的模型建议将哮喘患者送回家,表明数据有缺陷。而且他没有简单的方法去理解他的神经网络是否得到同样的坏经验。E说:对神经网络的恐惧是完全合理的。真正令我担心的是其他神经网络的错误。

今天的神经网络比Caruana或研究生的神经网络强得多,但它们的本质是一样的。一个是乱七八糟的数据——例如,几百万张狗的图片。这些数据被吸入一个由几十个或更多个计算层组成的网络中,在这些计算层中,神经元连接根据c.输入数据的特征。每一层响应更抽象的特征,允许最后一层区分小猎犬和腊肠。

起初,系统表现得相当尴尬。但是每个结果都会与标签的狗图片进行比较。通过一个称为反向传播的过程,结果被送回神经网络,允许它重新称量每个神经元的触发器。这个过程重复数百万次,直到神经元。所有的网络都知道如何区分不同品种的狗。卡鲁纳说:但是这种神秘而灵活的力量正是它们成为黑匣子的原因。

古普塔对黑盒采取了不同的策略:避免。几年前,古普塔,一个为复杂实体设计的第二位职业设计师,开始了一个名为GlassBox的项目。她的目标是通过插入可预测性来驯化神经网络。指导原则是单调性——一种关系。在所有其他相等的情况下,在一个变量中增加的n个变量在另一个变量中直接增加,房屋的面积和房价之间的关系也是如此。

Gupta将这些单调的关系嵌入到一个叫做内插查找表的大型数据库中。这些数据库基本上就像高中三角形教科书后面的表,您正在查找sin 0.5的值。然而,她的表在一维中没有几十个数据项,但是参见然后她把这些表排列到神经网络中,这增加了一层可预测的计算——她说的知识最终会使网络更加可控。

同时,卡鲁纳也关注从肺炎治疗中吸取的教训。为了开发一种模型,该模型在准确性上与深入学习相抗衡,但避免不透明,他向一个一直在努力进行机器学习及其不协调方法的社区发出了帮助信号。

在20世纪80年代,统计学家发展了一种叫做广义加性模型(GAM)的新技术。这种技术的基础是线性回归,它是在一组数据中发现线性趋势的方法。但是通过寻找能够将数据融合到回归中的操作的多种组合。在网上,GAM还可以处理更复杂的关系——例如,将一组数字平方,同时对另一组变量进行对数化。Caruana通过机器学习来增强这个过程,发现这些操作——然后将它们用作强大的模式检测模型。超出了我们的预期,这个实践在许多问题上是非常准确的。关键是每个操作对底层数据的影响都是透明的。

Caruana的GAM在处理某些类型的杂乱数据(如图像或声音)方面不如AI,并且一些神经网络在处理这些数据方面欣欣向荣。很好。例如,卡鲁纳恢复了他的旧肺炎记录。使用他的一个GAM重新分析数据,他能够发现为什么AI从入院数据中吸取了错误的教训。因为医院经常对肺炎和哮喘患者进行重症监护,他们的治疗结果如下改善。因为只有病人迅速好转,AI会建议送病人回家。AI也会对同时患有胸痛和心脏病的肺炎病人犯同样的乐观的错误。

卡鲁纳已经开始向加州的医院,包括洛杉矶儿童医院,兜售GAM解决方案。在那里,10多名医生对他的结果进行了评估。他们很快理解了GAM的决定,并花了会议的大部分时间讨论GAM解决方案在确定是否患有肺炎方面的意义。医生应该说:你对医疗保健知之甚少,但你的模特真的知道。

有时你必须接受黑暗。这是研究人员试图用第三种方法实现可解释性的理论。他们说我们不必探索神经网络,也不必回避它们。只要我们做更深层次的学习,就可以解释学习的深度。

如果我们不能问他们为什么做某事并得到合理的回应,人们会把它放在架子上。

像许多人工智能程序员一样,乔治亚理工学院娱乐智能实验室主任马克·里德尔从20世纪80年代开始转向电子游戏来测试他的工作。青蛙是他最喜欢的游戏之一,在游戏中,玩家用同样的名字控制两栖动物,穿过繁忙的道路,到达对方。TE池塘。训练神经网络来扮演专业的青蛙是很容易的,但是解释AI所做的比往常要困难得多。

Riedl没有调查神经网络,而是要求人类受试者玩游戏,并实时描述他们的策略。Riedl在代码中记录了青蛙的词语和上下文:哦,来了一辆车,我必须向前跳。在玩家和代码的帮助下,Riedl训练了e第二个神经网络在它们之间进行转换,并将代码翻译成英语。然后,他把翻译网络插入原来的游戏网络,并制作一个完整的人工智能,在车道上等待时,它会说我在等一个洞打开,然后走路。在屏幕上,AI甚至发出令人沮丧的噪音,抱怨它太硬了。

Riedl称他的方法合理化,旨在帮助日常用户理解机器人,这些机器人将很快帮助我们做家务和驾驶。如果我们不能问为什么他们做某事并得到合理的答复,人们会把它放在架子上,Riedl说。但他补充说,这些机器人将很快帮助我们做家务和驾驶。然而,安抚却引发了另一个问题:这种合理化会使人们失去信任的错误是什么

回到尤伯,尤辛斯基被赶出了他的玻璃盒子。尤伯的城市命名的会议室总是供不应求,而且没有高涨的价格来限制拥挤。他离开多哈去蒙特利尔,潜意识的模式识别过程带领他穿过迷宫般的办公空间,直到迷路。他的图像分类器仍然是一个迷宫,和Riedl一样,他招募了第二个人工智能来帮助他理解第一个人工智能。

研究人员已经创建了一个神经网络,除了填充照片外,还可以识别人工智能中的缺陷。

首先,Yosinski重新排列分类器以产生图像,而不是标记它们。然后他和他的同事给神经网络一个静态的颜色图,并通过它发送一个信号,例如要求更多的火山。在某种程度上,确实如此:在肉眼看来,这座火山似乎是一团灰色的、没有标记的东西。人工智能与人们的观点不同。

接下来,研究小组发布了一个GAN用于自己的图像生成。这种AI包含两种神经网络。该生成器通过一组图像的训练来学习图像生成的规则,并且可以合成图像。第二种网络尝试检测得到的图像是真的还是假的,提示G发生器再做一遍,这样我们就可以得到包含人类识别特征的粗糙图像。

Yosinski和他的前实习生Anh Nguyen将GAN连接到他们原始的分类器网络内的层。这次,当被告知要创建更多的火山时,GAN将分类器学到的灰色噪声与其对图像结构的知识结合起来,将其解码成大量的人工合成的、逼真的火山。有些是休眠的。有些是晚上的。有些是白天的。有些可能有缺陷——这些是理解分类器知识差距的线索。

他们的GAN现在可以绑定到任何基于图像的网络。Yosinski用它来识别随机图像标题网络训练中的问题。他颠倒了网络,以便可以为任意的随机标题创建合成图像。将其连接到GAN之后,他发现了一个惊人的错误。当提示时想像一只鸟站在树枝上,根据GAN翻译指令执行的神经网络产生了一棵乡村风格的树和树枝的副本,但没有鸟。为什么在把修改后的图像添加到原来的标题模型之后,他意识到为训练网络写标题的人从来没有在鸟类出现时描述过树和枝。这是人工神经科学的一个潜在的重要方面,这是一个开始。从空白处慢慢地出现了一张地图。

时间已经很晚了,但是Yosinski的工作似乎刚刚开始。外面有人敲门。Yosinski和他的人工智能被赶出了另一个玻璃盒子会议室,回到了Uber的迷宫般的城市、电脑和人的迷宫中。这次他不再迷路了。R,绕过沙发区,穿过出口进入电梯。这是一个简单的模式。他学的太快了。

版权所有 © 昆明市邦探私家侦探社 http://kunming.zhentanw8.com 关键词 : 侦探昆明侦探昆明侦探社

  • 网站首页
  • 联系电话
  • 回到顶部