为什么AI机器人有时候会有点“傻”?

国内新闻 浏览(557)

每周一本书

让阅读,充实的生活

0?fmt=gif&size=26&h=400&w=400&ppv=1

6月21日:一个多世纪以来,科学家一直坚信“相关性并不意味着因果关系”之间的统计关系已经导致了因果关系被封闭的情况。

今天,这个禁忌终于被打破了。

由人工智能研究专家朱迪亚珀尔及其同事领导的因果革命确立了科学探索中因果关系研究的核心地位。

来源丨本文全面选自《为什么:关于因果关系的科学》

编辑丨阿巷;实习思纯

图像源丨网络,蠕虫创意

0?fmt=gif&size=24&h=286&w=300&ppv=1

深度学习恰恰是人为的“不”智能的体现,因为它的研究对象是相关关系而不是因果关系,处于因果关系阶梯的底层。

铭文

1

0?fmt=jpeg&size=6&h=200&w=640&ppv=1

每当有人提到“无人驾驶”汽车技术的强大程度以及公众给予我的期望时,我会想到HBO电视剧硅谷的一个故事《硅谷》:

硅谷大亨风险投资家格雷戈里的助手安排了一辆无人驾驶汽车将这家创业公司的小员工贾里德送回家。我认为这个故事只是为了解释硅谷的傲慢。

我上车的时候一切都很顺利。谁知道旅途中途已经过去了,汽车突然开始执行日程安排前的指示,乘客Jared喊“停止”和“帮助”并冲向自己。另一个目的地,是一个无人居住的海岛,距离四千英里。

0?fmt=jpeg&size=22&h=480&w=216&ppv=1

0?fmt=jpeg&size=18&h=480&w=216&ppv=1

电视连续剧《硅谷》截图

在我认为故事会改为《荒岛余生》之后,Jared终于得救了。

对于大多数观众来说,这只是戏剧中的黑色笑容,艺术源于现实。实际上,如果无人驾驶汽车突然失控,那么后果将是多么难以想象。

2016年5月7日,美国佛罗里达州特斯拉Model S的驾驶员使用了自动驾驶模式并在车祸中丧生。

这是自动驾驶模式下的第一起车祸。这次事故也让所有对无人驾驶技术感到疯狂的人不得不面对这项技术的安全问题。

消息:

“对于无人驾驶车辆而言,相对容易达到99%的正确率,但要达到99.9999%要困难得多,这是最终目标,因为每秒70英里的汽车的后果是不可想象的。”/p>

特斯拉没有说100%。

在未来,即使这些技术公司声称无人技术已经成熟,但仍然很难有信心地坐在无人驾驶汽车上。从心理学角度来看,这些汽车相对“自我操纵”。它总是“不够安全”。

2

0?fmt=jpeg&size=6&h=200&w=640&ppv=1

无人驾驶技术的巨大发展与深度学习算法密不可分。

在贝叶斯网络之父朱迪亚珀尔的眼中,深度学习恰恰是人为“无”智能的体现,因为其研究对象与因果关系有关,而非因果关系。梯子的底部。

珍珠在接受采访时说过《量子杂志》:

深度学习的所有伟大成就在某种程度上只是适合数据的曲线。

从数学层面来看,无论你如何巧妙地操纵数据,以及在处理数据时你所阅读的内容,它仍然是一个曲线拟合的训练过程,尽管它看起来很复杂。

人工智能的发展在很多方面都受益于Pearl的早期研究,但他在最新的书《为什么:关于因果关系的新科学》中推翻了自己。

Pearl认为,目前的人工智能和机器学习处于因果阶梯的最低水平,并且只能被动地接受观察,考虑到“如果我看到.会发生什么”的问题。

强大的人工智能需要第三级“反事实”推理。

例如,如果无人驾驶汽车的程序员希望汽车在新情况下做出不同的反应,那么他必须明确地将新反应的描述代码添加到程序中。

机器不知道拿着一瓶威士忌的行人对哨子的反应可能不同。因果阶梯底部的任何操作系统都不可避免地缺乏灵活性和适应性。

不能做出因果推论的人工智能只是一种“人为智力障碍”。永远不可能通过数据来看待世界的因果性。

0?fmt=jpeg&size=29&h=480&w=356&ppv=1

在因果阶梯的每个级别都有一个代表性的生物。

《为什么:关于因果关系的新科学》

Maya Harrell绘图)

3

0?fmt=jpeg&size=6&h=200&w=640&ppv=1

2016年,2016年3月,AlphaGo击败了世界顶级国际象棋大师李世石,多年来一直被认为是最强大的国际象棋大师,震惊世界。许多人突然在人工智能的发展上点燃了无数的想象力。很多人都带来了危机感。

不幸的是,这种人工智能专长只能证明深度学习对于让机器完成某些任务很有用。

人们认识到,在模拟环境和状态下,AlphaGo算法适用于大规模概率空间中的智能搜索,适用于难以模拟的环境中的决策问题(包括上述自动驾驶仪)算法仍然存在不知所措。

深度学习使用类似于卷积神经网络的方法,该方法不以严格或清晰的方式处理不确定性,并且网络架构可以自己发展。

完成新培训后,程序员不知道它正在执行什么计算,或者它们为什么有效。

AlphaGo团队一开始就没有预测该计划会在一年或五年内击败最优秀的人类玩家,他们无法解释为什么程序执行会产生如此好的结果。

如果机器人就像AlphaGo并且缺乏清晰度,那么人类就无法与它们进行有意义的交流并使它们变得“聪明”。

假设你家里有一个机器人。当您睡觉时,机器人打开吸尘器并开始工作。在这一点上,你告诉它,“你不应该叫醒我。”

你的目的是让它知道此时打开吸尘器是一个错误,但你永远不想理解你的抱怨,因为楼上不再有真空吸尘器。

然后机器人必须理解它背后的因果关系:吸尘器会产生噪音,噪音会唤醒人们,这会让你不快乐。

这句话对我们人类来说无比短暂,实际上包含了大量的内容。

当你没有睡觉时,机器人需要知道它可以真空吸尘,你需要知道当房子里没有人时它可以被吸尘,或者当真空吸尘器静音时它仍然可以吸尘。

这样,您认为我们日常沟通中包含的信息量是否过大?

0?fmt=jpeg&size=21&h=374&w=461&ppv=1

聪明的机器人会考虑他/她行为的因果效应。

《为什么:关于因果关系的新科学》

Maya Harrell绘图)

因此,使机器人真正“聪明”的关键是要理解“我应该采取不同的行为”这个短语,无论是人们告诉还是通过自己的分析。

如果一个机器人知道它当前的动机是做X=x0,它可以评估它,如果你改变选择并做X=x1,结果会更好,那么它就是强大的人工智能。

4

0?fmt=jpeg&size=6&h=200&w=640&ppv=1

《人类简史》的作者Yuval Noah Harari认为,人类发展虚构事物的能力是人类进化中的认知革命。反事实推理是人类独特的能力和真正的智慧。

人类的每一次进步和发展都与反事实推理密不可分。想象力帮助人类生存,适应并最终控制整个世界。

因果理论为反事实推理提供了一套工具。如果应用于人工智能领域,它有望实现真正强大的人工智能。

在回答是否可以开发具有自由意志的机器人的问题时,Pearl的答案绝对正确。

他认为人们必须了解如何编程机器人以及他们可以从中获得什么。

出于某种原因,在进化方面,在计算层面也需要这种自由意志。

机器人有自由意志的第一个迹象是反事实沟通,例如“你应该做得更好”。

如果一群足球机器人开始用这种语言进行交流,那么我们就会知道他们有自由意志。

“你应该将球传给我。我一直在等待,但是你没有将球传给我!”

“你应该.”意味着你应该做的,但没有做到。

所以第一个标志是沟通,第二个标志是发挥更好的足球。

在过去,人们讨论过强大的人工智能主要局限于哲学层面。学术界一直对“强大的人工智能”保持谨慎态度,不敢抱太大希望。

但是,由于失败,科学的进步从未停止过。无论是无人驾驶还是其他人工智能技术的发展,它最终都取决于“人”。人类会开发能够理解因果对话的机器人吗?你能像三岁的孩子一样创造富有想象力的人工智能吗?

0?fmt=jpeg&size=55&h=424&w=640&ppv=1

图像源/地图蠕虫

回答这些问题的关键是,如果人类无法理解因果梯,我们怎样才能使“人为”变得“聪明”?

这是一个可怕的事实,机器不需要复制人类,但可以比人类表现更好。

如果有可能用因果关系取代因果推理,并遵循因果关系的阶梯并进入反事实推理的世界,那么机器的兴起就无法停止。

在书中,Pearl对如何实现这一目标提供了相当清晰和通用的解释。

回想起来,其实我的日常生活并不与“人工智能”这个词密切相关,但我也了解到当时阿尔法戈打败了李世石,有一种莫名的强烈敬畏感。

科学技术的发展速度似乎总是超出我们的想象。打开手机搜索“重大突破”的关键词,就会被快餐淹没。机器会变成什么?他们如何治疗人类?

只有努力理解因果关系,我们才能在面对这些问题时面对越来越少的信念。

0×2527个

账面收益

Judiapell是人工智能研究的专家,他认为因果关系研究最深刻的意义很可能反映在人工智能领域。

今天的机器学习依赖于统计和概率相关性,而因果思维可以把计算机变成真正的科学家,给予它人类智力水平,甚至给予机器道德意识。

也许这是我们能做的最重要的事情来准备接管我们生活的机器。

0×2528个

[0x9A8b]号

作者:朱迪珀尔

[美国]丹娜麦肯齐

翻译:蒋生宇华

出版者:中信出版集团

现在,21年6月是人人受益,免费送书!

如何获取?

在本周末,阅读以下信息,获得第一批表扬的读者(表扬的数量不少于50)将得到一本书的副本。同时,6月21日将在第一时间外收到一些信息。读者也有权获得免费的《为什么:关于因果关系的科学》。

为了给读者提供更多的机会,同一个读者只能连续四个书籍中的每一个都赢得一个奖项(相同的微信ID,手机号码和地址被认为是同一个读者)

我们将在明天晚上的晚上宣布获奖者名单收到这本书的朋友会记得根据时间留下你的地址。它不会过期(所以赞美的第一个截止日期是8月4日20:00-21: 00哟注意:具体时间取决于6月21日的截图;如果有突发新闻,则有可能提前截取屏幕截图。)

0?fmt=jpeg&size=12&h=480&w=480&ppv=1

6月21日

小朋友们,您认为人工智能技术对我们的生活有何影响?您如何看待强大的人工智能背后的因果关系?

和我们谈谈你的意见