「机器人教父」50年经验总结：现实版「三定律」出炉

发布日期：2024-09-18 18:18

来源类型：瑞文网 | 作者：张亚亚

【澳门金牛版正版资料大全免费】【新澳开奖记录今天结果】【2024年新澳门王中王资料】【管家婆最准一肖一码】【新澳彩开奖结果查询】【新澳资料免费】【4949澳门免费资料大全特色】【2024今晚澳门特马开什么号】【香港今晚六给彩开奖结果七十八】【2O24澳彩管家婆资料传真】

【494949澳门今晚开什么】 【2024新澳免费资料】 【澳门最准的资料免费公开】

作者 / Rodney Brooks：麻省理工学院的松下机器人学名誉教授，曾担任麻省理工学院人工智能实验室主任，后来担任CSAIL主任。他曾共同创办iRobot、Rethink Robotics和Robust AI ，目前担任 Robust AI 首席技术官。

本文内容转自Rodney Brooks的博客及IEEE Spectrum，文中是Brooks从事机器人领域工作近50年中，所学到的一些知识。

为了纪念艾萨克·阿西莫夫和阿瑟·克拉克，他将这些知识总结为「机器人三定律」：

1、机器人的外观可以体现其功能和智能程度，它必须履行或稍微超出这一预期，否则将不会被接受。

2、当机器人与人类共存于同一空间时，机器人绝不能剥夺人类的自主权，尤其是当机器人出现故障时（它们有时会不可避免地会出现故障）。

3、（实验室外的）机器人技术，还需要经过 10 年以上的稳步改进，才能达到降低成本的同时，并充分了解其局限性，从而实现 99.9% 的交付率。每过 10 年，其可靠性就会增加 9%。

这些定律，是以「让机器人在现实世界中工作」的角度制定的——当人们为机器人付费，必然希望获得投资回报，这与在实验室中演示demo或者前沿技术有很大区别。

实验室的研发人员兴趣在于展示技术的可行性，但在现实世界中，只有客户、员工或客户。而且，机器人必须在没有外部干预和辅助的情况下工作，并带来良好体验，否则客户就不会带来更多销量。

因此，新的「三定律」与部署在现实世界中的真实机器人有关，也与日常生活中的机器人有关。

外表给予的承诺

Brooks旗下的多家公司生产过各种类型的机器人，并大规模销售。设计机器人时，设计人员会花很多心思考虑其外观，因为这会告诉买家或用户可对机器人抱有的期望。

iRobot 的 Roomba 看起来像一个扁平的圆盘，它可以清洁地板，同时也可以在原地旋转。圆盘的低矮外形使它可以进入厨房的踢脚板下方，清洁橱柜略微突出的地板。

但是，大家也能看出它并不能上下楼梯，而是有一个把手，可以被人提起来。它与卡通片里的清洁机器人 Rosey 不同，Roomba从外表一看就不能清洁窗户，实际上也是做不到。

同样来自 iRobot 的Packbot是一款可远程操作的军用机器人，它看起来确实非常与众不同。它有履带轮，就像一辆微型坦克，这种外观让任何人看起来都觉得它能够穿越崎岖的地形，不会被台阶、岩石或地形的落差所阻挡。

2011 年，福岛核事故发生时，Packbots 能够在被海啸摧毁和损毁的反应堆建筑物内操作，在远程控制下打开门把手，驶上瓦砾覆盖的楼梯，并将摄像头对准模拟压力和温度计，以便试图确保核电站安全的工人能够了解核电站高放射性区域的情况。

巴格达胜利基地联合机器人维修支队中的 iRobot PackBot 正在拾取一个演示物体

「三定律」的第一点是提醒设计者，不要让机器人看起来比实际功能更夸张。也许这会为你的公司带来资金，让投资者增加期待。但是，如果它不能实现那些与外表匹配的功能时，它会让客户失望。

失望的客户不会成为你的产品/机器人的拥护者，也不会成为回头客。

维护人类的自主权

如果人们接受机器人在工作场所工作，那么最糟糕的事情就是机器人成为累赘，让人类的工作或生活变得更加困难。

例如，在医院里，机器人负责将脏床单或碗碟从病房楼层运送到需要清洗的地方，本意是让护士的工作更轻松，但它们往往起到了相反的作用。

如果机器人不知道发生了什么，在紧急情况下不让开，它们很可能会妨碍护士的一些救生工作。

医院中的机器人还有一种不太常见、但不可接受的行为，是让它们在电梯门前、中央和挡路处停滞，阻碍人们进出电梯。

另外，过去几年，居住在旧金山或德克萨斯州奥斯汀的人们，已经亲眼目睹了机器人每天给人们带来烦恼。这些机器人就是无人驾驶汽车，它们在城市中行驶，没有人类乘客。

有些车辆因堵塞路口而臭名昭著，其他司机、行人或警察对此束手无策，只能等待部署这些车辆的公司，通过远程操作员注意到被困车辆，并将其让开。

更糟糕的是，他们会误入火灾周边现场，那里有消防车、消防员和实际着火的建筑物，他们会感到困惑，然后停下来，有时会停在消防栓上。

消防员无法移动车辆，也无法与车辆沟通，这与人类司机驾驶的汽车形成鲜明对比。

在部分场景中，自动驾驶汽车剥夺了人们在街上做日常事务的自主权，更糟糕的是，它剥夺了消防员的自主权，而消防员的职责是保护其他人类。部署的机器人如果不尊重人类及其需要做的事情，就不会得到人类的尊重，最终将被淘汰。

坚固耐用，高效工作

制造在现实世界中的可靠机器人很难。事实上，制造任何在物理世界中工作且可靠的东西都非常困难。

要让客户对机器人感到满意，需要使其每次尝试执行任务时，都必须能够看起来正常工作，否则用户会产生质疑。

但是“看起来”在这里是什么意思呢？这意味着用户至少可以假设它会起作用，作为他们对其工作功效的默认理解。

棘手的部分是机器人与现实物理世界的互动。

由于软件程序是与易于理解的抽象机器交互，因此它们不会因为「指令无法与执行硬件一致」而失败。

而当这些相同的程序与物理世界交互，无论是人类、网络连接还是鼠标等输入设备，则都有可能会失败，因为这时程序所包含的指令，是基于现实世界中未满足的假设。

机器人在现实世界中会受到各种力的影响，包括周围物体精确位置的影响，还有与行为多变的人类进行交互。

没有哪个研究生或初级工程师，热衷于让机器人在第8354次尝试中，还只能做已经达成过的事情——让软件能够充分适应特定情况下和特定时刻的不确定变化，才是机器人技术面临的真正挑战。

精美的宣传视频并不等于每次都能为客户提供相应服务。我们在新闻中看到的大多数关于机器人内容，都是实验室demo的演示。没有数据表明该解决方案的通用性如何，也没有数据表明为了得到视频中的效果，需要进行多少次尝试。更糟糕的是，有时视频还是远程操作的，或者加速了很多倍。

Brooks表示，很少能有一项在实验室演示后，不到十年就能投入使用的新技术。需要花费一些时间来检验该方法的效果，并对其进行充分描述，以便它在现实世界中独立工作的部署机器人不太可能失败。

即便如此，也会出现故障，还需要很多年的时间来解决存在问题的区域，并以防御性的方式将其融入机器人产品中，以免再次发生故障。

大多数机器人都需要有紧急停止按钮，以便人类可以关闭它们。如果客户觉得有必要按下该按钮，那么意味着制造和销售该款机器人的人就失败了。不过他们还没有让机器人运行得足够好，以至于连这样的糟糕案例都还没有经历过。

相关阅读：

近期，Rodney Brooks也曾发表过「AI三定律」：

1.当一个AI系统执行任务时，人类观察者会立即对其在看似相关的领域的一般能力做出估计。通常，这种估计会被极大地夸大。

2.大多数成功的人工智能部署都会在某个环节涉及人类（可能是它们正在帮助的人），而人类的智慧能够弥补其中的不足。

3.如果不仔细限制AI系统的部署方式，那么总会有一长串特殊情况需要数十年才能发现和修复。矛盾的是，所有这些修复工作本身都是AI完全能够完成的。返回搜狐，查看更多

责任编辑：