好好的机器人，怎么就暴走了？

斯坦福大学人工智能与伦理学教授杰瑞·卡普兰大开脑洞，在《人工智能时代》中揭秘了机器人过去到未来的“暴走大事件”。

好好的机器人，怎么就犯罪了？

好好的人类，怎么就遭受机器人袭击了？

在人工智能时代，我们应该如何与机器人和平共处？

斯坦福大学人工智能与伦理学教授杰瑞·卡普兰大开脑洞，在《人工智能时代》中揭秘了机器人过去到未来的“暴走大事件”。

第一次机器人暴走事件

时间：1972年

地点：美国波士顿

历史上第一次机器人暴走事件就发生在1972年一家离波士顿不远的实验室里。

马文·明斯基是MIT人工智能实验室联合创始人主任，他曾提议，也许某一天医生可以远程控制机器人手臂，为病人实施外科手术。但是他需要一个实际由电脑控制的手臂才能实现这个想法。于是他给在斯坦福大学的朋友约翰·麦卡锡打电话，麦卡锡就把自己的研究助手借给明斯基帮他完成这个计划。维克托·沙因曼是一位机械工程方面的青年才俊，他很快就设计出了一个原型，这个原型后来成了第一个在商业上获得成功的电脑控制手臂PUMA可编程通用装配机械手）的设计基础。

理论虽然不错，但现实却在拖后腿。PLWA手臂很沉重，也很难控制，必须要固定在桌子上才能稳定。一天，可能是由于编程错误，这个手臂开始前后振动。随着冲量越来越大，桌子开始剧烈地晃动，后来竟然开始随着手臂的摆动在房间中颠簸行进。一个在实验室工作的倒霉研究生一开始没有注意到这个新生的移动机器人正在靠近。当他终于注意到的时候，已经太晚了——他被逼到了一个角落里。这个机械“虐待狂”毫不留情地靠近他，他蹲伏在地并大声呼救。正当他即将成为“历史脚注”的时候，一个同事冲了进来制止了这台机器，才结束了这场闹剧。

我是一个粉刷匠，粉刷本领强

时间：2022年

地点：英国剑桥

如果让你设想未来的机器人油漆工长什么样子？我们很容易就能想象到一个人形机器人爬在梯子上挥舞着刷子，和它旁边的人类同事一起工作的场景。

如果你来到2022年英国剑桥小镇，会发现机器人粉刷匠其实是一组飞翔的无人机中队，每个无人机上面都配备有喷雾嘴并牵引着一袋颜料。无论是因为强风还是其他因素，无人机都能迅速而精确地调整彼此之间的距离，以及它们和木板外墙之间的距离。当个体机器人供给不足时，它们就会飞到涂料桶处自动注满并充电，然后再回到最需要的位置上。分散安装在项目周边的一系列摄像头会持续监测这群飞翔的小家伙，并且评估工作的进度和质量。真正指挥这场“机械芭蕾”的设备甚至不需要出现在现场。它可能就是厂商在亚马逊云上租用的所谓“软件即服务”。为什么在一星期只使用几小时的情况下，还非要冒着被雨淋的危险弃机器人而不用呢？

你的粉刷匠可能仍然在为这些酷炫的装备偿还贷款，他出现后就架起摄像机，在平板电脑上的App中标记目标区域，打开涂料桶，然后启动无人机。整个房子可能只需要一个下午（而不是一个星期）就可以粉刷完毕，而费用只需要今天人工费用的零头。在这种系统成型的初期，工人可能仍然需要预处理表面、铺罩布单，但是当产品工程师升级了系统并添加了部件之后，这些工作就没有必要了。

坐上无人驾驶汽车，你就再无隐私可言

时间：2030年

地点：中国北京

2030年的街道上，已经很难再见到人类司机驾驶的汽车了，因为它们的事故率实在太高，人们都已经习惯乘坐无人驾驶汽车。

当我们在家门前等候，无人驾驶汽车会来接我们上班，我们想要喝咖啡，汽车建议你选择Peet's。如果在走到这一步的时候我们停下来看看屏幕上的地图，就会发现Peet's咖啡既不是一个最顺路的选择，这家咖啡店也不在你的偏好列表中，而无人驾驶汽车本应该根据实践中不断磨合改进的机器学习算法为你选出你最爱的咖啡馆。为什么它会向你推荐Peet’s咖啡馆呢？因为这家咖啡馆在无人驾驶汽车的推荐结果中花钱购买了优先推荐，就像你打开Google（是的，Google已经回到中国）最先看到的那些搜索结果一样，它们也经过了一定的商业化干预。与网上搜索结果优先展现不同的是，你的无人驾驶汽车可以用比较隐蔽的方法影响你的决策。

你对于干洗店的选择也是一样，你所以会把衣服送到那家店，完全是因为听从了无人驾驶汽车的建议。而这辆车之所以会给出这种建议，是因为Suds干洗店给无人驾驶汽车的制造者Google公司付了钱，这样一来这家干洗店就能够成为你所在地区无人驾驶汽车的首选。

至于那一家搞优惠活动的素食餐厅，倒的确是你的最爱，不过奇怪的是这辆无人驾驶汽车此前从未来过这里，它是怎么知道你的喜好的呢？很简单，它通过梳理你的电子邮件获得了关键词，在这基础上评估其中蕴含的感情基调并且获取相关信息。同样，这辆无人驾驶汽车也非常明白应该在路过杂货店的时候向你展示哪一些产品信息，因为它已经回顾了你过去的购物行为。

此外，有一次你和朋友在车里聊天时提到前一晚上你曾经品尝了一种非常棒的啤酒。你的汽车听到了你和朋友的对话，迅速地记下了其中的品牌关键词，因此当这种啤酒在杂货店里有售时就会自动显示在你的购物清单上。

无人驾驶汽车普及的那一天，我们要为便利性所付出的代价就是处处被监视。

警官，逮捕那个机器人！

时间：2045年

地点：美国洛杉矶

奇点年的到来让家庭机器人走入每家每户。你最近新买了一台家庭机器人，它能从你的公寓出发，从10楼坐电梯下楼，去马路对面的星巴克给你买一杯焦糖星冰乐。这台机器人不仅被预编好了一套一般行为准则，还会通过观察它接触到的人的行为来加强自己的导航和社交技能。毕竟，习俗和实践需要因地制宜。可能在纽约，你和你遇到的女性握手是适当的行为，但是在伊朗，你和非亲属的女性握手是不被允许的。你可能不知道，你的机器人最近看到了一个小概率事件，一个善良的人在警察赶到之前制服了一个偷钱包的贼，这个人赢得了周围一大帮围观群众的赞许和钦佩。

在去给你买咖啡的路上，你的机器人看到了一个男人和一个女人扭打在一起，这个男人在她明确反对的情况下拿走了她的钱包。机器人根据自己的通用编程和具体经验推测有人正在犯罪，它把男人摔倒在地，一边控制住他一边拨打911。

警察赶到之后，那个男人解释他和自己的妻子只是在互相闹着玩争夺车钥匙，好决定谁来开车。他的妻子证实了这个故事。他们把注意力转移到了你好心但是倒霉的机器人身上，它尽职地解释说，它只是在你的命令下去买杯饮料而已。这两个人愤怒地坚持要警察以伤害罪逮捕你。

这真是糟糕的一天！

最后，记得关注微信公众号：镁客网（im2maker），更多干货在等你！