5.2 四个机器人伦理问题

2004年1月，第一届机器人伦理学国际研讨会在意大利圣雷莫召开，会上正式提出了“机器人伦理学”这一术语。机器人伦理涉及人工智能、计算机科学、认知科学、哲学、心理学、生物学、法学和社会学等学科，是机器人领域的一个研究热点。2015年9月23日，英国《每日邮报》刊载了一则消息：日本软银公司在Pepper机器人销售合同上附加了一个条款，禁止将Pepper用于性爱或猥亵行为。这一举措受到了多方关注，并再次引发了人们关于机器人伦理问题的讨论和思考。

1．半机械人还是不是人

说起半机械人，很多人可能会想起电影《终结者》中的T800机器人。该机器人在受到攻击后，面部皮肤受损，露出了其机器本质。冰冷的机械和鲜活的器官之间的强烈反差给观众留下了深刻的印象。

1960年，美国研究人员曼弗雷德•克莱因斯和内森•克兰提出“半机械人”的概念。半机械人是一种“电子控制的有机体”，通俗地讲就是一种一半是人，一半是机器的生物。如果把半机械人定义中的条件放宽一点，穿着机械外骨骼的瘫痪病人、戴着仿生机械手臂的残疾人、安装有起搏器的心脏病患者都能算做广义的半机械人。未来，机械心脏、机械肝脏、机械肾脏等一系列机械器官有望完全替代人体已经衰竭的器官；钢铁骨骼有望代替在车祸中损毁的人体骨骼；植入芯片后的人脑的记忆能力、计算能力有望提高上百倍甚至千倍。机器人技术和生物技术的发展将让广义半机械人充满未来世界。

半机械人的出现将给伦理学家带来巨大的麻烦：半机械人是机器，还是人类？从物质的角度来看，半机械人的主要器官都换成了机械装置，其行为也由芯片控制，所以半机械人应该算机器。从意识的角度来看，不管半机械人身上有多少器官被换掉了，只要原来那个人体的意识还在，他的灵魂就还在，他就应该算做人类。两个角度的阐述貌似都有道理，谁也不能说服谁。关于半机械人是机器还是人类的争论肯定还会持续下去。

也许将来的某一项理论突破能解决这个问题，期待着这一天的到来。

2.机器人是否应有道德规范

在《我，机器人》《银翼杀手》《终结者》等科幻电影中，都出现了“反派”机器人。这些“反派”机器人有一个共同点，在收到指令后，都毫不犹豫地举起了屠刀砍向人类。当今世界，机器人技术快速发展，电影中的这些场景也成了现实。

战斗机器人有作战效率高、应用成本低、战场生存能力强、能全天候作战等优势。

世界军事大国都投入大量人力财力开发军用机器人。一些欧美发达国家已经开始在战场上使用战斗机器人。与人类相比，战斗机器人在战场上没有恐惧感，对人类也没有同情心，是真正的冷血杀手。一方面，只要收到作战任务，它就会毫不留情地对目标下手。

另一方面，战斗机器人会竭尽全力完成任务，并且在完成任务的过程中根本不会考虑是否会对其他人造成伤害。因此，其在战场上有强大的破坏力。

这样的战斗机器人确实太恐怖了。为了避免一些无辜的伤亡，研究人员正试图让战斗机器人遵守一些公认的道德规范。然而，战斗机器人在完成作战任务的过程中应该遵守哪些道德规范？这些道德规范如何在战斗机器人上实现？即便将来战斗机器人建立了道德规范，当道德规范和作战任务发生冲突的时候优先考虑哪个呢？如当军事打击目标隐藏在大量的平民中时，战斗机器人应该向其开火吗？这些问题都有待哲学家与科学家去解决。

3．机器人能否成为人类伴侣

在电影《她》中，一段简短的对话给观众留下了深刻的印象。

西奥多：你也跟其他人在谈恋爱？

萨曼莎：是的。

西奥多：几个啊？

萨曼莎：548个。

当西奥多听到自己并不是智能系统萨曼莎唯一的恋爱对象时，强烈的失落感涌上心头。这部电影让很多人都产生了一个疑问，机器人伴侣能替代真人伴侣吗？

随着技术发展和进步，机器人的智能化程度越来越高。在一些应用场景中，机器人已经能代替人类完成工作，如小孩、老人、病人的陪护工作。下面以小孩陪护工作为例进行详细分析。

目前，中国、韩国、日本都已经开发出具备语音识别、人脸识别、休闲游戏、音乐播放等多种功能的陪护机器人。这些机器人能给小朋友讲故事，陪小朋友玩游戏，逗小朋友开心。用陪护机器人照看孩子能为父母省去很多麻烦，一方面，有机器人陪着玩，孩子不会哭闹；另一方面，机器人自带摄像头，孩子所有的状态随时可以通过远程监控看到，不用担心安全问题。

从技术的角度来看，机器人不会对程序规定之外的内容做出任何反应，它在陪伴小孩的时候做出的每一个动作、说的每一句话都是程序提前设置好的。这就决定了机器人和孩子之间的交流存在一定的局限性。亲人的照顾与机器人的看护还是有着根本性的区别。从情感的角度来看，在和机器人相处几个月之后，小朋友通常会把机器人当作自己的一个小伙伴，而不是一件玩具。如果缺少亲人的陪伴，孩子长期在机器人的陪伴下长大，他们的沟通方式、处事方法都会与机器人类似。可能还会认为与机器人相互沟通、协作、共同成长才是真实的生活，与人类在一起生活反而觉得别扭。这