在日益自动化的世界中,人们很容易忘记机器是由人类编程、拥有和操作的。设计和使用它们是为了一些更高、更人性化的目标:安全性、舒适性、效率、利润。设计机器人遵循的法律是一個有趣的思想实验,但最终会分散注意力。真正的机器人法律应该对相关的人进行检查,而不是对机器。
作为人类,我们需要依赖深厚的传统智慧来解决这些基本问题,不能单靠技术来回答。然而,至少有一点我们都会认可:人类应该始终能够关闭机器。机器人五大法则
任何普遍的机器人法则都可能包括以下内容。
法则1:机器人不得伤害人类或让人类受到伤害——除非它受到另一个人的监督。
法则2:机器人必须能够解释自己的行为。
法则3:机器人应该抵制任何先入为主的冲动。
法则4:机器人不得冒充人类。
法则5:机器人应始终有一个关闭按钮。