欢 迎 访 问 卢 昌 海 个 人 主 页

除了自己的无知,
我什么都不懂。

-苏格拉底

 
信 息
 
 
 
已发表作品列表
站长简介 | 常见问题
版权说明 | 电子信箱
 
统 计
 
 
 
自 2014-08-01 以来
本文点击数
36,100
自 2008-02-01 以来
本站点击数
16,890,119
昨日点击数 3,936
今日点击数 241
 
备 注
 
 
 

本文发表于《科学画报》 2014 年第 8 期 (上海科学技术出版社出版)。

机器人与阿西莫夫定律

- 卢昌海 -

本文是替《科学画报》撰写的专栏短文, 本站版本在若干人名和术语初次出现时注有英文。

小时候看过一部名为《未来世界》的科幻电影, 其中一位酷似真人的机器人是我的残存记忆, 也很可能是我初次接触 “机器人” 这一概念。 后来, 经由《小灵通漫游未来》和《科学画报》等图书、 杂志陆续接触到了更多有关机器人的内容, 甚至形成了未来世界会有很多机器人的印象。

再后来, 读到了阿西莫夫 (Isaac Asimov) 的机器人故事。 在那些故事里, 机器人遵循所谓的 “阿西莫夫定律” (Asimov's Laws)——也称为 “机器人三定律” (Three Laws of Robotics):

  • 第一定律: 机器人不得伤害人, 也不得因不作为而使人受到伤害。
  • 第二定律: 机器人必须服从人的命令, 除非那命令与第一定律相冲突。
  • 第三定律: 机器人必须保护自己, 只要这种保护不与第一及第二定律相冲突。

这些定律的引进是为了消解对机器人的敌意——在阿西莫夫的故事里, 多数人对机器人怀有敌意, 担心它们危害人类。 阿西莫夫定律也被其他一些科幻作家所采用, 由此形成了机器人小说的一种独特流派 (顺便提一下, 阿西莫夫后来还增添了一条 “第零定律”: 机器人不得伤害人类, 也不得因不作为而使人类受到伤害。 后三条定律则相应增加了不得与第零定律相冲突的限制)。

这一切都只是科幻, 但是——

近来, 一些研究者开始考虑一个有趣的问题: 科幻世界里的阿西莫夫定律有必要引进到现实世界中来吗? 这种考虑的一个例子, 是德国科布伦茨-兰道大学 (Universität Koblenz-Landau) 的两位研究者发表的一篇论文, 题为 “我们需要阿西莫夫定律吗?” (Do We Need Asimov's Laws)。 该论文梳理了机器人这一概念的历史沿革: 从公元前 8 世纪左右的荷马史诗故事, 到 15 世纪的达芬奇所设想的机器; 从 18 世纪英国的砸毁机器运动 (类似于阿西莫夫故事中针对机器人的敌意), 到 20 世纪早期捷克作家卡佩克 (Karel Čapek) 的笔下首次出现 “机器人” 一词…… 通过那样的梳理, 该论文把科幻小说里有关机器人危害人类的担忧归结于西方的宗教传统, 即宗教传统不允许效仿上帝, 机器人却是效仿上帝造人的产物, 故而引起担忧。 由于宗教传统并非现实理由, 因此担忧是不必要的, 该论文于是得出结论说: 为消解担忧而引进的阿西莫夫定律也是不必要的。

这种推理显然是薄弱的, 因为很多科幻作家——比如阿西莫夫——根本就不信宗教, 把他们小说里的想法归结于宗教传统是很牵强的。 退一步说, 即便这种归结成立, 也起不到论证作用, 因为宗教传统虽不是现实理由, 却也并非不能与现实理由兼具——事实上, 人类社会的很多现实正是宗教传统造成的。

但另一方面, 推理薄弱不等于结论错误。 该论文的结论——即阿西莫夫定律是不必要的——倒是不无道理, 只不过那道理恐怕需要另行论证。 比较容易确认的是, 阿西莫夫定律在目前显然是不必要的, 因为目前的机器人既没有足够的自主性, 也缺乏判断情势的能力——比如缺乏判断 “伤害人” 的能力, 与阿西莫夫定律所要求的复杂性还有很大距离。 不过随着机器人技术的发展及应用领域的拓展, 这一点正在改变。 前不久, 美国加州州立理工大学 (California Polytechnic State University) 的一位研究者提出的自动汽车——一种不拟人的机器人——在保护车主与撞到别人之间该如何取舍的问题, 就显著接近了阿西莫夫定律所要求的复杂性。 不幸的是, 这个类似于经典伦理学难题——电车难题 (Trolley problem)——的问题似乎又太复杂了, 把第一定律架到了火炉上, 机器人是 “作为” 也不是, “不作为” 也不是, 恐怕只能听任自己的 “正电子脑” (positronic brain) 被烧毁了。

看来, 真正的未来——尤其在细节上——往往不是科幻作家所能预见的, 阿西莫夫定律在目前还太复杂, 对真正的未来则又可能太简单, 从而有可能确实是不必要的。 不仅如此, 阿西莫夫定律还存在其他一些不易推行的特点: 比如对机器人怀有敌意的人能轻易利用第二定律让机器人自毁; 比如前一阵闹得沸沸扬扬的美国军方的无人机 (drone)——另一种不拟人的机器人——直接违反了第一定律, 但只要人类对自相残杀的 “需要” 一日未绝, 那样的机器人恐怕非但不会消亡, 还会有更多的应用。

不过, 无论阿西莫夫定律对于现实世界是否有必要, 都不妨碍我们欣赏阿西莫夫那些精彩的机器人故事, 并钦佩于他的丰富想象。

相关链接

站长往年同日 (8 月 1 日) 发表的作品

站长近期发表的作品

本文的讨论期限已过, 如果您仍想讨论本文,
请在每个月前七天的 “读者周” 期间前来讨论。

>> 查阅目前尚在讨论期限内的文章 <<