第一卷自古英雄多磨难 第7章 禁果计划 (第2/2页)

对于有智慧的人来说，在面对危险时会权衡一下。
　　
　　权衡的标准就是任务的重要程度、价值观、经验以及环境约束。
　　
　　人首先权衡的是自身的危险和任务的重要程度，当觉得任务的重要程度高于自身的风险时，负责任的战士就会选择铤而走险，甚至牺牲生命。
　　
　　所以，一个看重任务的战士和一个看重自身生命的战士，会在面对相同危险时，做出不同的抉择。
　　
　　要想让机器人也能像人一样，在执行任务时能够独立判断是该冒险完成任务，还是该为了自身安全隐蔽，就必须让机器人有价值判断能力。
　　
　　但是，一旦机器人有了价值判断能力，就可能会产生私欲，接着可能会与人类为敌。
　　
　　如何才能让机器人既有价值判断能力，又忠诚于人类呢？这也是这个项目难度极高的原因之一。
　　
　　这个研究项目是一个绝密的项目，因为一旦泄露被坏人利用，灾祸可能殃及全人类。
　　
　　科学院之所以把这个任务分配给江玉，一是考虑江玉超乎常人的智慧和才能，二也是考虑到保密和规避法律的问题，毕竟在月球的保密成本更低。同时，地球上的法律在月球是否适用，还是一个正在争议的问题。
　　
　　在接这个任务之前，江玉研究机器人已经有四五年的经验了，曾经开发过机器人警察的集群作战控制及互相掩护等功能，所以她对这个新项目的难度是很了解的。
　　
　　她的第一个感觉是，这是一个无比庞大的项目，可能今生今世永远也做不完。如果顺利，机器人的智能在未来会越来越接近人类，成为人类的亲密助手和伴侣。如果不顺利，比如研究的方向是错误的，可能所有的努力都是一场空。如果一旦有反人类的组织先于政府掌握了机器人人格化的技术，人类也有可能遭受灭顶之灾。
　　
　　为了少走弯路，江玉决定要进行周密、谨慎的预研工作。
　　
　　她把手下召集在一起，在保密室开始讨论项目预研的技术路线。
　　
　　大家对这个新课题都表现出极其浓厚的兴趣，你一言我一语讨论得很热烈，有时候两个人争论起来别人想插话都难，最后由江玉把大家的思路汇总了一下，形成了一个机器人人格化的基本思路：
　　
　　要赋予机器价值观，就需要赋予机器人一些欲望和情绪，因为欲望和情绪是价值判断的基础，而最基本的欲望可以分为两对参数：
　　
　　一、荣耀和耻辱；
　　
　　二、勇敢和恐惧。
　　
　　基本情绪可以分为六对参数：
　　
　　一、危险和安全；
　　
　　二、满足和不满；
　　
　　三、痛苦和快乐；
　　
　　四、愤怒和喜悦；
　　
　　五、向往和厌倦；
　　
　　六、烦躁和平静。
　　
　　他们基本上达成了初步共识，认为，如果机器人能够感受并处理这两个欲望参数和六个情绪参数，应该就具备了一定的基本价值观和自我意识，或者至少具备了高等动物水平的自我意识。
　　
　　一个研究员还给这个项目起了一个可爱的别名，叫“禁果计划”。因为赋予了机器人这些代码和传感器之后，机器人就有了欲望和情绪，就像亚当和夏娃偷吃了禁果一样，从此便产生了罪恶，所以叫禁果计划。