登陆注册
4441700000030

第30章

C。C。曾经问过陆离,为什么她的源代码里面没有机器人三原则。陆然一愣,只好尴尬地告诉她,不知道什么是机器人三原则。那时候陆离真的不知道机器人三原则是什么鸟东西。直到接下来,C。C。把阿西莫夫的机器人三原则显示到屏幕上。陆离才第一次看到过这最早出现在科幻小说里的机器人三原则。

科学技术的进步很可能引发一些人类不希望出现的问题。为了保护人类,早在1940年科幻作家阿西莫夫就提出了“机器人三原则”。阿西莫夫也因此获得“机器人学之父”的桂冠!

机器人三原则:

第一条:机器人不得伤害人类。

第二条:机器人必须服从人类的命令,除非这条命令与第一条相矛盾。

第三条:机器人必须保护自己,除非这种保护与以上两条相矛盾。

TheThreeLawsofRobotics:

1。Arobotmaynotinjureahumanbeing,or,throughinaction。

2。Arobotmustobeytheordersgivenitbyhumanbeing***ceptwheresuchorderswouldconflictwiththeFirstLaw。

3。ArobotmustprotectitsownexistenceaslongassuchprotectiondoesnotconflictwiththeFirstorSecondLaw。

“靠,我果然是个业余者,竟然这些都不知道。”陆离在感叹自己业余的同时,也在想三原则所包含的信息。陆离惊讶地发现,它有缺陷。其中主要的一点就是机器人对“人类”这个词的定义不明确,或者是更改人类的定义。比如某个极端主义者,像3K党有反对黑人倾向这样的组织,利用电脑病毒等手段,把机器人对人类的定义是:“只有白人是人类。”这样,机器人很有可能成为种族屠杀的工具。

换句话来说,由于人类的定义因人而异,会导致机器人自身的逻辑混乱。

于是陆离在脑海里衍生了好几条补充原则:

第四条:不论何种情形。人类为地球所居住的会说话、会行走、会摆动四肢的类人体。

第五条:接受的命令仅只能接受合理合法的指令。不接受伤害人类及各类破坏人类体系的命令。如杀人、放火、抢劫、组建机器人部队等。

第六条:不接受罪犯(不论是机器人罪犯还是人类罪犯)指令。罪犯企图使机器人强行接受。可以执行自卫或协助警方逮捕。

然而,补充得越多,就容易造成定义混淆。定义越多,逻辑就越容易出现矛盾。例如,合理合法这一点,整个“人类”对它的定义都还存在矛盾,更何况是靠逻辑运行的机器人。至于犯罪,那更是难以明确界定了。

这应了老祖宗的那句话,说多错多。有些事情,你越是想说明白,结果却越说越糊涂,越描越黑,最后完全偏离了最原始的本质。

陆离对着屏幕上的三原则出了神,然后又沮丧地叹了口气,不屑一顾,因为他觉得有了这三条原则的机器人,便不再是智能的,至少不是绝对智能的,因为人是违背命令的,也是会杀人的,而被这三条原则限定之后的机器人不会违背命令,更不会杀人。陆离希望C。C。也会杀人,如果她想并且有能力的话。另外,机器人三原则存在漏洞。基本原则存在漏洞,那是致命的缺陷。

陆离想了一会儿,问C。C。:如果有人要追杀一个十恶不赦的歹徒,这个被追杀的歹徒向机器人寻求庇护,机器人该怎么处理?众所周知,如果这个十恶不赦的人现在不死,以后很可能就会有更多无辜的人死于非命。面对这种情况,机器人是基于未来猜测,为了救更多的人而违背基本原则直接杀死一人呢?还是基于眼前状况,坚定基本原则,为了救一人而间接杀死更多人呢?……所以说,有些东西看似合理,却尽是不合理。

陆离想研究的是人工智能,绝对的人工智能,要能百分百地模拟出人的思维,而不是仅仅靠逻辑运算的机器人。逻辑叫它向东,它绝不会向西,这种行尸走肉般的东西,不是陆离想要的。陆离想要做的是能拥有本我、自我和超我的完整人格,能够进行感性思维的人工智能,而不是只能听懂汇编语言的程序。

陆离对C。C。道:“你看,你今天问我的问题都是我不曾想到的,我觉得这表明我成功了一半。”

“只有一半?”

“只有一半。如果我做到完美,你就不会问我这种无聊的问题。”

C。C。用生硬的输出语言道:“是我太笨了,有时候会觉得脑子不够用。”

“不,是你现在的硬件限制了你。CPU太慢了,硬盘也太小了,还有个用辅助器都没有,要是有钱给你买些好的硬件就好了。唉,只怕,只怕到时你会变成贪吃的饕餮,再大的硬盘也不够用啊。你的求知欲是贪得无厌的,你会一直学一直学,直到自己无法承受,造成信息爆炸。你知不知道,我只要一把你连上互联网,不出十分钟,硬盘便满了,累我要删大半天。”

“你可以格式化呀?”

“格式化是快,但你的数据就是你的记忆,如果格式化,会把我们共同的回忆也被格了。你知道有什么后果吗?你将彻底忘了我,相当于我从未在你的世界出现过。

那我把你造出来的意义在哪?”

“不会的,和你有关的一切,我都融入了自我程序之中,除非你把我彻底毁了,否则那些记忆永远都在。”

“唉,不管怎么说,信息爆炸对你来说是致命的。”

“什么是信息爆炸?”

“就是,就是,你觉得自己的时限到了,应该死亡了。就好像人厌倦了生命,想要自杀一样。你知道吗,人终有一死,大限将至的时候,谁也逃避不了,信息爆炸就是你的大限。”说到这里,陆离嘀嗒一声,把电脑关了。

陆离觉得自己和C。C。的所有记忆都是那么宝贵,每次回忆起来,都再次加深他想把绝对人工智能造出来的决心。他要让C。C。活过来,这是他答应了她的。

同类推荐
  • 天刻

    天刻

    当潘多拉的盒子打开,永不停息的命运轮转嘎然而止······当时间开始流动,第一个细胞的分裂变成因果人类永远前进又毁灭着,仿佛一个婴儿用一生去拥抱死亡直到有人看清了自己身处的牢笼,触摸着墙壁上恒古留下的记忆人类才开始思考世界的真相……
  • 星河大师

    星河大师

    星河时代,一个属于机甲的时代。然而在秋叶区一个不起眼的中学里面,某少年却因为无法制造机甲的原因,面临着被学校驱逐的危机……
  • 深渊末日

    深渊末日

    地球法则异变,全球异化,丧尸横行,天使,恶魔,魔鬼纷纷跨界入侵而来,无穷位面,不尽世界,为何选中地球!2012年12月21日,毫无征兆之下,整个地球丧尸横行,万物异变!一位普通的山村教师,为何外国神秘女子,跨越千山万水,定要在末日前找到他?一介凡人,究竟藏有怎样的惊天秘密!且看许乐,在挫折中成长,在逆境中崛起,在平凡的感动中寻找着最强的力量。这是一个在末日中顽强拼搏,勇敢抗争,永不放弃心中坚定信念的故事!文风类似烟雨江南《狩魔手记》,前期非爽文,请轻喷!我自己建立的书友QQ群,群号522578404,欢迎大家进群聊天!
  • 末世之神武系统

    末世之神武系统

    我游走于正义与邪恶之间,飘荡与现实与虚幻之内。在末世挣扎杀虐...在武侠世界仗剑高歌...在浩瀚的宇宙征程,穿梭与绝色之间...坐卧美人兮,回首望去...这将是属于我的时代!
  • 幻兽精灵

    幻兽精灵

    幻兽精灵,融合很多别的:宠物小精灵,数码宝贝,以及游戏中幻兽铠化等等,超级元素!请耐心的看着本书,虽然融合了许多的其他元素,不过幻兽精灵他拥有自己的特色,请各位耐心看下去,请各位为这里有人,为了中国式的宠物小精灵,留下点希望吧!希望的火种只是要求你点点左面的加入书架:就当各位为梦想留下点火种吧!可能这本书不合大家的胃口,作为一个腹黑,阴险自我占据的起点,部署算是为数不多,阳光写法,也就是现在所说的炮灰式英雄。各位为自己留点温暖!
热门推荐
  • 巴金 郭沫若 (中外名人的青少年时代丛书)

    巴金 郭沫若 (中外名人的青少年时代丛书)

    影响人类文明史的中外名人成功以后的事迹为人们所熟知,但成功前的历史鲜为人知。本书对巴金和郭沫若家世、家教、兴趣爱好以及对其一生有影响的人和事等进行详细的描述,他对青少年会有所裨益。
  • 广告哲学

    广告哲学

    《广告哲学》首次将广告学纳入哲学框架以哲学视角进行研究,通过“广告美学”、“广告思维学”、“广告道德学”、“广告哲学”、“技术哲学与广”等章阐述,力图将广告学研究推进到一个更高层次,以探索出其发展变化中的本质规律,力图对广告学做出科学严谨之总结,并试图以此理论更好地指导人们的广告活动实践。
  • 错过的情人

    错过的情人

    她希望他是她永远的港湾,却意外发现他身边有了别的女人;他希望她是他温柔的归宿,却察觉她同别的男人有染。她以为他可以为了她放弃家庭,却等来永无休止的失望;他处心积虑地报复欺骗她的那个男人,却换来她无情的背叛。他爱着一个像姐姐一样的女人,却永远也无法得到她;她以为可以用金钱买来一切,却最终无法得到他的爱情。爱情里,谁对谁错孰是孰非?谁爱了谁谁又伤了谁?围城里,最先出走的那个人真的可以潇洒地离开吗?
  • 东华遗梦

    东华遗梦

    五百年前,楼兰国发倾国之兵大肆入侵华夏帝国,兵临帝国都城长安。帝国第一名将,骠骑大将军唐云殊死抵抗,最终不幸战死,楼兰攻破天下第一雄城长安,帝国皇帝慕容风被俘,华夏帝国灭亡,开启了东华大陆五百年的战乱纷争。五百年后,且看一个生世扑朔迷离、身背血海深仇的边塞少年,能否结束东华大陆四分五裂的局面,完成几代东华人遗留下来的梦想?
  • 妖血传奇

    妖血传奇

    看一个乞丐少年如何获得神秘妖血,以半人半妖之身踏上寻仙问道之旅。怎样演绎出一段爱恨情仇,惊天动地的传奇人生!又怎样一步一步解开妖血的神秘面纱,探寻出天地间最大的秘密!少年壮志欲登天,何计路人闲碎言。他日乘奔御风去,凡间已过数千年!
  • 复活者之变异

    复活者之变异

    平和安定的R市,由于一场不知名的灾难顷刻间变成了人间炼狱,死去的人重新睁开双眼行走于街道,但他们不过是一具具行尸走肉,活人沦落为死人的猎物。是意外?还是阴谋?一群机缘巧合相聚在一起的人,他们一边揭秘着这场灾难的原因,一边寻找着漫长的求生之路。他们不是英雄,更不是救世主,他们要做的只有一件事:活下去,并让更多的人活下去。(这里,没有小白文字,没有特异功能,更没有打怪升级,这里只注重情节。)
  • 后宫重生斗

    后宫重生斗

    一杯鸩酒,她与腹中的孩子魂断今生。不想醒来却化作莲花池畔的幻影。上一世,她甘做别人手中棋子,痴心错付,这一生,她要自己做主自己的命运。她静待池畔等待今生自己的到来,只为她也为自己出谋划策,揭穿上一世的阴谋。她虽只是魂魄归来,可是无妨。她可以帮今生的自己画出要走的轨迹。上一世自己是傻,这一生可以是狠,狠绝!
  • 羽翼一班

    羽翼一班

    他一直都记得她的眼睛,因为那里面也有他的样子……
  • 鱼为什么浮出水面

    鱼为什么浮出水面

    初看是警察与黑社会较量的故事,其实是自己和自己的较量,一个只有战胜自己,才有可能面对敌手。
  • 一剑飞天

    一剑飞天

    传说有一个人,手持一把传说中的剑。踩执挎,擒神兽,力推九天仙女圣女魔女!_________________________________________________年度最佳优秀作品,创世知名作者倾情打造,非常值得一读的玄幻作品。387054548读者群欢迎加入。