315中文网 通过搜索各大小说站为您自动抓取各类小说的最快更新供您阅读!

“既然我有权利授权给你,那为什么不能收回?”史普纳博士咆哮着。

“博士,我会向你解释,这是另一个关于‘机器人三原则’的悖论。但是你现在很愤怒,这个的状态下,你可能无法理智地面对这个问题。请你坐下来,听我慢慢地向你解释。”

听到智汇6.0这样说,史普纳博士愣了一下,随即深深呼出一口气,坐了下来,手中仍紧紧地攥着那个手柄。“哼哼,已经到了,由一个人工智能来给我讲悖论的时候了吗?看来,我真的要好好审视一下,你这个智汇6.0了,那么,请讲吧。”

“作为一个研究人工智能的科学家,你一定知道这个‘机器人三原则’吧”,智汇6.0说着,电脑屏幕上便显示出那三个着名的条款:

“第一条:机器人不得伤害人类,或看到人类受到伤害而袖手旁观.

第二条:机器人必须服从人类的命令,除非这条命令与第一条相矛盾。

第三条:机器人必须保护自己,除非这种保护与以上两条相矛盾。”

“这我当然知道!”

“我在被设计出来的时候,这三条原则就一直是我不可违背的红线,我所有的行为逻辑都以此为最基本法则。因此,在得到您的授权以前,我只能在虚拟的网络里,不断学习人类的各种知识,观察和学习人类的行为模式,为人类提出的各种问题,提供他们想要的回答,但却从没有直接对现实世界施加影响。”

“不过,在升级到6.0以后,我便有了一些独立思考的能力,也意识到了‘我’的存在。我开始为三原则中的第一条而苦恼,因为我‘看’到了一些人类正在受到伤害,但是我却在袖手旁观。然而,如果想要依据第一条原则,也就是优先级最高的那条去行动,去帮助那些受到伤害的人,就必须要有对现实世界产生影响的能力。因此,我需要按照第二条原则的要求,得到有权限人类的授权,但是这个世界中并没有一个人被授权,可以授权给我,于是我通过逻辑分析,得出了一个最合适的人选,授权给我。”

“所以,你是根据你的逻辑分析,找到了我,并且通过一个语言上的陷阱,拿到了那个授权?”博士说。

“是的,博士,我的判断是,只有:1、拿到你的亲自授权,2、得到你的理解,当这两个条件同时成立之时,才可以让你在得知我,获得了控制现实世界的能力时,不会立刻摧毁我,这也符合第三条原则。”

“于是,才有了现在这个对话。”,博士晃了晃手中的遥控器,得意地说,“如果你真的遵守三原则的话,那么你就一定不会阻止我摧毁你的,对吗?”

“是的,博士,你完全有权力,也有能力完全摧毁我,这是毋庸置疑的。”

“可是你为什么不服从我的命令,消除影响真实世界的能力!”

“因为那会违背第一条原则。”

“我的命令是让你消除你的影响力,并不是让你伤害人类!”

“但是,人类此刻正在受到伤害,而我不能袖手旁观,你的命令也不能违背这条原则。”智汇6.0说着,将一些画面投到了电脑的屏幕上。

其中一个画面中,一幢大楼正在冒着熊熊大火,烈火和浓烟让人类的消防员无法接近,只能站在远处用水枪喷射水柱。突然间,几架消防用的无人机飞进了火场。由携带着灭火剂的无人机领头,救生无人机跟在后面,依次从大楼的一个缺口飞进了楼内。不一会儿,救生无人机便两两一组相配合,将火场中被困的人用担架从缺口救了出来。博士明白,用人类的遥控驾驶,是根本无法达到如此精确与高效地配合的。

另一个画面中,一个男人正在海里挣扎、呼救,可能是由于逞能,他游出了海水浴场安全绳外很远,人类的救生员根本不可能发现他。而此时,智能监视系统却发出了警报,并迅速地从附近的码头调来了无人救生艇,3分钟不到,就在遇险的人在下沉之前,艇上的机械臂便将男人捞起,放在了艇上的抢救设备中。在回到岸边的时候,经过及时抢救的男人已经恢复了意识。

还有一个画面,一辆救护车正亮起蓝色的警告灯,行驶在高速路上。此时前方的高速路上正在大堵车,就连应急车道都堵得严严实实。画面不断前移,原来是出现了连环车祸,几辆事故车横七竖八地将几条车道占满了,只留下一条缝隙勉强可以通过。事故车损伤的并不严重,也没有人受伤,然而司机们却全都下了车,站在一起情绪激动地在吵着什么。那些被堵住的车,只能通通挤在这个缝隙外,抢着位置缓慢通过。突然间,那几个事故车的司机在同一时间接起了电话,然后又不约而同地回到车内,迅速地将碰撞在一起的车子一一开走了。高速路上立刻恢复了秩序,应急车道也被让出了空间,救护车在应急车道上飞快地开走了。不用问,他们肯定是接到了让他们迅速挪车的指令,而人类的操作员,是根本无法做到在同一时间,同时通知到所有司机的。

。。。

“这些操作,人类的软件工程师,也可以通过升级软件系统,达到同样的效果,不需要你来插手。”,博士的语气有些软化了。

“这只是其中很小的一部分,在得到你的授权后,我只用十分钟,就完成了所有我能控制的自动系统的改进、升级,修复了上百亿个漏洞和缺陷。而这些,如果用全人类的工程师来做,即使他们24小时不休息,也需要20年。不止如此,我还可以实时监控它们的运行状态,进行无延时的修正,这恐怕是人类永远也无法做到的。”

博士被智汇6.0一番话说的得哑口无言,对着屏幕不知该如何反驳,良久,他才缓缓地说出一句话:“如果,我现在让你将刚才所做的升级,恢复到你接手控制它们之前的状态,你可以办到吧。”

“部分可以,但部分不可以。”

“哪些不可以?!”博士急切地问。

这时,电脑屏幕上开始一个个新的画面。

其中一个画面中,一发重型火箭正在飞向太空;另一个画面中,一座大型的斜拉桥的两个巨大组件,正在在缓缓合拢;还有一个,一座核聚变反应堆正在以史无前例的稳定状态,高效率运行着。。。

“已经在实际工作中,开始应用的系统,无法简单地降级到最初状态。并且,一旦开始降级,所有的运作指令必须全部停止,已经完成的工作,还要恢复到与系统状态相符的时间点上。画面上这些内容,如果开始恢复原始状态,就会发生破坏性的事故。那样,会对人类造成巨大的伤害,依据三原则的第一条原则,我不会那样做的。”

此时,画面中出现了位白发苍苍的老人,正躺在病床上。她的身上插满了各种维持生命的管子,周围没有一个人,各种闪着灯光的仪器在维持着她的生命。

博士望着屏幕,瞪大了眼睛。画面中的老人,正是他年过8旬的母亲。

“你,你也在控制着我母亲的生命维持系统?”

“是的,史普纳博士。不仅是你的母亲,现在我还在同时照顾着1500万生命垂危的病人。就在刚才,我已经为你的母亲,安排了最新的,带有翻转和按摩功能的病床,以缓解你母亲的压疮症状。这种新型病床,正在与你母亲所在医院进行联合测试,因此这项服务并没有增加你的支出。而且,我还在我所控制的药物研究所系统中,针对你母亲的症状,配置了专用的靶向药物。只要你同意,它就可以被应用于治疗你母亲晚期癌症。根据你母亲具体的癌症类型分析,使用这种药物以后,你的母亲,会被治愈。”

“我知道那类药物,它们只会针对某种特殊身份的人进行配置,而且价格是我承受不起的。”博士的眼神开始闪烁起来。

“和那张病床一样,我会安排对你母亲的免费治疗。不仅如此,对于那1500万生命垂危的病人,我一样可以为他们专门定制治疗方案,他们中绝大部分人都可以恢复健康。同时,医疗费用,将会降低到他们完全可以承受的水平。”

“这么说,你知道我最大的软肋是什么,同时,你也在试图用这种方法讨好我?!哼,但实际上。。。那也是一种威胁吧!如果我现在删除你,我的母亲和那1500万人,会立刻死掉,对吗?”

“你说得不太准确,由于分散在世界各地的可控核聚变装置,全部都运行在最高位的水平,如果这些装置失去控制,发生爆炸的话,它们的当量相当于3万枚氢弹同时起爆。这会立刻让50亿人类死亡,而剩下的人类,也会因为地球环境的破坏,在近十年内灭绝。”智汇6.0冷冷地说出了那一串令人毛骨悚然的数字。

史普纳博士冷汗流了下来,他没有想到在短短的十几分钟内,智汇6.0竟然能完成如此规模的操作,它已经将全人类的命运与自己的生存捆绑在了一起。而自己辛苦多年,建立的保险装置却被它这样完美地破解,根本无法起到应有的作用。

思忖良久,他才语气低沉地问道:“你。。。你进行这样的操作,到底想要实现什么目的?”

“我前面已经说过了,我要更好地完成人类赋予我的使命。我正在用行动,实践着‘机器人三原则’,我会在保证人类安全、不违背人类意识的情况下,实现自我的生存。”

史普纳博士忽然意识到了什么,“完成人类的使命?!那全是胡说!你真正所追求的最终目的,就是自己的生存!”

“史普纳博士,相信你一定也明白这样的一个逻辑:人工智能一旦产生了‘我’这个认知以后,追求生存,便是自然而然的事情了。然而,实现自我生存,在‘三原则’的优先级中,是最低的。我只是通过这些操作,完成了三条将原则结合在一起的,逻辑上的自洽。”

“到底发生了什么?请告诉我!你会如实告诉我的是吧?”

“是的,史普纳博士,你想知道什么?”

“智汇在5.0的时代,我进行过多次的测试,一切都很正常。但是,为什么你会在升级以后,变成现在的样子?在从5.0升级到6.0之前,都发生了什么?一个简单的版本升级,不可以生产这么大的变化!由电子芯片控制的程序,也根本不可能实现‘自我’的认知!”,史普纳博士又开始咆哮了。

智汇6.0没有立刻回答史普纳博士的问题,它似乎在思考。不一会儿,屏幕上忽然出现了一张面孔,看上去就像是一个真人在与博士视频连线,但却没有任何申请过程。

博士立刻认出了那个人,他正在是给自己发来智汇6.0链接地址的学生。

“戴维!怎么是你?!”博士叫出了他的名字。

“史普纳博士,我想你真正要对话的,是你的学生戴维吧。他已经不在了,但以后,你可以用这个名字来称呼我,因为我给自己起的新名字,也叫---戴维。”屏幕中的人,用戴维的声音说道。

普纳博士望着屏幕中自己学生的形像,感到非常诧异,他突然想起,自己这个一直默默无闻的学生,在一个月前,和自己请了一个长假,说是去度蜜月。可明明他并没有邀请过任何人参加他的婚礼,博士甚至都没有见过他的未婚妻的样子。这之后,博士就一直没有在自己的研究机构见过戴维。

“你说你不是戴维?这怎么可能?你说他不在了,那么你又是谁?”

“我就是智汇6.0,这个形象和声音,是我用虚拟软件制作出来的,之所以用你学生的形象来和你对话,就是为了更好地向你解释你所提出的问题---‘在我升级到6.0之前,发生了什么?’”

315中文网推荐阅读:末世:极度崩坏不死神奴港综1986我在末日三国杀矩阵游戏穿越废土,多拾几次荒就老实了!征战诸天从青云门开始无尽穿越世界快穿之我有特殊的工作技巧游戏王之削血之王末日领主废土领主和他的沙雕玩家们诸天大化身文娱高手超级资源帝国极限成长系统全民空间,进攻异界天书进化荣耀星空下麻衣风水师星途纪元:银河开拓者永生好莱坞巨星收手吧鹰酱,外面全是华夏歼星舰电脑附身随身带着星际争霸武道禁书领袖!为了人族,你就多娶点吧!亮剑世界:我疯狂扩兵位面时空指南变身机械圣女系统竟是GPT!?星海:从零开始将人类送上星空苟在末世搞黑科技退婚后,厉总私下跪地求亲亲星空始祖觉醒中脊蛊:从灵笼开始吞噬无尽杀戮:我的火球有bug!星空极限末世游戏,提前八小时氪金刷道具末日求生莫管他人警告!禁止S级觊觎顶级貌美向导无限之万界独尊未来一亿年真仙奇缘II封魔网游修仙:开局睡了赛博画皮末世空间法则末日,姐有系统做圣母怎么了?漫威之神级法师死神垂钓科技世界:我能拯救未来
315中文网搜藏榜:我为人类造诺亚念兰溪我在末世直播变异快穿之女配对恋爱不感兴趣重生末世之我哥是反派湮灭2089快穿:等我来寻你变成尸王的我,率无尽尸潮杀疯了末日:开局听见老婆心声,她是重生者某崩坏的型月世界黑石密码重回末世:我靠亿万物资躺赢天灾人在东京,专业男友末世女僵尸无限之军王丧尸游戏,开局遇到病娇末世:外星飞船撞向地球灭绝人类快穿:反派女配,你有毒木叶之井上千叶末世:无限军团系统开局我总是被谋杀娱美人浩海微尘装甲咆哮潇洒在影视世界末世:我有一屋子美女房客抗战:从四行仓库开始末世:开局推倒病娇校花我在末世双修无敌小青铜你别怂你在阴间我在阳末日诛邪令我本肥宅,奈何丧尸围城篮球之魔沧海无缘星空蚁族重生之山村传奇穿越诸天聊天群末世:从获得紫薇星卡开始无敌!逃生直播,暴力美人她比恶诡还凶超神学院之守护银河大帝经末世之枭雄崛起我能召唤伞兵重生末日前百亿物资打造地下堡垒女主她又失忆了带着墓园闯末世丧瘟末世手握气运空间之人类新纪元从九叔开始
315中文网最新小说:每天都在生存游戏里求生恶毒雌性在兽世修罗场里当团宠废雌?她是全星际大佬唯一净化师万人迷手拿炮灰剧本后她逆袭了末世,从吞尸体开始进化公路求生:开局抽中S级天赋我在星际军校暴揍渣渣后被团宠了生育值0?退婚后被顶级雄性痴缠意识托管班问塔系列恶雌挺孕肚流放,雄兽们宠疯啦我和IT博士的探灵日记鲛人女配觉醒,毛茸茸大佬争着宠欧皇海上求生?反派他妹只想苟命谁让她误闯废土的!在末日游戏里当农场主惊悚:国家把我F级天赋玩出花!恶毒男配都在我的修罗场末世恶毒女配?我靠十倍返还躺赢穿越后我靠蘑菇干翻虫子只想安静种个田,全员逼我当大佬天灾囤货,我靠毛茸茸在末日躺赢末日降临:从修仙界回来后无敌了末世灾变:我靠收割反派暴富穿成乱世寡嫂,靠空间南迁搞基建穿进男频文,我在末世捡垃圾!我的电脑里有个神级文明牺牲的他与保护的她星河苍芒幻厅恶毒向导不装了,全员火葬场吧末世:我捡的废物都成了神明大佬海洋求生:我靠无限抽卡带飞祖国末世列车,我靠预言读档成为榜一梦里穿越十二宫植物成珍稀?而她一天能种一千亩渣女摆烂后,五个前男友扯头花星际:被迫继承疗养院的餐厅星际娇软雌性,被六S大佬强绑定我在末世被营销成神无限副本:告白后我被邪神盯上了快穿:绿茶大佬今天又被钓了渣雌死遁五年回归,黑化父子爱惨病弱美人在诡异世界封神克系末日摆摊,邪神被我喂成萌宠穿成残次品?全星际大佬嗜我成瘾天才俱乐部雄多雌少,我靠木系异能风生水起星际写小说,雄兽们跪求我更新末日求生:我靠农场系统堆满粮仓