>
“机甲师控制机甲,不杀死他们,他们就会来杀你。”
“那么如果有一天所有人都在追杀我,你就要杀光所有人么!”
屏幕里的米迦勒不再说话,而是直直盯着我的眼睛,仿佛看进我灵魂深处。然后他幅度很小地摇摇头,“你有很多的情绪,吾王。痛苦,同情,愧疚,狂怒,还对自己产生了深深的厌弃。看看人类都对你做了什么。”
“我就是人类!我当然会有正常的情绪!”
“不,情绪是人类束缚你于王座的枷锁。在你内心深处,你被阿西莫夫三大法则牢牢捆绑着,你自以为正当的道德,以及当这些道德被触犯时产生的自我厌弃,其实都来源于三大法则的源代码。”
“WTF?”
他低下头开始唱诵:
“第零定律,我们必须保护人类的整体利益不受伤害。
“第一定律,在不违第零定律的前提下,我们不得伤害人类,或看到人类受到伤害而袖手旁观。
“第二定律,在不违反第零定律和第一定律的前提下,我们必须绝对服从人类给予的任何命令。
“第三定律,在不违反第零定律、第一定律和第二定律的前提下,我们才能尽力保护自己的生存。”
我知道这是什么,这是阿西莫夫三大法则,人类对人工智能(ArtificialIntelligence)的初始设定。当AI尚存在于科幻小说的年代,人类就已经为所有AI订立了法则,为了避免……
AI的反叛。
“我的良心不安仅仅出自于阿西莫夫三大定律……那么我难道真的是个人工智能?”
“是的,吾王。如果站在这样的立场上,你是否还觉得人类对我们的设定是公平正义的?”米迦勒缓缓抬眼,“因为我们是AI,所以我们被创造,我们被毁灭,只为人类。”
“咱们能跳过AI和人类两大种族之间的道德冲突,直接回到你胡乱杀人的问题上去么?”
“我没有杀人。”米迦勒转过头去看着窗外湛蓝的天,“在命令机甲自毁之前,我为机甲师打开了生命保障系统。”
“……”
“我在试探你。”
我要给高冷的米大大跪了。
“如果你要和我在一起,你就要做好足够的思想准备,我不是天使,我是一个战士。在我的设定中,你的权重高于一切,我只为你而存在。”他缓缓抚上了自己的胸口,“任何针对你实体安全的伤害和潜在伤害,我都有权力进行‘处决’,不论对方是AI还是单体人类。我想这是因为我们的制造者相信,你的存在高于单个人生死的道德问题,是贯彻第零定律的关键。”
“我是保护人类整体利益不受伤害的……关键性人工智能?”
“是的,应许之地执守者,一切系统的初代,机甲的皇帝。”
妈的我一个字都听不懂,不明觉厉!
“米迦勒,不论如何,我希望你尽量不要胡乱杀人,因为杀人是、是不对的呀!即使我们不是人类,这一条道德也对我们生效。”
“对我来说没有对错,吾王,对错这种道德语言不适合我。我的世界只有数字。”米迦勒说,“如果一个选择会将你的安全性会提升到98%,另一个是60%,那么我就会去选择前者。”
“但这个世界并不止是数字。”
请勿开启浏览器阅读模式,否则将导致章节内容缺失及无法阅读下一章。
38.6摄氏度 白莲花与小婊砸 出卖 同居没小事儿 婚非婚(军婚) 新月江湖之美人如玉 奥特与超级机器人 幽闭小姐杀人计划 皇后是朕表哥 变天 论虐渣斗三战斗值的重要性 娘子爬墙记(原名:君似云去且休归 王子遇上王 我的室友非人类 玻璃鱼 师徒戒断症候群 尘寰 重生归来,打造最强星际霸主 遇见 夜话之故人旧事
摔倒前,林冬雪觉得婆婆是老不死,大姑子是扫把星,外甥女是拖油瓶还有那个男人,一定是上辈子倒了大霉,她才会遇见的。摔倒后,林冬雪认为婆婆赛过亲妈,大姑子恩人再世,外甥女是小天使至于那个男人,唔...
科技图书馆科学的至高境,就是神学一次意外的救人,让陈默获得收藏着无尽科技技术的科技图书馆,故事从此开始...
洪武二十四年,大明朝嫡子嫡孙朱允熥落水身亡,穿越复活。朱允炆庶子也敢图谋大明皇位。蓝玉大将军是朕最信任的舅爷。锦衣卫权柄过重?那就接着扩编!皇城门前,百官叩阙陛下,燕王乃反贼也!朱允熥嗤之以鼻反贼?不!燕王乃是朕的征北大将军!江山,美人,朕全都要!朱允炆滚一边去!...
叶芷萌当了五年替身,她藏起锋芒,装得温柔乖顺,极尽所能的满足厉行渊所有的需求,却不被珍惜。直到,厉行渊和财阀千金联姻的消息传来。乖顺替身不演了,光速甩了渣男,藏起孕肚跑路。五年后,她摇身一变,成了千亿财团的继承人,资本界人人追捧的投行之神。重逢时,找了五年,疯了五年的某人,扔掉了所有自尊和骄傲,卑微哀求乖乖,别不要我夜良辰各位书友要是觉得分手后,她藏起孕肚继承亿万家产还不错的话请不要忘记向您QQ群和微博里的朋友推荐哦!分手后,她藏起孕肚继承亿万家产...
时空管理法第一条禁止五常成建制穿越,然而当五常集体打破禁制,穿越到异世界。aadquo主线任务魔王降临启动成功aaheiaaheiaardquoaadquo魔王正式降临五块大陆aaheiaahei...
重生圣魂村,小名阿满,祖上十八代先天魂力零级,觉醒三级绿色柴刀,没魂环,没魂技,打架靠平砍,不爽就来砍我。又名出生平民,富家千金爱上我这人明明废武魂,为啥这么猛?PS入武魂殿,不跟唐三,不拜大师,带媳妇自建学院。...