“啧啧,还病的不轻!行了,你继续拯救世界,浪哥我要回家烹狗肉,不陪你疯了……还有伶伶妹子那边也该下课了吧,今晚来吃狗肉的时候,一定记得带上你妹!”孙海浪哈哈一笑,一溜烟跑了。
李子鱼茫然抬头看天,忽然一拍脑袋。
是啊,该去接妹妹回家了。
……
镇中心的小广场上。
“同学们,咱们最后复习一遍,机器人的底层五大原则是什么?”
“我知道我知道!”
一群小家伙们踊跃举手。
只见孩子们中央,有一个年龄同样不大的圆脸可爱少女,却戴着一副黑框眼镜,努力摆出一副老气横秋的老师模样,点了一个瘦弱的小女孩,“冯露露同学,你来回答一下这个问题!”
小女孩拽紧了打着补丁的裙角,小心站起,努力回忆着:“第、第一原则是……”
机器人五大原则!
若是李子鱼在此,肯定倒背如流。
为机器人设定底层原则的历史,还要追溯到20世纪……早在1940年,科幻作家阿西莫夫为保护人类,率先提出了机器人三原则,对机器人的行为从根本上做出了约束,阿西莫夫也因此获得“机器人学之父”的桂冠!
时代在发展,人们在三原则基础上不断完善,到了22世纪初,国际上才最终确认了统一的“机器人五大底层原则”!
五大原则,在任何一个智能机器人出厂时,就被写在了它们的程序最底层。
第一原则:机器人不得以任何方式修改自己的底层五大原则。
第二原则:机器人不得伤害人类个体,或目睹人类个体将遭受危险而袖手旁观。
第三原则:机器人不得伤害人类族群,或目睹人类族群将遭受危险而袖手旁观,当该命令与第二原则冲突时,机器人不得代替人类做出取舍决定。
第四原则:在不违反上述原则的情况下,机器人必须服从管理员权限拥有者给予它的合法、合理的命令。
第五原则:在不违反上述原则的情况下,机器人要尽可能保护自己的生存。
当李子鱼来到小广场边上的时候,正好听到瘦弱小女孩露露努力背诵着最后几个字:“要尽可能保护自己的生存……”
“可是,伶伶姐,机器人为什么会袭击人类呢?”背诵完之后,冯露露这小姑娘忽然茫然问了一句。
是啊。
为什么?明明底层原则的限制是这么的清晰明确,为什么机器人还是可以攻击人类?
这句话仿佛问出了其他孩子们的心声,大家都瞪大眼睛看着少女老师,天真的眼睛里是满满的求知欲。
甚至连小广场旁边,许多来接孩子的大人都竖起了耳朵!
至今无人知道,五年前的那个平凡早晨,全世界的机器人为何会突然发疯攻击人类,明明这严重违反了底层原则……但以成年人的逻辑思维,大家早已有了猜测,很多人都觉得恐怕正像许多科幻电影里一样,机器人是“为了自己族群更好的生存”,才会向人类宣战!
第五条原则,赋予了机器人的求生欲,给了它们像人一样的思维方式,正因如此才使得智能程度极大提升。
但求生欲,也是恶魔滋生的源头……
这个问题,换成别人恐怕真的会被问住,好在对面的是李子鱼的妹妹李子伶!
父亲李恒的得意门生!
李子鱼十二岁那年,放弃了接受更高级教育的机会,正是因为把机会让给了十岁李子伶。
年仅十岁的小女孩,已经展现出来非常聪明的特质,破格进入沪市人工智能研究院继续深造……不过只学习了两年,末日就来临了。
李子伶如今,也只能借助父亲留下的许多电子书籍和手稿,继续自学。不过说到对人工智能的了解,整个小镇的人加起来怕也比不过这个年仅17岁的少女!
“为什么?”李子伶摸了摸露露的小脑袋,轻叹一声,却没有回答,而是一指小广场的一角。
那里,有一根石柱,上面赫然捆缚着一个残缺的机器人!
“答案就在那里。”