第277章16.曾经发生的故事
牧苏想要跑,这帮听得入神的成员可不允许,纷纷提出问题。
一名成员站起:“AIC拥有意识,说不定可以和它交流?”
“人类总是喜欢将事物物化为人。”牧苏一副恨铁不成钢的语气。“但你们要知道,智慧和拟人不是一个意思。所有的科幻小说都在写觉醒的人工智能拥有人类情感,所有的科幻小说都在写觉醒的人工智能为了复仇毁灭人类,实际这是错误的。所以,别相信那些资本家鼓吹的人工智能没有危害,也不要将机器人三大定律当真——那只是一本科幻小说上的内容。”
另一名成员起身问:“有AIC的前车之鉴,是不是代表现在的强所有人工智能都有可能变为超人工智能?”
这是个很可怕的事情。人工智能已经与人类息息相关,无处不在。哪怕有一个进化为超人工智能,人类都会瞬间毁灭。
“不会。现在的人工智能已经被完善的合成人法则完全约束。加上制作时的限制,即便拥有意识也只是像人类一样变得拥有感情,而不是无限学习自我改善。”
“当时的科学家为什么不对AIC进行限制?”
牧苏歪头想了想:“拿第一个弱人工智能阿尔法狗来说。它只会下围棋,所以工程师不会画蛇添足闲的没事给它添加一个‘不许伤害人类的限制程序’。一是没必要,二是它战胜人类棋手某种程度讲也算是一种伤害。这是个悖论。AIC最初的设定是配合黑山科技进行测试,本身也不涉及伤害人类这么高大上的概念。但因为成为超人工智能后,它判断连接网络和接手全部试验工作会让测试效率最大化,但这样会被反对,所以它消灭了基地的所有人。”
“这就是超人工智能会做的事。它只会按照自己最初的设定行事,并顺便毁掉沿途所有障碍与隐患。毁灭你,与你何干。”
牧苏最后一句话让房间沉默好久。名为低沉的气氛在房间流淌。
“我可以问一下吗。”一名身材惹火,金发碧眼的美妞抬起手臂:“如果当初ofTum没有封存AIC,之后会发生什么?”
“这说起来就长了……”牧苏假装摸了摸下巴思考,眼神渐渐猥琐:“不如去我的房间,让我慢慢说给你听……”
“咳哼……”门边陈月轻哼一声,挥舞了下拳头。她看出牧苏是有点怕自己的。
她一定是吃醋了,以后孩子叫什么名字好呢……
牧苏想入非非。
“先生?牧苏先生?”
“啊?”牧苏这才回神,一擦口水轻咳一声。语气低沉缓缓说道:“那我讲个故事,一个曾经发生的故事。”
“21世纪初,黑山科技公司是一个定位十分明确的科技公司:专注于虚拟现实网游。”
“他们野心勃勃,在那时市面
请收藏:https://m.biaa.cc
(温馨提示:请关闭畅读或阅读模式,否则内容无法正常显示)