超科技狂潮 第一百零九章 EI三定律
ps.奉上五一更新,看完别赶紧去玩,记得先投个月票。现在起-点515粉丝节享双倍月票,其他活动有送红包也可以看一看昂!
“丹尼,此刻你在想什么呢?会不会为那场对话感到后悔?”
硅谷某处公寓的客厅里,正在看ijcai现场直播的马斯克问哈萨比斯。
马斯克神色复杂地说:“看,从今天起,谁再说ai,别人都会问‘你是说ei,还是说那种跟人平起平坐,我们不知道该怎么看待它们的ai?’,夏只是改了一个字母,就统治了这个领域的话语权。”
“我后悔的是,或许那时候该认真跟他讨论一下deep迷nd的收购问题……”
哈萨比斯苦笑着说:“我相信,他现在这些见解,包括神经元芯片和人工智能编程体系,有不少灵感来自于和我的对话,而ei这个概念,也是我们后半截对话的焦点。”
“我怎么也想不到,他是认真的!他的所有努力,都是为了防范他预想那些最坏的结局,他……”
哈萨比斯感慨道:“他才是真正的科学家,有信仰的科学家。”
“或许吧,不过这里有个问题”,马斯克说:“也是最关键的问题,如何确保夏所说的ei,就是人类智慧的扩展?”
正说到这,屏幕上,夏鸣不在意“ei”这个概念是否马上得到认同,继续抛出问题:“大家会问,要如何确保ei是人类意志的延伸呢?不解决这个问题,ei不还是以前的ai吗?”
“夏不是演说家”,哈萨比斯笑笑,马斯克尴尬地摸摸鼻子。但这尴尬也马上消散了,和哈萨比斯一样,他也全神贯注地等待夏鸣的后文。
“我们无法彻底解决这个问题,但我们可以从技术上无限趋近答案,并且让偏差只限于我们人类这个集里。也就是ei永远只能趋近于人类意志,而不完全等于人类意志。同时。ei也不可能跳出,或者超出于人类意志。”
“基于这一点,我们提出了‘意志映射’(vm)这个概念。”
“只要我们在技术上,确保ei的意志完整地、纯粹地来自于人类,让ei成为人类意志的映射,让这个方向驱动ei的智能研究,ei就一直是ei!”
现场更沉寂了,不是冷场,而是思考。
马斯克咬着嘴唇嘀咕道:“我有种感觉……”
哈萨比斯咬着手指甲。这是他的怪癖:“定律!需要定律!”
“为此我们提出了一套规则,希望用它来规范ei的研究和应用。这套规则还很粗糙,但我认为,对这些规则的每一处忽略和删减,都将动摇我们将ai变为ei的根基,进而模糊技术造福人类的终极目的。”
夏鸣顿了顿,目光扫了会场一圈,再道:“这就是ei三定律!”
“第一。所有ei都必须有明确的映射主体,隐藏二者的关系必定抱有不可告人的目的。”
“第二。ei的完整性和私密性不容侵犯,不允许进行任何非法的窥探、破坏和修改。”
“第三,ei与主体的映射关系,不允许进行任何非法的破坏、蒙蔽和扭曲。”
夏鸣这个ei三定律丢出来后,现场继续沉寂,绝大多数人都在沉思。
“个人的ei。还有组织的ei,夏考虑得很周全”,哈萨比斯点头说。
马斯克搓着手指:“我都迫不及待地想召开公司会议了,映射!夏指出了ai,好吧。ei的新方向,就是把人的意志灌输到机器上!不管是个人意志,还是组织意志,都必须紧紧地绑在一起,这是推翻现有的商业模式,是一场商业革命!谁跑在前面最就赢了!”
然后他皱起了眉头:“不过组织的ei这边,商业用途还好说,公共用途的映射主体就是政府,政府要怎么调整?”
“这不只是商业革命,还是社会革命”,哈萨比斯耸肩:“要头痛的是各国政府,学术界对ai的认识统一到了ei后,它就成了社会共识,ei三定律的意义就相当于阿西莫夫的机器人三定律变成现实。这是人类文明的进步,政府如果头脑清醒,就必须服从这样的共识。”
旧金山的上午是燕都的深夜,但多所大学的阶梯教室、礼堂、影院里却依旧光亮大作,师生们挤得