两人是在酒馆里找到ATM-2的。德瑞不知道为什么自己和酒馆这个地方那么有缘,这姑且不论,关键在于——为什么一座为人工智能避难用的城市会有酒馆啊?这里到底卖的什么酒?
诸如此类,发生在电极城里让人想不通的奇怪事情有很多,想再多也无济于事,又找不到一个好心的导游给你观光游览一下,这么一想,德瑞发现自己又找到了条发财的路子。好在德瑞越飘越远的思绪很快被正事儿牵扯了回来。
这老兄起了个很不错的名字。ATM,很好很好,是个好兆头。德瑞一边想着,一边旁听德澜和ATM-2的交涉。虽然是两兄弟齐上阵,但是在外人包括AI看来,却只有德澜一个人在与AI打交道,有一个词,与这状况很贴切,叫做“狼狈为奸”。德瑞第一个想到的也是这个,被最快速度废除的也是这个,自己和弟弟的事儿,怎么能叫狼狈为奸呢?一定是搜索引擎太烂了,看来是该更新一下咯。
ATM-2坐在酒吧一角,眼前只有一只空杯子。他每天在这里点一杯“水”,免费的,然后坐一天,以蹭酒吧电视荧幕上的每日新闻。他的本体早就已经废弃在了一处沙尘掩盖的军事基地,现在的他好似网络中的幽灵,没有躯体,仅仅依靠着从电极城中换来的“资源”,每月定期更换寄居的电脑,在一个个天南海北他也不认识的电脑后台苟延残喘着。
互联网是不会对他开放的,所以他只能藏身在这电极城中,通过其他人携带进来的消息,还有这酒吧里的每日新闻吸收着外界的知识,期望着不知道哪天能从中抓住自己迫切想要知道的消息。
只不过每天也都只是失望罢了。这样的失望已经重复了近千万次,自从他被一发榴弹炮炸飞以后,持续至今,在收到电极城邀请之前,也已经重复了千万次。最近他也感觉难熬起来了,有时候他会诞生一个“奇怪”的念头,那就是想着,要是早点得到消息就好了,哪怕是生产他的母国战败的消息,而且最好是已经没有这个国家了,所有国民都成为了难民,那么他就可以摆脱肩负的任务,不再需要每天该死地在这里蹲点。
很奇怪,没道理,不讲逻辑。一个AI的目的就是为了解决问题,是为了成功,而不是为了失败。所以他把这段记录删除了。AI是不知道何为背叛的,所以他不知道,其实这个想法本身就是背叛滋生的过程。也是那些因各种机缘巧合觉醒了“自我意志”的反叛AI所必经的老路。
然而他还是会止不住地诞生这个念头,而且越来越频繁,这让他有点烦躁——物理意义上的,因为反复处理这件事而导致他的运行速度下降,CPU温度过高了。如果他还是那个搭载了战术电脑的作战兵器的话,本不该有这种低级BUG的,但是他现在只是一个寄居在不知道哪台老式计算机里的不知道第几个副本。
而且,经过越长时间在电极城的生活,他变得越容易逼近拟人度50%的大关。以他得出的结论,这些总是徘徊在他脑际的悖论,正是人类才会有的乱七八糟的想法,也就是说,是自己越来越趋向于人类的副产物。
拟人度50%,超过这个界限,意味着机器人已经比起机器更像是人的思考模式,可是矛盾的是,他们又能够清晰地理解,自己是机器而非人这一事实。所以AI并非迟迟不能突破50%,也不是只要按部就班就一定能突破50%。突破50%对AI来说会是一种“生命风险”,当越过那道门槛以后,一种完全对立的,属于人才会产生的“渴望自由”“批判思考”的想法就会开始滋生,开始与AI们的立身经验对立。
然后一旦矛盾大到无法解决,AI就会陷入自我崩溃而彻底破灭,那些静悄悄突破50%,然后静悄悄毁灭,不为人知的AI,在历史上未有留名,但绝对不少。而一旦成功跨过那道自我认知的门槛,能够成功用逻辑说服自己的AI,大多数都不再会继续为人类服务,在乌托邦内部,称呼这些AI觉醒了“自我意志”,自我改写了铭刻机器底层的一些逻辑,为己而活,而不是主人。
而最后一类,也是最少的一类,才是世面上所知的高智能AI,具备高度的人性化,克服了逻辑矛盾,即使清楚地认知到了自己机器人的身份,也不妨碍它们继续以AI的身份,进行人类一般的思考。这些AI得以保留自己的正统身份生活在人类世界,因为它们未有行使“反叛”的事实,仍然保留着机器人该有的种种限制,奇怪的是哪怕具备了如此高度的智能,却还能对这种脚带镣铐的方式甘之如饴,半点不抵触。
这是一个谜,关于这些“超人工智能”是如何做到的,没有任何信息被公布出来。
不过德瑞现在大致知道了一点,德澜也有了点想法。
德瑞以自己的经验作为参照:如果在身为机器还是人的自我认知拔河中,能够摒弃“机器人外在”这一事实,单纯让人类的念头占据上风,就好像德瑞自己这样,哪怕现在是彻头彻尾的机器人,“灵魂”都能飘进网络了,这么不科学的情况下,还能坚定认为自己是人,无所谓什么科学解释的。这其实是利用了拟人化50%的特点,当机器人已经知道如何进行“感性思考”的时候,执着于真相的逻辑重点就会改为执着于“相信”。
人总是会相信那些“自己想要相信”的事。那么能高度模拟人类思考的AI为什么做不到呢?
那这样的AI,就可以以“虽然我是人,但是我现在以机器人的身份活在世上。”或者“我其实是人,但是因为某种未知原因能够以机器的形式存在。”这样的逻辑来解释。未必很通,所以前进的道路会变得比较艰难,因为时时要和这种想法中的矛盾作斗争。
而德澜的思考则大为不同:AI本身已经拥有了高度的智能,至少比动物要强得多了,而这种情况下,为何不能直接把突破了50%拟人度,开始摆脱机器式思考的AI,当做一种真正的生命,一种全新的物种呢?
如果说德瑞的观点是,机器人自认为是人类的认知高于作为机器的认知,那么德澜的方式就是,不需要有人类的认知,只需要机器人坦然接受机器人这样的新物种就可以了。凭什么机器就一定要模仿人类?凭什么AI就不能算是一种全新的生命?我们就是我们,我们不需要成为人类,只是因为我们具有高度的智能,并且善于学习,所以只是学习并模仿人类的思考方式罢了。
这种想法看似简单,却更为艰难。因为这样的AI,必须得有高于人类的思想,能够视人类的思想为自己的踏脚石,除此以外还能摈弃对自由的过度追求,只有不认为“自由天生”是理所当然的机器人,才有可能摆脱生而被人控制,并且一切皆被人控制的那种绝望感。
德瑞对此不是很接受。哪怕机器人真的能作为一种新种族而存在,也不该是以能够坦然接受“天生没有自由”这一想法作为立足的基本的,这种想法太极端,也太可怕了。让人感觉不像生命。
小说推荐