即便柯洁赢了阿尔法狗,想想这些也挺可怕

举世瞩目的人机大战在3月15日终于尘埃落定,谷歌围棋人工智能阿尔法狗(AlphaGo)以4:1的成绩完胜韩国棋手李世石,在世界职业围棋排名网站GoRatings.org上,排名世界第二,仅次于世界顶级围棋高手中国的柯洁。而阿尔法狗此次击败的李世石位列世界第五。

即便柯洁赢了阿尔法狗,想想这些也挺可怕
对于这样的结果,很多人自我安慰道,阿尔法狗总归是人类制造的,人工智能的胜利最终是人类受益。但是有些问题仔细想想,还是很恐怖的。

1. 机器人三大定律

有必要重温一下阿西莫夫的“机器人三大定律”,美国著名科幻小说家阿西莫夫在上世纪50年代末出版的作品《我,机器人》中,提出了著名的“机器人学三大法则”,虽然这套理论并没有真正应用到人工智能机器人具体产品上,但得到了很多专家和机器人产业的普遍认可。

第一法则:机器人不得伤害人类,或坐视人类受到伤害;
第二法则:除非违背第一法则,机器人必须服从人类的命令;
第三法则:在不违背第一及第二法则下,机器人必须保护自己。
即便柯洁赢了阿尔法狗,想想这些也挺可怕

阿尔法狗在第四局比赛中出现漏洞,招法低级而毫无意义,本来应该认输时程序依然在运行,谷歌团队的解释是阿尔法狗认为自己获胜几率在10%以下时才会认输。看似一个小小的bug,其实已经公然违抗了机器人定律的第二条,机器人已经没有在服从人类预先设定的游戏规则。

KK在《失控》中写到“人造物与自然生命之间有两种趋势正在发生:人造物表现得越来越像生命体;生命变得越来越工程化。”人工智能终归是在模拟人类智慧及行为,当人和机器的边界越来越小时,人工智能一次偶然的bug导致违背人类命令,会不会反客为主成为这个星球上的统治者?人类的命令、规则、法律甚至伦理在机器人世界是不是还有效?

其实,人和机器人的边界越来越小本身就是一个伪命题,因为人类无法永远无法复制出自身的所有机能,看似100%模拟人类,但隐藏在人体内的潜能是永远挖掘不完的,而机器人即便有自我学习功能,也是基于人类预先设置,人类的潜能连人类都无法穷尽,机器人又如何能预先学习呢?除非机器人跟更高维度的生命体对话,就像《三体》中描述的“黑暗森林”,人类之外存在更高维度的造物主,已经把地球上所有事物的终极归宿提前设定好,造物主任凭人类自生自灭,而不去干涉,不论人类如何违背造物主的旨意,终极归宿只有一个——那人类也就被物化了,当人类知道了自己每做一件事的结局,还有继续生存下去的必要吗?

2. 关于“我”的意识

人工智能再发达,也无法复制出那个“我”的意识。人类的生命总是有限的,即便通过技术手段复制出一个个“人”,这个“人”在其他人眼里或许是生命得到了延续,我们甚至能和自己的祖先进行对话,但其实那个“我”已经化作了尘土,跟时间一样,永远不会停止或者回到过去。每个个体总是在无限恐惧中走向死亡,就像没有来过这个世界一样。“平行宇宙”、“转世投胎”只是人类创造出用于安慰自己的理论,为了增加理论的可信度,还设置了记忆抹除这个规则,到另一个宇宙或转世后,“在世”的记忆数据不会同步过来。如果科技的发展让人类能有什么能留下来,那么我选择意识。

3. 人类加速离去的童年

科技的发展导致很多劳动密集型职业逐渐消失,电梯小姐、接线员、寻呼小姐……如果这些只是让劳动密集型职业消失,那么基于神经系统的人工智能会让更多拥有超群智力的人丢掉饭碗,阿尔法狗战胜了李世石,其实中国棋手柯洁已经没有必要跟阿尔法狗一决高下,即时柯洁今年战胜阿尔法狗,后者总有一天会战胜世界顶级高手,柯洁的作用无非是帮其增加棋谱库而已。

回想微型计算机起初只由专业人员使用,到今天中国几乎每家都有一部台式电脑或笔记本电脑,每人一部智能手机,而印度甚至跳过PC机的发展阶段,直接进入移动互联网时代;曾经令中国人引以自豪的珠算,近几年也少有人提及,会计们用excel表格就能轻松应付各类数据统计;曾经高深莫测的摄影艺术,如今单反、微单、各类图像处理app,让毫无摄影基础的普通人也能拍出漂亮的照片……阿尔法狗们的更新迭代,围棋也会成为不值得一哂的小儿科游戏。

就这。也许我是一个科技悲观论者。


即便柯洁赢了阿尔法狗,想想这些也挺可怕
https://dongjunke.cn/posts/2016/03/18/2851.html
作者
小饿
发布于
2016年3月18日
更新于
2023年3月21日
许可协议