第三章 神经网络萃取隐蔽相关性(第12页)
相当于你去学围棋,一开始跟着你爸学,你爸就是个业余选手,你两个星期就跟你爸学不了什么了,以后都要靠自己琢磨了。
AlphaGo也一样,想清楚这点,干脆从零开始,人类2000多年积累的东西也许就是老爸那点业余水平,学不学无所谓。
AlphaGoZero横空出世了,这个“Zero”
就是从零学起的意思。
AlphaGoZero从一开始就是哥俩自娱自乐,和AlphaGo不同的是,在下每一步棋之前,不需要随机地选125个出发点了,而是根据当前的小路“记号”
和打分先在这个中盘选一个最可能赢的走法和“双胞胎弟弟”
试走一次到终局,试走过程中每一步双方都用同一个决策网络指导如何走子。
这个决策网络的功能很简单:给我一个中盘,我告诉你所有走法的赢率,这样一次到终局后就对从这个走法出发的路是否能赢多了点信息。
一路上边走边做记号,第一,记住有没有走过这条路;第二,等到了终局后根据输赢再记下这条路的好坏。
这个“做记号”
就是不断更新价值网络。
这样在同一个中盘哥俩试走了几万次到终局,基本摸清哪条路好走,哪条路不好走,也就是对于这个中盘我已经估摸出了所有走法的赢率。
此时,我用几万次试走出来的赢率来更新决策网络。
更新的方法就是用这个中盘做网络的输入,调试网络权重系数让输出的各走法赢率接近试走测出来的赢率。
这一切做完后再根据测出的赢率郑重地正式走一步棋。
哥哥下完一步该弟弟走了,弟弟的程序和哥哥完全一样,也是先试走许多次,用测出来的赢率更新决策网络,再根据测出来的赢率走子。
以后哥俩就这么不断重复下去。
AlphaGoZero诞生后的第一局的第一个中盘,哥俩完全是乱下,但第一盘走完就多了一点点知识,哥俩用这点可怜的知识走第二盘就比第一盘靠谱了一点点,架不住计算能力强大,AlphaGoZero每秒钟可以走8万步,平均一盘棋不到400步,所以哥俩一秒钟相当于下200盘棋。
每盘长进一点,到第7个小时,也就是相当于下了500万盘棋后就下得像模像样了。
一天半后,也就是相当于下了2600万盘棋后就超过了战胜李世石的AlphaGoLee。
3天后,AlphaGoZero就和AlphaGoLee打了个100:0。
AlphaGoLee一共学了3000万个中盘,大致相当于3000万400=8万盘棋,这时AlphaGoZero已经相当于下了5100万盘棋。
21天后就打败了横扫天下无敌手的AlphaGoMaster,到40天后哥俩已经妥妥地称霸天下,独孤求败。
到这里,AlphaGo团队终于松了口气,放下了原先的一个最大担忧:如果不让人类引进门,从零学起,这哥俩会不会在野地里瞎逛,在林子里迷路,像梦游一样原地绕大圈,永远都走不出来。
这证明了在强化学习中只要每一步都知道对错,有惩罚奖励,哥俩很快就会放弃那些明显不通的绝大部分的道路,很快就会找到一条正路。
AlphaGo用了1200个CPU,176个GPU,而AlphaGoZero只用了4个TPU(张量处理单元)。
计算资源的大幅度下降主要来自算法的精简,不需要用人类数据训练了。
由此可见,在不同的应用场景下,数据并非都那么重要。
在下围棋这件事上,人类的经验反而拖了后腿。
AlphaGoZero给我们最重要的启示是柯洁说的那句话,“人类下了2000年围棋,连边儿都没摸着”
。
非常原始的机器在自己摸索了36个小时后,就超过了全人类2000年来摸索积累的全部围棋知识。
现在请大家思考三个问题:
为什么AlphaGoZero从零学起反而比人强?
AlphaGoZero再从头学一遍,功力还和原来一样吗?
AlphaGoZero是不可战胜的吗?
神经网络悖论
读者到这里会发现一个悖论:神经网络是模仿人脑,怎么能够发现和掌握人脑无法掌握的知识?我们知道目前的半导体芯片中的人工神经网络只是对大脑的一个简单模仿,无论是在神经元数量还是在连接的复杂性上都远不如人脑。
到底是什么原因使得人工神经网络能够在发现隐蔽的相关性方面远超人脑,创造出如此多的神迹呢?
第一个原因是人的感官和机器的“感官”
本章未完,点击下一页继续阅读