第三章 神经网络萃取隐蔽相关性(第10页)
这是典型的“专家系统”
。
我们前面讲过,这样的手工系统无法应付千变万化的自然语言。
后来的机器学习翻译就是前面说过的统计方法,统计大量的句子中每个字出现在另外一个字之后的频率,然后挑选最可能出现的那个字。
我们前面也说了这种方法的局限性。
现在最新、最牛的机器翻译,从谷歌、Facebook、微软到百度统统都是用循环神经网络。
翻译和前面的填空例子相比,多了可用的信息。
例如英文“IamChinese,Icanspeakmandarin”
可以翻译成中文“我是中国人,会讲普通话”
,机器翻译除了可以根据前面出现的中文词预测后面的中文词之外,还可以根据整个英文句子和整个中文句子之间的对应关系来提高预测的准确性。
这就是目前最广泛使用的“编码器-解码器”
翻译模型。
这里用两个循环神经网络,一个网络先把整个英文句子的结构信息都压缩到一个字符中,然后第二个网络在一个字一个字地预测时可以根据这个包含了整个句子的结构信息做辅助判断。
机器翻译正处在技术突破的边缘,一旦突破将给我们的生活带来巨变。
机器学习不仅在科学技术的进步上大显神威,也开始进入人文领域。
循环神经网络第二个有意思的应用是写诗。
我们会在第六章中详细介绍。
同样的道理,还可以写小说。
只要让机器大量阅读一位作者的著作,机器就会学会这个作者的文字风格,甚至可以写出海明威风格的《红楼梦》,或者曹雪芹风格的《老人与海》。
循环神经网络很神奇,但我们下面要介绍的“强化学习”
更神奇。
AlphaGo与强化学习
机器学习迄今为止最让人类惊奇的表现就是下围棋。
下围棋的问题是当我每走一步时,如何使得最终赢棋的概率最大?如果我不走150步,只走两步,每步双方只随机选5种走法,我走第一步有五种选择,对方对我这五种选择的每一种又有五种选择,我走第二步一共有5×5×5=125种选择。
但通常走完两步离终局还很远,那我从走完第二步的这125个位置上各派出一批“侦察兵”
,每个“侦察兵”
蒙着头一条道走到黑,看到岔路任选一条,尽快走到终局,如果猜对了,给这个出发点加一分,猜错了,减一分。
从每个位置上派出的“侦察兵”
越多,从这125个出发点到终局的赢率就越准确。
这个“有限出发点,随机侦察”
的方法有个唬人的专业名字叫“蒙特卡洛树搜索”
。
蒙特卡洛是摩纳哥的赌场区,所以蒙特卡洛就是“随机”
的意思。
但这种下棋策略只能勉强达到一二段的业余水平,与围棋大师相比还差得很远。
为什么?
因为“侦察兵”
往前走时随机选岔道实际上是随机地替对方选了走法。
我们不禁会想到:见到岔路随机选多笨,完全可以根据阳光、藓苔、足迹这些东西做个判断。
“侦察兵”
本章未完,点击下一页继续阅读