,不论易科还是谷歌都在深度学习dl领域有很深的研究,这种围棋对弈只是展露出的表象,内里的运转与思考才是更让人重视的。
\n
吴恩达作为易科“venus”项目的负责人之一,与谷歌旗下公司的席尔瓦就dl的模型逻辑进行了交流。
\n
不管太白还是阿尔法,它们都是基于卷积神经网络的发展而来,这一基础是类似的,而它的突破源于2012年alex、ilya和hinton合作发表的关于alexnet深度卷积神经网络的论文,也正是在这之后,相关的研究出现了爆炸式的增长。
\n
吴恩达与席尔瓦谈的是在alexnet之后的架构创新,是将传统的搜索算法与深度学习模型的有效整合,以及,整个团队在局部感受野、参数共享与稀疏连接、平移不变性这些方面做出的努力。
\n
这种易科与谷歌以及场下嘉宾的交流极其愉快,也让方卓颇为满意,他虽然不懂,但瞧着这样的场面就觉得知识被塞进了脑子里。
\n
只是,等到第二天,当吴恩达提出团队在研发上的困惑时,激烈的辩论到来了。
\n
易科是有“siri”这样的语音助手作为人工智能的实践,而吴恩达的团队不仅在做卷积神经网络cnn的研究,也在做循环神经网络rnn的研究,他们认为后者更适合与语音助手相结合,但效果并不算很好,完全达不到想要的成绩。
\n
问题出在哪里?
\n
吴恩达表述了困惑,也谈了谈易科内部的解决方向。
\n
参会的一部分人赞同易科的解题思路,但谷歌方面却出现了不同的声音。
\n
“为什么非要使用循环神经网络?”谷歌的乌思克尔特本来正在休假,但因为对dl的交流感兴趣便报名过来,“为什么不试试自注意力self-attention?我认为它对nlp领域将会有更优秀的改变。”
\n
&nbs
本章未完,请点击下一页继续阅读! 第4页 / 共9页