谷歌大脑最新研究:AutoML方式自动学习Dropout模式
本文经AI新媒体量子位(公众号ID:QbitA谷歌I)授权转载,转载请联系出处。
深度神经网络往往存在过大脑拟合的问题,需要Dropout、权重衰减这样的正最新则化方法的加持。
而最近的研究表明,如果对Dropout“研究剪掉”的神经元的结构进行利用,就能实现比随机替换更:A好的效果。
问题是,实际应用中,针对不同的问题,利用结构的ut方法需要人工设计,对Dropout的模式进行调整,泛化能oM力不足。
那么,是否能设计一种针对CNN、TransfoL方rmer这样的深度神经网络,自动学习Dropo式自ut模式的方法?
现在,谷歌大神Quoc V. Le的团动学队,就提出了一种名为AutoDropout的方习D法。
&ronbsp;
https://arxiv.org/apobs/2101.01761
本文地址:http://soft.zmdinfo.ha.cn/html/240e895447.html
版权声明
本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。