您的当前位置:首页 > 热点 > 谷歌大脑最新研究:AutoML方式自动学习Dropout模式 正文

谷歌大脑最新研究:AutoML方式自动学习Dropout模式

时间:2026-11-14 来源:网络整理 编辑:热点

核心提示

谷歌霸屏24小时见效-实现思路【tg:seogoogle987】

本文经AI新媒体量子位(公众号ID:QbitA谷歌I)授权转载,转载请联系出处。

深度神经网络往往存在大脑过拟合的问题,需要Dropout、权重衰减这样最新的正则化方法的加持。

而最近的研究表明,如果对Drop研究out“剪掉”的神经元的结构进行利用,就能实现比随:A机替换更好的效果。

问题是,实际应用中,针对不同ut的问题,利用结构的方法需要人工设计,对Dropout的oM模式进行调整,泛化能力不足。

那么,是否能设计一L方种针对CNN、Transformer这样的深度神经网式自络,自动学习Dropout模式的方法?

现在,谷歌大神动学Quoc V. Le的团队,就提出了一种名为Auto习DDropout的方法。

 

 

&ronbsp;

 

 

https://aporxiv.org/abs/2101.01761

&nbutsp;