人們爲了解決Dead ReLU Problem,提出了將ReLU的前半段設爲αx 非0,通常α=0.01 ( Leaky ReLU函數: f(x)=max(αx,x) )。爲了解決zero-centered問題, ...
確定! 回上一頁