你即將離開本站

並前往https://medium.com/@adea820616/activation-functions-sigmoid-relu-tahn-20e3ae726ae

Activation Functions — Sigmoid & ReLu & tahn & LeakyReLu ...

解決Dead ReLU Problem，提出了將ReLU 的前半段設為ax 而非0，a=0.01，值負數時，梯度不會為0; 實際操作當中，也沒有完全證明Leaky ReLU 總是好於ReLU.

確定！ 回上一頁

查詢 「Dead ReLU」的人也找了：

  1. Dead ReLU
    2.
  2. Sigmoid 缺點
    3.
  3. 激活函數
    4.
  4. ReLU 缺點
    5.
  5. Leaky ReLU
    6.
  6. Leaky ReLU 缺點
    7.
  7. zero-centered
    8.
  8. LeakyReLU
    9.