ReLU 函數中只存在線性關係,因此它的計算速度比sigmoid 和tanh 更快。 當然,它也有缺點:. Dead ReLU 問題。當輸入為負時,ReLU 完全失效,在正向傳播過程中,這不是 ...
確定! 回上一頁