2)如果使用ReLU,那么一定要小心設置learning rate,而且要注意不要讓網絡出現很多“dead” 神經元,如果這個問題不好解決,那么可以試試Leaky ReLU、PReLU ...
確定! 回上一頁