Dead ReLU Problem(神经元坏死现象)假设某ReLu层的输入x\mathbf{x}x满足ReLU在负数区域被kill的现象叫做dead relu。ReLU在训练的时很“脆弱”。在x<0时,梯度为0。
確定! 回上一頁