Sigmoid函数救不了你

本文指出Sigmoid激活函数在深度学习中存在梯度消失、非零中心输出等根本性缺陷，导致深层网络训练困难。作者强调仅靠Sigmoid无法解决现代神经网络的核心问题，并建议使用ReLU、Leaky ReLU等替代方案。