找到 1 篇包含 "ReLU" 的文章

AI·模型 Hacker News 2026-05-16

Sigmoid函数救不了你

本文指出Sigmoid激活函数在深度学习中存在梯度消失、非零中心输出等根本性缺陷,导致深层网络训练困难,并建议使用ReLU等替代方案。