tags:状态、重要性 # why - 让[[ANN 人工神经网络]]中[[人工神经元 neuron]]的[[激活值 activation]]保持在 0~1之间。 # what - Sigmoid(中文称为“s 型函数”或“逻辑函数”)是一种常用的**非线性**[[activation function 激活函数]]$f$,广泛用于神经网络中,特别是在深度学习领域。如果没有激活函数,整个模型加权会变成一个线性模型。 - sigmoid 函数定义为: $σ(x)=\frac{1}{1 + e^{-x}}$ - **关键特性**: - 输出范围始终在 **0 到 1**之间,常用于二分类任务,表示概率。 - 当输入为 0 时,sigmoid 输出为 0.5。 - 输入很大时(趋于正无穷),输出趋近于 1;输入很小时(趋于负无穷),输出趋近于 0。 - ![](https://image.harryrou.wiki/2025-05-14-CleanShot%202025-05-14%20at%2021.27.39%402x.png) # how ## sigmoid 的优缺点: ### 优点: - 能够将输入信号压缩到 (0,1) 范围,适合表示概率; - 连续、可微,便于梯度计算。 ### 缺点: - 容易产生梯度消失(Vanishing Gradient)的问题:当输入很大或很小时,函数梯度接近于 0,导致反向传播时梯度很小,神经网络训练缓慢; - 输出不是以零为中心,可能影响模型收敛速度。 ## 应用场景: - 二元分类问题的输出层; - Logistic回归模型的概率计算。 # how good # Ref.