偏见是我们的锚。对我们来说，这是一种设定底线的方式，我们不会低于这个标准。从图的角度来看，y=mx+b就像这个函数的y轴截距。

输出=输入乘以权重值并加上偏置值，然后应用激活函数。

在我的硕士论文中的几个实验中(例如第59页)，我发现偏差可能对第一层很重要，但特别是在最后的完全连接层，它似乎没有发挥很大的作用。

这可能高度依赖于网络架构/数据集。

术语偏差用于调整最终输出矩阵，就像y截距一样。例如，在经典方程y = mx + c中，如果c = 0，那么直线将始终经过0。添加偏差项为我们的神经网络模型提供了更大的灵活性和更好的泛化。

一个更简单的理解偏差的方法是:它在某种程度上类似于线性函数的常数b

y = ax + b

它允许你上下移动这条线，以便更好地将预测与数据相匹配。

如果没有b，直线总是经过原点(0,0)你可能会得到一个较差的拟合。

简单来说，偏差允许学习/存储越来越多的权重变化……(注:有时给出一些阈值)。无论如何，更多的变化意味着偏差为模型的学习/存储权重添加了更丰富的输入空间表示。(更好的权重可以增强神经网络的猜测能力)

例如，在学习模型中，假设/猜测在给定输入的情况下被y=0或y=1所限制，可能是在某个分类任务中……例如，对于某些x=(1,1)，有些y=0，对于某些x=(0,1)，有些y=1。(假设/结果的条件是我上面谈到的阈值。注意，我的示例设置输入X为每个X =一个双值或2值向量，而不是Nate的某个集合X的单值X输入)。

如果我们忽略偏差，许多输入可能最终由许多相同的权重表示(即学习的权重大多出现在原点附近(0,0)。 这样，模型就会被限制在较差的好权重上，而不是在有偏差的情况下更好地学习更多的好权重。(学习不好的权重会导致更差的猜测或神经网络的猜测能力下降)

因此，模型既要在靠近原点的地方学习，又要在阈值/决策边界内尽可能多的地方学习，这是最优的。有了偏差，我们可以使自由度接近原点，但不限于原点的直接区域。

在神经网络中:

每个神经元都有一个偏向 您可以将偏差视为阈值(通常是阈值的相反值) 输入层的加权和+偏置决定神经元的激活 偏差增加了模型的灵活性。

在没有偏差的情况下，仅考虑来自输入层的加权和可能不会激活神经元。如果神经元没有被激活，来自该神经元的信息就不会通过神经网络的其余部分传递。

偏见的价值是可以学习的。

实际上，bias = - threshold。你可以把偏差想象成让神经元输出1有多容易，如果偏差很大，神经元输出1很容易，但如果偏差很大，就很难了。

总而言之:偏置有助于控制激活函数的触发值。

观看这段视频了解更多细节。

一些更有用的链接:

Geeksforgeeks

走向数据科学