反向传播算法(郭芷豪)

反向传播算法是一种基于梯度下降法的适用于多层神经网络的学习算法。反向传播算法网络的输入输出关系本质上是一种映射关系:一个具有N个输入M个输出的BP神经网络所完成的函数是从N维欧氏空间空到M维欧氏空间空中的有限域的连续映射，具有高度的非线性。

反向传播算法主要由两个环节组成(激励传播和权值更新)，直到网络对输入的响应达到预定的目标范围。

反向传播算法的信息处理能力来源于简单非线性函数的多重复合，因此具有很强的函数重现能力。这是BP算法应用的基础。反向传播算法旨在减少公共子表达式的数量，而不考虑存储开销。反向传播避免了重复子表达式的指数爆炸。