什么是反向传播神经网络:类型及其应用
顾名思义,反向传播是一种将错误从输出节点反向传播到输入节点的算法。因此,它被简单地称为“错误的向后传播”。这种方法是从。。。
顾名思义,反向传播是一种将错误从输出节点反向传播到输入节点的算法。因此,它被简单地称为“错误的向后传播”。这种方法是在对人脑进行分析的基础上发展起来的。语音识别、字符识别、签名验证、人脸识别是神经网络的一些有趣应用。神经网络经过监督学习,通过网络的输入向量产生输出向量。该输出矢量根据所需输出进行验证。如果结果与输出向量不匹配,则会生成错误报告。根据错误报告,调整权重以获得所需的输出。
什么是人工神经网络?
人工神经网络采用监督学习规则来变得高效和强大。神经网络中的信息以两种不同的方式流动。主要是,当模型正在训练或学习时,以及当模型正常运行时——无论是用于测试还是用于执行任何任务。不同形式的信息通过输入神经元输入模型,触发几层隐藏的神经元并到达输出神经元,这被称为前馈网络。
由于所有神经元都不是同时触发的,因此从左侧接收输入的神经元在穿过隐藏层时会乘以权重。现在,将每个神经元的所有输入相加,当总和超过某个阈值水平时,保持沉默的神经元将触发并连接。
人工神经网络的学习方式是从自己做错的事情中学习,并做正确的事情,这就是所谓的反馈。人工神经网络使用反馈来学习什么是对的,什么是错的。
什么是反向传播?
定义:反向传播是训练神经网络的一种重要机制。它是一种用于根据上一次迭代中产生的错误率微调神经网络(本文中也称为模型)权重的机制。这类似于一个信使告诉模型网络是否在预测时犯了错误。
神经网络中的反向传播是关于信息的传输,并将这些信息与模型在进行猜测时产生的误差联系起来。这种方法试图减少误差,也就是所谓的损失函数。
反向传播的工作原理——简单算法
深度学习中的反向传播是训练人工神经网络的标准方法。它的工作方式是——最初设计神经网络时,随机值被指定为权重。用户不确定指定的权重值是否正确或是否适合模型。结果,模型输出的值与实际或预期输出不同,这是一个误差值。
为了以最小的误差获得适当的输出,应该在相关的数据集或参数上训练模型,并在每次预测时监控其进度。神经网络与误差有一定的关系,因此,每当参数发生变化时,误差也会发生变化。反向传播使用一种称为德尔塔规则或梯度下降的技术来改变模型中的参数。
上图显示了反向传播的工作原理,其工作原理如下。
- 输入处的“X”从预连接路径到达
- “W”,实际权重用于对输入进行建模。W的值是随机分配的
- 每个神经元的输出都是通过转发传播计算的——输入层、隐藏层和输出层。
- 使用方程在输出处计算误差。通过输出和隐藏层再次向后传播,调整权重以减少误差。
再次向前传播以计算输出和误差。如果误差被最小化,则该过程结束,或者向后传播并调整权重值。
该过程重复进行,直到误差减小到最小并且获得期望的输出。
为什么我们需要反向传播?
这是一种用于训练与特定数据集相关的神经网络的机制。一些反向传播的优势是
- 它简单、快速且易于编程
- 只调谐输入的数字,不调谐任何其他参数
- 无需事先了解网络
- 它很灵活
- 标准方法,有效工作
- 它不需要用户学习特殊功能
反向传播网络的类型
有两种反向传播网络。其分类如下:
静态反向传播
静态反向传播是一种旨在为静态输出生成静态输入映射的网络。这些类型的网络能够解决静态分类问题,如光学字符识别(OCR)。
反复反向传播
递归反向传播是定点学习中使用的另一种网络类型。循环反向传播中的激活被前馈,直到它达到一个固定值。在此之后,将计算一个错误并向后传播。NeuroSolutions是一款软件,能够进行反复反向传播。
关键区别:静态反向传播提供即时映射,而映射递归反向传播不是即时的。
反向传播的缺点
反向传播的缺点是:
- 反向传播可能对噪声数据和不规则性敏感
- 其性能高度依赖于输入数据
- 需要过多的时间进行培训
- 需要一种基于矩阵的反向传播方法,而不是小批量
反向传播的应用
应用程序是
- 神经网络被训练来发音单词和句子的每个字母
- 它被用于语音识别领域
- 它被用于字符和人脸识别领域
常见问题解答
1). 为什么我们在神经网络中需要反向传播?
这是一种用于训练与特定数据集相关的神经网络的机制
2). 反向传播算法的目的是什么?
该算法的目的是为神经网络创建一种训练机制,以确保网络被训练为将输入映射到其适当的输出。
3). 神经网络的学习率是多少?
学习率是在优化和最小化神经网络的损失函数的背景下定义的。它指的是神经网络通过覆盖旧数据来学习新数据的速度。
4). 神经网络是一种算法吗?
对神经网络是一系列用于识别模式的学习算法或规则。
5). 神经网络中的激活函数是什么?
神经网络的激活函数根据总和来决定神经元是否应该被激活/触发。
在本文中,使用简单的语言解释了神经网络的反向传播的概念,以便读者理解。在这种方法中,神经网络是从产生的误差中训练出来的,以实现自给自足并处理复杂的情况。神经网络有能力通过一个例子准确地学习。