什么是反向传播神经网络?

2020.06.14 -

   

反向传播是一种算法,早从输出节点向输入节点传播错误。因此,它简称为“错误的向后传播”。这种方法是根据对人脑的分析而开发的。语音识别,字符识别,签名验证,人脸识别是神经网络的一些有趣应用。

神经网络经过监督学习,通过网络的输入向量产生输出向量。对照期望的输出验证该输出向量。如果结果与输出向量不匹配,则会生成错误报告。根据错误报告,调整权重以获得所需的输出。

神经网络

什么是人工神经网络?

一个人工神经网络采用监督学习规则,成为高效,功能强大。神经网络中的信息以两种不同的方式流动。主要是在训练或学习模型时以及模型正常运行时,用于测试或用于执行任何任务。不同形式的信息通过输入神经元输入模型,触发多层隐藏神经元并到达输出神经元,这称为前馈网络。

由于并非所有神经元都同时触发,因此从左侧接收输入的神经元将在遍历隐藏层时乘以权重。现在,将每个神经元的所有输入相加,当总和超过某个阈值水平时,保持沉默的神经元将触发并建立连接。

人工神经网络学习的方式是,它从做错了事,做对了事中学习,这就是反馈。人工神经网络使用反馈来学习对与错。

什么是反向传播?

定义:反向传播是训练神经网络的基本机制。关于上次迭代中产生的错误率,这是一种用于微调神经网络权重的机制(在本文中也称为模型)。这类似于使者告诉模型网络是否如预期的那样出错。

神经网络中的反向传播是关于信息的传输,并将此信息与做出猜测时模型所产生的错误相关联。该方法试图减小误差,否则将其称为损失函数。

反向传播的工作原理

深度学习中的反向传播是训练人工神经网络的标准方法。它的工作方式是–最初在设计神经网络时,将随机值分配为权重。用户不确定分配的重量值是否正确或适合模型。结果,模型输出的值与实际或预期输出不同,该值是误差值。

为了以最小的误差获得适当的输出,应该在相关的数据集或参数上训练模型,并在每次预测时监视其进度。神经网络与误差有关系,因此,每当参数改变时,误差也会改变。反向传播使用称为增量法则或梯度下降的技术来更改模型中的参数。

上图显示了反向传播的工作原理,下面给出了其工作原理。

  • 输入处的“ X”从预连接路径到达
  • “ W”,实际权重用于对输入进行建模。W的值是随机分配的
  • 通过转发传播(输入层,隐藏层和输出层)计算每个神经元的输出。
  • 使用等式在输出端计算误差,然后再通过输出层和隐藏层向后传播,调整权重以减少误差。

再次向前传播以计算输出和误差。如果误差最小化,则该过程结束,否则向后传播并调整权重值。

重复此过程,直到误差减小到最小并获得所需的输出为止。

为什么我们需要反向传播?

这是一种用于训练与特定数据集有关的神经网络的机制。反向传播的一些优点

  • 它简单,快速且易于编程
  • 仅调整输入的数字,不调整任何其他参数
  • 无需事先了解网络
  • 灵活
  • 标准方法并有效地工作
  • 它不需要用户学习特殊功能

反向传播网络的类型

有两种反向传播网络。它分为以下几类:

静态反向传播

静态反向传播是一种网络,旨在为静态输出生成静态输入的映射。这些类型的网络能够解决静态分类问题,例如光学字符识别(OCR)。

循环反向传播

递归反向传播是定点学习中使用的另一种网络。循环反向传播中的激活被前馈,直到达到固定值。此后,将计算错误并向后传播。一个软件,NeuroSolutions必须执行的经常性的反向传播的能力。

主要区别:静态反向传播提供立即映射,而映射递归反向传播不是立即进行。

反向传播的缺点

反向传播的缺点是:

  • 反向传播可能对嘈杂的数据和不规则性敏感
  • 其性能高度依赖于输入数据
  • 需要过多的培训时间
  • 需要基于矩阵的反向传播方法,而不是小批量

反向传播的应用

这些应用程序是

  • 经过训练的神经网络可以阐明单词和句子的每个字母
  • 它用于语音识别领域
  • 它用于字符和面部识别领域

常见问题

1)为什么在神经网络中需要反向传播?

这是一种用于训练与特定数据集有关的神经网络的机制

2)反向传播算法的目的是什么?

该算法的目的是为神经网络创建一种训练机制,以确保对网络进行训练以将输入映射到其适当的输出。

3)神经网络的学习率是多少?

在优化和最小化神经网络的损失函数的情况下定义学习率。它是指神经网络可以通过覆盖旧数据来学习新数据的速度。

4)神经网络是一种算法吗?

是。神经网络是一系列旨在识别模式的学习算法或规则。

5)神经网络中的激活函数是什么?

神经网络的激活功能根据总和来决定是否应激活/触发神经元。

在本文中,使用简单的语言解释了神经网络的反向传播的概念,以使读者理解。在这种方法中,从产生的错误中训练神经网络,使其变得自给自足并处理复杂的情况。神经网络具有通过示例准确学习的能力。

本站文章禁止转载,违者必究
阅 151
0

反向传播是一种算法,早从输出节点向输入节点传播错误。因此,它简称为“错误的向后传播”。这种方法是根据对人脑的分 […]

湘公网安备 43011102001693号

    湘ICP备19003021号-1