生活_傻大方

  1. 首页 > 潮·科技 > >

算法|神经网络的一些基础概念

浪潮算法

算法|神经网络的一些基础概念

文章图片

算法|神经网络的一些基础概念

文章图片

算法|神经网络的一些基础概念

1.神经网络基础
1.1定义 ， 人工神经网络 ， 简称神经网络 ， 在计算机领域中一种模仿生物神经网络结果和功能的数学或计算模型 ， 目前是模拟大脑的机制 ， 实现某个方面的功能 ， 如语音和图像的识别等 。
1.2神经网络的发展

  • 第一次浪潮 ， 主要的代表技术是感知机 ， 和单层的神经网络 。 其中的感知机是提出的神经元模型 ， 基于模拟人类大脑的运作方式 ， 单层的神经网络则是提出了神经网络的基本概念 ， 具有神经网络的雏形 。 应用场景就是简单的线性分类问题 。
  • 第二次的浪潮 ， 多层神经网络和后巷传播算法的出现 。 其中多层神经网络的出现增加了网络的层次 ， 扩展了网络结构 ， 使得神经网络能够分析更加复杂的问题 。 后向传播算法枷锁了网络结构参数训练 ， 使得网络实际可用 。 应用场景 ， 字符集器的识别 ， 可以下国际象棋的机器出现 。
  • 第三次的浪潮 ，卷积神经网络和循环神经网络的出现 ， 使用多层的卷积处理和分析图像 ， 取得了比传统的机器学习更加高效的结果 。 循环神经网络 ， 使用上下文环境处理时间序列数据 ， 使得语音、文本等多媒体信息能被处理和分析 。 应用场景更加贴近生活 ， 比如图像处理 ， 语音识别 ， 自然语言处理等 。
1.3神经网络的前置知识 ， 数据知识是神经网络的算法基础 ， 矩阵的计算 ， 微积分概率论等 ， 编程语言中Python、C++是神经网络的开发基础 ， 也需要了解一些计算机系统的知识 。
2.神经网络技术
2.1神经网络的组成
  • 神经元：负责计算和处理输入的信号 。
  • 网络连接：负责将不同的神经元连接起来 ， 形成神经网络 。
  • 连接两端各为一个神经元的输入 ， 一个神经元的输出为另一个神经元的输入 ， 网络连接有加权的参数 ， 经过加权的计算后再输出 。
  • 神经网络的演进过程 ， 前期的浅层神经网络包括单层神经神经和两层神经网络 ， 演进到深层神经网络典型的代表是卷积神经网络和循环神经网络 。
  • 单层神经网络 ， 一层输入单元 ， 负责传输数据 ， 一层输出单元 ， 对前面输入单元的输入进行计算 。
  • 两层神经网络 ， 输入单元和输出单元之间加隐藏层 ， 输入层与输出层的节点数往往是固定的 ， 隐藏层的节点数可以自由指定 。

  • 多层神经网络 ， 增加隐藏层的层数来实现 。

  • 神经元的通用模型 ， 通过输入单元输入 ， 然后再计算单元通过线性求和或非线性变换 ， 最后输出 。

  • 计算单元 ， 常见就是对输入信号进行线性计算按权重相乘在相加 ， 最后通过激励函数对结果进行变换 。
2.2激励函数
  • 定义 ， 给定输入信号 ， 计算后通过一个函数决定输出的取值 ， 该函数就被称为激励函数 。
  • 主要激励函数Sigmod函数、Tanh函数、ReLu函数、LeaKy ReLu函数 。
  • Sigmoid激励函数 ， 将一个实数映射到（0 ， 1）的区间 ， 一般用来做二分类 。
  • Tanh激励函数 ， 取值范围[-11
    ， 在特征相差明显时效果会很好 ， 在循环过程中会不断扩大特征效果 。
  • ReLu函数 ， 广泛使用的激活函数 ， 崆峒山收敛 ， 计算效率高 。

  • Leaky ReLU激励函数 ， 快速收敛 ， 计算效率高 ， 郑区域不会饱和 。

  • 偏置值 ， 一个阈值 ， 用于度量神经元产生正负激励的难易程度 ， 输入信号求和后大于阈值时 ， 输出为0否则为1 。
2.3神经网络的训练过程

上一篇：台积电|都不掩饰一下？关于台积电的赴美建厂，谷歌前CEO把话挑明了

下一篇：芯片|甘肃天水平板式太阳能热水器将成未来的发展趋势