算法|神经网络的一些基础概念( 三 ) 浪潮

发展历程，基本的循环神经网络到简单的循环神经网络三层网络，然后是双向循环神经网络根据上下文进行预测，然后是长短期记忆网络的广泛应用。

主要的应用场景，文本生成，根据语句上下文信息，通过前面的文字帮助理解和推测当前的文字内容。机器翻译，输入不同长度的语句序列，输出不同长度的翻译序列。图像标注，根据图像生成一序列文字描述。语音识别，根据输入的声音识别所代办的语句。

工作原理，循环神经网络中存储了所有之前的输入，并将这些信息和当前步的输入合并，可以捕获当前数据步和之前步的相关信息，实现t-1步的决策影响到低t步做的决策，也就是实现序列数据的前后关联处理。

循环神经元组合，多个循环神经元进一步组成循环神经网络，理论上知识可以记住前几步的输入，但是在实际的使用中只需要记住前几步的输入即可。

常见的循环神经网络， RNN ，LSTM 。

3.3生成对抗网络与应用

定义， GANs ，一种深度学习模型，通过生成模型和判别模型的相互博弈，生成与真实数据分布或对输入数据进行分类。
与传统的神经网络对比，传统神经网络，根据输入数据的特征，预测输入数据的标签，一个神经网络是一个训练模型，网络训练时依赖于输入数据样本更新参数梯度。生成对抗网络根据输入数据的标签，生成真实的输入分布，一个网络包含生成器和判别器两个模型，网络训练时，生成器模型梯度更新依赖于判别器模型，生成器和判别器可以是CNN或者RNN神经网络。
应用场景，图像生成或者图像转换。人脸的合成，根据一张人脸的图像合成出不同角度的人脸图像，用于提高人脸识别的精度。半监督学习，在缺少训练数据的场景下，使用对抗生成网络加入到训练集中，提高训练模型精度。
工作原理，生成器，在给定的输入数据时；理解输入，生成类似的输入。鉴别器，在给定输入数据时，将输入数据正确的分类。
【算法|神经网络的一些基础概念】工作流程，判别器接收样本数据，进行训练，生成器同时随机生成样本，传输给判别器，训练一定的次数后，更新生成器参数，通过多次迭代之后直到判别器识别不出来数据是样本生成的还是真实数据为之。