深度学习算法如何工作?
十大最受欢迎的深度学习的算法
一、卷积神经网络CNN
CNN 是如何工作的?
二、长短期存储器网络(LSTMs)
LSTM 是如何工作的?
首先,他们忘记了先前状态中不相关的部分 接下来,它们有选择地更新单元格状态值 最后,输出单元格状态的某些部分
时间 t-1的输出在时间 t 输入。 类似地,时间 t 的输出在时间 t + 1输入。 RNN 可以处理任意长度的输入。 计算考虑了历史信息,模型大小不会随着输入大小的增加而增加。
GAN 是如何工作的?
鉴别器学习区分生成器的虚假数据和真实样本数据。 在最初的训练过程中,生成器产生假数据,鉴别器很快学会辨别这些假数据。 GAN 将结果发送给生成器和鉴别器以更新模型。
RBFN 是如何工作的?
RBFN 通过测量输入与训练集中的例子的相似性来进行分类。 RBF 神经元有一个输入向量供给输入层,它们有一层 RBF 神经元。 函数找到输入的加权和,输出层为每个类别或类别的数据有一个节点。 隐层中的神经元包含高斯传递函数,其输出与到神经元中心的距离成反比。 网络的输出是输入的径向基函数和神经元参数的线性组合。
MLP 是如何工作的?
MLP 将数据提供给网络的输入层。神经元层连接成一个图形,以便信号沿一个方向传递。 MLP 使用存在于输入层和隐藏层之间的权重来计算输入。 MLP 使用激活函数来决定激活哪些节点。激活函数包括 ReLU、 sigmoid 函数和 tanh。 MLP 训练模型以理解相关性,并从训练数据集中学习独立变量和目标变量之间的依赖关系。
SOM 是如何工作的?
SOM 为每个节点初始化权值,并从训练数据中随机选择一个向量。 SOM 检查每个节点,以找出哪些权重是最可能的输入向量。获胜的节点称为最佳匹配单元(BMU)。 SOM 发现了 BMU 的邻居,随着时间的推移,邻居的数量减少了。 SOMs 为样本向量授予一个获胜的权重。节点越接近 BMU,其权重变化越大。. 邻居离 BMU 越远,它学到的东西就越少。SOMs 在 N 次迭代中重复第二步。
DBN 是如何工作的?
贪婪学习算法训练 DBN。贪婪学习算法使用一层一层的方法来学习自顶向下的生成权重。 DBN 在最上面的两个隐藏层上运行 Gibbs 采样的步骤。这个阶段从顶部两个隐藏层定义的 RBM 中提取一个样本。 DBN 使用一次通过模型其余部分的祖先抽样来从可见单元中抽取样本。 DBN 每一层中潜变量的值都可以通过一次自底向上的传递来推断。
RBM由两层组成:
可见单位 隐藏单位
RBM 是如何工作的?
RBM接受输入,并将其转换成一组数字,在前向传递中对输入进行编码。 RBM 算法将每个输入与单个权值和一个总偏差相结合,将输出传递给隐层。 在向后传递过程中,RBM 获取这组数字并将它们转换为重构的输入。 RBM 将每个激活与个体重量和整体偏差相结合,并将输出传递到可见层进行重建。 在可见层,RBM 将重建结果与原始输入进行比较,分析结果的质量。
十、自动编码器
自动编码器是如何工作的?
自动编码器的结构是接收输入并将其转换为不同的表示形式。然后,他们试图尽可能准确地重建原始输入。 当一个数字的图像不清楚可见,它馈送到自动编码器神经网络。 自动编码器首先对图像进行编码,然后将输入的大小减小为较小的表示形式。 最后,自动编码器对图像进行解码,生成重建图像。
结论