本帖最后由 zhaorong 于 2020-12-14 15:16 编辑

神经网络算法原理初探

神经网络是一门重要的机器学习技术。它是目前最为火热的研究方向--深度学习的基础 学习神经网络不仅可以让
你掌握一门强大的机器学习方法，同时也可以更好地帮助你理解深度学习技术。
首先我们要知道神经网络是一个个神经元组成的，所以先了解一下什么是神经元。
对于神经元的研究由来已久，1904年生物学家就已经知晓了神经元的组成结构。
一个神经元通常具有多个树突，主要用来接受传入信息；而轴突只有一条 轴突尾端有许多轴突末梢可以给其他多个神经
元传递信息。轴突末梢跟其他神经元的树突产生连接 从而传递信号。这个连接的位置在生物学上叫做 突触 。
生物神经元大家应该在高中课本已经见过了 如下图


神经元模型是一个包含输入 输出与计算功能的模型 输入可以类比为神经元的树突 而输出可以
类比为神经元的轴突 计算则可以类比为细胞核。


上面这个东西就叫神经元模型
关于神经元我们可以这样去理解：
我们有一个数据 称之为样本。样本有四个属性 其中三个属性已知 一个属性未知 我们需要做
的就是通过三个已知属性预测未知属性。
具体办法就是使用神经元的公式进行计算。三个已知属性的值是a1，a2，a3，未知属性的值是z。z可以通过公式计算出来。
这里，已知的属性称之为特征，未知的属性称之为目标。假设特征与目标之间确实是线性关系，并且我们已经得到表示这个
关系的权值w1w2，w3。那么，我们就可以通过神经元模型预测新样本的目标。
神经元不可能像上图那么简单（大概直脑筋就是那样的？）
稍微复杂一点的如下（人类在尽量去模拟生物神经元,但是无法像生物神经元那样完美）


让我们来看一个经典的神经网络 这是一个包含三个层次的神经网络红色的是输入层 绿色的是输出层
紫色的是中间层也叫隐藏层。输入层有3个输入单元 隐藏层有4个单元 输出层有2个单元。


1.计一个神经网络时，输入层与输出层的节点数往往是固定的，中间层则可以自由指定；
2.神经网络结构图中的拓扑与箭头代表着预测过程时数据的流向，跟训练时的数据流有一定的区别；
3.结构图里的关键不是圆圈（代表“神经元”）而是连接线 代表“神经元”之间的连接 。每个连接线对应一个不同
的权重（其值称为权值）这是需要训练得到的。


神经网络技术起源于上世纪五、六十年代，当时叫感知机(perceptron)，其中的单个神经元我们可以叫作感知器。
感知器的特点具有浓厚的时代气息：其输入输出都是二进制形式的(据说由于计算技术的落后 当时感知器传输函数
是用线拉动变阻器改变电阻的方法机械实现的)。
举个栗子
假如你想去看一场电影，现在有下面三个方面来决定你最终去不去：  

距离远不远（这里代表你没车）
你对象愿不愿意陪你去
是否有恶劣天气（例如暴风雪）

我们将这三个不同的因素表示为输入，最终的结果是不是就由这三个因素决定？
当然这里每个因素权值可以不同，假如你怕老婆，所以因素1占比重为1，因素2占比重为10 因素3占比重为1
此时1和3就显得无关紧要。（大概就这样，不知道大家能不能理解）
神经网络简单地说就是将多个神经元连接起来、组成一个网络。
本文介绍的是最简单、历史悠久的一种：“多层感知机”(但我们讲的这个它里面的神经元并不是感知器 而是Sigmoid神经元
名词混乱+1)，或称之为“多层向前神经网络(Multilayer Feed-Forward Neural Network)”，它的特点是有多层 废话 且神
经元之间是全连接的，即后一层的神经元会连接到前一层的每个神经元(这里定义下从输入层到输出层为从“后”向“前”)。
一个多层感知机的示意图如下 网络的最左边一层被称为输入层 其中的神经元被称为输入神经元。
最右边及输出层包含输出神经元，在这个例子中，只有一个单一的输出神经元 但一般情况下输出层也会有多个神经元。
中间层被称为隐含层，因为里面的神经元既不是输入也不是输出。


所以呢？有了神经网络和神经元 它到底有啥用？

不知道大家记不记得以前提到的强人工智能 要想实现强人工智能，我们得让它学会学习 再举个例子 我们平常看见
一只狗从狗的外观（有没有耳朵啊，是不是四条腿之类的）就能判断它是一只狗，所以计算机应该怎么判断呢？
我们能想到的肯定是通过照片吧 但是大家有没有想过 一个维度50 × 50的图片（大概如下图这么大）


就这么个东西它的维度是50 × 50=2500，特征数=2500 × 2500/2=3125000。
如果是彩色图片，维度会增加到原来的3倍，那么特征数将增加到接近3千万了！
这么小的一张图片 就有这么巨大的特征量 可以想像一下我们的数码相机拍下来的照片会有多大的特征量！
而我们要做的是从十万乃至亿万张这样的图片中找规律，这可能吗？
这个时候就诞生了神经网络模型，就是模拟人的思想，把它能够轻易识别出来，输入某些特征 然后进行判断和输出。
当然了，这个神经网络模型并没有这么简单 这里我是为了大家能更加理解网络神经所以
说的简便易懂一些 如有错误之处请留言指教。  

PS：最近在学三大玄学算法，有一起的小伙伴不~