神经网络概述

神经网络最初通过算法尽可能模拟大脑的学习和思考方式，编写一个可以自动运行的软件。

1 起源

• 1950年，建立模拟大脑的软件
• 1980-1990，手写识别等应用
• 2005-今，重命名为深度学习，语音识别、计算机视觉、自然语言处理。应用于气候变化、广告推荐、医学图像等领域

2 神经元结构

一个神经元可以看作一个处理单元，它有很多的输入/树突，但只有一个输出/轴突，这个轴突又变成另一个神经元的输入。

数学模型，用蓝色的圈表示单个神经元，可以接受多个输入，并输出一个结果。

3 神经网络兴起原因

1. 数据量：互联网的发展导致横轴数据在不断的增长。 对于机器学习来说，性能已经趋于上限。
2. 算力：GPU 的计算能力也在不断的发展，可以计算更大规模的神经网络。

4 预测衣服畅销

输入特征为：价格、运费、市场营销、材质等。输出结果是否为畅销产品，用0/1表示

可以构造如下的神经网络模型。

• 最左侧的四个数字为输入层，一般包含全部的输入特征
• 中间的三个神经元为隐藏层
• 右侧的一个神经元为输出层，输出为最终的结果

其中隐藏层的输出，作为了下一层的输出，被称为激活值a（神经科学中的属于，表示当前神经元向下一个神经元发送的电脉冲强度）

多个隐藏层的神经网络模型：

层数定义

神经网络的层数 = 所有隐藏层 + 输出层。比如两层神经网络就是只包含一个隐藏层。