回归模型虽然简单，但不易处理复杂的数据分布。图像识别作为一个分类问题，即识别图像中目标的类别。需要判定的类别有多个时，则为多分类问题。生活中的应用，如车牌号识别，就有数字，以及字母等多个类别。

图片的一种存储方式是采用数据矩阵，存储了每个像素点的灰度值

试用 logistic 回归 处理

• 特征向量记为 ，对于 的图像，
• 若按照一般处理，引入二次，，约为 ，引入，，约为
• 显然，传统机器学习算法不适合图像处理问题，将出现特征维度过大，内存消耗和计算成本急剧增加等不足

下面介绍另一种图像处理常用的方法「人工神经网络」（Artificial Neural Network）。其思想借鉴了生物学意义上的神经元

人工神经网络是具有适应性的简单单元组成的广泛并行互联的网络，它的组织能够模拟生物神经系统对真实世界物体作出的交互反应。

神经网络是一个相当大的、多学科交叉的科学领域。本课程中涉及到的神经网络是指「神经网络学习」，或者说是神经网络与机器学习的科学交叉。其主要特点包括

• 非线性映射逼近能力。可以逼近任意的连续非线性函数映射关系
• 自适应性和自组织性。神经元之间的连接具有多样性，各神经元之间的连接强度具有可塑性，网络可以通过学习和训练进行自组织
• 分布存储和容错性：网络的每部分信息对信息的存储具有等势作用，部分的信息丢失仍可以信息得到恢复，因而网络具有容错性和联想记忆功能。

人工神经网络是根据人的认知过程而开发出的一种算法。假如我们现在只有一些输入和相应的输出，而对如何由输入得到输出的机理并不清楚，那么我们可以把输入与输出之间的未知过程看作是一个「网络」，通过不断地给这个网络输入和相应的输出来「训练」这个网络，网络根据输入和输出不断地调节自己的各节点之间的权值来满足输入和输出。这样，当训练结束后，我们给定一个输入，网络便会根据自己已调节好的权值计算出一个输出。这就是神经网络的简单原理。

• M-P 神经元
• 激活函数

• 感知机
• 多层神经网络

反向传播算法

深度学习

本章主要讲解了神经网络的结构与原理，主要包括以下内容

• 神经网络的生物学基础
• 神经元模型：单个神经网络的输入、输出及处理过程，激活函数
• 多层感知机：感知机的结构和学习原理，多层网络的组成结构
• 神经网络模型：神经网络的前向传播过程，如何训练神经网络
• 深度学习简介：深度置信网络和卷积神经网络

图神经网络