第1章神经网络简单介绍

神经网络这个词。相信大家都不陌生。

就在你打开本书。并试图了解神经网络时，你已经在使用一个世界上最复杂的神经网络——你的大脑。一个由大约1000亿个神经元（每一个单元拥有约1万个连接）构成的复杂系统。但人的大脑太过复杂，以至于科学家们到眼下为止仍然无法准确解释大脑的工作原理和方式。但有幸的是，生物神经网络的最最主要的元素已经可以被识别，而这就构成了本书想为你介绍的人工神经网络（Artificial Neural Network）。

人工神经网络是受到生物神经网络的启示而发展起来的。因此，了解生物神经网络能够帮助读者更好的理解人工神经网络。图1.1 展示了生物神经元的基本结构。生物神经元也就是神经细胞由细胞核、细胞体、轴突、树突组成。细胞轴突是一条长长的纤维。它把细胞体的输出信息传导到其他神经元。

树突用来接收其他神经元的输入信号。轴突和树突的连接叫突触。突触拥有一定的强度，表示两个神经元连接的强度和稳定性。细胞体接收全部树突的输入，并通过细胞体内复杂的化学变化，来确定细胞体是否须要对轴突产生输出。

神经元示意图

神经元之间的连接不是固定不变的。在人的学习和成长过程中。一些新的连接会被逐渐建立起来，另一些连接可能会消失。外界刺激就是神经网络的输入。在接收刺激后，刺激信号将传递到整个网络中，影响全部的神经元状态，神经元之间彼此连接并相互制约影响，并不断调整彼此间的连接强度，直到达到稳定状态，并终于对刺激作出反应。

神经元之间的关系变迁就形成了生物体的学习过程。

人工神经网络以生物体的神经网络为基础。当然。人工神经网络没有生物神经网络那么复杂，在现阶段，我们仅仅能做一些简单的模拟和仿制。

眼下，人工神经网络吸取了生物神经网络两个极为重要的概念，计算单元和连接权重。计算单元好比是细胞体。负责处理全部的输入并给出一定的输出。连接权重好比轴突和突触，表示两个计算单元的连接强度。

人工神经网络最早的提出能够追溯到1943年。至今已经有70多年历史。它由美国的心理学家W.S.McCulloch和数学家W.A.Pitts在论文《神经活动中所蕴含思想的逻辑活动》中最先提出，并从此澎湃发展。

人工神经网络与线性代数和微积分紧密相关。对神经网络的基本原理以及证明差点儿都使用高等数学进行。这些复杂而难懂的公式给很多希望进行神经网络学习的刚開始学习的人造成不少困扰。本书深刻考虑到这点，从实际应用出发。尽可能避免出现深奥的数学公式，使用白话文字解说神经网络的基本思想、实现和应用。不须要读者具有良好的数学功底。在必须使用数学公式的场合，作者也将将给出详尽的说明，以帮助读者理解公式的含义。因此。本书将是一本从实际应用出发。附带理论解说的书籍，适合刚開始学习的人和实践者（你想马上动手构建自己的神经网络）阅读參考。

对纯理论研究感兴趣的读者应该寻找其他更合适的书籍。

本书对读者唯一的要求就是须要读者懂得主要的程序设计。了解Java、C/C++、Python等编程语言能够使读者更好的理解本书的内容。

眼下。人工神经网络在多个领域均有相当成功的应用。比方市场预測，数据分类。语音识别。文字识别，医疗诊断等。以数据分类为例，在数据爆炸的今天，对大数据的分析显得越来越重要，神经网络能够非常好得解决大数据的分析工作。

比方，在进行动物分类时，我们能够告诉神经网络某动物的几个特征。如大小、是否有羽毛、有几条腿等信息。神经网络便能够将它归入特定的类别。在文字识别领域，能够使用神经网络进行手写体、车牌的识别，而且，这类应用已经非常普遍。在医疗领域，医生能够依据患者的一系列生理特征通过神经网络来排定患者患有某种疾病的概率。在金融领域，也能够使用神经网络挖掘股票、期货价格的内在规律，并对未来的价格作出预測。

人工神经网络的基本单元是人工神经元。

这里先简介一下神经元的基本结构，如图1.2所看到的。当中，p是神经元的一个输入。w是该输入p到神经元的权值，也就是连接的强度（类比突触）。p能够是其他神经元对该神经元的输入。也能够是外部系统对该神经元的刺激输入。b是神经元的偏置（更准确得能够理解为偏置的权重），1是神经元的固定偏置输入。偏置用来模拟生物神经元的内在化学性质。s是累加器，也能够叫做神经元的输入函数，通常它对p和偏置进行加权求和运算，s的输出为wp+b*1，s的输出通常成为净输入net。

偏置1和b并非神经元必须的，实际上在非常多神经网络中能够没有这个部分。s的输出将进入f。f为神经元的传输函数，a=f(net)即为这个神经元的输出。a也就是生物神经元的轴突信号。

在该模型中，w和b是能够调整的參数，传输函数f和输入函数s能够依据须要进行选择。可是在确定后不再更改。