人工神经网络分类方法
人工神经网络方法从20世纪80年代末开始应用于遥感图像的自动分类。目前，人工神经网络方法在遥感图像的自动分类中应用和研究较多：
（1）BP（Back Propagation）神经网络，这是一种广泛使用的前馈网络，属于监督分类算法，将先验知识整合到网络学习中，最大限度地利用，适应性好，类别少，但网络学习主要采用误差修正算法，识别对象类型，随着网络规模的扩大，计算过程长，收敛慢而不稳定，识别精度难以满足要求。
（2）Hopfield神经网络。属于反馈网络。主要采用Hebb规则进行学习，一般情况下计算的收敛速度较快。这个网络是美国物理学家J.J.Hopfield主要用于模拟生物神经网络的记忆机制，是1982年提出的。Hopfield神经网络状态的演变过程是一个非线性动力学系统，可以用一组非线性差异方程来描述。所谓的能量函数可以分析系统的稳定性。在满足一定条件的情况下，某种能量函数的能量在网络运行过程中不断减少，最终趋于稳定平衡。Hopfield网络的演变过程是计算联想记忆或解决优化问题的过程。
（3）Kohonen网络。这是芬兰赫尔辛基大学网络专家Kohonen（1981）提出的自组织神经网络采用无导师信息的学习算法，仅根据输入数据的属性调整权重，然后完成向环境学习、自动分类和聚类的任务。它最大的优点是最终的相邻聚类之间有相似的关系，即使样本映射到错误的节点，它也倾向于被识别为相同的因素或相似的因素，这非常接近人类的识别特征。
人工神经网络的类型是什么？
人工神经网络模型主要考虑网络连接的拓扑结构、神经元特征、学习规则等。目前，反传网络、传感器、自组织映射、Hopfield神经网络模型可分为：
(1)前网络 网络中的每个神经元都接受前一级的输入，并输出到下一级。网络中没有反馈，可以用无环路图表示。该网络实现了从输入空间到输出空间的信号转换，其信息处理能力来自于简单的非线性函数的多重组合。网络结构简单，易于实现。反向传输网络是一种典型的前向网络。
(2)反馈网络 网络中的神经元之间有反馈，可以用无向的完整图表来表示。这种神经网络的信息处理是状态的变化，可以用动力学系统理论来处理。系统的稳定性与联想记忆功能密切相关。Hopfield网络和波耳兹曼机都属于这种类型。
学习是神经网络研究的网络研究的重要组成部分。根据环境的变化，调整权改善系统行为。由Hebb提出的Hebb学习规则为神经网络的学习算法奠定了基础。Hebb该规则认为，学习过程最终发生在神经元之间的突触部位，突触的连接强度随突触前后神经元的活动而变化。在此基础上，网络模型的需要，人们提出了各种学习规则和算法。有效的学习算法使神经网络能够通过调整连接值来构建客观世界的内在表达，并在网络连接中形成独特的信息处理方法。
神经网络的学习方法可分为监督学习和非监督学习。在监督学习中，将培训样本的数据添加到网络输入端，并将相应的期望输出与网络输出进行比较，以获得误差信号，以控制权重连接强度的调整，并在多次培训后收敛到确定的权重值。当样本发生变化时，学习后可以修改适应新环境的权重。使用监督学习的神经网络模型包括反传网络、传感器等。非监督学习时，不提前给出标准样本，直接将网络置于环境中，学习阶段与工作阶段相结合。此时，学习规律的变化服从连接权值的演变方程。非监督学习最简单的例子是Hebb学习规则。竞争学习规则是一个更复杂的非监督学习的例子，它根据已建立的聚类调整权重。自组织映射和适应谐振理论网络是与竞争学习相关的典型模型。
研究神经网络的非线性动力学性质，主要采用动力系统理论、非线性规划理论和统计理论，分析神经网络的演变过程和吸引力的性质，探索神经网络的协同行为和集体计算功能，了解神经信息处理机制。混沌理论的概念和方法将发挥作用，以探讨神经网络在完整性和模糊性方面处理信息的可能性。混沌是一个很难准确定义的数学概念。一般来说，混沌是指由确定性方程描述的动力学系统中的不确定性行为，或确定性的随机性。确定性是由内部原因而不是外部噪声或干扰引起的，而随机性是指其不规则、不可预测的行为，只能用统计方法来描述。混沌动力学系统的主要特点是其状态对初始条件的敏感依赖，反映了其内在随机性。混沌理论是指描述混沌行为的非线性动力学系统的基本理论、概念和方法。它将动力学系统的复杂行为理解为物质、能量和信息交换过程中的内部结构行为，而不是外部和偶然行为。混沌状态是一种定态。混沌动力学系统的定态包括：静态、稳定、周期、准同期和混沌解。混沌轨道是整体稳定与局部不稳定相结合的结果，称为奇异吸引子。
完整的人工神经网络包括
人工神经网络的主要结构由三个部分组成：神经元、层和网络。整个人工神经网络包含一系列通过权重连接的基本神经元。
神经元是人工神经网络中最基本的单元。单元以层的形式组成。每层的每个神经元与前后层的神经元连接，分为输入层、输出层和隐藏层。三层连接形成一个神经网络。
输入层仅从外部环境中接收信息，由输入单元组成，这些输入单元可以在样本中接收不同的特征信息。该层的每个神经元相当于自变量，不完成任何计算，只为下一层传输信息；隐藏层介于输入层和输出层之间，完全用于分析，其函数连接输入层和输出层，使其更适合数据。
最后，输出层生成最终结果，每个输出单元将对应于一个特定的分类，为网络提供外部系统的结果值。整个网络通过调整链接强度的程序来实现学习的目的。
人工神经元网络的拓扑结构有哪些？谢谢大侠~~~
神经网络的拓扑结构包括网络层数、神经元层数和神经元之间的连接。
从拓扑结构的角度来看，人工神经网络的模型可分为层次型和互连型。分层模型将神经网络分为输入层（Input Layer）、隐层（Hidden Layer）和输出层（Output Layer），各层顺序连接。输入层神经元负责接收外界的输入信息，并将其传递给隐层神经元。隐藏负责神经网络内的信息处理和信息转换。隐层通常根据变换的需要设计为一层或多层。
扩展资料：
人工神经网络模型主要考虑网络连接的拓扑结构、神经元特征、学习规则等。目前，反传网络、传感器、自组织映射、Hopfield适应谐振理论等。
人工神经网络采用与传统人工智能和信息处理技术完全不同的机制，克服了基于逻辑符号的传统人工智能在处理直觉和非结构化信息方面的缺陷，具有自适应、自组织和实时学习的特点。
参考资料来源：
百度百科-人工神经网络
人工神经网络由哪些部分组成？ 10
"人工神经网络"由13个神经元组成，4个是输入神经元，1个是输入神经元 神经元。也就是说，这个程序最多可以处理四元关系(包括二元， 三元)。
神经网络的主要分类规则是什么？
神经网络模型的分类
人工神经网络有许多模型，可以按不同的方法进行分类。其中，根据网络连接的扩展结构和网络内部信息流分类两种常见的分类方法。
1
根据网络拓结构分类
网络的拓朴结构，即神经元之间的连接方式。神经网络结构可分为层次结构和互联结构两类。
层次结构的神经网络根据不同的功能和顺序将神经元分为输出层、中间层（隐藏层）和输出层。输出层的每个神经元负责接收来自外部世界的输入信息，并将其传输到中间的每个隐藏层；隐藏层是神经网络的内部信息处理层，负责信息转换。根据需要可设计为一层或多层；最后一个隐藏层将信息传输到输出层的神经元，然后输出到外部世界。
在互连网络结构中，任何两个节点之间都可能有连接路径，因此互连网络可以根据网络中节点的连接程度细分为三种情况：全连接、局部连接和稀疏连接。
2
根据网络信息流的类
从神经网络内部信息传输的方向来看，可分为前馈网络和反馈网络两种类型。
简单的前馈网络结构与分层网络结构相同。前馈是由于网络信息处理的方向是从输入层到隐藏层再到输出层逐层命名的。前馈网络中前一层的输出是下一层的输入。信息处理具有逐层传输的方向性，一般没有反馈环。因此，这种网络很容易连接起来，建立多层前馈网络。
反馈网络的结构与单层全连接结构网络相同。反馈网络中的所有节点都具有信息处理功能，每个节点都可以从外部接受输入，并输出到外部。
简述人工神经网络的结构形式
神经网络有多种分类方法。例如，根据网络性能为连续和离散网络、确定和随机网络：根据网络拓扑结构可分为前神经网络和反馈神经网络。本章介绍了前神经网络、反馈神经网络和自组织特征的映射神经网络。
前向神经网络是一种广泛应用于数据挖掘的网络，其原理或算法也是许多神经网络模型的基础。径向基函数神经网络是一种前向神经网络。
Hopfield反馈网络代表神经网络。Hvpfi}ld该网络的原型是一种非线性动力学系统，已成功应用于联想记忆和优化计算。
模拟退火算法是为了解决优化计算中的局部小问题。Baltzmann机器是一个随机神经网络，具有随机输出值单元，串行Baltzmann该机器可以看作是模拟退火算法对二次组合优化问题的具体实现，也可以模拟外部概率分布，实现概率意义上的联想记忆。
自组织竞争神经网络的特点是能够识别环境特征并自动聚类。竟争型神经网络已成功应用于特征抽取和大规模数据处理。
神经网络算法的人工神经网络
人工神经网络（Artificial Neural Networks，ANN）系统是 20 世纪 40 年代后出现的。它是由众多的神经元可调的连接权值连接而成，具有大规模并行处理、分布式信 息存储、良好的自组织自学习能力等特点。BP（Back Propagation）算法又称为误差 反向传播算法，是人工神经网络中的一种监督式的学习算法。BP 神经网络算法在理 论上可以逼近任意函数，基本的结构由非线性变化单元组成，具有很强的非线性映射能力。而且网络的中间层数、各层的处理单元数及网络的学习系数等参数可根据具体情况设定，灵活性很大，在优化、信号处理与模式识别、智能控制、故障诊断等许 多领域都有着广泛的应用前景。 人工神经元的研究起源于脑神经元学说。19世纪末，在生物、生理学领域，Waldeger等人创建了神经元学说。人们认识到复杂的神经系统是由数目繁多的神经元组合而成。大脑皮层包括有100亿个以上的神经元，每立方毫米约有数万个，它们互相联结形成神经网络，通过感觉器官和神经接受来自身体内外的各种信息，传递至中枢神经系统内，经过对信息的分析和综合，再通过运动神经发出控制信息，以此来实现机体与内外环境的联系，协调全身的各种机能活动。
神经元也和其他类型的细胞一样，包括有细胞膜、细胞质和细胞核。但是神经细胞的形态比较特殊，具有许多突起，因此又分为细胞体、轴突和树突三部分。细胞体内有细胞核，突起的作用是传递信息。树突是作为引入输入信号的突起，而轴突是作为输出端的突起，它只有一个。
树突是细胞体的延伸部分，它由细胞体发出后逐渐变细，全长各部位都可与其他神经元的轴突末梢相互联系，形成所谓“突触”。在突触处两神经元并未连通，它只是发生信息传递功能的结合部，联系界面之间间隙约为（15～50)×10米。突触可分为兴奋性与抑制性两种类型，它相应于神经元之间耦合的极性。每个神经元的突触数目正常，最高可达10个。各神经元之间的连接强度和极性有所不同，并且都可调整、基于这一特性，人脑具有存储信息的功能。利用大量神经元相互联接组成人工神经网络可显示出人的大脑的某些特征。
人工神经网络是由大量的简单基本元件——神经元相互联接而成的自适应非线性动态系统。每个神经元的结构和功能比较简单，但大量神经元组合产生的系统行为却非常复杂。
人工神经网络反映了人脑功能的若干基本特性，但并非生物系统的逼真描述，只是某种模仿、简化和抽象。
与数字计算机比较，人工神经网络在构成原理和功能特点等方面更加接近人脑，它不是按给定的程序一步一步地执行运算，而是能够自身适应环境、总结规律、完成某种运算、识别或过程控制。
人工神经网络首先要以一定的学习准则进行学习，然后才能工作。现以人工神经网络对于写“A”、“B”两个字母的识别为例进行说明，规定当“A”输入网络时，应该输出“1”，而当输入为“B”时，输出为“0”。
所以网络学习的准则应该是：如果网络作出错误的的判决，则通过网络的学习，应使得网络减少下次犯同样错误的可能性。首先，给网络的各连接权值赋予(0，1)区间内的随机值，将“A”所对应的图象模式输入给网络，网络将输入模式加权求和、与门限比较、再进行非线性运算，得到网络的输出。在此情况下，网络输出为“1”和“0”的概率各为50%，也就是说是完全随机的。这时如果输出为“1”(结果正确)，则使连接权值增大，以便使网络再次遇到“A”模式输入时，仍然能作出正确的判断。
如果输出为“0”(即结果错误)，则把网络连接权值朝着减小综合输入加权值的方向调整，其目的在于使网络下次再遇到“A”模式输入时，减小犯同样错误的可能性。如此操作调整，当给网络轮番输入若干个手写字母“A”、“B”后，经过网络按以上学习方法进行若干次学习后，网络判断的正确率将大大提高。这说明网络对这两个模式的学习已经获得了成功，它已将这两个模式分布地记忆在网络的各个连接权值上。当网络再次遇到其中任何一个模式时，能够作出迅速、准确的判断和识别。一般说来，网络中所含的神经元个数越多，则它能记忆、识别的模式也就越多。 （1）人类大脑有很强的自适应与自组织特性，后天的学习与训练可以开发许多各具特色的活动功能。如盲人的听觉和触觉非常灵敏；聋哑人善于运用手势；训练有素的运动员可以表现出非凡的运动技巧等等。
普通计算机的功能取决于程序中给出的知识和能力。显然，对于智能活动要通过总结编制程序将十分困难。
人工神经网络也具有初步的自适应与自组织能力。在学习或训练过程中改变突触权重值，以适应周围环境的要求。同一网络因学习方式及内容不同可具有不同的功能。人工神经网络是一个具有学习能力的系统，可以发展知识，以致超过设计者原有的知识水平。通常，它的学习训练方式可分为两种，一种是有监督或称有导师的学习，这时利用给定的样本标准进行分类或模仿；另一种是无监督学习或称无为导师学习，这时，只规定学习方式或某些规则，则具体的学习内容随系统所处环境 （即输入信号情况）而异，系统可以自动发现环境特征和规律性，具有更近似人脑的功能。
（2）泛化能力
泛化能力指对没有训练过的样本，有很好的预测能力和控制能力。特别是，当存在一些有噪声的样本，网络具备很好的预测能力。
(3)非线性映射能力
当对系统对于设计人员来说，很透彻或者很清楚时，则一般利用数值分析，偏微分方程等数学工具建立精确的数学模型，但当对系统很复杂，或者系统未知，系统信息量很少时，建立精确的数学模型很困难时，神经网络的非线性映射能力则表现出优势，因为它不需要对系统进行透彻的了解，但是同时能达到输入与输出的映射关系，这就大大简化设计的难度。
(4)高度并行性
并行性具有一定的争议性。承认具有并行性理由：神经网络是根据人的大脑而抽象出来的数学模型，由于人可以同时做一些事，所以从功能的模拟角度上看，神经网络也应具备很强的并行性。
多少年以来，人们从医学、生物学、生理学、哲学、信息学、计算机科学、认知学、组织协同学等各个角度企图认识并解答上述问题。在寻找上述问题答案的研究过程中，这些年来逐渐形成了一个新兴的多学科交叉技术领域，称之为“神经网络”。神经网络的研究涉及众多学科领域，这些领域互相结合、相互渗透并相互推动。不同领域的科学家又从各自学科的兴趣与特色出发，提出不同的问题，从不同的角度进行研究。
下面将人工神经网络与通用的计算机工作特点来对比一下：
若从速度的角度出发，人脑神经元之间传递信息的速度要远低于计算机，前者为毫秒量级，而后者的频率往往可达几百兆赫。但是，由于人脑是一个大规模并行与串行组合处理系统，因而，在许多问题上可以作出快速判断、决策和处理，其速度则远高于串行结构的普通计算机。人工神经网络的基本结构模仿人脑，具有并行处理特征，可以大大提高工作速度。
人脑存贮信息的特点为利用突触效能的变化来调整存贮内容，也即信息存贮在神经元之间连接强度的分布上，存贮区与计算机区合为一体。虽然人脑每日有大量神经细胞死亡 （平均每小时约一千个），但不影响大脑的正常思维活动。
普通计算机是具有相互独立的存贮器和运算器，知识存贮与数据运算互不相关，只有通过人编出的程序使之沟通，这种沟通不能超越程序编制者的预想。元器件的局部损坏及程序中的微小错误都可能引起严重的失常。 心理学家和认知科学家研究神经网络的目的在于探索人脑加工、储存和搜索信息的机制，弄清人脑功能的机理，建立人类认知过程的微结构理论。
生物学、医学、脑科学专家试图通过神经网络的研究推动脑科学向定量、精确和理论化体系发展，同时也寄希望于临床医学的新突破；信息处理和计算机科学家研究这一问题的目的在于寻求新的途径以解决不能解决或解决起来有极大困难的大量问题，构造更加逼近人脑功能的新一代计算机。
人工神经网络早期的研究工作应追溯至上世纪40年代。下面以时间顺序，以著名的人物或某一方面突出的研究成果为线索，简要介绍人工神经网络的发展历史。
1943年，心理学家W·Mcculloch和数理逻辑学家W·Pitts在分析、总结神经元基本特性的基础上首先提出神经元的数学模型。此模型沿用至今，并且直接影响着这一领域研究的进展。因而，他们两人可称为人工神经网络研究的先驱。
1945年冯·诺依曼领导的设计小组试制成功存储程序式电子计算机，标志着电子计算机时代的开始。1948年，他在研究工作中比较了人脑结构与存储程序式计算机的根本区别，提出了以简单神经元构成的再生自动机网络结构。但是，由于指令存储式计算机技术的发展非常迅速，迫使他放弃了神经网络研究的新途径，继续投身于指令存储式计算机技术的研究，并在此领域作出了巨大贡献。虽然，冯·诺依曼的名字是与普通计算机联系在一起的，但他也是人工神经网络研究的先驱之一。
50年代末，F·Rosenblatt设计制作了“感知机”，它是一种多层的神经网络。这项工作首次把人工神经网络的研究从理论探讨付诸工程实践。当时，世界上许多实验室仿效制作感知机，分别应用于文字识别、声音识别、声纳信号识别以及学习记忆问题的研究。然而，这次人工神经网络的研究高潮未能持续很久，许多人陆续放弃了这方面的研究工作，这是因为当时数字计算机的发展处于全盛时期，许多人误以为数字计算机可以解决人工智能、模式识别、专家系统等方面的一切问题，使感知机的工作得不到重视；其次，当时的电子技术工艺水平比较落后，主要的元件是电子管或晶体管，利用它们制作的神经网络体积庞大，价格昂贵，要制作在规模上与真实的神经网络相似是完全不可能的；另外，在1968年一本名为《感知机》的著作中指出线性感知机功能是有限的，它不能解决如异感这样的基本问题，而且多层网络还不能找到有效的计算方法，这些论点促使大批研究人员对于人工神经网络的前景失去信心。60年代末期，人工神经网络的研究进入了低潮。
另外，在60年代初期，Widrow提出了自适应线性元件网络，这是一种连续取值的线性加权求和阈值网络。后来，在此基础上发展了非线性多层自适应网络。当时，这些工作虽未标出神经网络的名称，而实际上就是一种人工神经网络模型。
随着人们对感知机兴趣的衰退，神经网络的研究沉寂了相当长的时间。80年代初期，模拟与数字混合的超大规模集成电路制作技术提高到新的水平，完全付诸实用化，此外，数字计算机的发展在若干应用领域遇到困难。这一背景预示，向人工神经网络寻求出路的时机已经成熟。美国的物理学家Hopfield于1982年和1984年在美国科学院院刊上发表了两篇关于人工神经网络研究的论文，引起了巨大的反响。人们重新认识到神经网络的威力以及付诸应用的现实性。随即，一大批学者和研究人员围绕着 Hopfield提出的方法展开了进一步的工作，形成了80年代中期以来人工神经网络的研究热潮。
1985年，Ackley、Hinton和Sejnowski将模拟退火算法应用到神经网络训练中，提出了Boltzmann机，该算法具有逃离极值的优点，但是训练时间需要很长。
1986年，Rumelhart、Hinton和Williams提出了多层前馈神经网络的学习算法，即BP算法。它从证明的角度推导算法的正确性，是学习算法有理论依据。从学习算法角度上看，是一个很大的进步。
1988年，Broomhead和Lowe第一次提出了径向基网络：RBF网络。
总体来说，神经网络经历了从高潮到低谷，再到高潮的阶段，充满曲折的过程。