智能信息处理技术原理与应用

本教材的内容涉及模糊理论、数据融合、神经网络、遗传算法及传感技术等相关内容，并着重介绍数据融合技术的原理、特点及具体应用方法，在目前多传感器数据融合技术研究成果的基础上进行系统解析，分析特点，论述不足，为数据融合技术的研究提供科学合理的依据，达到促进智能信息处理技术可持续发展的目标。

蒋海峰，男，1978年7月生，江苏扬州人，南京理工大学自动化学院讲师，硕士生导师。中国科学技术大学本硕博（自动控制专业本科、检测技术与自动化装置专业硕士、模式识别与智能系统专业博士）、南京理工大学控制科学与工程博士后、哈尔滨工程大学访问学者。长期从事于智能信息处理、多传感器数据融合、微纳级传感器、无线传感器网络等方向的研究。在国内外学术期刊及国际会议上发表论文近三十篇，专利多项。

目录

第1章绪论

1.1智能信息处理概述

1.1.1智能信息处理的产生及发展

1.1.2人工智能概述

1.1.3AI的发展

1.1.4AI主要的研究学派和研究方法

1.1.5AI研究内容和研究领域

1.1.6计算智能的产生

1.2计算智能信息处理的主要技术

1.2.1模糊计算技术

1.2.2神经计算技术

1.2.3进化计算技术

1.3计算智能技术的综合集成

1.3.1模糊系统与神经网络的结合

1.3.2神经网络与遗传算法的结合

1.3.3模糊技术、神经网络和遗传算法的综合集成

习题

第2章神经计算

2.1概述

2.1.1神经网络的定义

2.1.2神经网络的发展历史

2.1.3神经网络的特点

2.1.4神经网络的应用

2.2神经网络基本原理

2.2.1神经元的基本构成

2.2.2神经元的基本数学模型

2.2.3基本激活函数

2.2.4神经网络的拓扑结构

2.3前馈型神经网络

2.3.1感知器

2.3.2BP神经网络

2.3.3BP算法的若干改进

2.3.4前馈型神经网络的应用

2.4反馈型神经网络

2.4.1Hopfield神经网络

2.4.2BAM网络

2.4.3Hamming网络

2.5RBF神经网络

2.5.1RBF神经网络的结构

2.5.2RBF神经网络的训练

2.5.3RBF神经网络在交通流预测中的应用

2.6自组织神经网络

2.6.1竞争学习

2.6.2自组织特征映射神经网络

2.6.3基于自适应谐振构成的自组织神经网络

2.7神经网络和模糊系统

2.7.1简述

2.7.2神经网络和模糊系统的结合方式

2.7.3模糊神经网络

2.7.4模糊神经网络的应用

习题

第3章进化计算

3.1进化计算的一般框架与共同特点

3.1.1进化计算的一般框架

3.1.2进化计算的共同特点

3.2遗传算法基础

3.2.1遗传算法的历史与发展

3.2.2遗传算法的基本原理

3.2.3遗传算法数学基础分析

3.3遗传算法分析

3.3.1遗传算法基本结构

3.3.2基因操作

3.3.3遗传算法参数选择

3.3.4遗传算法的改进

3.3.5遗传算法的基本实例

3.4遗传算法在函数优化及TSP中的应用

3.4.1一元函数优化实例

3.4.2多元函数优化实例

3.4.3TSP问题的描述及优化意义

3.4.4TSP问题的遗传算法设计

3.5进化规划

3.5.1进化规划的起源与发展

3.5.2进化规划的主要特点

3.5.3进化规划中的算法分析

3.5.4进化规划的应用

3.6进化策略

3.6.1进化策略的起源与发展

3.6.2进化策略的主要特点

3.6.3进化策略的不同形式及基本思想

3.6.4进化策略的执行过程

习题

第4章模糊计算

4.1知识表示和推理

4.1.1知识与推理中的关系

4.1.2产生式系统

4.2模糊理论及三大基本元素

4.3模糊集合的基本运算

4.4模糊集合运算的基本规则

4.5模糊关系

4.5.1模糊关系与模糊关系矩阵

4.5.2模糊关系矩阵的运算

4.5.3λ截矩阵λ水平截集

4.5.4模糊关系的运算和性质

4.5.5模糊逻辑推理及应用

4.6模糊信息处理

4.6.1模糊模式识别

4.6.2模糊聚类分析

4.6.3基于模糊等价关系的模式分类

4.6.4基于模糊相似关系的模式分类

4.6.5基于最大隶属原则的模式分类

4.6.6基于择近原则的模式分类

习题

第5章数据融合

5.1数据融合的基本概念

5.2数据融合的传感器管理与数据库

5.2.1传感器管理

5.2.2态势数据库

5.3数据融合方法

5.3.1Bayes估计方法

5.3.2DempsterShafer算法

5.4数据融合系统结构形式及数据准备

5.4.1数据融合系统结构形式

5.4.2数据融合系统的功能模型

5.4.3数据融合的层次

5.5数据准备

5.5.1融合中心数据处理的前提

5.5.2数据的预处理

5.5.3数据对准

5.6数据关联技术

5.6.1数据关联的目的

5.6.2关联的基本思路

5.6.3数据关联的主要形式

5.6.4数据关联过程

5.7状态估计——卡尔曼滤波

5.7.1数字滤波器作估值器

5.7.2线性均方估计

5.7.3标量卡尔曼滤波器

5.7.4向量卡尔曼滤波器

5.7.5卡尔曼滤波器的应用

5.7.6常系数αβ和αβγ滤波器

习题

第6章常见的智能优化算法

6.1智能优化算法的产生与发展

6.1.1最优化问题及其分类

6.1.2优化算法的分类

6.1.3智能优化算法的产生与发展

6.2禁忌搜索算法

6.2.1基本禁忌搜索

6.2.2禁忌搜索的关键要素

6.2.3禁忌搜索的基本步骤与算法流程

6.2.4禁忌搜索算法的改进

6.2.5禁忌搜索算法在多用户检测中的应用

6.3模拟退火算法

6.3.1简述

6.3.2模拟退火算法的收敛性

6.3.3模拟退火算法的关键参数

6.3.4模拟退火算法的改进与发展

6.3.5模拟退火算法在成组技术中加工中心的组成问题中的应用

6.4蚁群算法

6.4.1蚁群算法的由来

6.4.2基本蚁群算法

6.4.3改进的蚁群算法

6.4.4蚁群算法在机器人路径规划中的应用

6.5粒子群优化算法

6.5.1粒子群优化算法的基本原理

6.5.2粒子群优化算法的构成要素

6.5.3改进的粒子群优化算法

6.5.4粒子群优化算法在PID参数整定中的应用

习题

参考文献

第1章绪论

1.1智能信息处理概述

1.1.1智能信息处理的产生及发展

信息技术的三大支柱包括传感技术、计算机技术和通信技术。传感技术是信息技术的前端，是信息的来源，是衡量一个国家信息化程度的重要标志。计算机是信息处理加工中心，随着大数据时代的到来，对其处理能力提出了更高的要求。通信技术是电子工程的重要分支，同时也是其中一个基础学科，关注的是通信过程中的信息传输以及信号处理的原理和应用。

在信息处理中，信息的获取、传输、存储、加工处理及应用所采用的技术、理论方法和系统都需要由计算机来完成。目前的电子计算机硬件仍有很大的局限性，要模拟人的信息处理能力还很困难。因此，需要研究一种新的“软处理”“软计算”的理论方法和技术，来弥补电子计算机硬件系统的不足。在此背景下，智能信息处理技术被提出并得到了广泛的研究和发展。

1. 什么是智能信息处理

智能信息处理是模拟人与自然界其他生物处理信息的行为，建立处理复杂系统信息的理论、算法和系统的方法及技术。智能信息处理主要面对的是不确定性系统和不确定性现象的处理问题。

现阶段信息处理技术领域呈现两种发展趋势： 一种是面向大规模、多介质的信息，使计算机系统具备处理更大范围信息的能力； 另一种是与人工智能进一步结合，使计算机系统更智能化地处理信息。

2. 智能信息处理技术内容

智能信息处理技术所涉及的内容广泛，包括图像处理、人工智能、计算智能、数据挖掘、数据融合、模式识别、数据可视化等。从目前的发展趋势来看，又以计算智能为重点。计算智能是在人工智能基础上发展形成的一种新的智能技术。

1.1.2人工智能概述

1. 智能

智能可以认为是知识和智力的总和，知识是一切智能行为的基础，而智力是获取知识并运用知识求解问题的能力，即在任意给定的环境和目标的条件下，正确制定决策和实现目标的能力。

智能具有如下特征：

(1) 感知能力： 感知是获取外部信息的基本途径。

(2) 记忆和思维能力： 记忆用于存储由感觉器官感知到的外部信息，以及由思维所产生的知识； 思维用于对记忆的信息进行处理，它是一个动态的过程，是获取知识以及运用知识求解问题的根本途径。

(3) 学习能力和自适应能力： 通过学习积累知识，适应环境的变化。

(4) 行为能力： 可用作信息的输出。

2. 人工智能

人工智能(Artificial Intelligence，AI)是人们使机器具有类似于人的智能，或者说是人类智能在机器上的模拟。如今，人工智能已经成为一门专门研究如何构造智能机器或智能系统，使其能够模拟、延伸、扩展人类智能的学科，并且该学科在社会生产生活的诸多方面发挥着越来越大的作用。下面将从AI学科的发展、AI主要的研究学派和研究方法，以及AI研究内容和应用领域这三个方面简要地阐述人工智能的基本理论。

1.1.3AI的发展

人工智能是在1956年作为一门新兴学科的名称被正式提出的，回顾它的发展历史可以归结为孕育、形成和发展三个阶段。

1. 孕育阶段

按时间来划分，主要指1956年之前，此阶段对人工智能的产生和发展有重大影响的主要研究和贡献有：

(1) 英国哲学家培根(F.Bacon， 1561—1626)曾系统地提出了归纳法，这对于研究人类的思维过程，以及自20世纪70年代人工智能转向以知识为中心的研究都产生了重要影响。

(2) 英国逻辑学家布尔(G.Boole，1815—1864)创立的布尔代数，他在《逻辑法则》一书中首次用符号语言描述了思维活动的基本推理法则。

(3) 英国数学家图灵在1936年提出了一种理想计算机数学模型，即图灵机，为后来电子数字计算机的问世奠定了理论基础。

(4) 1943年，美国人麦克洛奇(W.McCulloch)和皮兹(W.Pitts)建成了第一个神经网络模型(MP模型)，为人工神经网络的研究奠定了基础。

(5) 1946年，美国数学家莫奇利(J.W.Mauchly)和埃克特(J.P.Eckert)研制了世界上第一台数字计算机ENIAC， 这为人工智能的研究奠定了物质基础。

2. 形成阶段

1956年夏天，在达特茅斯(Dartmouth)学院召开了一次关于机器智能的研讨会，这是一次具有历史意义的重要会议，它标志着人工智能作为一门新兴学科的诞生。会上正式采用了“人工智能”这一术语，用它来代表有关机器智能这一研究方向。在此后的10多年里，即1956—1969年，人工智能的研究取得了许多引人瞩目的成就：

(1) 在机器学习方面，塞缪尔于1956年研制出跳棋程序。

(2) 在定理证明方面，数理逻辑学家王浩于1958年在IBM_704计算机上用3~5min证明了《数学原理》中有关命题演算的全部定理； 1965年鲁滨逊提出了消解原理，为定理的机器证明做出了突破性的贡献。

(3) 在模式识别方面，1959年塞尔夫里奇推出了一个模式识别程序，1965年罗伯特编写出可以分辨积木构造的程序。

(4) 在问题求解方面，1960年纽厄尔等人通过心理学试验总结出人们求解问题的思维规律，编写出通用问题求解程序GPS，可以用来求解11种不同类型的问题。

(5) 在人工智能语言方面，1960年麦卡锡开发出了人工智能语言LISP，成为构建智能系统的重要工具。

(6) 在专家系统方面，美国的费根鲍姆研制出DENDRAL系统，为以后专家系统的建立奠定了基础，促进了人工智能的发展。

(7) 1969年，国际人工智能联合会议(International Joint Conference on Artificial Intelligence，IJCAI)成立，标志着人工智能这一新兴学科得到了世界的公认。

3. 发展阶段

从1970年至今，可以作为AI的发展阶段，在这一时期的重大贡献和成果如下：

(1) 1970年创刊了国际性人工智能杂志，它对推动人工智能的发展、促进研究者之间的交流起到了重要作用。

(2) 专家系统的研究在多个领域中都取得了重大突破，比较著名的有地质勘探专家系统PROSPECTOR，以及医疗专家系统MYCIN。

(3) 专家系统的成功，使人们越来越清楚地认识到知识是智能的基础，对人工智能的研究以知识为中心来进行，随着对知识的表示、利用、获取等的研究取得了较大进展，特别是对不确定性知识的表示和推理取得了突破，建立了主观Bayes理论、证据理论等。

前言

随着社会的进步，在科学研究和工程实践中遇到的问题正变得越来越复杂，采用传统的信息处理方法来解决这些问题面临着计算复杂度高、计算时间长等问题，传统算法根本无法在可以接受的时间内求出精确解。因此，为了在求解时间和求解精度上取得平衡，科研工作者们提出了很多具有启发式特征的计算智能算法。这些算法通过模拟大自然和人类的智慧实现对问题的优化求解，即在可接受的时间内求解出可以接受的解。

计算智能是智能信息处理的核心技术，作为一门新兴的交叉学科，与人工智能、生命科学、自动控制、计算机科学、应用数学、生物工程、系统工程等有着密切的联系。计算智能因其智能性、并行性和健壮性，具有很好的自适应能力和很强的全局搜索能力，得到了众多研究者的广泛关注，目前已经在算法理论和算法性能方面取得了很多突破性的成果，在科学研究和生产实践中发挥了重要的作用。

本书内容包括神经计算、进化计算、模糊计算、数据融合、禁忌搜索算法、模拟退火算法、蚁群算法以及粒子群优化算法等内容以及相关技术的应用实例。本书共分为6章。第1章是智能信息处理技术绪论，主要介绍智能信息处理技术的产生与发展、人工智能与计算智能的特点与发展历程以及计算智能技术的集成； 第2章是神经计算，主要介绍前馈型神经网络、反馈型神经网络、RBF神经网络、自组织神经网络以及模糊神经网络等方法的基本原理与相关应用实例； 第3章是进化计算，主要介绍进化计算的一般框架与特点、遗传算法、进化规划、进化策略等内容与相关实例； 第4章是模糊计算，主要介绍知识表示和推理、模糊理论、模糊集合、模糊关系以及模糊信息处理等内容与应用实例； 第5章是数据融合，主要介绍数据融合基本概念、数据融合主要技术、数据融合主要结构、数据融合关联技术以及卡尔曼滤波等内容和应用实例； 第6章是常见的智能优化算法，主要介绍禁忌搜索算法、模拟退火算法、蚁群算法以及粒子群优化算法等方法的原理与应用实例。

本书由蒋海峰、王宝华编著。课题组的张曼、王冰冰、李铭等参与了本书部分章节内容的编写、图表的绘制、文字段落的排版以及对书中实例进行验证等工作，邱蕴锋、王振益、邹德龙等参与了前期讨论以及提纲制定，对他们的付出与努力表示感谢。此外，本书参考和引用了一些论文和书籍资料，在此向相关作者一并表示感谢。

智能信息处理技术是一门新兴交叉技术，许多理论方法和技术问题仍需进一步研究与完善。限于作者对智能信息处理技术的认识水平，书中难免存在缺点与不足，希望得到广大读者的批评指正。

作者

2019年1月