人工神经网络大全11篇

时间:2022-06-02 19:51:55

绪论:写作既是个人情感的抒发,也是对学术真理的探索,欢迎阅读由发表云整理的11篇人工神经网络范文,希望它们能为您的写作提供参考和启发。

篇(1)

1.2GRACE数据本文采用的GRACE重力卫星数据是由美国德克萨斯大学空间研究中心提供的高精度Level-2RL05版本的GRACE重力场前60阶球谐系数(2005年1月~2010年12月)[12].在此基础上,根据Blewitt[13,14]、Wahr[15]的结果推导由GRACE时变重力资料解算的陆地水储量,如公式(1)所示。

1.3CPC水文模型数据研究表明,地表水储量可以忽略[7],所以研究区陆地水储量变化可以用式(2)表示。示土壤水分引起的陆地水储量变化,来自CPC水文模型.通过式(2)可获得地下水储量的变化值.以BJFS台站为例,如图1所示,绿色线表示GRACE解算的陆地水储量,红色线表示CPC水文模型解算的土壤水储量,蓝色线为地下水储量.由于GRACE解算的陆地水储量在解算过程中扣除了背景场的影响,因此本文对72个月的降水量、地下水埋深以及GPS测站的地表形变数据做同样的处理.

2研究方法

2.1人工神经网络算法原理BP神经网络是一种多层前馈神经网络,该网络的主要特点是信号前向传递,误差反向传递.在前向传递过程中,输入信号从输入层经隐含层逐层处理,直至输出层.每一层的神经元状态只影响到下一层神经元状态.若输出层不能满足期望的输出要求,则转入反向传播,根据预测误差调整网络权值和阈值,从而使得BP神经网络预测输出不断逼近期望输出[16].其拓扑结构如图2所示.X1,X2,…,Xn是BP神经网络的输入值,Y1,Y2,…,Ym是BP神经网络的预测值,ωij和ωjk为BP神经网络权值.

2.2基于BP神经网络的地表垂直负荷形变量模拟

2.2.1指标选取地表负荷形变是由地表流体质量(包括大气、陆地水等)重新分布引起的不同尺度变化.因此将GRACE解算的水储量作为一个输入因子.此外,分析华北平原地表负荷形变的成因,认为地下水超采对该区的地表负荷形变有一定影响.为此将地下水埋深作为BP神经网络模型的一个输入因子.降水量与地表负荷形变量间存在一定关系,一方面降水的增多会相对减少对地下水的开采,另一方面在降水过程中浅层黏性土吸水后表现出一定的膨胀性,因此将历年的降水量也作为一个输入因素[17].为了探求不同水储量作为输入因子时模型的模拟精度,本文结合来自CPC水文模型的土壤水储量,将解算出的地下水储量作为另一个输入因子.

2.2.2样本训练与网络设置为消除网络输入、输出变量的量级、量纲不同对网络识别精度的影响,对各个变量进行归一化处理。上式中:P为原始输入数据,Pmin,Pmax分别为原始数据的最小值和最大值,Pn为归一化后的数据.隐含层采用正切Sigmoid函数,输出层采用Purelin函数,训练函数采用贝叶斯正则化算法.网络的主要参数训练目标goal=0.001,学习率为0.05,性能函数采用msg均方误差函数.

3结果与讨论

3.1模型精度验证

3.1.1样本训练精度运行建立的人工神经网络模型,训练21次达到训练目标.R2平均值为0.892,说明模型训练精度较高.如图3所示为将陆地水储量作为输入因子训练网络后的5个台站模拟结果.图中蓝色线为GPS台站的实际观测形变量,红色虚线为用人工神经网络模拟出来的型变量.

3.1.2模型模拟精度由于地表垂直负荷形变实际观测结果与拟合结果均为等间隔的月尺度数据且没有明显规律,因此采取后验差检验法对模型进行精度分析。采用后验差检验法对结果进行精度分析,检验结果如表2所示,5个台站后验差比值C<0.5,小误差概率P>0.80,R2平均值为0.806,依据预测等级表,网络模型精度较高.

3.2不同水储量输入对精度的影响将不同水储量输出的15组模拟结果进行后验差检验,结果如表3、图4(以BJSH为例)所示,当以陆地水储量(TWS)作为输入时,5个台站的后验差比值C<0.5,小误差概率P>0.80,R2为0.901,相关性较好,模型模拟精度较高.当以地下水储量(GWS)和土壤水储量(SWS)作为输入时,均方差C>0.65,小误差概率减小,R2为0.555和0.290,模拟精度属于勉强.说明在利用人工神经网络模拟地表负荷形变量时,陆地水储量作为模型输入因子时模型模拟效果最好,地下水储量对地表负荷形变的影响比土壤水储量大.

篇(2)

一、前言

人工神经网络是一个多科学、综合性的研究领域,它是根据仿生学模拟人体大脑结构和运行机制构造的非线性动力学系统[1]。神经网络可以看作是一种具有自组织、自学习能力的智能机器,它能模仿人的学习过程,通过给网络各种范例,把网络的实际输出与希望输出比较,根据偏差修改节点间的连接权,直到获得满意的输出。现已广泛应用于经济学、军事学、材料学、医学、生物学等领域。

化工过程一般比较复杂, 对象特性多变、间歇或半连续生产过程多,具有严重非线性特性。因此,其模型化问题一直是研究的热点。化工生产过程的数据或实验室实验数据的拟台、分析,是优化过程或优化反应条件的基础一般被处理的数据可以分为二类:静态数据(static data)和动态数据(Dynamic data),对于静态数据的关联,神经网络是一种很有希望的“经验模型”拟合工具。动态过程数据具有系统随时间而变化的特征,操作参数和产物的产量和质量之间的关系更为复杂。处理和分析动态过程数据的方法除了常用的在物料衡算、能量衡算、反应动力学方程、相平衡等基础上建立数学模型(Mathematical Models)、数理统计(Statistical Analysis)等方法外,用神经网络拟合动态过程数据, 建立动态过程模型, 往往能从动态数据提供的模式中提取较为有用的信息,对过程进行预测、故障诊断,从而使过程得到优化。因此,神经网络以其强大的函数映射能力, 已经广泛用于化工过程非线性系统建模领域。 它能够通过输入输出数据对过程进行有效地学习,为化工过程的综合发展提供了一种先进的技术手段。

二、人工神经网络简介

人工神经网络(英文缩写为ANN)简称神经网络,是在生物学和现代神经科学研究的基础上,对人类大脑的结构和功能进行简化模仿而形成的新型信息处理系统[2,3]。由“神经元”(neurons)或节点组成。至少含有输入层、一个隐含层以及一个输出层。输入层—从外部接受信息并将此信息传入人工神经网络,以便进行处理;隐含层—接收输入层的信息,对所有信息进行处理;输出层—接收人工神经网络处理后的信息,将结果送到外部接受器。当输入层从外部收到信息时,它将被激活,并将信号传递到它的近邻这些近邻从输入层接收到激活信号后,依次将其输出到它们的近邻,所得到的结果在输出层以激活模式表现。

神经网络可以看作是一种具有自组织、自学习能力的智能机器,它能模仿人的学习过程。比如,一个复杂化工装置的操作工人,开始学习操作时,由于没有经验,难以保证控制质量。但经过一段时间学习后,他就能逐步提高技能。神经网络正是模拟人类学习过程,通过给网络各种范例,把网络的实际输出与希望输出比较,根据偏差修改节点间的连接权,直到获得满意的输出。人工神经网络研究工作可分成 3个大方向:(1)探求人脑神经网络的生物结构和机制,这实际上是研究神经网络理论的初衷;(2)用微电子或光学器件形成有一定功能的网络,这主要是新一代计算机制造领域所关注的问题;(3)将人工神经网络作为一种解决问题的手段和方法,而这类问题用传统方法无法解决或在具体处理技术上尚存在困难。

三、神经网络在化工中的应用

1.故障诊断

当系统的某个环节发生故障时,若不及时处理,就可能引起故障扩大并导致重大事故的发生。因此建立高效的、准确的实时故障检测和诊断系统,消除故障隐患,及时排除故障,确保安全、平稳、优质的生产,已成为整个生产过程的关键所在。神经网络是模仿和延伸人脑智能、思维、意识等功能的非显形自适应动力学系统,其所具有的学习算法能使其对事物和环境具有很强的自学习、自适应和自组织能力。神经网络用于故障诊断和校正不必建立严格的系统公式或其它数学模型,经数据样本训练后可准确、有效地侦破和识别过失误差,同时校正测量数据中的随机误差。与直接应用非线性规划的校正方法相比,神经网络的计算速度快,在化工过程的实时数据校正方面具有明显的优势。目前应用于故障诊断的网络类型主要有:BP网络、RBF网络、自适应网络等。

Rengaswamy[4]等人把神经网络用在化工过程的初始故障预测和诊断( FDD)中,提出一种神经网络构架,利用速度训练在分类设计中明确引入时间和过程模型映像的在线更新三个要素,来解决化工过程中的初始故障诊断问题。国内也有关于神经网络用于故障诊断的报道,黄道[5]等人以TE (Tenneaaee Eastman,Eastman化学公司开发的过程模拟器,提供了一个实际工业过程的仿真平台,是一种国际上通用的标准仿真模型)模型为背景,根据模型的特点进行了故障诊断。当输入变量接近训练过的样本时,诊断的成功率可达100%。另外,模糊神经元网络作为一种更接近人脑思维的网格,也是解决此类问题的一个发展方向。李宏光[6]等人就针对化工非线性过程建模问题, 提出了由函数逼近和规则推理网络构成的模糊神经网络,其规则网络基于过程先验知识用于对操作区间的划分,而函数网络采用改进型模糊神经网络结构完成非线性函数逼近,并将该技术应用于工业尿素 CO2汽提塔液位建模。

2.化工过程控制

随着神经网络研究的不断深入,其越来越多地应用于控制领域的各个方面,从过程控制、机器人控制、生产制造、模式识别直到决策支持神经网络都有应用。神经网络可以成功地建立流程和控制参数问的非线性关系及构造相关的数学模型,并可跟踪瞬息过程及具有稳健功能等,因此可有效地用于化工过程最优化和控制。

1986年,Rumelhart第一次将ANN用于控制界。神经元网络用于控制有两种方法,一种用来构造模型,主要利用对象的先验信息,经过误差校正反馈,修正网络权值,最终得到具有因果关系的函数,实现状态估计,进而推断控制;另一种直接充当控制器,就像PID控制器那样进行实时控制。神经元网络用于控制,不仅能处理精确知识,也能处理模糊信息。Tsen[7]等利用混合神经网络实现对乙酸乙烯酯(VA)的乳液聚合过程的预测控制。原有的该间歇过程的复杂的机理模型可对单体转化率做出较准确的预测,然而对产品性质(如数均相对分子质量及其分布)的预测不太可靠。所建的混合型神经网络模型用于实现过程的反馈预测控制。国内对神经网络的实质性研究相对较晚,谭民[8]在1990年提出了一种基于神经网络双向联想机制的控制系统故障诊断方法,并且作了仿真验证。清华大学自动化系则开发了一种基于时序神经网络的故障预报方法,利用工艺现场数据对大型氯碱厂的氯气中含氢气的问题进行了模拟预报实验。

3.药物释放预测

建立精确的缓释微胶囊模型是找出最优的工艺条件及掌握芯材释放规律的重要一步。缓释微胶囊的性能与影响因素之间足一种多输入、多输出、复杂的非线性关系。机理分析法和传统的系统辨识法对输入、多输出问题适应性差,过分依赖研究领域的知识与经验,难以得到实用的缓释微胶囊模型。人工神经网络能够很好地解决传统方法不能解决的具有高度非线性、耦合性、多变量性系统的建模问题并具有独特的优势。

赵武奇[9]等人建立了红景天苷缓释微囊的人工神经网络模型及其遗传算法优化技术,用神经网络模型描述了微囊制作参数与性能之间的关系,并用遗传算法优化微囊制作工艺参数,设计出性能最佳的微囊制作工艺参数。范彩霞[10]等人以难溶性药物氟比洛芬为模型药物,制备了17个处方并进行释放度检查。氟比洛芬和转速作为自变量,取其中l4个处方为训练处方,其余3个处方为验证处方,将自变量作为人工神经网络的输入,药物在各个取样时间点的释放为输出,采用剔除一点交叉验证法建立了人工神经网络模型。并通过线性回归和相似因子法比较人工神经网络和基于二元二项式的响应面法的预测能力,显示了人工神经网络的预测值与实测值的接近程度。

4.物性估算

用神经网络来解决估算物质的性质必须解决三个基本问题,第一个是对物质的表征问题;第二个是采用何种神经网络及其算法问题;第三个是神经网络输入与输出数据的归一化问题。无论采用哪种方法对数据进行处理,当用经过训练的神经网络进行物性估计时,不能将网络直接的输出值作为物性预估值,而是要将输出值再乘上一个系数,这个系数就是前面进行归一化处理时对数据的除数,相乘后得到的值作为物性估算值。神经网络用于物性估算,目前采用的就是BP网络或在此基础上的各种改进形式。常压沸点进行估算和研究。Prasad[11]等人利用神经网络对有机化合物的物理性质进行了预测,并与传统的基团贡献法比较,可以得到更为准确的物性参数。而后,董新法、方利国[12]等人将神经网络在物性估算中的应用作了一个全面而又简要的讲解,并提出神经网络在物性估算中潜在的应用前景,为其发展及其以后的应用研究提供了很好的工作平台。

目前,人工神经网络在各个领域中的应用都在向人工智能方向发展。不断丰富基础理论和开展应用研究、完善其技术的可靠性、开发智能性化工优化专家系统软件,对于我国的化工发展具有重要意义。此外,模糊理论、小波变换、统计学方法和分形技术等信息处理方法和理论与神经网络的结合解决化工类问题,被认为是一种发展趋势。

参考文献

[1]高大文,王鹏,蔡臻超.人工神经网络中隐含层节点与训练次数的优化[J].哈尔滨工业大学学报, 2003, 35(2): 207-209.

[2]苏碧瑶.人工神经网络的优化方法[J]. 科技资讯, 2011(30): 239-240.

[3]黄忠明, 吴志红, 刘全喜. 几种用于非线性函数逼近的神经网络方法研究[J]. 兵工自动化,2009, 28(10): 88-92.

[4]Rengaswamy R, Venkatasubramanian V. A fast training neural network and its updation for incipient fault detection and diagnosis[J].Computers and Chemical Engineering, 2000,(24): 431-437.

[5]黄道, 宋欣.神经网络在化工过程故障诊断中的应用[J].控制工程,2006,(13): 6-9.

[6]李宏光,何谦.化工过程建模中的一类复合型模糊神经网络[J]. 计算机与应用化学,2000,17(5): 399-402.

[7]Tsen A D, Shi S J, Wong D SH, etal. Predictive Control of Quality in Batch Polymerization Using a Hybrid Artificial Neural Network Model[J]. AIChE Journal,1996, 42(2): 455-465.

[8]谭民, 疏松桂. 基于神经元网络的控制系统故障诊断[J]. 控制与决策, 1990(1): 60-62.

[9]赵武奇, 殷涌光, 仇农学. 基于神经网络和遗传算法的红景天苷缓释微囊制备过程建模与优化[J]. 西北农林科技大学学报(自然科学版), 2006,34(11): 106-110.

[10] 范彩霞, 梁文权, 陈志喜. 人工神经网络预测氟比洛芬HPMC缓释片的药物释放[J]. 中国医药工业杂志, 2006, 37(10): 685-688.

篇(3)

经训练的ANN适用于利用分析振动数据对机器进行监控和故障检测,预测某些部件的疲劳寿命[2]。非线形神经网络补偿和鲁棒控制综合方法的应用(其鲁棒控制利用了变结构控制或滑动模控制),在实时工业控制执行程序中较为有效[3]。人工神经网络(ANN)和模糊逻辑(FuzzyLogic)的综合,实现了电动机故障检测的启发式推理。对非线形问题,可通过ANN的BP算法学习正常运行例子调整内部权值来准确求解[4]。

因此,对于电力系统这个存在着大量非线性的复杂大系统来讲,ANN理论在电力系统中的应用具有很大的潜力,目前已涉及到如暂态,动稳分析,负荷预报,机组最优组合,警报处理与故障诊断,配电网线损计算,发电规划,经济运行及电力系统控制等方面[5]。

本文介绍了一种基于人工神经网络(ANN)理论的保护原理。

1、人工神经网络理论概述

BP算法是一种监控学习技巧,它通过比较输出单元的真实输出和希望值之间的差别,调整网络路径的权值,以使下一次在相同的输入下,网络的输出接近于希望值。

在神经网络投运前,就应用大量的数据,包括正常运行的、不正常运行的,作为其训练内容,以一定的输入和期望的输出通过BP算法去不断修改网络的权值。在投运后,还可根据现场的特定情况进行现场学习,以扩充ANN内存知识量。从算法原理看,并行处理能力和非线是BP算法的一大优点。

2、神经网络型继电保护

神经网络理论的保护装置,可判别更复杂的模式,其因果关系是更复杂的、非线性的、模糊的、动态的和非平稳随机的。它是神经网络(ANN)与专家系统(ES)融为一体的神经网络专家系统,其中,ANN是数值的、联想的、自组织的、仿生的方式,ES是认知的和启发式的。

文献[1]认为全波数据窗建立的神经网络在准确性方面优于利用半波数据窗建立的神经网络,因此保护应选用全波数据窗。

ANN保护装置出厂后,还可以在投运单位如网调、省调实验室内进行学习,学习内容针对该省的保护的特别要求进行(如反措)。到现场,还可根据该站的干扰情况进行反误动、反拒动学习,特别是一些常出现波形间断的变电站内的高频保护。

3、结论

本文基于现代控制技术提出了人工神经网络理论的保护构想。神经网络软件的反应速度比纯数字计算软件快几十倍以上,这样,在相同的动作时间下,可以大大提高保护运算次数,以实现在时间上即次数上提高冗余度。

一套完整的ANN保护是需要有很多输入量的,如果对某套保护来说,区内、区外故障时其输入信号几乎相同,则很难以此作为训练样本训练保护,而每套保护都增多输入量,必然会使保护、二次接线复杂化。变电站综合自动化也许是解决该问题的一个较好方法,各套保护通过总线联网,交换信息,充分利用ANN的并行处理功能,每套保护均对其它线路信息进行加工,以此综合得出动作判据。每套保护可把每次录得的数据文件,加上对其动作正确性与否的判断,作为本身的训练内容,因为即使有时人工分析也不能区分哪些数据特征能使保护不正确动作,特别是高频模拟量。

神经网络的硬件芯片现在仍很昂贵,但技术成熟时,应利用硬件实现现在的软件功能。另外,神经网络的并行处理和信息分布存储机制还不十分清楚,如何选择的网络结构还没有充分的理论依据。所有这些都有待于对神经网络基本理论进行深入的研究,以形成完善的理论体系,创造出更适合于实际应用的新型网络及学习算法[5]。

参考文献

1、陈炳华。采用模式识别(智能型)的保护装置的设想。中国电机工程学会第五届全国继电保护学术会议,[会址不详],1993

2、RobertE.Uhrig.ApplicationofArtificialNeuralNetworksinIndustrialTechnology.IEEETrans,1994,10(3)。(1):371~377

篇(4)

中图分类号:TP183 文献标识码:A 文章编号:1671-7597(2014)12-0003-01

随着科学技术的发展,各个行业和领域都在进行人工智能化的研究工作,已经成为专家学者研究的热点。人工神经网络就是在人工智能基础上发展而来的重要分支,对人工智能的发展具有重要的促进作用。人工神经网络从形成之初发展至今,经历了不同的发展阶段,并且在经济、生物、医学等领域得到了广泛的应用,解决了许多技术上的难题。

1人工神经网络概述

关于人工神经网络,到目前为止还没有一个得到广泛认可的统一定义,综合各专家学者的观点可以将人工神经网络简单的概括为是模仿人脑的结构和功能的计算机信息处理系统[1]。人工神经网络具有自身的发展特性,其具有很强的并行结构以及并行处理的能力,在实时和动态控制时能够起到很好的作用;人工神经网络具有非线性映射的特性,对处理非线性控制的问题时能给予一定的帮助;人工神经网络可以通过训练掌握数据归纳和处理的能力,因此在数学模型等难以处理时对问题进行解决;人工神经网络的适应性和集成性很强,能够适应不同规模的信息处理和大规模集成数据的处理与控制;人工神经网络不但在软件技术上比较成熟,而且近年来在硬件方面也得到了较大发展,提高了人工神经网络系统的信息处理能力。

2人工神经网络的发展历程

2.1 萌芽时期

在20世纪40年代,生物学家McCulloch与数学家Pitts共同发表文章,第一次提出了关于神经元的模型M-P模型,这一理论的提出为神经网络模型的研究和开发奠定了基础,在此基础上人工神经网络研究逐渐展开。1951年,心理学家Hebb提出了关于连接权数值强化的法则,为神经网络的学习功能开发进行了铺垫。之后生物学家Eccles通过实验证实了突触的真实分流,为神经网络研究突触的模拟功能提供了真实的模型基础以及生物学的依据[2]。随后,出现了能够模拟行为以及条件反射的处理机和自适应线性网络模型,提高了人工神经网络的速度和精准度。这一系列研究成果的出现为人工神经网络的形成和发展提供了可能。

2.2 低谷时期

在人工神经网络形成的初期,人们只是热衷于对它的研究,却对其自身的局限进行了忽视。Minskyh和Papert通过多年对神经网络的研究,在1969年对之前所取得的研究成果提出了质疑,认为当前研究出的神经网络只合适处理比较简单的线性问题,对于非线性问题以及多层网络问题却无法解决。由于他们的质疑,使神经网络的发展进入了低谷时期,但是在这一时期,专家和学者也并没有停止对神经网络的研究,针对他们的质疑也得出一些相应的研究成果。

2.3 复兴时期

美国的物理学家Hopfield在1982年提出了新的神经网络模型,并通过实验证明在满足一定的条件时,神经网络是能够达到稳定的状态的。通过他的研究和带动,众多专家学者又重新开始了对人工神经网络方面的研究,推动了神经网络的再一次发展[3]。经过专家学者的不断努力,提出了各种不同的人工神经网络的模型,神经网络理论研究不断深化,新的理论和方法层出不穷,使神经网络的研究和应用进入了一个崭新的时期。

2.4 稳步发展时期

随着人工神经网络研究在世界范围内的再次兴起,我国也迎来了相关理论研究的热潮,在人工神经网络和计算机技术方面取得了突破性的进展。到20世纪90年代时,国内对于神经网络领域的研究得到了进一步的完善和发展,而且能够利用神经网络对非线性的系统控制问题进行解决,研究成果显著。随着各类人工神经网络的相关刊物的创建和相关学术会议的召开,我国人工神经网络的研究和应用条件逐步改善,得到了国际的关注。

随着人工神经网络的稳步发展,逐渐建立了光学神经网络系统,利用光学的强大功能,提高了人工神经网络的学习能力和自适应能力。对非线性动态系统的控制问题,采取有效措施,提高超平面的光滑性,对其精度进行改进。之后有专家提出了关于人工神经网络的抽取算法,虽然保证了精度,但也加大了消耗,在一定程度上降低了神经网络的效率,因此在此基础上又提出了改进算法FERNN。混沌神经网络的发展也得到了相应的进步,提高了神经网络的泛化能力。

3人工神经网络的应用

3.1 在信息领域中的应用

人工神经网络在信息领域中的应用主要体现在信息处理和模式识别两个方面。由于科技的发展,当代信息处理工作越来越复杂,利用人工神经网络系统可以对人的思维进行模仿甚至是替代,面对问题自动诊断和解决,能够轻松解决许多传统方法无法解决的问题,在军事信息处理中的应用极为广泛[4]。模式识别是对事物表象的各种信息进行整理和分析,对事物进行辨别和解释的一个过程,这样对信息进行处理的过程与人类大脑的思维方式很相像。模式识别的方法可以分为两种,一种是统计模式识别,还有一种是结构模式识别,在语音识别和指纹识别等方面得到了广泛的应用。

3.2 在医学领域的应用

人工神经网络对于非线性问题处理十分有效,而人体的构成和疾病形成的原因十分复杂,具有不可预测性,在生物信号的表现形式和变化规律上也很难掌握,信息检测和分析等诸多方面都存在着复杂的非线性联系,所以应用人工神经网络决解这些非线性问题具有特殊意义[5]。目前,在医学领域中的应用涉及到理论和临床的各个方面,最主要的是生物信号的检测和自动分析以及专家系统等方面的应用。

3.3 在经济领域中的应用

经济领域中的商品价格、供需关系、风险系数等方面的信息构成也十分复杂且变幻莫测,人工神经网络可以对不完整的信息以及模糊不确定的信息进行简单明了的处理,与传统的经济统计方法相比具有其无法比拟的优势,数据分析的稳定性和可靠性更强。

3.4 在其他领域的应用

人工神经网络在控制领域、交通领域、心理学领域等方面都有很广泛的应用,能够对高难度的非线性问题进行处理,对交通运输方面进行集成式的管理,以其高适应性和优秀的模拟性能解决了许多传统方法无法解决的问题,促进了各个领域的快速发展。

4总结

随着科技的发展,人工智能系统将进入更加高级的发展阶段,人工神经网络也将得到更快的发展和更加广泛的应用。人工神经网络也许无法完全对人脑进行取代,但是其特有的非线性信息处理能力解决了许多人工无法解决的问题,在智能系统的各个领域中得到成功应用,今后的发展趋势将向着更加智能和集成的方向发展。

参考文献

[1]徐用懋,冯恩波.人工神经网络的发展及其在控制中的应用[J].化工进展,1993(5):8-12,20.

[2]汤素丽,罗宇锋.人工神经网络技术的发展与应用[J].电脑开发与应用,2009(10):59-61.

篇(5)

引言

林分材种出材率是林分调查工作的重要指标,它可以进一步评价森林木材资源的经济价值,而研究森林木材,又可以合理正确的经营森林资源,达到人与自然和谐相处的目的。林分林种出材率就是原木材积于立木材积之比,我国现行的森林采伐限额制度、查处乱砍滥伐林木案件、制订林业发展规划、计划和编制森林经营方案、预测和计算、开展森林资源资产评估等等,都需掌握积蓄量和材种的出材率的指标。我国已经不断学习借鉴前苏联的先进技术编制自己的材种出材率表了,随着我国天然林保护工程的全面实施和林业分类经营的逐步推行,人工商品林比例的不断提高,我国森林结构和性质也有所变化,所以传统的统计学以难以解决很多问题,运用人工神经网络在林业生成与运用则是一个不二之选的方法,对林业的发展也有很大的理论价值和推广意义。

人工神经网络(Artificial Neural Network-ANN),简称“神经网络”,是由大量处理单元过极其丰富和完善的互联组成的非线性、自适应信息处理系统。它的提出是基于现代神经科学研究成果上,以模拟大脑神经网络处理、记忆信息的方式进行信息处理。涉及学科较多,较为广泛。

1 研究内容和方法

平均树高,平均胸径,林种年龄,立地质量,积蓄量,保留密度等等因素都会影响林分材种出材率,而林分林种出材率具有非线性和非确定性的因素,一般采用统计分析方法进行预测采样,需要大量的林木样本元素,模型涉及的许多参数无法或很难有较高的精确度。

人工神经网络(Artificial Neural Network)具有非线性,非局限性,自适应,自组织,自学习的特征,相较于传统的统计学方法,不同之处在于它的容错性和储存量,通过单元之间的相互作用,相互连接能模拟大脑的局限性。ANN的独到之处,也使得人们注意了ANN,并且广泛的应用于各种学科之中,如心理学,逻辑学,数学模型,遗传算法,语音识别,智能控制等等。当然,运用人工神经网络对林分林种出材率进行预测也同样具有很好的效果与实现。

研究主要完成,通过对数据的采样和分析处理,对神经网路预测模型的结构,参数进行优化,再应用到林分材种出材率的预测中。以c++程序设计为设计平台,运用人工神经网络中的BP算法,分析各隐含层神经元的数量,训练的次数,隐含层函数,样本数量,进行优化建立林分材种出材率的预测模型。

1.1BP人工神经网络

BP(Back-Propagation Network)神经网络是一种以误差逆传播算法(BP)训练的多层前馈网络,目前应用较为广泛的神经网络模型之一。BP神经网络能学习和存贮多个输入-输出模式映射关系,而且无需事前对这种映射关系的数学方程进行描述。它通过不断反向传播来调整神经网络的权值和阈值,使神经网络的误差平方和最小。BP神经网络模型拓扑结构由三层组成分别是输入层(input)、隐层(hidelaver)和输出层(output layer)。

BP人工神经网络主要以标准BP算法为主,而标准BP算法有存在许多问题,由于是非线性梯度优化算法,就会存在局部极小值问题,使得精确度受限;算法迭代系数过多,使得学习率降低,收敛速度降低;网络对初始化的值存在发散和麻痹;隐节点不确定性的选取。所以引进了几种BP算法:动量BP算法、学习速率可变的BP算法和LM算法(Levenberg-Marquardt)。动量BP算法以上一次修正结果来影响本次的修正,动量因子越大,梯度的动量就越大。学习效率可变的BP算法怎是力求算法的稳定,减小误差。为了在近似二阶训练速率进行修正时避免计算HeSSian矩阵,选择LM算法。所以为了神经网络计算的速度与精确度,所以运用不同的优化算法来改善BP网络中的局部极小值问题,提高收敛速度和避免了抖动性。

2 基于BP人工神经网络和林分材种出材率预测模型的建立

分析了大量的材种出材率的相关资料后,均有非线性的特征,对于模型的建立和预测,传统的识别系统在研究和实践中有很大的问题,而采用人工神经网络,不仅其特征是非线性,而且人工神经网络具有较为稳定的优越性,所以,对于林分材种出材率的预测和建立采用BP人工神经网络。

2.1建模工具

研究采用c++程序设计对数值的计算和预测,对模型进行编译和实现。c++语言是受到非常广泛应用的计算机编程语言,它支持过程化程序设计,面向对象程序设计等等程序设计风格。c++是一门独立的语言,在学习时,可以结合c语言的知识来学习,而c++又不依赖于c语言,所以我们可以不学c语言而直接学习C++。

用c++来模拟BP网络是相对较好的程序设计语言,以面向对象程序设计来设计和实现林分材种出材率的BP算法,直观而简洁。

2.2BP神经网络结构的确定

对于使用BP算法,关键在于隐含层层数和各层节点数。而神经元的输入输出又影响着隐含层层数,而对于BP万罗中的输入输出层是确定的,重点就在于隐含层层数,增加隐含层数可以提高网络的处理能力,是的训练复杂化,样本数目增加,收敛速度变慢等,而隐含层的节点数越多,可以提到其精确度。

研究过程中,多层隐含层会将训练复杂化,所以我们往往选择三层就够了,即一个输入层,一个隐含层,一个输出层的基本单层BP网络结构。最后确定以下四个神经元:平均树高、平均胸径、林种年龄、每公顷积蓄量作为输入单元。输出单元为林分材种出材率。

结论

篇(6)

1.围岩分类的判定依据

水工隧洞围岩工程地质分类应以控制围岩稳定的岩石强度、岩体完整程度、张开度、地下水力状态和主要结构面产状等五项因素综合评分为依据,围岩强度应力比为限定依据,见表1。

表1围岩工程地质分类依据

指标名称评价因素

岩石强度(A1)采用岩块的单轴抗压强度(MPa)

岩体完整程度(A2)采用完整性系数Kv

张开度(A3)考虑结构面的连续性、粗糙度和充填物

地下水状态(A4)考虑地下水的发育程度,用单位洞长单位时间的涌水量

主要结构面产状(A5)采用结构面走向与洞轴线的夹角

以上五个因素是控制围岩稳定性的主要因素,围岩的分类标准见表2。

表2围岩工程地质分类标准

评价因素围岩类别

Ⅰ(稳定)Ⅱ(基本稳定)Ⅲ(局部稳定性差)Ⅳ(不稳定)Ⅴ(极不稳定)

A1(MPa)>200100~20050~10025~50<25

A20.9~1.00.75~0.90.5~0.750.25~0.5<0.25

A3(mm)<0.50.5~11~33~5>5

A4(L/min·10m)<2525~5050~100100~125>125

A5(o)90~7575~6060~4545~30<30

2.水工隧洞围岩分类的人工神经网络模型

神经网络系统是由大量的、简单的处理单元广泛的互相连接而形成的复杂的网络系统。人工神经网络模型最基本的有两大类:一类是以Hopfield网络模型为代表的反馈型模型,它具有非线性和动态性;另一类是以多层感知器为基础的前馈模型。其中BP(BackPropagation)网络是目前应用最广泛的多层前馈神经网络模型。本文采用BP网络模型。

2.1BP神经网络模型及其算法

BP神经网络由输入层、隐含层和输出层三层感知器组成,每层由若干个神经元组成。输入层接受信息,传入到隐含层,经过作用函数后,再把隐结点的输出信号传到输出层输出结果。节点的作用函数选用Sigmoid函数,即:

(1)

BP神经网络采用误差逆传播反学习算法。学习过程由正向传播和反向传播组成。在正向传播过程中,输入信号由输入层经隐含层处理后传向输出层,每一层神经元的状态只影响下一层神经元的状态。如果在输出层得不到一个期望的输出,则转向反传播,将输出信号的误差按原来的连接通路返回,通过修改各层神经元的权值,使得误差信号最小,得到合适的网络连接权后,便可对新的样本进行识别。BP网络学习过程具体步骤如下:

(1)初始化,设置网络结构,赋初始权值;

(2)为网络提供一组学习样本,包括M个样本对(),输入向量,输出向量,n、m分别为输入层和输出层神经元个数,;

(3)对每个学习样本P进行(4)~(8);

(4)逐层正向计算网络各节点的实际输出:

(2)

其中,为神经元i、j之间的权值;为前层第i个神经元的实际输出,为式(1)给出的函数;

(5)计算网络输出误差:

第P个样本的输出误差为(3)

其中,,分别为输出层第j个神经元的期望输出和实际输出。

网络总误差为;(4)

(6)当E小于允许误差或达到指定迭代次数时,学习过程结束,否则进行误差逆向传播,转向(7);

(7)逆向逐层计算网络各节点误差:

对于输出层,(5)

对于隐含层,(6)

其中代表后层第个神经元。

(8)修正网络连接权:,其中为学习次数,为学习因子,值越大,产生的振荡越大。通常在权值修正公式中加入一个势态项,变成:

(7)

其中,a称为势态因子,它决定上次学习的权值变化对本次权值更新的影响程度。

2.2围岩分类的BP模型

在以表2中数据为基础进行网络训练前,须对表中指标作如下处理:Ⅰ、Ⅴ类对应的指标取其界限值或平均值;Ⅱ、Ⅲ、Ⅳ类对应的指标取其平均值。作上述处理后,可以得到网络训练模型的5个学习样本,如表3。

表3围岩类别识别模型的学习样本

类别样本类别A1A2A3A4A5

P1Ⅰ2000.950.52582.5

P2Ⅱ1500.8250.7537.567.5

P3Ⅲ750.62527552.5

P4Ⅳ37.50.3754112.537.5

P5Ⅴ250.25512530

以上表中5个类别样本作为神经网络的学习样本,在输入层和隐含层各设置一个特殊单元作为阈值单元,其值设为1。模型结构如下图1所示。

图1围岩类别分类的BP网络模型

设围岩类别为P1、P2、P3、P4、P5这5个类别样本的预期输出矢量,各分量定义为

网络训练时,当所有样本在网络输出节点的实际输出与网络期望输出之间的最大误差小于预先给定的常数,即时学习结束。

网络经过15000次训练,每个样本的网络输出与期望输出最大误差为0.2,绝大部分在0.1之内。应用训练后的BP模型划分新的围岩类别样本,等判定围岩类别样本W经网络变换后输出O与各期望输出比较,设,。

如果,则,,即隧洞围岩类别样本属于级。

3.沙湾隧洞的围岩分类应用实例

东深供水改造工程沙湾隧洞位于深圳市北东面内15公理处,区域地势东高西低。工程区域周围沉积岩、岩浆岩和变质岩三大岩类均有出露。隧洞线路地带分布的地层,除洞口沟谷部位为第四系松散堆积层外,其余均为侏罗系中统塘夏群碎屑岩,基本为单斜构造,但末端因受深圳断裂带影响,岩层产状较为紊乱,地质条件复杂多变。

隧洞开挖后,测得三种围岩地段的力学性质和环境条件,取三个样本为a、b、c。用BP人工神经网络判定该工程隧洞围岩类别。

根据水利水电工程地质勘察规范,隧洞围岩类别分为5级:Ⅰ(稳定)、Ⅱ(基本稳定)、Ⅲ(局部稳定性差)、Ⅳ(不稳定)、Ⅴ(极不稳定)。对照学习样本各特征变量,用训练好的BP模型对a、b、c三个样本进行判定,其结果见表4。

表4沙湾隧洞三组样本实测指标与围岩类别判定结果

指标名称实测指标值

abc

岩石强度(A1)2845100

岩体完整程度(A2)0.220.50.55

张开度(A3)341

地下水状态(A4)1208025

主要结构面产状(A5)305060

围岩类别判定结果ⅤⅣⅢ

4.结论

水工隧洞围岩类别判定,不仅影响因素多,而且具有很大的模糊性和不确定性。人工神经网络是一门新兴的交叉学科,它具有联想、记忆功能和判别识别的模糊性等优点,用它来进行围岩类别分类,不需对输入输出指标的关系作任何假设,这种关系是神经网络从实例中自适应学习而获得的,大大减少了人为因素的影响,省去了事后的经验判断。实践证明,它在理论和应用上都是可行的和有实际意义的。

篇(7)

【关键词】 人工神经网络; 应用

人工神经网络(Artificial Neural Network,ANN)方法自从本世纪40年代被提出以来,许多从事人工智能、计算机科学、信息科学的科学家都在对它进行研究,已在军事、医疗、航天、自动控制、金融等许多领域取得了成功的应用。目前出现了许多模仿动物和人的智能形式与功能的某个方面的神经网络,例如,Grossberg提出的自适应共振理论(Adaptive Resonance Theory,ART),T-Kohenen的自组织特征映射网络(Self-Organizing feature Map,SOM),径向基函数网络(Radial Basis Function,RBF),Hopfield网等。进入90年代以后,由于计算机技术和信息技术的发展,以及各种算法的不断提出,神经网络的研究逐渐深化,应用面也逐步扩大,本研究对常用的神经网络方法及其在医学领域中的应用做一简单综述。

1 自组织特征映射网络(self-organizing feature map,SOM)在基因表达数据分析中的应用

1.1 方法介绍

脑神经学的研究表明,人脑中大量的神经元处于空间的不同区域,有着不同的功能,各自敏感着各自的输入信息模式的不同特征。芬兰赫尔辛基大学神经网络专家T.Kohonen根据大脑神经系统的这一特性,于1981年提出了自组织特征映射网络,它模拟人的大脑,利用竞争学习的方式进行网络学习,具有很强的自组织、自适应学习能力,鲁棒性和容错能力,其理论及应用发展很快,目前已在信息处理、模式识别、图像处理、语音识别、机器人控制、数据挖掘等方面都有成功应用的实例。

Kohonen网络由输入层和竞争层组成,网络结构见图1。输入层由N个神经元组成,竞争层由M个输出神经元组成,输入层与竞争层各神经元之间实现全互连接,竞争层之间实行侧向连接。设输入向量为x=(x1,…,xd)T ,输出神经元j对应的权重向量为wj=(wj1,…,wjd)T ,对每一输出神经元计算输入向量x 和权重向量wj 间的距离,据此利用竞争学习规则对权向量进行调节。在网络的竞争层,各神经元竞争对输入模式的响应机会,最后仅一个神经元成为胜利者,并对与获胜神经元有关的各权重朝着更有利于它竞争的方向调整,这样在每个获胜神经元附近形成一个“聚类区”,学习的结果使聚类区内各神经元的权重向量保持与输入向量逼近的趋势,从而使具有相近特性的输入向量聚集在一起,这种自组织聚类过程是系统自主、无教师示教的聚类方法,能将任意维输入模式在输出层映射成一维或二维离散图形,并保持其拓扑结构不变。网络通过对输入模式的学习,网络竞争层神经元相互竞争,自适应地形成对输入模式的不同响应,模拟大脑信息处理的聚类功能、自组织、自学习功能,实现用低维目标空间的点去表示高维原始空间的点,其工作原理和聚类算法及改进方法参见相关文献[1]。

1.2 应用

基因芯片技术的应用使得人们可以从基因水平探讨疾病的病因及预后,而基因芯片产生的数据具有高维度(变量多)、样本量小、高噪声的特点,样本量远小于变量数,如何从海量的数据中挖掘信息或知识成为重大课题。聚类分析是数据挖掘中的一类重要技术,传统方法主要有系统聚类、k-means聚类等,但在处理复杂非线性关系及变量间的交互作用时效果较差,受异常值影响较大。近年来神经网络技术法成为聚类领域的研究热点,其中自组织特征映射网络由于其良好的自适应性,其算法对基因表达数据的聚类有较高的稳定性和智能性,尤其在处理基因表达中有缺失数据及原始空间到目标空间存在非线性映射结构时有较好的体现,适用于复杂的多维数据的模式识别和特征分类等探索性分析,同时可实现聚类过程和结果的可视化[2]。目前Kohonen网络已被成功用到许多基因表达数据的分析中,Jihua Huang等[3]设计6×6的网络对酵母细胞周期数据进行分析,总正确率为67.7%;曹晖等[4]将其算法改进后用在酵母菌基因表达数据中,总正确率高达84.73%,有较高的聚类效能;邓庆山[5]将该模型与K平均值聚类方法结合用于公开的结肠基因表达数据集和白血病基因表达数据集,聚类的准确率分别为94.12%和90.32%。目前Kohonen网络在医学领域中主要应用前景有:① 发现与疾病相关的新的未知基因,对目标基因进一步研究,提高诊断的正确率,并对药物的开发研究提供重要的线索;② 对肿瘤组织的基因表达谱数据聚类,以期发现新的、未知的疾病亚型(肿瘤亚型),以便提出更加有针对性的治疗方案,为从分子水平对疾病分型、诊断、预后等提供依据;③ 发现与已知基因有相似功能的基因,为推断未知基因的可能功能提供线索。

2 BP神经网络在医学研究中的应用

2.1 BP神经网络在疾病辅助诊断中的应用

2.1.1 方法介绍

BP神经网络是目前应用最多的神经网络,一般由一个输入层(input layer)、一个输出层(output layer)、一个或几个中间层(隐层)组成。每一层可包含一个或多个神经元,其中每一层的每个神经元和前一层相连接,同一层之间没有连接。输入层神经元传递输入信息到第一隐层或直接传到输出层,隐层的神经元对输入层的信息加权求和,加一个常数后,经传递函数运算后传到下一个隐层(或输出层),常用的传递函数是logistic函数,即Φh=1/(1+exp(-z)) ,输出层神经元对前一层的输入信息加权求和经传递函数Φ0 (线性或logistic函数或门限函数)运算后输出,BP神经网络一般采用BP算法训练网络,关于BP算法及改进可参考相关文献[1]。

人工神经网络具有强大的非线性映射能力,含一个隐层的网络可以实现从输入到输出间的任意非线性映射,是典型的非线性数学模型,建立BP神经网络模型的一般步骤为:① BP网训练集、校验集、测试集的确定;② 输入数据的预处理:使输入变量的取值落在0到1的范围内,如果是无序分类变量,以哑变量的形式赋值;③ 神经网络模型的建立及训练:学习率、传递函数、隐层数、隐单元数的选择,注意防止过度拟合。一般使用灵敏度、特异度、阳性预测值、阴性预测值、ROC曲线对模型的预测性能进行评价。

2.1.2 应用

BP神经网络已广泛用于临床辅助诊断中,白云静等[6]用于中医证候的非线性建模,建立了RA证侯BP网络模型和DN证侯BP网络模型,结果显示平均诊断准确率分别为90.72%、92.21%,具有较高的诊断、预测能力。曹志峰[7]采用PROBEN1中的甲状腺疾病数据库用于甲状腺疾病(甲亢、甲减、正常)的诊断,结果显示训练样本的正确识别率为99.3% ,测试样本的正确识别率为98.2%,提示对临床诊断甲状腺疾病提供有益的帮助;还有学者用于急性心肌梗塞、甲状腺功能紊乱、乳腺癌、前列腺癌、宫颈癌、肺癌、卵巢癌、急性肺梗塞等的辅助诊断等[8]。

2.2 BP神经网络在生存分析中的应用

2.2.1 方法介绍

传统的生存分析方法有非参数、半参数、参数模型,参数模型主要有指数回归模型、Weibull回归模型,都要求对基线风险做一定的假设,但实际资料常常不符合条件,生存分析中应用最为广泛的半参数模型:Cox比例风险模型,但它要求满足比例风险的假定,在很多情况下也难以满足。基于神经网络的生存分析模型可以克服这些困难,可以探测复杂的非线性效应,复杂的交互效应,模型中协变量的效应可以随时间变化,对数据的分布不做要求。目前一些策略被用到神经网络预测方法中分析含有删失的生存数据,主要有Faraggi-Simon(1995)法、Liestol-Andersen-Andersen(1994) 法、改良uckley-James(1979)法等。

BP神经网络建立生存分析模型常用的方法有[9]:连续时间模型(continuous time models)与离散时间模型(discrete time models)。常用的Faraggi和Simon[10]提出的连续时间模型扩展了Cox回归模型,允许非线性函数代替通常的协变量的线性组合,这种方法既保持了Cox回归模型的比例风险的特点,又提供了处理复杂非线性关系、交互作用能力的好方法。

离散时间模型常用的模型有:① 输出层为单个结点:模型的输出层只有一个神经元结点,是最简单的神经网络模型,生存时间被分成两个区间,当研究者仅仅对某一时间点的预后感兴趣时,例如预测癌症患者的5年生存情况,如欲预测多个时间点,则需建立多个神经网络模型(每个模型对应一个时间区间);② 输出层为多个结点:生存时间被分成几个离散的区间,估计某个时间区间事件发生的概率,Liestol法是常用的离散时间模型。还有研究者在建立多个时间区间模型时将时间也做为一个输入变量,也有学者将神经网络纳入Bayes方法的研究框架。

一般采用灵敏度、特异度、一致性指数C(Concordance index)作为预测准确性的评价指标,神经网络在生存分析中的应用主要在于[11]:个体患者预后的预测,研究预后因子的重要性,研究预后因子的相互作用,对于预测变量的影响力强弱及解释性,还有待进一步探讨。

2.2.2 应用

国外Ruth M.Ripley等[9]将7种不同的神经网络生存分析模型(3种离散时间模型,4种连续时间模型)用于1335例乳腺癌患者复发概率的预测,并对其精确性、灵敏度、特异度等预测性能指标进行比较,结果证明神经网络方法能成功用于生存分析问题,可以提取预后因子所蕴涵的最大可能的信息。Anny Xiang等[12]采用Monte Carlo模拟研究方法,在9种实验条件下(不同的输入结点、删失比例、样本含量等)对Faraggi-Simon法、Liestol-Andersen-Andersen法、改良Buckley-James法处理右删失生存数据的性能与Cox回归作比较,研究结果提示神经网络方法可以作为分析右删失数据的一个有效的方法。D.J.Groves[13]等将Cox回归与神经网络方法对儿童急性淋巴母细胞白血病的预后进行了比较,Lucila Ohno-Machado等[14]建立输出层为4个结点的离散时间神经网络模型做为AIDS预后研究的工具,并使用ROC曲线下面积、灵敏度、特异度、阳性预测值、阴性预测值对不同时间区间的预测性能做了评价。国内用于生存分析方面的研究还较少,黄德生[15]等利用BP神经网络建立time-coded model和single-time point model用于肺鳞癌预后预测,贺佳[16]等把BP网络用于预测肝癌患者术后无瘤生存期,也有学者对AIDS、恶性肿瘤的预后做了相关的研究。

2.3 BP神经网络在其它方面的应用

近年来BP神经网络在疾病筛查中的的应用引起学者的关注,例如在乳腺癌、宫颈癌、糖尿病的筛查都有成功的应用[17]。神经网络在法医学研究领域具有实用性和广泛的应用前景,法医学家将其用在死亡时间推断、死因分析、个体识别和毒物分析等研究中[18]。在药学研究中也有一定的应用,例如在定量药物设计、药物分析、药动/药效学研究中,都有成功的应用案例,相秉仁等[19]对其做了详细的综述。曹显庆[20]等还将神经网络用于ECG、EEG等信号的识别和处理、医学图像分析中,取得了较好的结果。

人工神经网络是在研究生物神经网络的基础上建立的模型,迄今为止有代表性的网络模型已达数10种,人工神经网络不需要精确的数学模型,没有任何对变量的假设要求,能通过模拟人的智能行为处理复杂的、不确定的、非线性问题。在医学研究领域,变量间关系往往非常复杂,为了探测变量间的复杂模式,神经网络正逐渐变成分析数据的流行工具。目前国际上已出现许多著名的神经网络专业杂志:Neural Network,Neural Computation,IEEE Transaction on Neural Networks等,同时已有许多商业化的神经网络开发软件,如Matlab软件, S-plus软件,SNNS(Stuttgart Neural Network Simulator)等,高版本SAS系统中的Enterprise Miner应用模块中也可以建立神经网络模型,随着计算机技术的进一步发展,人工神经网络在医学领域的应用前景也会更加广阔。

【参考文献】

1 余雪丽,主编.神经网络与实例学习.中国铁道出版社,1996.

2 白耀辉,陈明.利用自组织特征映射神经网络进行可视化聚类.计算机仿真,2006,23(1):180~183.

3 Jinua Huang,Hiroshi Shimizu,Suteaki Shioya.Clustering gene expression pattern and extracting relationship in gene network based on artificial neural networks.Journal of bioscience and bioengineering,2003,96(5):421~428.

4 曹晖,席斌,米红.一种新聚类算法在基因表达数据分析中的应用.计算机工程与应用,2007,43(18):234~238.

5 邓庆山.聚类分析在基因表达数据上的应用研究.计算机工程与应用,2005,41(35):210~212.

6 白云静,申洪波,孟庆刚,等.基于人工神经网络的中医证侯非线性建模研究.中国中医药信息杂志,2007,14(7):3~4.

7 曹志峰. BP 神经网络在临床诊断中的应用与探讨.实用医技杂志,2005,12(9):2656~2657.

8 William G Baxt. Application of artificial neural networks to clinical medicine. The Lancet,1995,346(8983):1135~1138.

9 Ruth M.Ripley,Adrian L.Harris,Lionel Tarassenko.Non-linear survival analysis using neural networks. Statistics in medicine,2004,23(5):825~842.

10 David Faraggi,Richard Simon.A neural network model for survival data. Statistics in medicine,1995,14(1):73~82.

11 高蔚,聂绍发,施侣元,等.神经网络在生存分析中的应用进展.中国卫生统计,2006,23(4):358~360.

12 Anny Xiang,Pablo Lapuerta, Alex Ryutov.Comparison of the performance of neural network methods and Cox regression for censored survival data.Computational statistics & data analysis,2000,34(2):243~257.

13 D.J.Groves,S.W.Smye,S.E.Kinsey.A comparison of Cox regression and neural networks for risk stratification in case of acute lymphoblastic leukaemia in children.Neural computing & applications,1999,8(3):257~264.

14 Lucila Ohno-Machado.A comparison of cox proportional hazards and artificial neural network models for medicial prognosis.Comput Biol Med,1997,27(1):55~65.

15 黄德生,周宝森,刘延龄,等.BP人工神经网络用于肺鳞癌预后预测.中国卫生统计,2000,17(6):337~340.

16 贺佳,张智坚,贺宪民.肝癌术后无瘤生存期的人工神经网络预测.数理统计与管理,2002,21(4):14~16.

17 黎衍云,李锐,张胜年.人工神经网络及其在疾病筛查中的应用前景.环境与职业医学,2006,23(1):71~73.

篇(8)

神经网络是一个具有高度非线性的超大规模连续时间动力系统。是由大量的处理单元(神经元)广泛互连而形成的网络。它是在现代神经科学研究成果的基础上提出的,反映了脑功能的基本特征。但它并不是人脑的真实描写,而只是它的某种抽象、简化与模拟。网络的信息处理由神经元之间的相互作用来实现;知识与信息的存储表现为网络元件互连间分布式的物理联系;网络的学习和计算决定于各神经元连接权系的动态演化过程。因此神经元构成了网络的基本运算单元。每个神经元具有自己的阈值。每个神经元的输入信号是所有与其相连的神经元的输出信号和加权后的和。而输出信号是其净输入信号的非线性函数。如果输入信号的加权集合高于其阈值,该神经元便被激活而输出相应的值。在人工神经网络中所存储的是单元之间连接的加权值阵列。

神经网络的工作过程主要由两个阶段组成,一个阶段是工作期,此时各连接权值固定,计算单元的状态变化,以求达到稳定状态。另一阶段是学习期(自适应期,或设计期),此时各计算单元状态不变,各连接权值可修改(通过学习样本或其他方法),前一阶段较快,各单元的状态亦称短期记忆(STM),后一阶段慢的多,权及连接方式亦称长期记忆(LTM)〔1〕。

根据网络的拓扑结构和学习规则可将人工神经网络分为多种类型,如不含反馈的前向神经网络、层内有相互结合的前向网络、反馈网络、相互结合型网络等〔2〕。本文的人工神经网络模型是采用BP算法的多层前馈网络。

该模型的特点是信号由输入层单向传递到输出层,同一层神经元之间互不传递信息,每个神经元与邻近层所有神经元相连,连接权用Wij表示。各神经元的作用函数为Sigmoid函数,设神经网络输入层的p个节点,输出层有q个节点,k-1层的任意节点用l表示,k层的任意节点用j表示,k+1层的任意节点用l表示。Wij为k-1层的第i个神经元与k层的第j个神经元相连接的权值。k-1层的节点i输出为O(k-1)i,k层节点j的输出为:

k层节点j的输出为:

Okj=f(netkj)

设训练样本为(X,Ye),X为p维向量,加到输入层;Ye为q维向量,对应于期望输出;网络的实际输出Y也是q维向量。网络在接受样本对的训练过程中,采用BP算法,其权值调整量为:

ΔWij=-ηδkjO(k-1)i

其中,对于输出层为:

δkj=yj(1-yj)(yej-yj)

对于非输出层为:

η为训练步长,取0<η<1。

用样本集合反复训练网络,并不断修改权值,直到使实际输出向量达到要求,训练过程结束〔3〕。

上述人工神经网络可以完成多种信息处理任务,如从二进制数据中提取相关知识,完成最近邻模式分类,实现数据聚集等。而本文要用的是其极强的数学逼近映射能力,即开发合适的函数f:ARnBRn,以自组织的方式响应以下的样本集合:(x1,y1),(x2,y2)…,(xm,ym),其中yi=f(xi)。这里描述的是一般的数学抽象,像识别与分类这些计算都可以抽象为这样的一种近似数学映射。

所谓诊断,实质上是一个分类问题。即根据候诊者的症状,医学检查结果(如体温、心跳等)等一些情况,它们可以用一向量(e1,e2,…,em)来表示,将其归类为病人或非病人。这也可以转化为寻找一差别函数f使得:

(1)f(e1,e2,…,em)>ε, (e1,e2,…,em)∈T

(2)f(e1,e2,…,em)>ε, (e1,e2,…,em)T

其中集合T表示患病。

因此,病情诊断最终也可作为一类函数的逼近问题。

而许多研究已表明,前向神经网络可作为非线性逼近的标准型。对于实数空间的任一函数,只要它满足一定的条件,一定存在唯一的具有单一隐层的前向网络作为它的最优最佳逼近。而含有两个隐含层的前向网络可在任意的平方误差内逼近某一实函数〔3〕。

诊断步骤

肺癌病例数据选自1981~1994年在某医院住院的病人,共计551例。其中486例(88%)经病理学、细胞学诊断证实为肺癌。每一病例都包括多项数据,其中用于诊断的数据项有:病人的一般情况(如年龄、性别等),家族史、既往史、吸烟史、术后病理、X射线检查、CT检查、纤维支气管镜检查、PAT痰检等多达58项。因此,原则上 58项数据应作为神经网络的输入项,而神经网络的输出值就是病人是否患肺癌的结果。

1.网络训练集的确定:在最原始的551例病人数据中存在着各种各样的差别,如性别差异(419例男性,132例女性),诊断结果的差异(486例经证实为肺癌),所患肺癌种类的差异(鳞癌、小细胞癌、大细胞癌等),患病程度上的差异(早、中晚期的不同)等等。显然,训练数据集应最大限度地保证兼顾各种病例情况。经过仔细筛选,选择了含有460个病例的集合作为肺癌诊断用的网络的训练集。

2.神经网络输入和输出数据的预处理

按照人工神经网络的理论,神经网络的输入输出数据都应该属于(0,1)区间的实数,为此我们需对原始数据进行如下的规一化处理:

其中xi为原始数据项,而Max=max{xi∶xi∈X},Min=min{xi∶xi∈X}。这里X为原始数据集。经过(7)式变换后,yi将在(0,1)区间。因此,可作为神经网络的输入输出。

3.应用神经网络进行肺癌诊断

将描述病人各种情况的数据作为前向网络的输入数据加到其输入端,并按(1)~(6)式计算各神经元的输入和输出,同时调整神经元之间的连接权值以使网络的输出和实际的病例情况相符。即当病人确实患肺癌时网络的输出结果也恰好指示为肺癌,反之亦然。如果对所有的训练样本集网络的输出基本上(95%或更高)能保证与实际结果一致,则训练过程结束。我们认为神经网络已建立起病人的各种因素与他是否是肺癌患者之间的函数映射关系。对于一个新的候诊病人来说,只要将他的情况输入到训练好的神经网络中去,根据网络的输出结果就可以知道他是否已患肺癌。

表1 基于不同发病因素的诊断网络模型

型 训练集精度 测试集精度

基于遗传因素的诊断网 53.8% 46.3%

基于个人生活习惯的诊断网 57.1% 44.9%

基于病症的诊断网 89.4% 83.3%

基于医学检查结果的诊断网 98.5% 92.6%

上述结果表明不同类型的因素应分开来考虑。于是我们将58项输入数据分成四类,这四类有各自的BP诊断网,依次称为诊断一、诊断二、诊断三、诊断四。它们先单独测定,然后再将它们各自的结果综合起来得出最后的判断。

上述四种诊断网络所得结果的可靠性各不相同。其中,根据医学检查结果所作的诊断准确性最高,因此在最后的综合分析中要重点考虑它的诊断结果,我们给它设一个相对最高的权值。其次,根据病人的症状所作的诊断往往也具有较高的准确性,因此给它的权值也较高,但比医学检查结果的稍低。其他两类因素在有关肺癌的诊断中仅具参考作用,因而所设的权值相对较小。

最后的结果O为:

O=a1.O1+a2.O2+a3.O3+a4.O4

a1+a2+a3+a4=1

其中Oi,ai,i=1,2,3,4分别为各诊断网的输出及其对应的权值。

当O>0.5时最后的诊断结果为患肺癌,反之则正常。对所有的病例数据经上述方法的诊断结果见表2。

表2 神经网络对肺癌诊断结果分析

神经网络

诊断结果 训练数据 测试数据

肺癌患者 非肺癌患者 肺癌患者 非肺癌患者

+ 460 2 25 3

- 0 38 1 22

其中对于训练集,肺癌病人的正确检出率为100%,非肺癌病人误诊率为5%。对于测试集,肺癌病人的正确检出率为96.2%;非肺癌患者正确检出率为88%,误诊率为12%。

讨 论

1.本研究所采用的人工神经网络的肺癌诊断方法的结果较好地符合了已知数据,具有较高的准确性,特别是对于肺癌患者一般都能准确地做出诊断,有利于肺癌的早期发现和治疗。

2.要想进一步提高该方法的准确性,应该注意收集更多更全面的病例数据。人工神经网络主要是利用它能自动从数据集中抽取函数的关系的功能。如果我们所使用的数据越多越全面,则其中所蕴含的事物本身的规律性就越强,利用人工神经网络从中所抽取的函数关系就越具有普遍性,因而就更准确。

3.实现对肺癌的诊断的关键在于准确找到罹患肺癌的判定函数,可利用前向网络的函数逼近功能来实现。但是这里涉及到两个问题。首先,由于差别函数和预测率函数都是利用人工神经网络从已知的病例数据集中抽取出来的,它实际反映的是这些数据集中输入输出对的映射关系。因此要想保证诊断具有较高的准确性,就应该使用来建立函数关系的这些数据集(称训练集)具有充分的代表性,即这些数据应基本蕴含肺癌诊断的医学原理。这就涉及到如何选择网络合理的训练集及关键的输入项。另一个问题涉及到神经网络本身的要求,即网络的输入输出数据值都应在区间(0,1)中。这可以通过数据的编码和归一化来实现。

4.由于某些原因有些病人的病例数据不完整,约占总病例数据的10%左右。显然,如果按照传统的方法来建立肺癌病人的诊断模型〔4〕,这些有缺项的数据是不太好处理的,但是由于人工神经网络有较强的容错性,输入数据在某些项上的错误对网络最终结果的正确性影响不大。

参考文献

1.焦李成.神经网络系统理论.第1版.西安:西安电子科技大学出版社,1995,3

篇(9)

经训练的ANN适用于利用分析振动数据对机器进行监控和故障检测,预测某些部件的疲劳寿命[2]。非线形神经网络补偿和鲁棒控制综合方法的应用(其鲁棒控制利用了变结构控制或滑动模控制),在实时工业控制执行程序中较为有效[3]。人工神经网络(ANN)和模糊逻辑(FuzzyLogic)的综合,实现了电动机故障检测的启发式推理。对非线形问题,可通过ANN的BP算法学习正常运行例子调整内部权值来准确求解[4]。

因此,对于电力系统这个存在着大量非线性的复杂大系统来讲,ANN理论在电力系统中的应用具有很大的潜力,目前已涉及到如暂态,动稳分析,负荷预报,机组最优组合,警报处理与故障诊断,配电网线损计算,发电规划,经济运行及电力系统控制等方面[5]。

本文介绍了一种基于人工神经网络(ANN)理论的保护原理。

1人工神经网络理论概述

BP算法是一种监控学习技巧,它通过比较输出单元的真实输出和希望值之间的差别,调整网络路径的权值,以使下一次在相同的输入下,网络的输出接近于希望值。图1是人工神经Ui的结构模型,图中Ui为神经元内部状态,Qi为门槛值,Yi为输出信号,Xi(i=1,2,…,n)为神经元接收信号。该模型可表示为:

式中Wji——连接权值。

BP算法的神经网络图形如图2所示,设网络的输入模块为p,令其作用下网络输出单元j的输出为Opj。如果输出的希望值是Tpj,则其误差为Dpj=Tpj-Opj。若输入模块的第i个单元输入为Ipi,则就输入模块p而言,输入接点I与输出接点j之间的权值变化量为:

ΔWpji=zDpjIpi

式中,z是某一个常数。当反复迭代该式时,便可使实际值收敛于目标值[6]。其中隐含层既有输入网线,又有输出网线,每一个箭头都有一定的权值。

在神经网络投运前,就应用大量的数据,包括正常运行的、不正常运行的,作为其训练内容,以一定的输入和期望的输出通过BP算法去不断修改网络的权值。在投运后,还可根据现场的特定情况进行现场学习,以扩充ANN内存知识量。从算法原理看,并行处理能力和非线是BP算法的一大优点。

2神经网络型继电保护

神经网络理论的保护装置,可判别更复杂的模式,其因果关系是更复杂的、非线性的、模糊的、动态的和非平稳随机的。它是神经网络(ANN)与专家系统(ES)融为一体的神经网络专家系统,其中,ANN是数值的、联想的、自组织的、仿生的方式,ES是认知的和启发式的。

如图3所示,装置可直接取线路及其周边的模拟量、数字量,经模式特征变换输入给神经网络,根据以前学习过的训练材料,对数据进行推理、分析评价、输出。专家系统对运行过程控制和训练,按最优方式收集数据或由分析过程再收集控制,对输出结果进行评估,判别其正确性、一致性,作出最终判决,经变换输出,去执行机构。即使是新型保护,也会存在着某些功能模块不正确动作的可能,这时可以过后人为干预扩展专家系统数据库或由专家系统作出判别,作为训练样本训练ANN的这部分功能模块,改变其某些网线的权值,以使下次相同情况下减少不正确动作的可能。

下面是一个简单的ANN线路保护例子。当电力系统故障时,输电线路各相、各序电压、电流也随之发生变化,特别是故障后故障相的相电压和相电流,以及接地系统在接地故障的零序电流的变化有明显的代表性。比如选输入层神经元个数为14个,分别是Uar,Uai,Ubr,Ubi,UcrUci,Iai,Ibr,Ibi,Icr,Ici,Ior,Ioi(下标r和i分别代表实部与虚部),选定输出层神经元个数为5个:YA(A相),YB(B相),YC(C相),YO(接地),YF(方向),各输出值为1,代表选中;输出值为0,代表没选中(YF为0代表反向)。这5个输出完全满足线路方向保护的需求(没考虑正向超越),隐含层神经元数目为2N+1(N为输入层神经元数目)。训练样本集包含14个输入变量和5个输出变量,而测试样本集中的样本则只有14个输入变量。选图4的双侧电源系统作研究对象,输电线路、系统的等值正、零序参数如图4所示。

考虑的故障类型包括单相接地(K1),两相短路(K2),两相接地(K1—1),三相短路(K3)。

对图4所示的500kV双侧电源系统的各种运行方式和故障情况建立训练样本。

在正常状态下,令h∠δ=(EM)/(EN),h=1,δ

随负荷变化,取为-60°,-50°,-40°,-30°,-20°,-10°,0°,10°,20°,30°,40°,50°,60°,有13个样本。故障情况下,δ取值为-60°,-30°,0°,30°,60°,故障点选反向出口(-0km),正向出口(+0km),线路中部(150km),线末(300km)。接地电阻Rg取值0Ω,50Ω,100Ω,150Ω,200Ω,相间电阻Rp取值0Ω,25Ω,50Ω,则共有5×4×(5+3+5×3+3)=520个样本。每个样本的5个输出都有一组期望的输出值,以此作为训练样本。而实际运行、故障时,保护所测到的电流、电压极少直接与样本相同,此时就需要用到模糊理论,规定某个输出节点。如YA(A相)在某一取值范围时,则被选中。

文献[1]认为全波数据窗建立的神经网络在准确性方面优于利用半波数据窗建立的神经网络,因此保护应选用全波数据窗。

ANN保护装置出厂后,还可以在投运单位如网调、省调实验室内进行学习,学习内容针对该省的保护的特别要求进行(如反措)。到现场,还可根据该站的干扰情况进行反误动、反拒动学习,特别是一些常出现波形间断的变电站内的高频保护。

3结论

本文基于现代控制技术提出了人工神经网络理论的保护构想。神经网络软件的反应速度比纯数字计算软件快几十倍以上,这样,在相同的动作时间下,可以大大提高保护运算次数,以实现在时间上即次数上提高冗余度。

一套完整的ANN保护是需要有很多输入量的,如果对某套保护来说,区内、区外故障时其输入信号几乎相同,则很难以此作为训练样本训练保护,而每套保护都增多输入量,必然会使保护、二次接线复杂化。变电站综合自动化也许是解决该问题的一个较好方法,各套保护通过总线联网,交换信息,充分利用ANN的并行处理功能,每套保护均对其它线路信息进行加工,以此综合得出动作判据。每套保护可把每次录得的数据文件,加上对其动作正确性与否的判断,作为本身的训练内容,因为即使有时人工分析也不能区分哪些数据特征能使保护不正确动作,特别是高频模拟量。

神经网络的硬件芯片现在仍很昂贵,但技术成熟时,应利用硬件实现现在的软件功能。另外,神经网络的并行处理和信息分布存储机制还不十分清楚,如何选择的网络结构还没有充分的理论依据。所有这些都有待于对神经网络基本理论进行深入的研究,以形成完善的理论体系,创造出更适合于实际应用的新型网络及学习算法[5]。

参考文献

1陈炳华.采用模式识别(智能型)的保护装置的设想.中国电机工程学会第五届全国继电保护学术会议,[会址不详],1993

2RobertE.Uhrig.ApplicationofArtificialNeuralNetworksinIndustrialTechnology.IEEETrans,1994,10(3).(1):371~377

3LeeTH,WangQC,TanWK.AFrameworkforRobustNeuralNetwork-BasedControlofNonlinearServomechannisms.IEEETrans,1993,3(2).(3):190~197

篇(10)

人工神经网络模拟人脑生物神经网络系统处理信息的方式,是通过经验而不是通过设计好的程序进行学习、训练,这些构成了人工神经网络具有模式识别、预测、评价和优化决策等能力的基础。本文就神经网络近年来在药剂学的处方设计及优化、制备工艺及体内体外相关性评价等方面的应用做一综述。

【关键词】 人工神经网络;药物制剂

Abstract:Artificial neural networks simulating the process of human brains nerve systems to deal with information,which learning and training date according with the experience other than the designed programme,is the base of the ability that the artificial neural network could be used for pattern distinguish,prediction and optimization etc.This papertbriefly reviewed the application of neural networks in pharmaceutical fields,such as formulation optimization,preparation parameters optimization and in vitro-in vivo correlation evaluation.

Key words:artificial neural networks;pharmaceutic

药物制剂研究是一个复杂的过程,包括制剂处方,制剂制备工艺及制剂体内体外评价等,其中任何一个方面都属于多因素,多水平的复杂优化问题。例如处方设计过程中涉及不同质量不同用量的各种敷料配比及压力、温度、水分等,这些因素直接影响剂型的安全性和有效性;制剂设备工艺涉及众多纷繁复杂的工艺参数优化,制剂体内体外评价更是受生物系统的极端复杂性影响。过去人们通常依靠某一方面的专家来承担相应的工作,免不了受许多经验化主观因素的影响,效率较低,而基于人工智能的神经网络则很适于处理这类复杂的多变量非线性系统,并可通过网络的预测能力实现多因素的同步优化[1-3]。

1 神经网络理论

人工神经网络(artificial neural network)是一种由大量简单处理单元以某种方式相互连接而成,对连续的输入做出状态响应的动态信息处理系统。它模拟人脑生物神经网络系统处理信息的方式,通过经验而不是通过设计好的程序进行学习、训练。因此,人工神经网络具有人脑的某些重要特性,如联想记忆、并行处理、自学习、自组织、自适应和容错性等能力,这些构成了人工神经网络具有模式识别、预测评价和优化决策等能力的基础。

如图1所示,这是含有一个隐含层的神经网络示意图,其中空心圆圈表示神经元,神经元是神经网络(neural network)的基本单元,也称为节点。每层中可以包含多个节点,多层节点之间按一定的方式相互连接构成神经网络。神经网络的信息处理功能由神经元的输入和输出、网络的拓扑结构、连接权的大小(突触联系强度)以及神经元的阈值所决定的。输入层节点的输入变量为自变量(样本图1 神经网络结构示意图

Fig.1 Delineation of structure of artificial neural networks

参数),输出层节点的输出变量为应变量(目标函数),当多个输入进入神经元后,其加权求和值超过神经元的阈值后会形成输出,通过连接权连接,传递到下一层神经元,作为下一层神经元的输入值,这样按网络的拓扑结构依次传递。根据神经网络的计算原理,每一神经元的输入值将更新变化,最后到达输出层。将输出值与样本的期望输出值进行比较,计算出误差,按学习规律将误差反向传播到前一层神经元,调整连接权大小,重新计算,再输出。如此反复,直到训练集样本输出误差和达到期望值。至此得到固定的连接权值,就达到对未知样本进行预测和分析。其中网络的信息主要储存在连接权中[4]。

根据神经元之间的相互结合关系和作用方式,神经网络模型可以分为很多种,其中反向传播神经网络(back-propagation neural network)即BP[5]神经网络是目前药剂领域中应用最广泛、计算能力最强的人工神经网络模型之一。由于这种网络的权值和阈值调整采用了反向传播的学习算法,解决了感知器所不能解决的问题,可以实现从输入到输出的任意非线性映射。在确定了网络的结构后,利用输入样本集对其进行训练,即对网络的权值和阈值进行学习和调整。经过训练的BP网络,对于不是样本集中的输入样本也能给出合适的输出,利用这种方式可以使用该网络对未知样本进行预测。

2 人工神经网络在药剂中的应用

2.1 药物制剂处方设计及优化

制剂处方设计及优化是目前神经网络在药物制剂中应用最多[6-11],也是比较有发展前景的方向之一,尤其是应用于缓控释制剂的处方优化和设计中。

梁文权[12]等将人工神经网络应用于优化HPMC缓释片处方。以药物的溶解度、含药量、HPMC的量、HPMC的固有黏度、辅料的量、黏合剂的浓度、溶出仪的转速为神经网络的输入,药物的累计释放量作为输出,采用BP网络对52个样本进行训练,建立BP神经网络模型。然后与优化算法相结合实现对乙酰氨基酚、甲氧苄氨嘧啶、米诺地尔、氧氟沙星等模型药物在不同的含药量、不同转速条件下的处方进行优化。试验结果发现利用神经网络预测药物的释放、训练处方和测试处方的实测值和预测值能很好吻合,得到的4个优化处方的释放值均和目标值很接近。魏晓红[13]等选取9种药物作为模型药物,按HPMC:糊精=5-0.2∶1配比制成不同释放度的缓释片,测定各个处方的释放度,以每个药物的溶解度和处方中HPMC∶糊精的配比值作为网络的输入,以释放度测量中每个给定取样时间点药物的累积释放量作为输出变量,得到含一个隐含层,迭代次数为25次的BP神经网络,通过优化,成功拟定了4个制剂处方,按此处方制备的缓释片的实测释放值与神经网络预测值相符。根据此法,可以从药物的溶解度设计符合一定释放度要求的缓释制剂处方。

骆快燕[14]等用干压包衣技术制备卡托普利延时起效延缓片时,用人工神经网络预测释药时滞。运用一个3层BP神经网络,以释放度作为输入层神经元,以对应时间点作为输出层神经元,得到一个含8个隐含层神经元的BP网络,其中变换函数为双曲正切函数,学习规则为归一化累积Delta规则,目标误差为0.001,学习速率为0.01。神经网络预测释药时滞结果为后面用SAS进行多元线性回归提供了可靠的数据,使预测优化处方很快达到设计要求。

吴涛等[15]在硫酸沙丁胺醇渗透泵控释片的处方筛选中采用反应曲面法和人工神经网络法优化法。选择包衣液中PEG 1 500含量与包衣膜的厚度为网络的输入因素,以各个处方1~8小时的积累释放度对实践的相关系数和各处方8小时的累积释放度为输出因素,在36个实验处方中随机抽取24个作为网络的训练数据,其余作为网络的测试数据检测网络预测性能,建立了含一个隐含层的BP神经网络建立模型,最后根据预测结果实现处方优化。比较结果证实神经网络方法较优。

2.2 药物制剂制备工艺方面的应用

药物剂型的制备工艺过程中,存在着诸如温度、压力、粘度、流速等诸多影响因素,这些工艺参数与制剂质量指标之间往往存在很强的非线性和耦合性,很难用传统的方法建立有效的质量控制模型。基于人工智能的人工神经网络具有辨识和逼近任意复杂非线性系统的能力,而且具有一定的容错能力,可以同步优化制备工艺中的多个工艺参数[16]。

张宇飞等[17]收集某大型中药企业滴丸制剂生产线的100多个生产批次,每个批次包含多个数据的样本作为神经网络训练集,设计了一个具有三个层的BP神经网络,输入层的5个节点分别为化料温度,化料时间,滴制温度,滴制速度及冷凝温度;输出层的结点为滴丸成品率,建立了某滴丸制剂过程工艺参数与滴丸成品率之间的神经网络映射模型。然后利用遗传算法对模型输入参数空间进行寻优,搜索使滴丸成品率达到最优时所对应的工艺参数值。经生产试制,利用优化后的工艺参数值进行生产,能使该制剂过程的成品率提高约2.6个百分点,表明利用神经网络与遗传算法对制剂过程进行建模与优化是合理的,该项目属于国家863高技术研究发展计划项目。

2.3 药物制剂体内-体外相关性评价的应用

建立体内外相关性评价方法对药物制剂研究非常重要。一个好的体内外相关性模型应能使预测值与实测值相互吻合,从而用体外的释药数据预测药物的体内过程,设计与已知制剂生物等效的制剂,或者制定药物制剂的质量标准及指导临床用药。但是生物系统是极其复杂的,药物在体内的代谢过程也是相当复杂的,使得判定药物疗效与生物学、药物动力学及药物分布等各因素之间的关系非常困难[18]。人工神经网络是模拟生物神经系统对外界系统的认知过程,它给我们提供了一个很好的研究体内外相关性的方法[19-20]。

李凌冰[21]等采用人工神经网络结合Wagner-Nelson法,研究氯氮平非pH依赖型缓释片的体内体外相关性。以处方中HPMC与琥珀酸的用量为神经网络输入变量,考虑到缓控释制剂的特点,以2h的血药浓度,12h的血药浓度一时间曲线下面积AUCl2,以及血药浓度的峰值(max数据为输出,建立了氯氮平非pH依赖型缓释制剂处方组成和血药浓度之间的关系模型。以此为基础,绘制输出三个输出变量的等高线图谱,分别在3个等高线图谱上标记最佳变量所取值的范围,将3个图中的最佳区域结合在一起从而求得生物利用度最佳的处方。李凌冰等[22]应用人工神经网络研究红霉素缓释微囊的体内外相关性。以明胶为囊材制备红霉素缓释胶囊,以体外释放度的数据作为网络输入,血药浓度数据作为网络输出,通过比较血药浓度实测值与预测值的差异考察了网络的可靠性,结果令人满意。

3 结语

人工神经网络技术作为一种新方法新技术虽然已在药剂研究领域取得了一定的进展,但仍然有许多问题需要进一步的研究。例如神经网络虽然可用于制剂制备工艺参数的优化,但能否利用神经网络实时监控工艺过程以控制质量还需要进一步探讨;人工神经网络通常需要大量的数据训练网络,但有时数据的获得比较困难,尤其是体内的试验数据;神经网络拓扑结构的选择规律、传递函数的选取,防止过拟合和陷入局部最优等问题也需要在模型的建立过程中考虑;在制剂分析中的方法适应性和重现性等基础工作也还需要深入的研究。

总之,神经网络是一个充满了活力的研究领域,通过以上的简述可以发现神经网络在药剂学研究领域具有广阔的应用前景,相信随着神经网络理论和技术的不断发展,神经网络以其独特的模拟、学习、预测能力必将在药剂学的各个方面得到更充分的应用。

参考文献

[1]Takayama K,Fujikawa M,Obata Y,et al.Morishita M,Neural Network Based Optimization of Drug Formulations[J].Advanced Drug Delivery Reviews,2003,55(9):1 217-1 231.

[2]Agatonovic-Kustrin S,Beresford R.Basic Concepts of Artificial Neural Networks Modeling and Its Application in Pharmaceutical Research[J].Journal of Pharmaceutical and Biomedical Analysis,2000,22(4):717-727.

[3]K Takayama,A Morva, M Fujikawa,et al.Formula Optimization of Theophylline Controlled-release Tablet Based on Artificial Neural Networks [J].Journal of Controlled Release,2000,68(2):175-186.

[4]Hassoun M.Fundamentals of Artificial Neural Networks[M].The MIT Press,1995:25.

[5]R J Erb.Introduction to Backpropagation Neural Network Computation[J].Pharmaceutical.Research,1993,10(2):165-170.

[6]P.C.Wu,Y.Obata,M.Fujikawa,et al.Simultaneous Optimization Based on Artificial Neural Networks in Ketoprofen Hydrogel Formula Containing O-enthyl-3-butylcyclohexanol as Percutaneous Absorption Enhancer[J].Journal of Pharmaceutical Sciences,2001,90(7):1 004-1 014.

[7]A P Plumb,R C Rowe,P York,et al.The Effect of Experimental Design on the Modeling of a Tablet Coating Formulation Using Artificial Neural Networks[J].European Journal of Pharmaceutical Sciences,2002,16(3):281-288.

[8]Onuki Y,Hoshi M,Okabe H,et al.Formulation Optimization of Photocrosslinked Polyacrylic Acid Modified with 2-hydroxyethyl Methacrylate Hydrogel as an Adhesive for a Dermatological Patch[J].Journal of controlled release,2005,108(2-3):331-340.

[9]Fan T,Takayama K,Hattori Y,et al.Formulation Optimization of Paclitaxel Carried by PEGylated Emulsions Based on Artificial Nneural Network[J].Pharmaceutical Research,2004,21(9):1 692-1 697.

[10]Lim CP,Quek SS,Peh KK.Prediction of Drug Release Profiles Using an Intelligent Learning System:an Experimental Study in Transdermal Iontophoresis[J].J Pharm Biomed Anal,2003,31(1):159-168.

[11]Plumb AP,Rowe RC,York P,et al.Effect of Varying Optimization Parameters on Optimization by Guided Evolutionary Simulated Annealing(GESA)Using a Tablet Film Coat as an Example Formulation[J].European Journal of Pharmaceutical Sciences,2003,18(3-4):259-266.

[12]范彩霞,梁文权.神经网络多目标同步优化HPMC缓释片处方[J].中国药学杂志,2004,39(10):768-771.

[13]魏晓红,吴建军,梁文权.神经网络用于口服缓释制剂的处方设计[J].药学学报,2001,36(9):690-694.

[14]骆快燕,姚彤炜,黄安琪.卡托普利延迟起释型缓释片的研制[J].中国现代应用药学杂志,2005,22(3):224-228.

[15]吴淘,潘卫三,陈济民,等.多目标同步优化法优化硫酸沙丁胺醇渗透泵控释片的制备工艺[J].药学学报,2000,35(8):617-621.

[17]张宇飞,邵秀丽,雷建军.基于神经网络和遗传算法的中药滴丸制剂过程建模与优化[J].计算机工程与应用,2005,2(2):191-194.

[18]James AD.Artificial Network Applied to the in Vitro-in Vivo Correlation of an Extended-release Formulation:Initial Trials and Experience[J].Journal of pharmaceutical Science,1999,88(1):154-160.

[19]Fu XC,Chen CX,Wang GP,et al.Prediction of Human Intestinal Absorption Using an Artificial Neural Network[J].Pharmazie,2005,60(9):674-676.

篇(11)

一、引言(研究现状)

自改革开放以来,我国生产力极大发展,生活水平总体上得到了提高。但是,地区间的发展不平衡始终存在,而且差距越来越大,不同地区人民的生活水平也存在显著的差异。据此,我们利用自组织人工神经网络方法对全国31个省市自治区的人民生活水平质量进行分析评价。

二、指标选取与预处理

1.指标选取

遵循合理性、全面性、可操作性、可比性的原则,从以下5个层面共11个二级指标构建了人民生活质量综合评价指标体系(如下表所示)。

人民生活质量综合评价指标体系

2.指标预处理

(1)正向指标是指标数据越大,则评价也高,如人均可支配收入,人均公园等。

正向指标的处理规则如下(1):

Kohonen 自组织神经网络

输入层是一个一维序列,该序列有N个元素,对应于样本向量的维度;竞争层又称为输出层,该层是由M′N=H个神经元组成的二维平面阵列其神经元的个数对应于输出样本空间的维数,可以使一维或者二维点阵。

竞争层之间的神经元与输入层之间的神经元是全连接的, 在输入层神经元之间没有权连接,在竞争层的神经元之间有局部的权连接,表明竞争层神经元之间的侧反馈作用。训练之后的竞争层神经元代表者不同的分类样本。

自组织特征映射神经网络的目标:从样本的数据中找出数据所具有的特征,达到能够自动对样本进行分类的目的。

2.网络反馈算法

自组织网络的学习过程可分为以下两步:

(1)神经元竞争学习过程

对于每一个样本向量,该向量会与和它相连的竞争层中的神经元的连接权进行竞争比较(相似性的比较),这就是神经元竞争的过程。相似性程度最大的神经元就被称为获胜神经元,将获胜神经元称为该样本在竞争层的像,相同的样本具有相同的像。

(2)侧反馈过程

竞争层中竞争获胜的神经元会对周围的神经元产生侧反馈作用,其侧反馈机制遵循以下原则:以获胜神经元为中心,对临近邻域的神经元表现为兴奋性侧反馈。以获胜神经元为中心,对邻域外的神经元表现为抑制性侧反馈。

对于竞争获胜的那个神经元j,其邻域内的神经元在不同程度程度上得到兴奋的侧反馈,而在Nj(t)外的神经元都得到了抑制的侧反馈。Nj(t)是时间t的函数,随着时间的增加,Nj(t)围城的面积越来越小,最后只剩下一个神经元,而这个神经元,则反映着一个类的特征或者一个类的属性。

3.评价流程

(1)对n个输入层输入神经元到竞争层输出神经元j的连接权值为(6)式:

(2)获胜邻域j*(t),设定为邻域函数(h)t,表示第i个神经元与获胜神经元之间的距离函数。S2会随着学习的进行而减小,从而邻域在学习初期很宽,随着学习的进行会变窄。因此,权值随着学习的进行从较大幅度调整向微小幅度调整变化。邻域函数产生了有效的映射作用。其中邻域函数的表达式如下(8)式所示

分析结果如下:

第一类:北京,天津,辽宁,上海,江苏,浙江,广东

第二类:福建,山东,湖北,重庆,陕西

第三类:河北,山西,内蒙古,吉林,黑龙江,江西,湖南

第四类:安徽,河南,广西,海南,四川,贵州,云南,,甘肃,青海,宁夏,新疆基于分类结果,得知第一类中的各地区的人民生活质量最高,主要分布于东部沿海。这些地区共同点是:工业和经济文化实力雄厚,基础设施建设齐全,医疗卫生事业、教育水平高度发达。

对于第二类,他们的生活质量相对于第一类次之,但比第三、四类的评价则较优。福建是东南部沿海的经济大省,山东、湖北、陕西具有较强的工业实力和较高的教育水平;重庆市内地唯一的直辖市,境内有长江干道,这五省的共同他点在于其工业实力较强,教育水平发达,基础设施齐全。

第三类中的诸多省份均是我国农业和采矿业大省,相比前两类,他们则是缺少雄厚的工业基础,但有良好的气候条件社会环境和丰富的自然资源。

第四类,造成这些地区的人民生活质量较差的原因多且复杂。就安徽、河南而言,自古以来河南是华夏文化的中心,安徽是有名的产量大省,是什么因素限制了它们生活水平的发展还值得考究。广西,海南,贵州,云南,,等的一个共性在于自然条件的劣势。广西,海南自古以来是官员贬庶之地;贵州、则云南困于云贵高原,交通向来闭塞;、青海更是由于自然环境恶劣而在各方面的发展较为欠缺;宁夏、甘肃、新疆则是身居内地,生活用水奇缺,种植业较为薄弱,多以畜牧为主,自古有甘凉不毛之地之说。四川则居于天府之国,但人口基数庞大且发展不平衡,所以人民生活质量也不是很高。

总体而言,此分类结果与实际基本吻合;但受变量体系等因素的干扰,部分地区仍然存在疑问,具体原因还值得进一步探讨。

五、模型评价

网络结构简单、自组织自学习能力强和学习速度快是自组织网络所具有的优点,在样本识别上具有很强的优势。此外,它将输出表现成一维或者二维的概率密度分布,因此运用越来越来广泛。对于实际中复杂和高维度的数据,该网络具有较好的适应性和识别性。它本属于一种无监督的自主竞争学习的神经网络,网络根据样本的特征进行自组织学习竞争、聚类,将高维数据映射到低维度的二维平面,能够较好地在保持数据拓扑结构不变的情况下进行数据压缩和识别。其聚类的客观性,更适用于于处理海量未知数据问题。以此同时,由于模型的可视化,在人们开发和构建新型网络变得更加简洁,易于被人们接受。

自组织神经网络的二维拓扑映射图的可视性很强,通过映射图,可以直接观察到数据的特征。同时,清晰的了解其分类情况。但是,传统自组织特征映射神经网络采用了向量内积、欧氏距离函数等确定输入样本最为相似的连接权向量,这就要求数据必须是连续的,若数据是离散的或者数据为顺序型或者属性型,则就不能胜任聚类这项任务。

参考文献:

[1]张建萍,刘希玉.基于聚类分析的K-means算法研究及应用[J].计算机应用研究,20075(5):166-168.

[2]么枕生.用于数值分类的聚类分析[J].海洋湖沼通报,1994(2):2-12.

[3]刘慧,冯乃琴,南书坡,王伟.基于粗糙集理论和SOFM神经网络的聚类方法[J].计算机与应用软件,200926(8):228-230.

[4]郭伟业,赵晓丹,庞英智,奇志.数据挖掘中SOM神经网络的聚类方法研究[J].情报科学,2009,7(6):874-876.

[5]王家伟,周浩宇,同庆,田宏杰,贾花萍.基于MATLAB的自组织特征映射网络的实际应用[J].电子设计工程,2013,21(6):47-48.

[6]郭丽华.人工神经网络基础[M].哈尔滨:哈尔滨工程大学出版社,2008.

[7]王国梁,何晓群.多变量经济数据统计分析[M].西安:西安陕西科学技术出版社,1993.

[8]宋浩远.基于模型的聚类方法研究[J].重庆科技学院学报,2008(7):71-71.

[9]何晓群.多元统计分析[M].3版.北京:北京中国人名大学出版社,2012.

免责声明以上文章内容均来源于本站老师原创或网友上传,不代表本站观点,与本站立场无关,仅供学习和参考。本站不是任何杂志的官方网站,直投稿件和出版请联系出版社。

公文、讲稿、总结怎么写?

专家解答,全程指导

免费咨询
发表咨询 投稿咨询 范文咨询 杂志订阅 返回首页