基于bp的神经网络算法,bp神经网络是什么算法

本文为博客 VIP 文章,开通 VIP 后可阅读全文

开通 VIP

BP人工神经网络方法

(一)方法原理人工神经网络是由大量的类似人脑神经元的简单处理单元广泛地相互连接而成的复杂的网络系统。理论和实践表明,在信息处理方面,神经网络方法比传统模式识别方法更具有优势。

人工神经元是神经网络的基本处理单元,其接收的信息为x1,x2,…,xn,而ωij表示第i个神经元到第j个神经元的连接强度或称权重。

神经元的输入是接收信息X=(x1,x2,…,xn)与权重W={ωij}的点积,将输入与设定的某一阈值作比较,再经过某种神经元激活函数f的作用,便得到该神经元的输出Oi。

常见的激活函数为Sigmoid型。

人工神经元的输入与输出的关系为地球物理勘探概论式中:xi为第i个输入元素,即n维输入矢量X的第i个分量;ωi为第i个输入与处理单元间的互联权重;θ为处理单元的内部阈值;y为处理单元的输出。

常用的人工神经网络是BP网络,它由输入层、隐含层和输出层三部分组成。BP算法是一种有监督的模式识别方法,包括学习和识别两部分,其中学习过程又可分为正向传播和反向传播两部分。

正向传播开始时,对所有的连接权值置随机数作为初值,选取模式集的任一模式作为输入,转向隐含层处理,并在输出层得到该模式对应的输出值。每一层神经元状态只影响下一层神经元状态。

此时,输出值一般与期望值存在较大的误差,需要通过误差反向传递过程,计算模式的各层神经元权值的变化量。这个过程不断重复,直至完成对该模式集所有模式的计算,产生这一轮训练值的变化量Δωij。

在修正网络中各种神经元的权值后,网络重新按照正向传播方式得到输出。实际输出值与期望值之间的误差可以导致新一轮的权值修正。正向传播与反向传播过程循环往复,直到网络收敛,得到网络收敛后的互联权值和阈值。

(二)BP神经网络计算步骤(1)初始化连接权值和阈值为一小的随机值,即W(0)=任意值,θ(0)=任意值。(2)输入一个样本X。

(3)正向传播,计算实际输出,即根据输入样本值、互联权值和阈值,计算样本的实际输出。

其中输入层的输出等于输入样本值,隐含层和输出层的输入为地球物理勘探概论输出为地球物理勘探概论式中:f为阈值逻辑函数,一般取Sigmoid函数,即地球物理勘探概论式中:θj表示阈值或偏置;θ0的作用是调节Sigmoid函数的形状。

较小的θ0将使Sigmoid函数逼近于阈值逻辑单元的特征,较大的θ0将导致Sigmoid函数变平缓,一般取θ0=1。

(4)计算实际输出与理想输出的误差地球物理勘探概论式中:tpk为理想输出;Opk为实际输出;p为样本号;k为输出节点号。

(5)误差反向传播,修改权值地球物理勘探概论式中:地球物理勘探概论地球物理勘探概论(6)判断收敛。若误差小于给定值,则结束,否则转向步骤(2)。

(三)塔北雅克拉地区BP神经网络预测实例以塔北雅克拉地区S4井为已知样本,取氧化还原电位,放射性元素Rn、Th、Tc、U、K和地震反射构造面等7个特征为识别的依据。

构造面反映了局部构造的起伏变化,其局部隆起部位应是油气运移和富集的有利部位,它可以作为判断含油气性的诸种因素之一。

在该地区投入了高精度重磁、土壤微磁、频谱激电等多种方法,一些参数未入选为判别的特征参数,是因为某些参数是相关的。

在使用神经网络方法判别之前,还采用K-L变换(Karhaem-Loeve)来分析和提取特征。S4井位于测区西南部5线25点,是区内唯一已知井。

该井在5390.6m的侏罗系地层获得40.6m厚的油气层,在5482m深的震旦系地层中获58m厚的油气层。

取S4井周围9个点,即4~6线的23~25点作为已知油气的训练样本;由于区内没有未见油的钻井,只好根据地质资料分析,选取14~16线的55~57点作为非油气的训练样本。

BP网络学习迭代17174次,总误差为0.0001,学习效果相当满意。以学习后的网络进行识别,得出结果如图6-2-4所示。

图6-2-4塔北雅克拉地区BP神经网络聚类结果(据刘天佑等,1997)由图6-2-4可见,由预测值大于0.9可得5个大封闭圈远景区,其中测区南部①号远景区对应着已知油井S4井;②、③号油气远景区位于地震勘探所查明的托库1、2号构造,该两个构造位于沙雅隆起的东段,其西段即为1984年钻遇高产油气流的Sch2井,应是含油气性好的远景区;④、⑤号远景区位于大涝坝构造,是yh油田的组成部分。

谷歌人工智能写作项目:爱发猫

BP人工神经网络

人工神经网络(artificialneuralnetwork,ANN)指由大量与自然神经系统相类似的神经元联结而成的网络,是用工程技术手段模拟生物网络结构特征和功能特征的一类人工系统好文案

神经网络不但具有处理数值数据的一般计算能力,而且还具有处理知识的思维、学习、记忆能力,它采用类似于“黑箱”的方法,通过学习和记忆,找出输入、输出变量之间的非线性关系(映射),在执行问题和求解时,将所获取的数据输入到已经训练好的网络,依据网络学到的知识进行网络推理,得出合理的答案与结果。

岩土工程中的许多问题是非线性问题,变量之间的关系十分复杂,很难用确切的数学、力学模型来描述。

工程现场实测数据的代表性与测点的位置、范围和手段有关,有时很难满足传统统计方法所要求的统计条件和规律,加之岩土工程信息的复杂性和不确定性,因而运用神经网络方法实现岩土工程问题的求解是合适的。

BP神经网络模型是误差反向传播(BackPagation)网络模型的简称。它由输入层、隐含层和输出层组成。

网络的学习过程就是对网络各层节点间连接权逐步修改的过程,这一过程由两部分组成:正向传播和反向传播。

正向传播是输入模式从输入层经隐含层处理传向输出层;反向传播是均方误差信息从输出层向输入层传播,将误差信号沿原来的连接通路返回,通过修改各层神经元的权值,使得误差信号最小。

BP神经网络模型在建立及应用过程中,主要存在的不足和建议有以下四个方面:(1)对于神经网络,数据愈多,网络的训练效果愈佳,也更能反映实际。

但在实际操作中,由于条件的限制很难选取大量的样本值进行训练,样本数量偏少。(2)BP网络模型其计算速度较慢、无法表达预测量与其相关参数之间亲疏关系。

(3)以定量数据为基础建立模型,若能收集到充分资料,以定性指标(如基坑降水方式、基坑支护模式、施工工况等)和一些易获取的定量指标作为输入层,以评价等级作为输出层,这样建立的BP网络模型将更准确全面。

(4)BP人工神经网络系统具有非线性、智能的特点。

较好地考虑了定性描述和定量计算、精确逻辑分析和非确定性推理等方面,但由于样本不同,影响要素的权重不同,以及在根据先验知识和前人的经验总结对定性参数进行量化处理,必然会影响评价的客观性和准确性。

因此,在实际评价中只有根据不同的基坑施工工况、不同的周边环境条件,应不同用户的需求,选择不同的分析指标,才能满足复杂工况条件下地质环境评价的要求,取得较好的应用效果。

神经网络BP模型

一、BP模型概述误差逆传播(ErrorBack-Propagation)神经网络模型简称为BP(Back-Propagation)网络模型。

PallWerbas博士于1974年在他的博士论文中提出了误差逆传播学习算法。完整提出并被广泛接受误差逆传播学习算法的是以Rumelhart和McCelland为首的科学家小组。

他们在1986年出版“ParallelDistributedProcessing,ExplorationsintheMicrostructureofCognition”(《并行分布信息处理》)一书中,对误差逆传播学习算法进行了详尽的分析与介绍,并对这一算法的潜在能力进行了深入探讨。

BP网络是一种具有3层或3层以上的阶层型神经网络。

神经网络模型之BP算法及实例分析 神经网络BP算法及预测实例 阅读详情

相关推荐

Noise协议框架:ECDH握手与AEAD加密实现详解

在构建安全通信系统时,密钥交换与数据加密是两核心基础。Diffie-Hellman密钥交换协议允许双方在不安全的信道上协商出共享密钥,而认证加密(AEAD)则一站式解决了数据的机密性、完整性与来源认证问题。这些密码学原语共同构成了现代安全通信的技术基石,其工程价值在于为开发者提供了可验证、模块化的安全组件,避免了从头设计协议的高风险。它们被广泛应用于VPN、即时通讯、物联网设备认证等需要建立可信通道的场景。本文聚焦于Noise协议框架,它正是基于ECDH和AEAD等【密码学原语】,提供了一套【模块化】的“

weixin_30727835的博客 553

深度学习神经网络训练的一些技巧

1. 合适的数学集 1.没有明显差异特别特别的数据(可以避免Loss输出为NaN) 2.样本数据分布均匀 2. 合适的数据预处理方法 在BN没有出现之前,主要做法事减去均值,然后除去方差,但在BN出现后,减均值除方差的做法已经没有必要了,对应的预处理方法主要是数据筛查,数据增强等等。 3. 网络的初始化 网络初始化最粗暴的方法是全部设为0,这是非常非常不建议这样做的。因为如果所有的参数都是0,那么会导致所有的神经元的输出都为0,这将导致model的崩塌,一般普遍的方法是将weight初始化均值为0,方差为

weixin_45074568的博客 757

基于神经网络的数字识别,语音识别深度神经网络

第二层是hiddenlayer,我们设置它的neurons有n个,上图中n=15第三层是outputlayer,它有10个neurons(因为数字无非就是0~9),并且我们假定,如果第一个neuron被激活,ouput=1,那么就说是被到的数字为0,以此类推。我们所用到的训练集:量28x28像素的图片(这些图片通过扫描一些手写数字得到),这些输入的像素是灰度级的,0.0代表白色,1.0代表黑色,介于两者之间为灰色。虽然CNNs也属于多层神经网络架构,但把它置身于DL家族,还是有不少人保留自己的理解的)。.

jiefu6666的博客 933

神经网络准确率计算公式,神经网络预测精度

从图中NeuralNetwork可以看出,你的网络结构是两个隐含层,2-3-1-1结构的网络,算法是traindm,显示出来的误差变化为均方误差值mse。经过482次迭代循环完成训练,耗时5秒。相同计算精度的话,训练次数越少,耗时越短,网络结构越优秀。达到设定的网络精度0.001的时候,误差下降梯度为0.0046,远于默认的1e-5,说明此时的网络误差仍在快速下降,所以可以把训练精度目标再提高一些,比如设为0.0001或者1e-5。...

aifamao6的博客 1万+

西瓜书5.5 编程实现BP神经网络——标准BP算法、累积BP算法

这里照着书上的公式,实现了一下标准BP算法,和累积BP算法BP是error Back Propagation的意思,误差逆传播。BP网络通常是指用BP算法训练的多层前馈神经网络。代码是照着书本公式自己写的,没有参考网上的其他版本。 数据和代码地址:https://github.com/qdbszsj/BP 具体的理论证明和公式推导,见西瓜书P101-104。这里重点说一下我的数据处理和一些代

世靖的码场 1万+

神经网络BP算法的原理与用Python实现源码

(1)什么是梯度下降和链式求导法则 1.梯度下降 假设我们有一个函数J(w),如下图所示。 现在,我们要求当w等于什么的时候,J(w)能够取到最小值。从图中我们知道最小值在初始位置的左边,也就意味着如果想要使J(w)最小,w的值需要减小。而初始位置的切线斜率a>0(也是该位置对应的导数于0),w=w-eta*a(eta是学习率)就能让w的值减小,循环求导更新w直到J(w)取到最

Microstrong 1万+

深入浅出BP神经网络算法的原理

深入浅出BP神经网络算法的原理

qq_45252766的博客 1万+

基于遗传算法优化的BP神经网络

基于遗传算法的GA-BP神经网络(附matlab源码)

Lov1_BYS的博客 5329

bp神经网络优化算法对比,bp神经网络的优化算法

5.优化网络结构 ————————拓扑结构中网络层数、各层节点数、节点连接方式的不确定性——————————————构造法和剪枝法(权衰减法、灵敏度计算方法等)——————————————网络结构随样本空间进行变换,简化网络结构6混合智能算法————————与遗传算法、进化计算、人工免疫算法、蚁群算法、微粒群算法、————————模糊数学、小波理论、混沌理论。反向传播借助 链式法则 ,计算两个或两个以上复合函数的导数,将输出单元的梯度反向传播回输入单元,根据计算出的梯度,调整网络的可学习参数。

Supermen333的博客 1160

人工神经网络算法-BP算法原理

人工神经网络是由量的神经元按照规模并行的方式通过一定的拓扑结构连接而成的。按照一定的规则将神经元连接成神经网络,并使网络中各神经元的连接权按一定的规则变化,这样一来也就产生了各式各样的神经网络模型。 从几个方面进行分类: (1)按神经网络的拓扑结构可以分为反馈神经网络模型和前向神经网络模型; (2)按照神经网络模型的性能可分为连续型与离散型神经网络模型,确定型与随机型神经网络模型 (3

wj176623的专栏 1万+

mlp神经网络bp神经网络,bp神经网络lm算法原理

1.初始权值不一样,如果一样,每次训练结果是相同的2.是3.在train之前修改权值,IW,LW,b,使之相同4.取多次实验的均值一点浅见,仅供参考训练误差是否降到一定范围内,比如1e-3,将训练样本回代结果如何,训练样本进行了预处理,比如归一化,而测试样本未进行同样的处理这样的归一化似有问题,我也认为“测试数据的归一化也用训练数据归一化时得出的min和max值”,请参考这个帖子测试数据带入训练好的神经网络误差当然不会达到1e-5,这是预测啊。若干次后,再给新的输入,神经网络就能正确的预测对于的输出。...

kfc67269的博客 2918

基于遗传算法BP神经网络

基于遗传算法BP神经网络 源码地址:https://github.com/Grootzz/GA-BP 介绍: 利用遗传算法并行地优化BP网络的权值和阈值,从而避免了BP网络在优化权值和阈值时陷入局部最优的缺点 背景: 这个项目的背景为客运量和货运量的预测 文件介绍: freightFlow.xlsx : 货运量数据集,前7列为影响货运量的因素,第8列为货运量 passengerFlow.xl...

Grootz的博客 7640

神经网络BP算法推导详解

神经网络BP算法推导详解一.BP算法的提出及其算法思想二.BP算法三.前馈计算的过程四.反向传播的计算 一.BP算法的提出及其算法思想 神经网络主要是由三个部分组成的,分别是:1) 网络架构 2) 激活函数 3) 找出最优权重值的参数学习算法. BP(back propagation)神经网络是1986年由Rumelhart和McClelland为首的科学家提出的概念,是一种按照误差逆向传播算法训练的多层前馈神经网络。 既然我们无法直接得到隐层的权值,能否先通过输出层得到输出结果和期望输出的误差来间接调

qq_43232556的博客 5151

bp神经网络算法matlab程序,bp神经网络的matlab实现

trainlm训练函数最有效%net=newff(P,T,31,{'tansig','purelin'},'trainlm');%创建一个新的前向神经网络net_1=newff(minmax(P),[10,1],{'tansig','purelin'},'traingdm')%当前输入层权值和阈值{1,1}inputbias=net_1.b{1}%当前网络层权值和阈值{2,1}layerbias=net_1.b{2}%设置训练参数=50;这就是p到t的映射关系。...

shirley67269的博客 5054

BP 神经网络算法原理

本篇文章主要根据《神经网络与机器学习》和《人工神经网络原理》两本书,对 BP 神经网络的数学推导过程做了一个总结,为自己进入深度学习打...

小糖同学的专栏 2419

bp神经网络优化算法对比,提高bp神经网络精度

但当时并没有找到同样有技的含隐层的同培的学习规则。在BP 网络中,隐层节点数的选择非常重要,它不仅对建立的神经网络模型的性能影响很,而且是训练时出现“过拟合”的直接原因,但是目前理论上还没有一种科学的和普遍的确定方法。神经网络不但具有处理数值数据的一般计算能力,而且还具有处理知识的思维、学习、记忆能力,它采用类似于“黑箱”的方法,通过学习和记忆,找出输入、输出变量之间的非线性关系(映射),在执行问题和求解时,将所获取的数据输入到已经训练好的网络,依据网络学到的知识进行网络推理,得出合理的答案与结果。

aifans_bert的博客 3664

遗传算法bp神经网络原理,bp神经网络和遗传算法

遗传世代%调用GAOT工具箱,其中目标函数定义为ISeval[x,endPop,bPop,trace]=ga(aa,'ISeval',[],initPpp,[1e-611],'maxGenTerm',…%自定义编解码函数function[w1,b1,w2,b2,a1,a2,se,eval]=IScode(x)[pn,minp,maxp]=premnmx(p);endend%接着的hi*out个编码为w2fori=1:out,forj=1:hi,w2(i,j)=x(hi*(i-1)+j+in*hi);...

xilao138的博客 1144
上一篇: 人体的神经元有多少个,人体的神经元有多少支
下一篇: 神经网络 手写数字识别,人工智能手写数字识别
快乐的小荣荣
博客等级 码龄4年 56粉丝 · 270原创
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值