神经网络常用的训练方式,训练图像识别神经网络

bp神经网络训练样本增加很多，但是隐含层节点数还是不变会不会欠拟合，或者过拟合？求大神告知！

学习神经网络这段时间，有一个疑问，BP神经网络中训练的次数指的网络的迭代次数，如果有a个样本,每个样本训练次数n，则网络一共迭代an次，在n>>a 情况下 ， 网络在不停的调整权值，减小误差，跟样本数似乎关系不大。

而且，a大了的话训练时间必然会变长。 换一种说法，将你的数据集看成一个固定值， 那么样本集与测试集 也可以按照某种规格确定下来如7：3 所以如何看待 样本集的多少与训练结果呢？

或者说怎么使你的网络更加稳定，更加符合你的所需 。

我尝试从之前的一个例子中看下区别如何用70行Java代码实现深度神经网络算法作者其实是实现了一个BP神经网络 ，不多说，看最后的例子一个运用神经网络的例子 最后我们找个简单例子来看看神经网络神奇的效果。

为了方便观察数据分布，我们选用一个二维坐标的数据，下面共有4个数据，方块代表数据的类型为1，三角代表数据的类型为0，可以看到属于方块类型的数据有（1，2）和（2，1），属于三角类型的数据有（1，1），（2，2），现在问题是需要在平面上将4个数据分成1和0两类，并以此来预测新的数据的类型。

图片描述我们可以运用逻辑回归算法来解决上面的分类问题，但是逻辑回归得到一个线性的直线做为分界线，可以看到上面的红线无论怎么摆放，总是有一个样本被错误地划分到不同类型中，所以对于上面的数据，仅仅一条直线不能很正确地划分他们的分类，如果我们运用神经网络算法，可以得到下图的分类效果，相当于多条直线求并集来划分空间，这样准确性更高。

图片描述简单粗暴，用作者的代码运行后 训练5000次 。

根据训练结果来预测一条新数据的分类（3,1）预测值 （3,1）的结果跟（1,2）（2,1）属于一类 属于正方形这时如果我们去掉 2个样本，则样本输入变成如下//设置样本数据，对应上面的4个二维坐标数据 double[][] data = new double[][]{{1,2},{2,2}}; //设置目标数据，对应4个坐标数据的分类 double[][] target = new double[][]{{1,0},{0,1}};123。

谷歌人工智能写作项目：神经网络伪原创

关于卷积神经网络的训练样本及测试样本

什么是神经网络中的训练样本？

指对人工神经网络训练。向网络足够多的样本，通过一定算法调整网络的结构（主要是调节权值），使网络的输出与预期值相符，这样的过程就是神经网络训练。

根据学习环境中教师信号的差异，神经网络训练大致可分为二分割学习、输出值学习和无教师学习三种。

什么是BP神经网络？

BP算法的基本思想是：学习过程由信号正向传播与误差的反向回传两个部分组成；正向传播时，输入样本从输入层传入，经各隐层依次逐层处理，传向输出层，若输出层输出与期望不符，则将误差作为调整信号逐层反向回传，对神经元之间的连接权矩阵做出处理，使误差减小。

经反复学习，最终使误差减小到可接受的范围。具体步骤如下：1、从训练集中取出某一样本，把信息输入网络中。2、通过各节点间的连接情况正向逐层处理后，得到神经网络的实际输出。

3、计算网络实际输出与期望输出的误差。4、将误差逐层反向回传至之前各层，并按一定原则将误差信号加载到连接权值上，使整个神经网络的连接权值向误差减小的方向转化。

5、対训练集中每一个输入—输出样本对重复以上步骤，直到整个训练样本集的误差减小到符合要求为止。

利用matlab神经网络训练样本数据后分类被任意曲线分成两部分的二维平面上的点

神经网络训练最后的收敛图 best training performance is NaN at。。。什么意思，是没有收敛吗

NaN意思是Not A Number，除非是发散，不过一般不会出现这种情况。可能你的程序有错。

如果是新定义算法的话理论上的收敛要证明,可以证明它在迭代次数趋近无穷的时候等于某一解,也可以证明它满足李普希兹条件（就是带有完备范数和李普希兹常数的那个）,这种情形下我们叫做收敛,要是用已有算法或者干脆就是BP算法的时候不需要你证明.理论上不收敛的情况是这样,当迭代次数趋近无穷的时候,权向量的解不唯一.实际上的收敛是这样,给定一个最大迭代次数n,一个误差限erl,反向传播算法应该很容易找,我不往上写了,每一步权值修正都会使er减小,直观的看就是权向量的分量沿着梯度减小的方向在前进,虽然理论上样本足够大并且n趋于无穷的时候会收敛,但是实际上有可能出现当迭代到第n次,误差er依然大于误差限erl的情况,也就是说我们没有解出来满足要求的权向量,所以网络训练失败,叫做不收敛.当然,也可以使用梯度限来作为迭代终止的条件,这种情况下不收敛就是梯度在迭代了n次以后没有小于某一值,从而没有求出满足要求的权向量；收敛就是求出了满足梯度限的权向量.。

利用人工神经网络求解权重，训练样本哪里来？

我不知道你具体做的课题，但是训练样本都是根据实际自己选择的，而且训练样本对训练结果影响非常大。

给你举个例子，假如需要利用神经网络判别卫星相片上的地块是不是荒漠，那这个训练样本就是从遥感相片上选择若干点，然后人工判读或者实地去调查，从而得到训练样本。

菜鸟请BP神经网络达人帮忙。。万分感谢！

步骤基本上是这样的，但你需要自己根据数据来设置相应的参数close all ;clear ;echo on ;clc ;% NEWFF——生成一个新的前向神经网络% TRAIN——对 BP 神经网络进行训练% SIM——对 BP 神经网络进行仿真pause% 敲任意键开始clc% 定义训练样本% P 为输入矢量p=[ ];% T 为目标矢量t= [];%训练样本的归一化for i=1:（训练样本的指标数）P(i,:)=(p(i,:)-min(p(i,:)))/(max(p(i,:))-min(p(i,:)));endpauseclc% 创建一个新的前向神经网络net=newff(minmax(P),[15,2],{'tansig','purelin'},'traingda'); %这些参数要自己设置% 当前输入层权值和阈值{1,1};inputbias=net.b{1} ;% 当前网络层权值和阈值{2,1} ;layerbias=net.b{2} ;pauseclc% 设置训练参数 也要自己设置 = 50; = 0.05; = 0.9; % 附加动量因子net.trainParam.epochs =5000; = 1e-4;pauseclc% 调用 TRAINGDM 算法训练 BP 网络[net,tr]=train(net,P,t);pauseclc% 对 BP 网络进行仿真p_test=[];for i=1:6P_test(i,:)=(p_test(i,:)-min(p_test(i,:)))/(max(p_test(i,:))-min(p_test(i,:)));endt_test=[];A = sim(net,P_test)% 计算仿真误差E = t - Aerror=mse(E)pauseclcecho off%反归一化for i=1:2predict(i,:)=A(i,:)*(max(t(i,:))-min(t(i,:)))+ min(t(i,:));endpredict %即仿真结果pause。

神经网络学习样本过多！会怎么样！