ELM（extreme learning machine）

最新推荐文章于 2024-11-14 09:02:05 发布
原创 最新推荐文章于 2024-11-14 09:02:05 发布 · 3.5k 阅读 · 3 ·
本内容遵循CC 4.0 BY-SA版权协议
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
标签
#机器学习
本文介绍了极端学习机（ELM）的基本原理，强调了它与BP算法的主要区别：ELM通过随机初始化输入层到隐藏层的权重，并使用最小二乘法求解隐藏层到输出层的权重，从而避免了传统BP算法中反向传播调整权重的过程。

1、ELM理论
个人理解，ELM就是单隐层的前馈人工神经网。但是与传统的BP算法的区别之处在于其不需要反向迭代的调整隐层的权值。具体说来就是：在单隐层的前馈神经网络中，对于输入的特征向量，输入层到隐层的权值随机赋值，但是隐层到输出层的权值则需要根据最小二乘法得到。这就是ELM的训练过程。
与BP的区别：BP算法中，输入层到隐层和隐层带输出层的权值全部需要根据梯度下降法迭代求解。
这里写图片描述
如图所示的单隐层ELM中，对输入的特征向量X，输入层与隐层的权值Wi1,Wi2,Wi3随机确定，不需要迭代求解，只需根据最小而成大求出隐层到输出层的权值。
未完待续

ELM与BP、RBF、PNN、GRNN比较_极限学习机_RBF_ELM和RBF_ELM
09-10
这是一份能够运行得通的代码，请放心下载，极限学习机与其他算法比较。
ELMAN神经网络
vendetta_gg的博客
07-08 2万+
ELMAN神经网络 By:Yang Liu 1.什么是ELMAN神经网络 Elman神经网络是一种典型的局部回归网络( global feed forward local recurrent)。Elman网络可以看作是一个具有局部记忆单元和局部反馈连接的递归神经网络。Elman网络具有与多层前向网络相似的多层结构。是在BP网络基本结构的基础上，在隐含层增加一个承接层，作为一步延时算子，达到记忆的目的，从而使系统具有适应时变特性的能力，增强了网络的全局稳定性，它比前馈型神经网络具有更强的计算能力，还可以用来解
多算法数据预测——BP、ELM、LSTM、BiLSTM和SAELSTM，附Matlab源码
qq_39605374的博客
07-31 830
本文将为大家介绍基于BP、ELM、LSTM、BiLSTM和SAELSTM多种算法的数据预测，并提供相应的Matlab源码。SAELSTM算法是一种结合自动编码器和LSTM神经网络的深度学习方法，用于时间序列数据预测。ELM算法是一种单层前向神经网络，在单次训练过程中直接产生输出权重，从而具有快速学习和良好推广性能。多算法数据预测——BP、ELM、LSTM、BiLSTM和SAELSTM，附Matlab源码。总体来看，采用多种算法进行数据预测可以提高预测准确率，并可根据不同场景选择适合的算法。
bp神经网络误差函数_核函数与ELM、KELM
weixin_28972455的博客
12-31 3268
核函数与ELM、KELM核函数核函数是一种映射关系，用来升维，多应用于分类和聚类的算法中。能够将线性不可分的数据，通过核函数的映射关系，映射到高维的空间中，寻找能够将数据分类的超平面。ELMELM(Extreme learnIng Machine)极限学习机，是一种学习方式，应用于BP神经网络(前馈神经网络)，对BP神经网络进行了改进和优化，提升了学习效率，并省去了参数的设定。多应用于监...
BP神经网络与ELM极限学习机的对比
鱼香土豆丝
08-24 2万+
虽然ELM极限学习机有很多的争议，但是也有他一定的优点，今天，我们采用同一组数据分别使用，BP与ELM来做回归分析，采用的是y=x1^2+x2^2的数据，做的是非线性回归。 代码如下： clear all clc %% 导入数据 load data % 随机生成训练集、测试集 k = randperm(size(input,1)); %%%返回行数，并产生随机的2000个数。 % 训
极限学习机(Extreme Learning Machine,ELM)详解
山里娃的博客
12-23 9417
极限学习机的提出目的是为了解决人工神经网络训练时耗费的时间和高成本。对此，2004年由南洋理工大学的黄广斌提出了ELM学习理论。
Extreme Learning Machine(ELM)的工程哲学
weixin_34107955的博客
05-08 160
Extreme Learning Machine(ELM)的工程哲学 David_Wang2015 发布于2015年5月6日 11:29       工程问题往往需要的是一定精度范围内的结果，而不是“真正的”结果。得到问题解的一般方式是迭代求解，而ELM的求解方式是利用随机数和大数定律求解，这种方法论在20世纪40年代蒙特卡洛求积分（用于曼哈顿计划）、80年代的模拟退火（求解复杂优化问...
第七课 极限学习机（ Extreme Learning Machine, ELM）
Hubert的博客
11-10 6073
背景 前向神经网络的学习速度通常远低于要求，并且在过去几十年里一直是其应用的一个主要瓶颈。背后的两个关键原因可能是： 1）基于慢梯度的学习算法被广泛应用于神经网络的训练。 2）利用这种学习算法对网络的所有参数进行迭代调整。 与这些传统实现不同，极限学习机（ELM）随机化广义单隐藏层前馈网络（SLFN）的所有隐藏节点参数，并通过分析确定SLFN的输出权重。 •所有隐藏节点参数均独立于目标功能或训练数...
极限学习机(Extreme Learning Machine)ELM
xiatianyunzi的博客
09-12 1万+
二、ELM 1、算法介绍及功能 极限学习机(Extreme Learning Machine) ELM是一种针对单隐含层前馈神经网络(Single-hiddenLayerFeedforwardNeuralNetwork,SLFN)的神经网络的算法。最大的特点是输入权值和隐含节点的偏置都是在给定范围内随机生成的，被证实学习效率高且泛化能力强。训练时的主要目的在于输出层的权值求解。 EL...
所有神经网络的特点及优缺点分析总结
热门推荐
BetterBench的博客
11-03 3万+
目录1 单层感知器2 线性神经网络2.1 线性神经网络的改进--Madaline神经网络3 BP神经网络4 径向基函数网络4.1 两类径向基函数网络4.2 径向基网络与多层感知器的比较4.3 径向基函数的改进--概率神经网络4.4 径向基函数的改进--广义回归神经网络 如果不明白所有神经网络都是如何分类且他们的概念的，参考本人的另一篇博客详解 所有神经网络的关系和分类－附思维导图 1 单层感知器 （1）主要应用： 可以快速、可靠的解决线性可分的问题 注意：单层感知器并不对所有二分类问题收敛，它只对线性可分
极限学习机学习笔记
dulingtingzi的博客
05-22 3万+
单层前馈神经网络（SLFN）以其良好的学习能力在许多领域得到了广泛的应用，然而传统的学习算法，如BP等固有的一些缺点，成为制约其发展的主要瓶颈，前馈神经网络大多采用梯度下降法，该方法存在以下几个方面的缺点和不足： 1、训练速度慢。由于梯度下降法需要多次迭代，从而达到修正权值和阈值的目的，因此训练过程耗时较长； 2、容易陷入局部极小值，无法到达全局最小； 3、学习率yita的选择敏感，学习率对
【神经网络】粒子群优化ELM网络预测matlab源码
m0_60703264的博客
06-29 673
单层前馈神经网络(SLFN)以其良好的学习能力在许多领域得到了广泛的应用，然而传统的学习算法，如BP等固有的一些缺点，成为制约其发展的主要瓶颈，前馈神经网络大多采用梯度下降法，该方法存在以下几个方面的缺点和不足： 1、训练速度慢。由于梯度下降法需要多次迭代，从而达到修正权值和阈值的目的，因此训练过程耗时较长； 2、容易陷入局部极小值，无法到达全局最小； 3、学习率yita的选择敏感，学习率对...
学习笔记：matlab中各种神经网络与代码DEMO
wwcsd2018001的博客
10-17 2479
好记性不如烂笔头，这段时间学习了神经网络后，难免有些混乱，这里特地整理和梳理一下matlab中的各种神经网络和简要的DEMO。
Elman神经网络与自适应共振网络（ART）
edward_zcl的博客
11-18 3977
这几天在回过头看一些比较基础的东西，发现了两个早期研究的神经网络，Elman与ART网络，类似于上世纪80年代的hopfield神经网络，BM/RBM/DBN，RBF，SOM，以及同时期的SVM算法等等，虽然那个时候可能比较冷门，并且处于神经网络偏底层研究，与生物学结合很密切，但是想法还是很不错的。 Elman神经网络介绍以及Matlab实现 Elman神经网络介绍 1.特点 Elman神经网...
elm极限学习机
blacklee123的专栏
07-14 2750
一、极限学习机的概念     极限学习机(Extreme Learning Machine) ELM，是由黄广斌提出来的求解单隐层神经网络的算法。     ELM最大的特点是对于传统的神经网络，尤其是单隐层前馈神经网络(SLFNs)，在保证学习精度的前提下比传统的学习算法速度更快。 二、极限学习机的原理 ELM是一种新型的快速学习算法，对于单隐层神经网络，ELM 可以随机初始化输入权重和偏
神经网络中的BP算法和Elman算法
daa20的专栏
03-05 1万+
clear all; %输入数据 P = [0.4413 0.4707 0.6953 0.8133 0.4379 0.4677 0.6981 0.8002 0.4517 0.4725 0.7006 0.8201; 0.4379 0.4677 0.6981 0.8002 0.4517 0.4725 0.7006 0.8201 0.4557 0.4790 0.7019 0.8211;
Elman 神经网络算法详解
最新发布
梵心白莲的博客
11-14 2238
Elman 神经网络作为一种经典的递归神经网络（RNN），在处理动态系统和时间序列数据方面具有独特的优势。它通过特殊的结构设计，能够有效地捕捉数据中的时间依赖关系，在语音识别、自然语言处理、系统建模与预测等众多领域都有着广泛的应用。本文将对 Elman 神经网络算法进行全面深入的讲解，包括其网络结构、工作原理、训练算法，并通过大量的代码示例来展示其实现过程。
Elman 神经网络结构：原理、特性与实现
梵心白莲的博客
11-13 2247
人工神经网络在众多领域展现出了强大的建模和预测能力，Elman 神经网络作为一种递归神经网络（Recurrent Neural Network，RNN）的经典结构，有着独特的优势和广泛的应用场景。它能够处理具有时间序列特性的数据，通过内部的反馈连接捕捉数据中的动态信息，在诸如语音识别、自然语言处理、时间序列预测等方面都发挥着重要作用。本文将深入剖析 Elman 神经网络的结构、原理、训练方法以及通过代码示例展示其具体的实现过程。
回归预测 基于ELMAN递归神经网络预测及其matlab代码实现
CJ-leaf的博客
12-22 1万+
遗传算法/粒子群算法优化支持向量机分类与回归预测-附代码 文章目录遗传算法/粒子群算法优化支持向量机分类与回归预测-附代码1. 支持向量机简介与参数优化的原理1.1 支持向量机SVM简介1.2 优化参数的选取1.3 交叉验证（CV）2. 数据集介绍和采用的优化算法2.1 遗传算法GA优化SVM2.2 粒子群算法PSO优化SVM3. 程序结果和算法的对比3.1 SVM3.2 遗传算法GA优化SVM3.3 粒子群算法PSO优化SVM3.4 算法结果的对比4. 小结5. MATLAB代码 1. 支持向量机简介与参
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值