神经网络组合预测研究
牛东晓1 赵晓坤1 魏博2
华北电力大学经济管理系(071003)
2
华北电力大学电气工程学院电力工程系(071003)
Email:daiyelan@sohu.com
1
摘 要:在单一预测不能满足精度要求的情况下,组合预测通常是首选方法。传统的组合方法之外,用神经网络进行组合预测,效果更佳。文中以全国天然气消耗量为例,利用BP神经网络将非线性回归、指数平滑和灰色三种方法的预测结果作为输入,原始数据作为期望输出进行组合预测,得出令人满意的精度结果。又将之与传统的EV、MV方法组合的结果进行比较,各项误差均有大幅度降低。
关键词:组合预测,神经网络,BP网络,天然气消耗量,灰色,非线性回归,指数平滑
Research of Combination Forecasting Using an Artificial
Neural Network
Niu Dong-xiao1, Zhao Xiao-kun1, Weibo2
(1. Department of Economy and Management, North China Electric Power University, Baoding 071003,China; 2. Department of Electrical Engineering, School of Electric Engineering, North
China Electric Power University, Baoding 071003,China) Abstract: when single forecasting can't meet the precision request, the combination forecasting is usually a first-selected technique. Besides the traditional methods, the combination forecasting method based on ANN is better, it uses BP network to combine three methods of non-linear regression, exponential smoothing method and grey method together. An example about natural gas consumption of the whole country is given in the paper. Comparing with traditional methods of EV and MV, this method can make all errors reduce largely.
Keywords: combination forecasting, Artificial Neural Network, Back-Propagation Network, natural gas consumption, GM(1,1), nonlinear regression, exponential smoothing
1. 引言:
预测技术发展至今,已经日趋成熟,从回归预测到灰色,一直到神经网络、小波分析等始终在不断吸收着最新的信息技术和数学理论。但是单一的预测方法常常不能满足要求,尤其是波动性较大,精度要求较高的数据,而组合预测方法在一定程度上解决了这个问题。在
1. 2. 3.
受高等学校博士点专向基金资助(20040079008) 河北省自然科学基金资助项目(G2005000584) 受校重大预研基金资助
1
中国科技论文在线___________________________________________________________________________http://www.paper.edu.cn
传统的组合方法之外,本文又提出神经网络组合预测方法,更进一步的发展了组合预测方法,丰富了预测理论。
2. 组合预测简介
优选组合预测有两类概念:一是指在几种预测方法中进行比较,选择拟合优度最佳或标准离差最小的预测模型作为最优模型进行预测;二是指将几种预测方法所得的结果,选取适当的权重进行加权平均的一种预测方法[1]。组合预测方法是建立在最大信息利用的基础上,它集结多种单一模型所包含的信息,进行最优组合。因此,在大多数情况下,通过组合预测可以达到改善预测结果的目的。组合的方法大致分为以下几种:
(一) 等权平均组合预测法(EW法) (二) 方差—协方差优选组合预测法(MV法) (三) 回归组合预测法(R法)
3. BP神经网络组合预测
3.1. 人工神经网络(Artificial Neural Network)的概念[5]
人工神经网络是一类模拟生物神经系统结构,由大量处理单元组成的非线性自适应动态系统,它具有学习能力,记忆能力,计算能力以及智能处理功能,在不同程度和层次上模仿大脑的信息处理机理。神经网络具有非线性,非局域性,非定常性,非凸性等特点,其应用已渗透到模式识别、自动控制、图像处理、非线性优化、经济预测等很多领域。近年来,随着计算机技术的发展,神经网络可以利用电脑进行仿真。人工神经网络不需构建任何数学模型,只靠过去的经验和专家的知识来学习,通过网络学习达到其输出与期望输出相符的结果,目前主要用来处理模糊的、非线性的、含有噪声的数据。
3.2.BP神经网络
本文研究中拟采用BP神经网络。BP网络模型即反向误差传播神经网络。由于它具有较好的自学习、自联想功能,成为当前应用最为广泛的一种人工神经网络。它是典型的多层网络,有输入层、一个或多个隐含层和输出层,层间多为全互连方式,同层单元之间不存在相互连接。其主要用于函数逼近、模式识别、分类和数据压缩。
BP算法的学习过程是由正向传播和反向传播两个过程组成的,在正向传播过程中输入信息从输入层经隐含层逐层处理,并传向输出层.每一层神经元的状态只影响下一层神经元的状态,如果在输出层不能得到期望输出,则转入反向传播将误差信号沿原来的连接通路返回,把网络学习时输出层出现的与“教师信号”之间的误差,归结为连接层中各节点间连接权值及阈值的“过错”,通过把输出层节点的误差逐层向输入层逆向传播以对连接权
2
中国科技论文在线___________________________________________________________________________http://www.paper.edu.cn
值和阈值进行调整,使网络适应要求的映射[5]。
BP网络的学习过程按以下步骤进行: 1) 网络参数的初始化:赋予网络的权值
间的随机数。
2) 按序取一列模式作为网络的输入信号。
Wji
和
Vkj
以及阈值
θj
和rk为(-1,+1)之
Uj=∑wjixj−θi
3) 隐含层各神经元输出的计算式:
函数f(x)一般取S形函数。
,
Hj=f(Uj)
。其中传递
4) 输出层各神经元输出的计算式:
Sk=∑VkjHj+rk
j
;Ok=g(Sk)。
5) 计算输出层神经元的误差信号:δk=(Tk−Ok)Ok(1−Ok) (式中:Tk为期望
值)。
6) 按下述公式计算隐含层神经元的误差:7) 修正输出层神经元的权值和阈值:8) 修正隐含层神经元的权值和阈值:
σj=∑δkVkjHj(1−Hj)
。
Vkj=Vkj+αδkHj
,rk=rk+βδk。
wji=wji+ασjxiθj=θj+βσjα、β, (
是网络调整参数,其值在(0,1)范围内随机选取)。
9) 取下一个学习样本作为输入信号,如果输入样本轮序一周,则计算全部样本的
ε=(∑(Ok-Tk)2)/nε(n为样本数)。 误差和,
10) 如果ε值小于指定的误差范围,则学习终止;否则更新学习次数,返回②进行
再训练。
3.3.神经网络组合预测
单一应用神经网络仅适于解决时间序列预测问题,尤其是平稳随机过程的预测。所以早期主要是对可近似认为是平稳的随机过程进行直接预测。现在将神经网络用于其他预测方法的再组合,则使神经网络在预测方面的应用范围拓宽。我们将各类预测值作为输入信号,原始数据作为“教师信号-t”,输出则为组合预测值。隐含层中神经元的数目的确定一直没有统一有效的方法,本文中将隐含层设为一层,包含5个神经元,传递函数
f(x)为值域在(-1,+1)之间的正切S形函数。输出层传递函数g(x)为值域在(−∞,+∞)
之间的线性函数。
3
中国科技论文在线___________________________________________________________________________http://www.paper.edu.cn
4. 实例应用
对1982-1998年天然气全国消耗量做预测,先用一次指数平滑、灰色和指数回归方法分别作出预测。建立三层BP神经网络,将单一预测结果作为输入值,将天然气消耗量作为期望输出对建立好的网络进行训练。利用训练好的网络重新计算82-98年天然气消耗量,计算输出值即为组合预测值。再分别用EV、MV方法对单一预测值做组合预测,预测值及误差检验结果如下:
序号 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17
天然气原始
数据 18.29 18.69 16.87 18.6 18.19 19.53 19.4 20.73 20.76 20.74 22.04 23.32 23.61 25.01
灰色预测 15.582 16.204 16.851 17.523 18.223 18.95 19.707 20.494 21.312 22.162 23.047 23.967 24.924 25.919
一次指数平
滑
指数回归预测(f3)
EV组合预测
MV组合预
测
神经网络(ANN)组合
18.29 15.686 16.519 16.196 18.37 18.29 16.506 17.000 16.793 18.586 18.65 18.748 18.083 18.212 16.733 17.048 19.232 17.934 18.315 18.607 18.445 19.729 18.799 19.054 18.445 18.215 20.238 19.134 19.469 19.44 19.399 20.76 19.955 20.192 19.51 19.391 21.296 20.394 20.684 20.434 20.596 21.845 21.251 21.442 20.578 20.744 22.409 21.772 21.997 21.481 20.74 22.987 22.258 22.539 22.531 21.91 23.581 23.153 23.34 22.844 23.179 24.189 24.097 24.18 23.147 23.567 24.813 24.766 24.856 24.086 24.866 25.454 25.758 25.741 24.478 23.628 26.111 25.923 26.12 29.09 23.49 26.954 29.09 28.03 34.16 29.149
28.544 26.784 28.159 27.791 34.16 4
中国科技论文在线___________________________________________________________________________http://www.paper.edu.cn平均绝对误差(MAE) 均方误差(MSE)
后验差 (C)
1.343059 3.5121485 0.306777 0.941176
1.4028235 4.6213867 0.3824910.882353
1.6781176 5.4679765 0.3823780.941176
1.253568633.630488980.3369370.941176
1.30311765 4.02002841
0.3143529 0.1942956
0.357797 0.0725550.941176
1.000000
1 小误差概率(P)
精度等级
2 2 2 2 2 单一方法预测效果如下图:
40353025201510501357911131517原始数据灰色预测指数平滑预测指数回归预测 神经网络组合预测效果图: 神经网络组合预测40353025201510501357911131517原始数据组合预测数据 5. 结论 在上述实例中,使用BP神经网络将三种单一方法预测结果组合,采取多种指标进行检验,各项误差均有大幅度的减小,结果由二级精度跃升至一级精度,远好于单一预测和传统的EV、MV组合预测方法的效果。通过实例分析,表明在单一预测不能满足精度要求的情况下,利用神经网络进行组合预测,更能有效的提高预测精度,且无需模型,不限单一预测方法数,组合权值可通过训练随时调整,很容易推广到一般情况,适宜大批量计算。 5
参考文献:
[1]. 牛东晓,曹树华,赵磊,张文文:电力负荷预测技术及其应用[M]. 北京:中国电力出版社 1998. [2]. 闻新,周露,李翔,张宝伟:MATLAB神经网络仿真与应用[M].北京:科学出版社 2003.
[3]. 蒋良孝,李超群:基于BP神经网络的函数逼近方法及其MATLAB实现[J].微型机与应用.2004年
第1期:52-53
[4]. 张俊玲,陈立文,尹志军,赵丽坤:工程项目投资风险评价模型研究[J].基建优化.2004年2月
第25卷 第1期:11-14
[5]. 张立明:人工神经网络模型及其应用[M].复旦大学出版社.1993.7
6
因篇幅问题不能全部显示,请点此查看更多更全内容