neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ...
Transcript of neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ...
![Page 1: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/1.jpg)
�
������������� ��� ������������������ ��������������� ������������������ �� ��� ����������������������������� ������� ��
� �� �!�����"� � �������
�������������� ������ ��� ���������������� ���
�#��$��� ���%&&'�( ���� ��������#�� ������������ ���#�������)������*�� %&&'
�#��$��� �� + ����������� ,,,�� � �������
��� ������������� ���� ������������
� � �-������.�-�-���� ������� ����/0������� ��������12%3
),( pjpjp otCE =ji
pjpjjip w
otCw
∂∂
−∝∆),(
ji
pj
pj
pjpj
ji
pjpj
w
net
net
otC
w
otC
∂∂
∂∂
=∂
∂ ),(),(
pj
pjpjpj net
otC
∂∂
−=),(
δ
pj
pj
pj
pjpj
pj
pjpjpj net
o
o
otC
net
otC
∂∂
∂∂
=∂
∂−=
),(),(δ
)( pjjpj netfo =
)(' pjjpj
pt netfnet
o=
∂∂
)(),( '
pjjpj
pjpjpj netf
o
otC
∂∂
=δ
��
���
−=∂
∂=
∂
∂
∂∂
=∂
∂∂
∂
kkjpj
kkj
pk
pjpj
pj
ipiki
k pk
pjpj
pj
pk
k pk
pjpj
wwnet
otC
o
ow
net
otC
o
net
net
otC
δ),(
),(),(
�=k
kjpjpjjpj wnetf δδ )('
��
�
���
�
∂∂
=
� layerhidden ain is unit if)(
layeroutput in the is unit if)(),(
'
'
jwnetf
jnetfo
otC
kpjkpkpjj
pjjpj
pjpj
pj
δδ
���� „How to …“ on Neural Network Forecasting without Maths!
���� CD-Start-Up Kit forNeural Network Forecasting
� 20+ software simulators� datasets� literature & faq
� �� 4����4����5��44 � ����� ������!,,,�� � ����4�6�#�%&&'����,,,������ ������� ������
![Page 2: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/2.jpg)
%
�#��$��� �� + ����������� ,,,�� � �������
������
�� ����4��� ������7�����7��,�.�
%� )--� ��� ������7�����7��,�.�����#�� ������������ ��
8� ���4� ����9�� ���� ��7�����7��,�.�������� ��
'� $ -��5�$ �.�������-�� ���7�����7��,�.�����4���������
*� :5)���4�; ����� ��
�������������� ������ ��� ���������������� ���
�#��$��� �� + ����������� ,,,�� � �������
• German• English
Languages Work Experience Method Competency
Education
Problem CompetencyKey-Projects
2004 Post Doc Researcher at Int. Centre for Forecasting, Lancaster University, UK
2003 Research Fellow at the George Mason Uni, USA
2003 Visiting Scientist at the Stellenbosch Business School, USB, South Africa.
2000-2004 Research & Teaching Assistant University of Hamburg, PhD-thesis on Forecasting in InventoryManagement using ANN
1992-1997 University of HamburgMBA equiv. (Dipl.-Kfm.) in Business Administration
2004 - … Research Associate, Lancaster University, United Kingdom
2000-2004 Research & Teaching Assistant University of Hamburg, Prof. Preßmar & Voß ; Various projects in industry & trade
1996-2000 CEO RSG Software GmbH.Management & IT-Consultant for Retail & Wholesale Projects in Germany & UK & Hungary.
• SAP APO• SAP Curriculum PLM100,
SCM200, SCM 220• Inventory Management
• Forecasting methods• Inventory Management
• Supply Chain Planning/ APS• Warehouse logistics• Distribution- / Supply logistics
• Business Information Systems
• Demand Planning in Consumer Goods Industry
• Demand Planning in Retail & Wholesale
• Member of the IBF Institute of Business Forecasters
• Member of the International Institute of Forecasters IIF
• Member of IEEE; GOR, GI, ORSA …
• Regular Presentations at ANN conferences of IEEE, INNS, APNNA
• Forecasting Methods in SAP APO-DP, bdf HAM, Sales Forecast Management & bdf Netherlands
• Automatic Model Selection in APO-DP, bdf HAM, Sales Forecast Management
• Sales Forecasts, AOLTimeWarner, GER• Forecasting for Customer Relationship
Management, Gruner & Jahr AG, GER• Implementing a Forecast Strategy &
Inventory Management in Vending Supply Chain, Mayfair Services, UK
• Inventory Management in Distributions-Center Logistics, Vendepac, UK
��������������� �� !����"�#$����%����
Position: Senior Consultant Nationality: German Born: 1971
������������ $���<'1��=��'1�&�&&�( ��� �!�����"� � ����4� ( �������!�,,,�� � ����4�
![Page 3: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/3.jpg)
8
�#��$��� �� + ����������� ,,,�� � �������
������������� ��!&�� ��' ��()#�*�+
��������� ��� ��!����� ��������������� ����������
����������� ��� ��!��������������������������� ���
������-����� ��� �����4����-������!�������� ���5�)��>7�����7������)�?@
� ����,������-������!��)A�)AB�;A��� ���� ������������A��?
� ��� ����>7���A�� �C@� �����������>� -������������ ������ ���4�����,��������� �������@
� 0�������>� -�����-������,������,��--� ��� ���4��� �������@�
� ���� ���>� ������� ���������������9-������� ���7�����7���@
� ������� ������-������!�������6�����
� �������4���������!
�#��$��� �� + ����������� ,,,�� � �������
������
�� ����4��� ������7�����7��,�.�
�� ;�� � � ���
�� A�� �,!�B�� ���� ����� ������7�����7��,�.�������� ��
�� 7�����7��,�.������ ��B0AB0)$��#���7����������� ��
4� ��� ��� ���5�� ���� ��������7�����7��,�.�
�� ����� ���� ��������� � � ���7�����7��,�.���������
�� 7��,�.�$� � ��
%� )--� ��� ������7�����7��,�.�����#�� ������������ ��
8� ���4� ����9�� ���� ��7�����7��,�.��������� ��
'� $ -��5�$ �.�������-�� ���7�����7��,�.������4���������
*� :���� ����5�)��,�����4�; ����� ��
�������������� ������ ��� ���������������� ���
![Page 4: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/4.jpg)
'
�#��$��� �� + ����������� ,,,�� � �������
��� ����� ���������������� ���,
� )� � � ���7�����7��,�.��>77@
� D������ �������� ��4�� ���4������4�� ����,��� ��,� ��������� ��-��������-�� ��������.�?E��������,�.� ��? �-�������4�? ������ ������4� ������,��������4 � �������-����F /���. �123
� ������������� �� ���������4����� ������ ���-����� ������� �� ��������������������� �-���-����� ����� ���>������@��,� ����9������� ������ ��������� ���� ��� ���� ��4 ����4�������� �����/G���1=3
1nθ +
2nθ +
6nθ +
5nθ +
3nθ +
4nθ +
n hθ +
(���
�� ����� ���������� ��
���������� �����
� �����4����>- 9��6� ��@
�?
-� ��
�� ����� ���-�4 �� ��
�4�-��4������ �����
�������������� -�
�������-���� � � ��
�- �� -������-������
�?
!�������
�#��$��� �� + ����������� ,,,�� � �������
.���� � ��"�!�$�������������� �������� ���
� � ����� �� ���77� ��#�� ������������ ���, ���7���A�4 ���
� ) � ���A��������;�����9-� ����� 8������4�77!�>�% 2 �@��%���-����� ��� 2�� 44����� ���( �����-����� �
� �%� �-������������ ���?��� ���>-�����%�������� ���@�� � ����� ���-�4 �� ��
� �<����������� � ��������-�����4��������
���� ���������/����#����
/#�,��6�#�95H��. ��3
� 0)1�+��$� ���
� 0)����������� ������ �
![Page 5: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/5.jpg)
*
�#��$��� �� + ����������� ,,,�� � �������
.���� � ��"�!�$�������������� �������� ���
� 7������ A�4 ��C�� D���. �� 4� ����� ������� ��F
�������� �� $����
/����������� ��� $����
!2 �������
/����#���� $���� ����� �� �� ����� � �-4���4 ���� ���� ���� �� ���-
�����-�� ������� ��� 5����������� � �� �� ��� 4���
����������-��I�$���
3���� ������ 4�$����� �� 4� �� ��� ���
�+��� ������� ��� 3�
�#��$��� �� + ����������� ,,,�� � �������
������
�� ����4��� ������7�����7��,�.�
�� ;�� � � ��
�� A�� �,�� ����� ������7�����7��,�.�������� ��
�� 7�����7��,�.������ ��B0AB0)$��#���7����������� ��
4� ��� ��� ���5�� ���� ��������7�����7��,�.�
�� ����� ���� ��������� � � ���7�����7��,�.���������
�� 7��,�.�$� � ��
%� )--� ��� ������7�����7��,�.�����#�� ������������ ��
8� ���4� ����9�� ���� ��7�����7��,�.��������� ��
'� $ -��5�$ �.�������-�� ���7�����7��,�.������4���������
*� :���� ����5�)��,�����4�; ����� ��
�������������� ������ ��� ���������������� ���
![Page 6: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/6.jpg)
J
�#��$��� �� + ����������� ,,,�� � �������
������� �������������� �������$����������������������� 15667�&�������+���� ���������������� ��������8
� 7���-��� ������ � �������5��9-�� ���� �
� ������� ��� ��� � 5��� � ��� ��� K ������ >��������� 7�����)�� � ��@� �-�����0����� � ���5�B-� �����������0����� � ��
� ��� ��� ��� ��������--� ��� ���� ��-������ ������� ������������� � ���>;)0A)@� �9-��� ���4����� ������� -���� � ������4��� � ��� ���>7)�)������9-���@� ���� ���5����4 ������H�����H����>7)�)@
� �����������6�,������ 0� ������-�4 �� ��� ��7 �� �������
� �-�����#�� ������ ��4 ����4����4�4����� ��� � �������������� ��������4�
� ; �������������� ���;��� ��� ����� �������4�6�;����4� � ���� ���������� ��
� ������6��9����������� ����.�������� �������
� ������������� ��
� ��������77��������4�� ��������������������;B�)�7C
Citation Analysis by year title=(neural AND net* AND (forecast* OR predict* O R time-ser* OR
time w/2 ser* OR timeser*) & title=(... ) and evaluated sales forecasting related point predi ctions
R2 = 0.9036
0
50
100
150
200
250
300
350
1987
1988
1989
1990
1991
1992
1993
1994
1995
1996
1997
1998
1999
2000
2001
2002
2003
[year]
[cita
tions
]
0
5
10
15
20
25
30
35
ForecastSales ForecastLinear (Forecast)
Number of Publications by Business Forecasting Domain
10
21
52
5
32
51
83 General Business
Marketing
Finance
Production
Product Sales Electrical Load
�#��$��� �� + ����������� ,,,�� � �������
����
.������ ������������������������ ���
� � �����1J&������ �������77�,���4�����-�4����4 ����������.�
� ���� � ��� ���L B-� � M�� ���L ������� ���� )--� ��� ����-�� � ����4���
� ; ��������)��������7�����7��,�.������������ ��������C
� ��������������� � �������� �����A���-����C
����
![Page 7: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/7.jpg)
=
�#��$��� �� + ����������� ,,,�� � �������
(�����������' ����� ����9� ��������
�77�����--� �4� �����-���� ;����4�A���� ���6��5BA�-�������C/N�� ��!�� � ��4����-���� M�3
Applied Forecasting Methods (all industries)
25%
8%
24%
35%
23%
9%
69%
23%
22%
6%
49%
7%
0% 10% 20% 30% 40% 50% 60% 70% 80%
Averages
Autoregressive Methods
Decomposition
Exponential Smoothing
Trendextrapolation
Econometric Models
Neural Networks
Regression
Analogies
Delphi
PERT
Surveys
[For
ecas
tinng
Met
hod]
[number replies]
$ ����� �� �����4�>��O��� ��@ � J�P
����� �����4�>��O��� ��@�� %8P
H�4�������� �����4�
>���O��� ��@�� %9P
� ������*��#������������� ��%&&�
� %'&�������������8� �4��� ��
�#��$��� �� + ����������� ,,,�� � �������
������
�� ����4��� ������7�����7��,�.�
�� ;�� � � ��
�� A�� �,�� ����� ������7�����7��,�.�������� ��
�� 7�����7��,�.������ ��B0AB0)$��#���7����������� ��
4� ��� ��� ���5�� ���� ��������7�����7��,�.�
�� ����� ���� ��������� � � ���7�����7��,�.���������
�� 7��,�.�$� � ��
%� )--� ��� ������7�����7��,�.�����#�� ������������ ��
8� ���4� ����9�� ���� ��7�����7��,�.��������� ��
'� $ -��5�$ �.�������-�� ���7�����7��,�.������4���������
*� :���� ����5�)��,�����4�; ����� ��
�������������� ������ ��� ���������������� ���
![Page 8: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/8.jpg)
2
�#��$��� �� + ����������� ,,,�� � �������
9 �$� ��������������� �(-*-:;8
� ������5���������������������>�� ������ �������� ���������@
� )� � �������� �������-��9������ ���!�-���-� ����������������-����������� � ��������� � ��� ����-�4 �� �������
� �-��4!������4������5������ M��������4������ ����,4I�&& %&&��
� ��� � ���������
� �� ������������������ � ����5����-��9����-����.��,�����4���
� ��-� ���!�������I��&�&&&�&&&�&&&�� ����%&�&&&�������
� �� ����������-��&&����-���-���� ��!�K � ��
�& J H�����& �J H����������������-� �
.���������C�*&&��N� ���
*&�� �� ���>A��� -@�&�� �� ���5��&8 � �� ��������7�����6$��� ����
�& 1���>%*&&���M�A@�& 8���>&�%*���M@A����� ����-��4
��-����>A�@������#� �
�#��$��� �� + ����������� ,,,�� � �������
� � ����
� ;�����-�4� �� ���4 �� -� ����0�������>��������6A ����1'8@
� ��� ��� ������������ ��������������7�����7��,�.�� ����� ���� ������� ��� ��
� �--� ��� �� � ����4���� ��� ��
� 0�������� ��4�������� ��-�� ���5�)� � � ��������� ������ 7����� �������������� ����A��� �������� �� ����������� ����� ������
��� ��� ����#�� ���������������
� 4 �������KB)#��)0Q!����� �� �������������-��� ������CCC
�����<�� ������������ ���
McCulloch / Pitts1943
Hebb1949
Rosenblatt1959
Minsky/Papert1969
Rumelhart/Hinton/Williams1986
Werbos1974
White1988
Kohonen1972
����������
���� !� ��������� ������� � ��������� ������������ �������3���������
![Page 9: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/9.jpg)
1
�#��$��� �� + ����������� ,,,�� � �������
.�� ���� � ����� �� �� /�������
� ;�� ��� ������� � ���� ��� � � ����77���� �-�� � � ��� ������
� 4��R� �� �������4!�)�SC
??
A�������N� ����
A������ M�� ��$� � ��
;�-��4��� �� ����>�@B��-���7�4�>�@
��4�-��4����6������4 K� �������-���7�4��
# � �� �������� �� ���
�#��$��� �� + ����������� ,,,�� � �������
������
�� ����4��� ������7�����7��,�.�
�� ;�� � � ��
�� A�� �,�� ����� ������7�����7��,�.�������� ��
�� 7�����7��,�.������ ��B0AB0)$��#���7����������� ��
4� ��� ��� ���5�� ���� ��������7�����7��,�.�
�� ����� ���� ��������� � � ���7�����7��,�.���������
�� 7��,�.�$� � ��
%� )--� ��� ������7�����7��,�.�����#�� ������������ ��
8� ���4� ����9�� ���� ��7�����7��,�.��������� ��
'� $ -��5�$ �.�������-�� ���7�����7��,�.������4���������
*� :���� ����5�)��,�����4�; ����� ��
�������������� ������ ��� ���������������� ���
![Page 10: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/10.jpg)
�&
�#��$��� �� + ����������� ,,,�� � �������
neural_net = eval(net_name);
[num_rows, ins] = size(neural_net.iw{1});
[outs,num_cols] = size(neural_net.lw{neural_net.num Layers, neural_net.numLayers-1});
if (strcmp(neural_net.adaptFcn,''))
net_type = 'RBF';
else net_type = 'MLP';
end
fid = fopen(path,'w');
9 �$� �����(������� � �� ������� �� ���
���� � ���� ��� ����� ���,�.� ? ����� � � �� ����� ���,�.�
jjj
iji ownet θ−=� ( )ii netfa =o1
o2
oj
wi,1wi,2
wi,j
oi
ii ao =
jjj
iji ownet θ−=� ( )ii netfa =o1
o2
oj
wi,1wi,2
wi,j
oi
ii ao =
jjj
iji ownet θ−=� ( )ii netfa =o1
o2
oj
wi,1wi,2
wi,j
oi
ii ao =
1nθ +
2nθ +
6nθ +
5nθ +
3nθ +
4nθ +
n hθ +
��
�
�
�−= �
jijjii owo θtanh
9� ���� ��� ����+� �� ������ � ��� ������ �
� ��� ������,���� ��������
��4,������� ��� �� ����
�#��$��� �� + ����������� ,,,�� � �������
(���� ���!����������������=�����>
9����������+������������ ������������
�& �&&�# �� ���7������, ����&&&&�������� ���� ��#� �
��-���>������@��A����� ���> ������@�5�B��-���>���� �@�7�����
�-��3!/���(���� ���!����������������
��-�������� ���>������ ������-�� ����� �����@�
)�� ��� �������� ���>���� ���@
� �������-������ ���T&E�U
� ��� 4������ ��!���� �� �����-���� ���������������
B��-�������� ���>� ����6��4��� ����������9 ���@
jjj
iji ownet θ−=� ( )ii netfa =
o1
o2
oj
ui
wi,1
wi,2
wi,j
oi
��
�
�
�−= �
jijjii owo θtanh
ii ao =
�4 �2 2 4netj
�1
�0.5
0.5
1
aj�f�netj �
, ��� ���"
?
![Page 11: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/11.jpg)
��
�#��$��� �� + ����������� ,,,�� � �������
7�4������� ���� $�0���B�;��BV�
�� ,� ���� �4 � 4���� �-������������� ����������
%� ����,� ����4� �-���
8� �44�� ������
'� �������������-��������4��������������������� ���/#�7)0Q������V�B�;C3
� 0�0�7�, �����9�� �-���-�����?
(���� ���!�������"�����/�����������
o2
o1
o3
w1,i
w2,i
w3,i
inputs weights outputinformation processing
i ij j jj
net w o θ= −� ( )ii netfa =��
�
�
�−= �
jijjii owo θtanh
1%1
@
0
6%A0
0%B@
C%60
1%1D6%A07@D 0%B@�7�0DC%60��?��)%101
)%101 B?� @%AAB
���= @%AAB>?� 6%CCCB oj
6%CCCB
�#��$��� �� + ����������� ,,,�� � �������
���� �� �����9�� ������!���� ��
u5
u5
u6
u1
u2
u3
u4 u7
u8
u9
u10
u11
u14
U13
u12
… ……
…
Architecture of a Multilayer Perceptron���� Classic form of feed forward neural network!
Neurons un (units / nodes) ordered in Layersunidirectional connections with trainable weights wn,n
Vector of input signals x i (input) Vector of output signals oj (output)
w1,5
w8,12
w5,8
input-layer
o1
hidden-layers output-layer
X1
X2
X3
X4
o2
o3
!tanhtanhtanh Minowwwok
kii j
jjjikikjk ����
�
�
�−��
�
�
�−��
�
�
�−= � � � θθθ
��� ��� ������������
I����������,�.
![Page 12: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/12.jpg)
�%
�#��$��� �� + ����������� ,,,�� � �������
������
�� ����4��� ������7�����7��,�.�
�� ;�� � � ��
�� A�� �,�� ����� ������7�����7��,�.�������� ��
�� 7�����7��,�.������ ��B0AB0)$��#���7����������� ��
4� ��� ��� ���5�� ���� ��������7�����7��,�.�
�� ����� ���� ��������� � � ���7�����7��,�.���������
�� 7��,�.�$� � ��
%� )--� ��� ������7�����7��,�.�����#�� ������������ ��
8� ���4� ����9�� ���� ��7�����7��,�.��������� ��
'� $ -��5�$ �.�������-�� ���7�����7��,�.������4���������
*� :���� ����5�)��,�����4�; ����� ��
�������������� ������ ��� ���������������� ���
�#��$��� �� + ����������� ,,,�� � �������
$� � ���� ��)07�7V��0B���W)�A���
�� �� � �� M��������� ����, �����4�� M�4�,� �����>�����������. ��@
%� ���,�� �����-�� A������> �4�-��4����K� �����@�>4����������������4�C@
8� ��,�4 A�-���� ������ �-������������������-�������
'� ���������������,����77����-���5��������������>�� ������6���O��� �������� ��@
*� #��.,�4 A�-���� ������������������,� ��������� �-�������
� 0�0�7�, �����9�� �-���-�����?
�������� ���/��������� ������ !���� ��
w1,4
w3,8
w4,9
w3,10
10
4
3
5
6
7
8
92
1 o1
o2
x2
x1
x3
123456789
10
Input-Vector
x
Output-Vectoro
Weight-Matrix
W1 2 3 4 5 6 7 8 9 10
tTeaching-Output
3?
![Page 13: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/13.jpg)
�8
�#��$��� �� + ����������� ,,,�� � �������
����� �� �� /�������?�3�9�����E� ��
� � � � M� ��������� ����� �� B7��,� ��� ,O
�&
3=�&>
������ � ���
������ � ���
������ � ���
������ � ���
:*-��*�������
��4������ �� -� ����
��4������ �� -� ���%
�#��$��� �� + ����������� ,,,�� � �������
3���������� ���?�).7�:����� �.����
� ������������������� 4 ���� ��������������
0
0
0
2
4
6
0
0
-4-2
0
2
4
-4
-2
0
24
-2.5
0
2.5
5
-4-2
0
2
4
-4
-2
0
24-4
-2
0
2
4
-4
-2
0
2
4
0
2
-4
-2
0
2
4
-4
-2
0
2
4
� ���.����� �4 �������4��-���������� �������� ��
� �����������
� ���-� M� � 9�4
� �����,�����-����4�����
��������-� ����I�����������
���������-� ����I�4��-�����������, �����,������
��� ���, ������������
![Page 14: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/14.jpg)
�'
�#��$��� �� + ����������� ,,,�� � �������
.�� ���� � ����� �� �� /�������
� ;�� ��� ������� � ���� ��� � � ����77���� �-�� � � ��� ������
� 4��R� �� �������4!�)�SC
??
A�������N� ����
A������ M�� ��$� � ��
;�-��4��� �� ����>�@B��-���7�4�>�@
��4�-��4����6������4 K� �������-���7�4��
# � �� �������� �� ���
�#��$��� �� + ����������� ,,,�� � �������
������
�� ����4��� ������7�����7��,�.�
%� )--� ��� ������7�����7��,�.�����#�� ������������ ��
�� 7�����7��,�.�����$ ����� ���A�4 �� ��
�� 7�����7��,�.������������� ���6�������$ ����� ���A�4 �� ��
�� 7�����7��,�.��������� -���7��� ����0����� ��
4� ��-� �������77���������������� ��������4�
8� ���4� ����9�� ���� ��7�����7��,�.��������� ��
'� $ -��5�$ �.�������-�� ���7�����7��,�.������4���������
*� :���� ����5�)��,�����4�; ����� ��
�������������� ������ ��� ���������������� ���
![Page 15: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/15.jpg)
�*
�#��$��� �� + ����������� ,,,�� � �������
/����#�����!���� ����� ��� ���������������� ���
� )77������ �������--�9 ����� /��� .6�� ������6N� ��1%�����3
� �������������--� ��� ������>���� ���@������ �� �--�9 ��� ��
� �� ������� �����������-�4 �� ���>� �� �� ���������������� ��4���@
� �� ������ �����-���-����
� ��4���F����X ��� ������� �������� �� ��C
� -������4����5��� �
� � � � M����O��� �������� ��
( ) httht xfy ++ += εˆ
��<� I�������������<�� > @�I�� ����6���� � ��������� ���xt = vector of observations in tet+h = independent error term in t+h
�� �������� ������$����=�> ����
( )1211 ,...,,,ˆ −−−−+ = nttttt yyyyfy
1nθ +
2nθ +
6nθ +
5nθ +
3nθ +
4nθ +
n hθ +
�#��$��� �� + ����������� ,,,�� � �������
�������� ���/���������/����#�����
��� 4 ���N �4�,�)--��������-����� ���;���
��
����
����
1nθ +
2nθ +
5nθ +
3nθ +
��
����
���
���
����
�
���
������
�
��
���
4nθ +
����
���������
��������� ��
�����
����� �� ������� ������FG��� ��� $����
��������� ��
������������ � ������ � �� ����� �
������� �
����� �� ��-� �� ���(��� �$�����
(���
!���� ����� � �� �� ������ �� ��
����.� � (���
#���� ��������� ����
��� �� ��
![Page 16: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/16.jpg)
�J
�#��$��� �� + ����������� ,,,�� � �������
�������� ������� �� ����������� ���� #���������������� �������
#���������������� ������$����=�> ����
( )1211 ,...,,,ˆ −−−−+ = nttttt yyyyfy
���� (� ��� � ��
� �� ������$������������=�> ��������(/<-H/� ����$�����$����� ��������I ����������(9�
� #�������+�����4��� ����������� �������� �����8
���� 3� ������
� ��� ������ �� �����?������ �������� �������������
��
����
����
1nθ +
2nθ +
5nθ +
3nθ +
��
����
���
���
����
�
���
������
�
��
���
4nθ +
����
1ˆ tanh tanh tanht kj ki ji t j j i kk i j
y w w w y θ θ θ+ −
� �� �� �= − − − � � � � � � � �
� � �
�#��$��� �� + ����������� ,,,�� � �������
/����#�����!���� ����� ��� ���������������� ���
� N� �� � ����� �� -������ ��� )77� ���� 5��9��-�����Y�/A�����J16V�4��2*3
� ? YYY���� #����� �����
����� �� �� ����� �� ��� ������� /����#����
![Page 17: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/17.jpg)
�=
�#��$��� �� + ����������� ,,,�� � �������
/����#�����.���� � ���' � ��������/����#����
� � ����� �� ���77� ��#�� ������������ ���, ���7���A�4 ���
� �9-� ����!�A�4 �� ������)� � � ���$ ����� ���>����� �� �� ��@
� ���� �����$ ����� ���
� ���������$ ����� ��
� � ����$��4�$ ����� ��
� $��4�, ����44 � ����������� ���$ ����� ��
�#��$��� �� + ����������� ,,,�� � �������
/����#�����!���� ����� ��� ���������������� ���
� N� �� � ����� �� -������ ��� )77� ���� 5��9��-�����Y�/A�����J16V�4��2*3
� ����� �� ��� ��� ����� �**���� ��������� �� ���
� 7B�� ����� �� 4�-��4��� -�-����� �� 6� ������ �� ��������
� 7B�� ����� �� 4�-��4��� �B;�������$�B7��Z� �4CCC
� #(�:*3�9-.3*��!!�-��<��3�#(�*38
� �
� �
� �
�
�
![Page 18: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/18.jpg)
�2
�#��$��� �� + ����������� ,,,�� � �������
�������� ������� �� ����������� ���� #���������������� ������� ' 9�� �����# ��������
#���������������� ������$����=�> ����
( )1 2 1 2 1ˆ ˆ ˆ, ,..., , , ,...,t t t n t t t t ny y y f y y y y+ + + − − − −=
���� (� ��� � ��
� ������������ ������$������������=�>
1nθ +
2nθ +
6nθ +
5nθ +
3nθ +
4nθ +
n hθ +
�#��$��� �� + ����������� ,,,�� � �������
������
�� ����4��� ������7�����7��,�.�
%� )--� ��� ������7�����7��,�.�����#�� ������������ ��
�� 7�����7��,�.�����$ ����� ���A�4 �� ��
�� 7�����7��,�.������������� ���6�������$ ����� ���A�4 �� ��
�� 7�����7��,�.��������� -���7��� ����0����� ��
4� ��-� �������77���������������� ��������4�
8� ���4� ����9�� ���� ��7�����7��,�.��������� ��
'� $ -��5�$ �.�������-�� ���7�����7��,�.������4���������
*� :���� ����5�)��,�����4�; ����� ��
�������������� ������ ��� ���������������� ���
![Page 19: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/19.jpg)
�1
�#��$��� �� + ����������� ,,,�� � �������
�������� ������� �� ����������� ���� ���������� ������� (� �$�� ���9���
#���������������� ������$����=�> ����
( )1 2 1 2 1ˆ ˆ ˆ, ,..., , , ,...,t t t n t t t t ny y y f y y y y+ + + − − − −=
���� (� ��� � ��
� ������������ ������$������������=�>
� ���� �����3$�� � ��� ����������� ������$�� ��
���� 3� ������
� ��� ������ �� �����?������ ��������� ������������
1nθ +
2nθ +
5nθ +
3nθ +
4nθ +
�#��$��� �� + ����������� ,,,�� � �������
������
�� ����4��� ������7�����7��,�.�
%� )--� ��� ������7�����7��,�.�����#�� ������������ ��
�� 7�����7��,�.�����$ ����� ���A�4 �� ��
�� 7�����7��,�.������������� ���6�������$ ����� ���A�4 �� ��
�� 7�����7��,�.��������� -���7��� ����0����� ��
4� ��-� �������77���������������� ��������4�
8� ���4� ����9�� ���� ��7�����7��,�.��������� ��
'� $ -��5�$ �.�������-�� ���7�����7��,�.������4���������
*� :���� ����5�)��,�����4�; ����� ��
�������������� ������ ��� ���������������� ���
![Page 20: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/20.jpg)
%&
�#��$��� �� + ����������� ,,,�� � �������
�������� ������� �� ����������� ���� 9�� �������������9�� �������������
�����������������9���
( )1 2 3ˆ , , ,..., ny f x x x x=
1 1 2 2 3 3ˆ ...j t j t j n nj jy x w x w x w x w θ= + + + + −
1nθ +
2nθ +
5nθ +
3nθ +
4nθ +
���� (� ��� � ��
� #������ �������9�� ��������������9������
�#��$��� �� + ����������� ,,,�� � �������
������
�� ����4��� ������7�����7��,�.�
%� )--� ��� ������7�����7��,�.�����#�� ������������ ��
�� 7�����7��,�.�����$ ����� ���A�4 �� ��
�� 7�����7��,�.������������� ���6�������$ ����� ���A�4 �� ��
�� 7�����7��,�.��������� -���7��� ����0����� ��
4� ��-� �������77���������������� ��������4�
8� ���4� ����9�� ���� ��7�����7��,�.��������� ��
'� $ -��5�$ �.�������-�� ���7�����7��,�.������4���������
*� :���� ����5�)��,�����4�; ����� ��
�������������� ������ ��� ���������������� ���
![Page 21: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/21.jpg)
%�
�#��$��� �� + ����������� ,,,�� � �������
�������� ������� �� ����������� ���� *������� �������
�������� ������$����=�> ����
( )1211 ,...,,,ˆ −−−−+ = nttttt yyyyfy
��
����
����
��
�
���
������
�
��
���
��
1 1 1 2 2 1 1ˆ ...t t tj t t j t t j t n t n j jy y w y w y w y w θ+ − − − − − − − −= + + + + −
���� (� ��� � ��
� ����� �������� ��� ������$�� ���
� #�����+�����4��� ����������� �������� �����8
���� 3� ������
� ��� ������ �� �����?������ �������� �������������
� �� ������ �� ������������ ��� �$� ������� ������� �� ����
�#��$��� �� + ����������� ,,,�� � �������
�������� ������� �� ����������� ���� ���������� ������� =������� �*��� �����������>
�� �������� ������$����=�> ����
( )1211 ,...,,,ˆ −−−−+ = nttttt yyyyfy���� 3� ������
� ���� ������������� �������������
� �������� �$� ������� ������� �� �����
1
1ˆ tanht n
t i ij ji t
y y w θ− −
+=
� �= − �
��
![Page 22: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/22.jpg)
%%
�#��$��� �� + ����������� ,,,�� � �������
�������� ������� �� ����������� ���� *�����9�� �������������
*��������������9���
( )1 2 3ˆ , , ,..., ny f x x x x=
1 1 2 2 3 3ˆ ...j t j t j n nj jy x w x w x w x w θ= + + + + −
�#��$��� �� + ����������� ,,,�� � �������
�������� ������� �� ����������� ���� �� *�����9�� ��������������
��������9�� �����=*��� ��>����������9���
( )1211 ,...,,,ˆ −−−−+ = nttttt yyyyfy1
1ˆ log
t n
t i ij ji t
y y w θ− −
+=
� �= − �
��
![Page 23: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/23.jpg)
%8
�#��$��� �� + ����������� ,,,�� � �������
9������� �����+��� ������������� ���
� ���9 � � ��������-���K� ������� ���9 ������4 ��� � ����������/&E�3E�/ ���3
� ��� ����6��4 ����������>&���%�?��&�� � ������4�4�/&&&��&&�&�?3
� ��� ������� >&�%8*E�?@
� ���9 � � ������B��-���K� ������ � ����� -�4 �� ������� ������������������ -
� ��� ����6��4 ����� -�4 �� ���������� -���������������� -�
� ��� ��� ����� ���>-� ���-�4 �� ���@�B0�-���� � ������������������� -C
� 7����������-���K� ������ ?
� 7��������B��-���K� ������ ?
���� -���#(�:*3��� ������� �� ������� 9��;�������� ���
�#��$��� �� + ����������� ,,,�� � �������
���������� ������������� �������9� ���
Forecasting Method
ObjektiveForecasting Methods
SubjektiveForecasting Methods
Time Series Methods
CausalMethods
Averages
Exponential Smoothing
Simple Regression
Autoregression ARIMA
Simple Regression
Multiple Regression
„Phrophecy“educated guessing…
Moving Averages
Naive Mehods
Simple ES
� ������
Seasonal ES
;��-���4�$��4���
�������������-�� ��
)����� ��
;��-�
A�0$
����������� Z���
7�����7��,�.�
7�����7��,�.�
Demand Planning PracticeObjektive Methods + Subjektive correction
7�����7��,�.��)0�
� � ����� ��������4�
� ������������4�
5�)7�������4���
� )�������5���
� 0����� ���?
![Page 24: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/24.jpg)
%'
�#��$��� �� + ����������� ,,,�� � �������
������
�� ����4��� ������7�����7��,�.�
%� )--� ��� ������7�����7��,�.�����#�� ������������ ��
8� ���4� ����9�� ���� ��7�����7��,�.��������� ��
�� �9-� �����)!�$ ����� �����������
�� �9-� �����#!�$ ����� ����������� �����4��� ���
'� $ -��5�$ �.�������-�� ���7�����7��,�.������4���������
*� :���� ����5�)��,�����4�; ����� ��
�������������� ������ ��� ���������������� ���
�#��$��� �� + ����������� ,,,�� � �������
/����#�����.���� � ����� *����/�������
� � ����� �� ���77� ��#�� ������������ ���, ���7���A�4 ���
� �9-� ����!����9�$�-- �������������S��M ��0 ��� 8������4�77!�>�% 2 �@��%���-����� ��� 2�� 44����� ���( �����-����� �
� ; �������������������!����� ���?��� ���>-�����%�������� ���
� �<����������� � ��������-�����4��������
���� ���������/����#����
/)�4�,��6����M���3
� 00@�+��$� ���
� !������ �,�B�����,
![Page 25: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/25.jpg)
%*
�#��$��� �� + ����������� ,,,�� � �������
/����#�����.���� � �����' 3$�� �9���
� � ����� �� ���77� ��#�� ������������ ���, ���7���A�4 ���
� �9-� ����!������,���������� 8������4�77!�>�% 2 �@��%���-����� ��� 2�� 44����� ���( �����-����� �
� �%� �-������������ ���?��� ���>-�����%�������� ���@�� � ����� ���-�4 �� ��
� �<����������� � ��������-�����4��������
���� #�������� ���� �������9��� ����3$�� �
���$� ������ ��� ��������*��
�!��� ���� ������ �������*��
�#��$��� �� + ����������� ,,,�� � �������
������
�� ����4��� ������7�����7��,�.�
%� )--� ��� ������7�����7��,�.�����#�� ������������ ��
8� ���4� ����9�� ���� ��7�����7��,�.��������� ��
'� $ -��5�$ �.�������-�� ���7�����7��,�.������4���������
�� $ -��5�$ �.�� ��;����A� -����� ��
�� $ -��5�$ �.�� ��)�� ������������� ��
�� $ -��5�$ �.�� ��7��,�.�$� � ���5������� ��
4� ������������� ������7�����7��,�.�
*� :���� ����5�)��,�����4�; ����� ��
�������������� ������ ��� ���������������� ���
![Page 26: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/26.jpg)
%J
�#��$��� �� + ����������� ,,,�� � �������
.������������������� ���9�������
� ;����A� -����� ��� ���� ��� 7���� M ������/&E�3���/ �E�3
� ��4��� ������77���� ������� 7���������7A�$���4���� 7����������;;�7���4���� 7����������;;�7��)Q�0�� 7��������B�$A�$���4��� ������� ���-����� ��� ��7�4���>)��������� ���@� ���������� �� ���7�4��
� $� � ��� �� � �� M ������,� �����>��,������Y@� $� � ��������4�>���.-�-��� �����4��?@� $� � ���-�������� ������� �������������4���>��������-- ��@
� )--� ��� ������7�����7��,�.���4��� ������� ��
� ������� ���� �� ��5��������4�4������
������;�� � ��� ��Z� ��9-�� S��,��4��
���9
������
�!
����
�#��$��� �� + ����������� ,,,�� � �������
/�����/��������.� ��!� !�������
� ;�[����4�;��\��
� B��� ������� ��Y�Q��C
� ;� �������� ��� ��Y�7BC
� ;� $��4 ���6�������� ��Y�7B�6�4�-��4��6�-�-����� ��C
� 7���� ��� ��Y�7���������� ���� ���������� ��C
� ���� ������������/&E�3���/ �E�3Y�#����BSC
� )--������4���� ������ ��Y�Q��C
� ������� ������,�������� ���5�-�-����� ��Y�� � ��4
� ?
���� #����� ���3������� �
![Page 27: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/27.jpg)
%=
�#��$��� �� + ����������� ,,,�� � �������
-� ������� �������������� �������� �,
� 7��������,�.������������������ M�4���
� ����������������4������
� ���, �����������4���4�� ������4 ������
� ���������������I����� ���� ������� ��� ����� ���-�4 �� ��Y
���� #����� ���3������� �
�#��$��� �� + ����������� ,,,�� � �������
/�����/������������ �� ���9�������
� ;�[����4�;��\��
� 7�������� �-�����4��Y�;�A�7;�C�� ����� ����)6A)��������C
� 7��������� 44�����4��Y�;�A�7;�C�� ��������������� ���>��,@
� 7�����������-�����4��Y�;�A�7;������--� ��� ��C
� ���������-��������������4����,�.�Y�YYY
� ��������������� ���Y�YYY
� ��� ��� �������� ����� ��� �� ������-���� ���������Y�$��� CCC
� ��� ��� �������� ��� ���������-�������Y�$��� ���4��� ��C
� ?
���� #����� ���3������� �
![Page 28: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/28.jpg)
%2
�#��$��� �� + ����������� ,,,�� � �������
/�����/���������� ���/���������#���� ��
� ;�[����4�;��\��
� ������ ��������4���, �����,����K�� 4�� �����Y�7B$�K)��;C
� ��4���5�������� ������-�� � ��Y�)�,�������� -���� � ������C
� ?
� ������ ������$� � ���)��� ���Y�#��.-�- BS��;#;�BS�?
� A������ ��� ������$� � ���)��� ���Y�;�A�7;�����4������C
� ���������������-- ��Y�Q���( ������� , ������-- ���� �� �C
� ?
���� #����� ���3������� �
�#��$��� �� + ����������� ,,,�� � �������
������
�� ����4��� ������7�����7��,�.�
%� )--� ��� ������7�����7��,�.�����#�� ������������ ��
8� ���4� ����9�� ���� ��7�����7��,�.��������� ��
'� $ -��5�$ �.�������-�� ���7�����7��,�.������4���������
�� $ -��5�$ �.�� ��;����A� -����� ��
�� $ -��5�$ �.�� ��)�� ������������� ��
�� $ -��5�$ �.�� ��7��,�.�$� � ���5������� ��
4� ������������� ������7�����7��,�.�
*� :���� ����5�)��,�����4�; ����� ��
�������������� ������ ��� ���������������� ���
![Page 29: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/29.jpg)
%1
�#��$��� �� + ����������� ,,,�� � �������
#� ����#����� ������������ ���
A��� ��;��� ������,��
� 0�������� ����4� �77�
� H77��H����77�
� HBB7�
� ?
����� �������,������A ��
� � �����4� 7�����N�.��A����� ����
� �A��������� ��
� �)������- ���� ��
� � 4- ��� )���4� 7�������� ���
� 7�������� A�4 ���
� 7�������� ���
� 7����A�,�
� A�4 ���A�
� 0������� ������� � ���
� 0 -��.���
� 7������
� ?
���� �������/������4<$��/�+����������� ����#� ����������� ����
���� ��33�; 0B������������ ��
� ;���������9-� �����
� �8 ���-�� � ��
� � � �� 4���
� ���9 4���
� ��� 4���
� ����,���� �������
�#��$��� �� + ����������� ,,,�� � �������
�������� ����#� ����� /�����#������������8
7�������� ��� �����������
7�������� ��� �� �9���
7�������� ��� �� �������
$�4 �������� ���
���� 77�
���� 77�A���
#� �����
A�4 ���
A�4 ��� A0B
)�$ ����!�7�������� A�4 �����7������������ � ���V��������7�������� %��7�������� $�4���A��;��$�4�
7���; ���� ������
7���� A����� ����
A�� ��4 ���4
)������� ����
N�4��������
X�������������������������, �4���
���������4�
�9-� ����X
)���4� ����
![Page 30: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/30.jpg)
8&
�#��$��� �� + ����������� ,,,�� � �������
����� �� ��� #� ����' :������������� ���
?
�)������- ���� ��
�A��������� ���;���� � �� �� ��
7���� N�.��A����� ��������A���
?
�)�
�A��
7����,�� ���
�#��$��� �� + ����������� ,,,�� � �������
�� ���(���� ��
� *� �� �������+�� ��� 77�������� ���,��� ���,,,������ ������� ������ ��,,,�� � �������� V������,�� ����������)��77���,����-��):�
��-!66��-��������6-��6�����6�):������ #�Q�)�#BBSCCC�B�������Y�V��!�0��4��5���.��R7������� �� ��[
� J������ ������� ���? ��������������� ����7�����7��,�.��� ������C
� H#��( H���������#�� ������������ ��� �H��( ������� �����H���������������� ��� H�� ( H���������������� ��
� �� �� � �!�� � ������������������ )���� �� ���
� �����77��( �����7�����7��,�.���� ���� �77��5��77��( ������� �����5����-����7�����7��,�.���� ���
� ����������� 7�����7���!��H77���)77�5��B7�A��������� �� ����>������������ ?@� ������� ��!��#��5���������������C
� 7�,����-����,�����-�� ���� �����9-��������.��,�? ���E @
![Page 31: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/31.jpg)
8�
�#��$��� �� + ����������� ,,,�� � �������
������
�� ����4��� ������7�����7��,�.�
%� )--� ��� ������7�����7��,�.�����#�� ������������ ��
8� ���4� ����9�� ���� ��7�����7��,�.��������� ��
'� $ -��5�$ �.�������-�� ���7�����7��,�.������4���������
�� :���� ����5�)��,�����4�; ����� ��
�� )4���������5�; ��4������������7�����7��,�.�
�� ; ����� ��
�������������� ������ ��� ���������������� ���
�#��$��� �� + ����������� ,,,�� � �������
��$�� ������ $�����.����$�� ����8
.����$�� ����
)77������������������ ����� ���-������>�<�C@
, ������-�-����� ��
�����4��������� ������4�4C
)77�����������4������������4��� ����4�� ��
�9-� ����������� ��C
0��������������� �����
�9-����� ���5� ���-���� ������)77�,� �������AB���#���>���� �������� ��� ��C@
�-������������������4 ������4�4��� ���
��$�� ����
)77������������������ ����� ���-������>�<�C@
, ������-�-����� ��
�����4��������� ������4�4C
)77�����������4������������4��� ����4�� ��
���4��� ��������� ���, �������� �������4��
��-�������4���0�-�� ���
� ������4���
���� ������4���
)�������� �� ��4���
� �����5����� -��������
���� -������-�����4
?
![Page 32: neural-networks.euneural-networks.eu/Downloads/IBF04_tutorial/IBF04_neural_forecasting.pdf˘ˇ ˇ ˆ ˙ ˝ ˙ ˛ ˚˘ ˙ ˜ ˝ ˚! ˙ " ˚ ˙ ˇ#$ ˚%&&’( ˇ](https://reader030.fdocument.pub/reader030/viewer/2022021716/5d22980e88c993d0068c0dd1/html5/thumbnails/32.jpg)
8%
�#��$��� �� + ����������� ,,,�� � �������
2��� ���K��������������� �,
������
)77������������������ ����� ���-������>�<�C@
, ������-�-����� ��
�����4��������� ������4�4C
)77�����������4������������4��� ����4�� ��
�9-� ����������� ��C
0��������������� �����
N����,��������������!
77��������-�O�����, ������-� ���������--��C
��--�����������#)����������� �� ���������-�O����
���������������"� � ����4�
#*(.3#���!�!3�#��$���+��",,,�� � ����4�
,,,����������������.
�#��$��� �� + ����������� ,,,�� � �������
�� �� (���� ��
#$����%����0�������)���� ���
����������� ��� ��������������������;�-����������������������� ������0����*'����������)��'QW�� ��4�S ��4��
$���<''�>&@�*%'�*182J=$���<''�>&@�*%'�*1812%�4 ���
$���<''�>&@=2'&�&J2��1���� ����9�<''�>&@�*%'�2''22*
��������,,,����������������.��� � ������"�������������.