Fuzzy Logic and Neural Networks_ Basic Concepts & Application_8122421822
-
Upload
leandro-eich -
Category
Documents
-
view
5.320 -
download
2
Transcript of Fuzzy Logic and Neural Networks_ Basic Concepts & Application_8122421822
This pageintentionally left
blank
This pageintentionally left
blank
��
��������
This pageintentionally left
blank
������������ ���� ������������������������������ ����������������� ����������������
�������������������������������� !�������������������"��"��"��#$�����%����&��'����
��������������������������
(������������������������������������������������������������������������������
��������������������������������������������� ���������������������������������������������
������������������������������������
)�����������������������������������������������������������������������������*�������
��������������������������!���������������������������������������������������������)��
������������������������������������������ ����������������������� ������!������
����������������������!������������������"��������������!���������������������������������!
����������������������������������������������������������������������������*����������
������������������������������������ ������������!����������������������������������� ���
����������
���� ������� ����������������������������� ���������� ��������"�����������������
����������������� ���������*����������������!���������������� ��������������������
����������������������+��������� �������������������� �� ��������������������������
������������� �� �����!����������������������������������������������
���������������������������������������������������������������������������� �����������
������ �������������!��������������������������� ����� ����������!�������������������������������
������� ��� ������� ������� ��� � �������������� ��� ����������!� ������������!� ��� ������
��������������������������������������� ����������������������������������������������
�������!��������������������������������������������������������� ������������ ������������
��� ����!���������������!��������������!�����������������
,������!�������������������������������������������������� ������������������������
� ���������������������������������)��� �����������������������"������������!������
�' ���� ��� ��������� ��������� ������� ������ ��������� ������� ��� ������ ��������� ����
���������� ��� ������ ������� ��� ������ �������� ������� ������ ��������� ���� ��� � �������
�����*�����������������������������!��� ������������������������ ��'�������������������"
���������������������������������"��'�������!������� ������������������������ ������������
����������� �������
����������������������������������������������������������-���' �������� ����������
�������������������� ����������������������������� ��������������������������!�������
�������
�������� ������������������������������������������� �������.'� ���������������������
����'������'������������"������ ����������� ����������������
�������������� ��� �
��� (�!+&�!
������� ��
��������������������� ���
1 1 +�22���� ���#+�$ 1
1 3 ��������������.�#��$ 3
1 4 *����������.�������..����������.��������+�������� 5
1 5 &66��������. 5
����������� 5
��������� 7
!�"��# �$%%&���'��
�������������������������� �!�� "��#
3 1 )����������� 8
3 3 ,�����.�+�22���� ��9 8
3 4 ��.����������� ����� :
3 5 ����������.���.��-�+�22���� �� ;
3 7 ����������.���.��-�+�22��*�.���. ;
3 8 +�22��*��. ;
3 8 1 +�22��*�� ;
3 8 3 *�66��� 11
3 8 4 �������+�22��*�� 11
3 8 5 �<��� 11
3 8 7 ���0�=�+�22��*�� 11
3 8 8 +�22�������� 13
3 8 > ?��.��+�22�������� 13
3 8 : %���� �����+�22�������� 14
3 8 ; %��6�2������+�22�������� 15
3 8 1@ *��.������ 15
3 8 11 !A��������-�+�22��*��. 17
3 8 13 !�6���+�22��*�� 17
����
( �B�%!�%*
3 8 14 /��0��.���+�22��*�� 17
3 8 15 +�22��(���� 17
3 > B6�������.����+�22��*��. 18
3 > 1 )����.������ 18
3 > 3 /���� 18
3 > 4 ���6������ 1>
����������� ��
��������� ��
�������$������� ������ �%��#
4 1 )����������� 1;
4 3 +�22����������. 1;
4 3 1 ���..������<&������������� 1;
4 3 3 ��-��=�0��� 3@
4 3 4 &���<��-��=�0��� 3@
4 3 5 *����������� 3@
4 3 7 &���<*����������� 3@
4 3 8 %���.���0��� 3@
4 3 > !A��0������ 3@
4 3 : (�������B���� 3@
4 3 ; %�����B���� 3@
4 3 1@ ������+�22���������� 31
4 4 B6�������.����+�22����������. 31
4 4 1 )����.������ 31
4 4 3 /���� 33
4 4 4 (��C������ 34
4 4 5 �����.����(��������-�%���+�22��*��. 35
4 4 7 *�������-�+�22���������� 35
4 4 8 *�6<�������6�.�������-�+�22����������. 38
����������� ��
��������� ��
�������&�������'� �������� �%�&(
5 1 )����������� 3;
5 3 +�22��)�6��������. 4@
5 4 ����-���. 44
5 4 1 ��� ��.����D�������. 45
5 4 3 %������ ��.����D��������%���� 47
����������� ��
��������� ��
�B�%!�%* (�
��� !�"�#$��������%"&�%'�� "%()*�!�����%�)�+ ,-.#/
7 1 )����������� 51
7 3 %���.�����������. 54
7 3 1 !�������������� 54
7 3 3 ���C������������ 54
7 3 4 ��.C������������ 54
7 3 5 (��C����������� 55
7 3 7 �� ���������� 55
7 3 8 ���6�.��������������-�)�-������ 55
7 4 ���������(��6�����. 57
7 4 1 �.���(��6���� 57
7 4 3 %�����)������������� 58
7 4 4 *��.�� 58
7 4 5 *�6��.�� 5>
������������ ��
���������� ��
�������"������� ��)���������'� �&�*(
8 1 )����������� 75
8 3 %���� ��������� 75
8 4 %���� ����������� 77
8 5 �<����<��.���)����.������ 7>
8 7 �<������<�.���/���� 7>
8 8 &0��� �� �B6������. 7:
8 8 1 &��&0��� �� �B6��������.���+������� 7:
8 8 3 B�������,�� �����&0��� �� 8@
8 > ���.�����-���.6��.�������!����6���-����B���D����� 84
8 : ��������*�.��� 88
8 ; ���.���*�.��� 88
8 1@ ��-�22�-������� 8>
����������� ��
��������� ��
�������*�������������!����'�� *��#(
> 1 )����������� >1
> 3 +�22������<��.��*�.��� >1
> 4 )�-��������������.�.�)��+�22������<��.��*�.���. >3
> 4 1 ����������-��������������.� >4
> 4 3 %.����������-��������������.� >4
> 4 4 *� ����)�-��������������.� >7
> 4 5 ���.�����-��������������.� >>
(�� �B�%!�%*
> 4 7 *��6��-����+�22�����.���� >>
����������� ��
��������� ��
�������#������ �!�������� ��� #��%$
: 1 )����������� :1
: 3 �.���+����������������*�.��� :1
: 4 +�22���� ������������� :3
: 4 1 %��<)�6��<*�� ��<B��6���#%)*B$�+�22��*�.���. :3
: 4 3 ��������%�6���-�+�22���� ���������� :3
: 4 4 +�22���� �����������*�.���. :5
: 5 ��-�22�-��������������. :8
: 5 1 ������<�-<&���'���0��� :>
: 5 3 +��.�<�-<��=��� :>
: 5 4 ������<�-<��=��� :>
: 5 5 ��=<��������� ::
: 5 7 ��� �����-�22�-������� ::
: 7 !--����0����B-�+�22���� �����������*�.���. :;
����������� ��
��������� ��
�������%������ �!������ �������� %&���(
; 1 ,����.��+�22���� ��9 ;5
; 3 &66��������.��-�+�22���� �� ;7
; 4 ,������������.��+�22���� ��9 ;8
; 5 +�22���� ���������-���(��0��������-������&�������. ;8
; 5 1 %��--���&�������.�����%��--���*�-��� ;8
; 5 3 +�22���� ���&66����� ;>
; 5 4 &66�������� ;>
; 5 5 ������.��6�+�������. ;:
; 5 7 ������.� ;;
; 5 8 B��6�� ;;
; 5 > ������.���. ;;
; 7 +�22���� �������������������������%��6������� 1@@
; 7 1 %�����������.��-�+�22���� �� 1@@
; 7 3 +�22�-������� 1@1
; 7 4 �����&66�������� 1@3
; 7 5 ��-�22�-������� 1@4
; 7 7 ������.���. 1@5
; 8 +�22���� ���������-��������� ��-�&66��. 1@5
; 8 1 &66�����-���.�/.����������*���� 1@7
�B�%!�%* (���
; 8 3 ��������.�����������. 1@7
; 8 4 &66����������-�+�22���� �� 1@8
; 8 5 +�22������. 1@:
; 8 7 ���������������-�������.��6�+�������. 1@;
; 8 8 ��-�22�-������� 11@
; 8 > ��.���.�������.��..��� 111
; 8 : ������.��� 113
; > &��)������������!=��6��E�+�22��0'.����<-�22� 113
; > 1 %������<+�22��&66����� 113
; > 3 %���+�22��&66����� 118
; > 4 *����B�.��0�����. 11>
����������� ���
��������� ���
!�"��# ��$"������)�"*�
��������(�+���� +��,���������'���� � ������#
1@ 1 )����������� 131
1@ 3 ���� ������������������� 131
1@ 4 &�+���������-�����.�����������6��.�������� 133
1@ 4 1 (����..�� �/���. 134
1@ 4 3 ����������.���������/���. 134
1@ 4 4 &���0����������B��6�������. 135
1@ 5 ��������%�6��� ��. 137
1@ 7 %������ ��-�&���-��������������������. 137
1@ 7 1 (����� �.��-�������� 137
1@ 7 3 ����-��� �(������.��-���������0��� 138
1@ 8 �������������%�������� � 138
1@ 8 1 �������� 138
1@ 8 3 %�������� � 13>
����������� ���
��������� ���
����������-��������������� ��� ��%��$#
11 1 )����������� 13;
11 3 �������.������%���.�����&���0������+�������. 13;
11 4 (����6������������ �������������0�� �����%������ 141
11 4 1 (����6������������ ����� 141
11 4 3 ���0�� �����%������ 141
11 5 &��6��0���������!�������#&������$ 144
(� �B�%!�%*
11 7 %������������� 145
11 8 !=���.�0�<���(������ 147
11 > �����<������(����6����.��������!0������� 14>
����������� ���
��������� ���
��� !�"�-0$���1�. "% �+�!)%� -/2.-#3
13 1 )����������� 14;
13 3 ������<�������+����<�+��������������. 14;
13 4 %�����������.������������� 15@
13 4 1 /����.������ ����<(��6� ����� 153
13 5 ,����� ���������<6��6� ����� 154
13 5 1 ,�� ���&�C�.�����.������*� �����&���0������+������� 154
13 5 3 ������� ������������������ 155
13 5 4 ������� �(���(������ 155
13 7 B�����&���0������+�������. 158
13 8 ��-��������.��-����<6��6� ����� 158
13 8 1 ��������(�����.�. 15:
13 8 3 ������������ 15:
13 > &�0������&� ������. 15:
13 : ������������������<������+���<-��������������.9 171
13 : 1 %���!--�����-�������������-�������� �*��6��. 173
13 : 3 %���!--�����-�������������-��������/���. 174
13 ; &66��������. 174
����������� ���
��������� ���
��������$���������+��,���� ��*��#%
14 1 )����������� 17>
14 3 %�����������.���������<������)�������������������. 17>
14 3 1 %����������������� 17:
14 3 3 %���!������������ 17;
14 3 4 ���<(��6� ���������+����������������������. 181
14 4 %�����6-������������ 181
14 4 1 ��.���6���� 183
14 4 3 ��6-��������������.�&..������0�������� 184
14 4 4 ������.������ ��������.6��.� 185
14 4 5 ��6-������������.�-����6����2������6������. 185
14 5 ���2������������. 187
����������� ���
��������� ���
�B�%!�%* (
��������&��� .�/�!������!+��,���� �"%
15 1 )����������� 18;
15 3 ���6�����0��������� 1>@
15 3 1 ���.����� 1>@
15 3 3 D������?�����.����� 1>5
15 3 4 ��������6��6� ����� 1>5
15 3 5 ������� �D������?�����.����� 1>8
15 4 ��������������� 1>>
15 5 (�����6������6�������������. 1>;
15 5 1 �������2��������������� 1:@
15 5 3 (�����6������6������!=������� 1:1
15 5 4 ������� ��0�����. 1:1
15 7 &��6��0����.�������%����� 1:3
15 7 1 ��� �����E�&��6��0����.�������%����� 1:3
15 7 3 &�%1E�%���*��6��-������������������������ 1:4
15 7 4 B6������� 1:5
15 7 5 &�%�1E�%���B�� ���������� 1:7
15 7 7 �������2�������-�����B�� ���������� 1:8
15 7 8 ������.������������� 1:>
����������� ���
��������� ���
�������������.����'��� ������! �%(��%#
17 1 )����������� 1;@
17 3 %��������� 1;@
17 4 %��������������������� 1;1
17 5 ����F.�&66�����E�%���&*!<&�!������������ 1;3
17 5 1 &..������0��*����� 1;4
17 5 3 &��6��0�������� 1;5
17 5 4 %�������<(����*�.��� 1;5
17 7 ����-���������������� �D��.�.�B6������������� 1;7
����������� ���
��������� ���
��������"�+���� +��,������� �������� �%%����
18 1 )����������� 1;;
18 3 ������������� 3@@
18 3 1 +����������������. 3@@
18 3 3 )�0��.�����������. 3@@
18 3 4 �������. 3@1
18 3 5 %��C������� ��������� 3@1
( � �B�%!�%*
18 3 7 !��<!--������(�.������� 3@1
18 3 7� )�0��0�������-���������������. 3@3
18 3 8 ������<����������������������+��������&66��=������� 3@3
18 3 8� &66�����<1E�+���<-��������������. 3@4
18 3 8� &66������3E�%�6��� �����.��0�� ���6. 3@8
18 3 > ������&����������. 3@>
18 4 �����������-�%��������� ����������� �B6�������. 31@
18 4 1 /�.�6��0�.���&��6��0����.�������%������#&�%$���������������. 311
18 4 3 ��.���.�������.��..��� 314
����������� ���
��������� ���
!�"��# +&,"����$%%&���$"������)�"*�
��������*�0�1��������+���� +��,���� ��*��$�
1> 1 )����������� 31>
1> 3 �������*�.���. 31>
1> 3 1 *�A���������������*�.���. 31>
1> 3 3 &�=��������������*�.���. 31:
1> 3 4 !���������������*�.���. 31:
1> 4 +�22���� ������������� �&� ������. 31;
1> 5 +�22��������. 33@
1> 7 ��������������.��.�(��<6����..��.����(�.�<6����..��. 331
1> 8 ��������������.��.�%����.��-�+�22���� ���*�.���. 333
1> > &�0���� �.�������������.��-������-�22��*�.���. 334
1> : �����������-��������. 334
1> ; +���&�������������.���B������(��6� ����� 335
1> ; 1 *���� ��<����6��.����������-�+�22��������. 338
1> ; 3 *��������� 33:
1> 1@ &��6��0�������<-�22��)�-�������*�.����#&�+)*$ 33;
1> 1@ 1 &�+)*�*�������� 341
����������� ���
��������� ���
��������#�0�1��������+���� +��,������� �������� �$$����
1: 1 )����������� 344
1: 3 %��������� ����������� �*�.����-������������� 344
1: 3 1 ��������� �E�+�����.� ���.������������������ ������� �6����.. 345
1: 3 3 ��������������. 347
1: 3 4 !=6������������.� ������*�.������0���6�����!=6������������.� � 34>
�B�%!�%* ( ��
1: 3 5 ��������������<(�*�.������0���6���� 34:
1: 3 7 +����� .�����������.���. 351
1: 4 ���������-������.���� 354
1: 4 1 &��6��0�������<-�22����-�������.�.��� 354
1: 4 3 ������� ���������-�&�+)* 357
1: 4 4 �������-������.���� 358
1: 4 5 B6����2�������-�����()<����������.��.�� ���������&� ������. 35>
����������� ���
��������� ���
����� ���
This pageintentionally left
blank
���������������������� �������� ������ ����������������������� �������� �������������� �
��������������������� �������������������������������������������� ��������������
����������� ������������������������������� ������������� ������������������ ��
����� ����������������������������������������������������� ������������� �� �������
!� ����������������������������� ����������� ������� ������������������������� ���
������ �� ����� �� �� ��� ���� ����� �� ������� ����� �� ����������������"������������ ��
������������
# � ���������� �
# ���������������������������� ������
# �������� ���������� �������������������������������
# ����� ��������� �����
��� ���������� ���
"� ������� �� !� �$������� ��������� ��$������ %���� � � ������ �� ��&���� ���� ��
'����� �����(� ��������� ����������������� ������������������������� ��������������
���������� ������������ ��� ��� ���� ����������� ���� ��������� ����"����� �����
������ �������������������� ����������������)*+������������������������������� ����������
� �� ����������, ������ %��� ��������������������� �-�� �� ���������� �������� ������
���������������� �������������������������� ���.������������� ���� ��������� �� �����
����������������� �������������������������� ��������������� �������� ������������
&��� ���������&�/���������� � � ��� ��� ���� �� -���� �� ��� ��� ��� ������������� ��
0� ���������1����������������� ���������������� ���� ������� �������
(��������� !$ �� � ����������� ����� ��� ������ ���� ������� ������ �� �� ������� �������
���������������������������� ��2���������2�����2������������������� ��� ����� �� ����������
�� ������������������������ ���������������� ����� �� ���������� ���������������
������������ �� ��������������� ��
������������
� � � � � � �
� ����������� �� ������ �������
!� ���������������� ��������� �������������������������� �������������������
� ��������������3 ������������"�� ������������������������������������� ���� �����
���� ����� �������������������� ���� ���������.���� ���� ��������������������� ���
������������� ����������������������4$�����"����5�� ���������6�����������4$����
�� 0������� 7������5 ������ ��� ��� � � ��������� ���� ���� �� " �� � !����� 0��� ���
,� �������� ���������� ���� �������������� ����8**(�'���� ��� ��� ���������������
��9�������:�� ��������;� �������� �����������������������������������" ��������" ���.�
���,������������������������ ���������������� ���������������������� ������� �
������������" �����!������� ��������������4������������5�(�������$��������� ��
�� ��� ��������������������� ��������������������������� ��������
.� �� ������������ �����-��� �� ������ �������� ������ �� ������������ ���� �� ���� �� ��
��������� ���� ��� ��������������� ��������������� ��������������� �������������������
��� ������!� ���������� ����������������������� � ������� ���� ��� ����� ��������
������ ���������������� ����� ��� � ����������������������� ����������������;��������
�� ������������� �� ������������ ���� ��������� ������������������� ��������������
����������� ����� ������4.���� ���� �� ������������������� ������������������5�
"���������������������������� ����!$������������ ��������.������������ ��������
���<*=��������������� ������� ����������� ��������� ��� ����������������������!���>�>��
!� ����� ������������������������ � ����������������� ���� �������������� ���� ����������
������������������� ����������������������� ��������� ���� ���������������'���� ������
������������������������ ������������������ ������������� �������� �������������
���������� ���� ����������������� ���"��������������� ���� ����������� ������� ���� ��
/������1�����!� ��������� �� ������� ��������������� ���������� ��������� ������
������������,.?���� ���� �'���������������� � ���� �� �3��� ��0���� ���/��������������
7���������;�����/� ��;������'�����/�������6� ���!�9��7�?������?�������@������������
FuzzyController
Plant to becontrolled
+ Control Output
–
Input
��� ��������������� ���
"����������� ������� ����� ��������������������7�'��������,����A><8BC�"��������
���� ����� ������� ��������������������������� ���� ��������@���������A><D<C�"��������
������� ���� ��������� ���� ����.���><E*���������� ������������������ ���� ��������
���������� ��������������� �������������������������� ���������������������������
"������������������������ �� ���� ���� ��������������������7��������,��� ������
���� �� ��� �� A><E<C� "� ����� �� ��� ����������� ��� ��� �� ��� �� ����� �� ���� ���
�������� ������������� ����������
�������� �
���� ������������ �����������������.�������><F*�������� ������������� ������ ��� �����
@����� ��;���������G�������A><FEC���� ������������������ ������� ���"�������������
������������ ������������������� ����� ���������� ���������������
������������������������������� ����"����������������������� ����������������
� ������������������������������������������� ��������/�������������������� ����������
���� ����������� ������� ��� ���������������� ��������������� ������������ �����"�
��� �������� ���������������������������������������������������� �������� ����������
�������� ���� ����������������������������� ����������������������� ��������!���>�H��"�
��� ����������������������������:��� ������������������������������������������
������������0����� ������������������������������� �����(������������ ������������
���������������������������
dendrites
�
W0
W1
W2
1
X1
X2
zSumming
unitthreshold
AxonNucleus
Synapse
.�� ����������� ������� ����������������� ��� ����������������� ����������� ���
�������"� ������������������������������������������� �����������������������������������
��������������������� ����� ����������/��!���>�H��
��� ������� ��� ��������������������������� ��� ��������������������������������
���� ��� ���� ��������"�� ��� ���� ������� �� ���������� �������� � � ������ ��� �� ����� ���
����������������� ������������ �������� ����������������������� ���� ����� ���
��������������������������������������� ����� �� �������� ���������������� ���
������������"�������������������� ��������� ��� �������������� �������������� ���
������������� ������
��� �� ����� �� ���� �������� ���� ������������ �������� ���������� ��� ����� ���� �����
�������� ���������� ��� ��� ���������� ��� ������������������ ������������� �"���
��������������������� ����� ������������������� � ��������� ������������ ����
������������������������ �����
�������� ������������ �� ������������������� �������������������� ����
� ����������� �� ������ �������
��� ��������������������������������������������������
"� �� ������� �������������� ������������ ������� ��:
# ������������������ ������������
# ����� �-�� �����������������
# � ���������������
# �������� ��������� ����������������������������
# ����� ����� ���������������� �����������
# � ���������������� ���������������
# �������������������
# � �������������������
# ����������� ������������������������� �����
# ��� ������������� �����������������
# ����������������������� ���
# ������������������ ������������� ��������������������
"�������������� ������������ ������������ ������� ������!$������ ��������������
���� � ���������������� ���������������������� ������� ��4 ����5��������� ����������
��� �����������
������������������������������� �������������� � �����������-���������� ������������� ���
��������������������� ��������������� ���������� ���� ��������������� ��������� ��� �������
���� ��� ���� ����������� ���� ��������� ���� ,������� ��� ����������� � ��� � � � �� ������
���������� ��� �� ������ ����������� ���� ������ ���������� �� � �� ������� ������� ����� ���
������������������������������������������ ���������� ����
.��������������� �������������������������������������������"������ �����
�������� ������������ ��������� ����� ������������������������ ���� �� ������� ����
���������� ��� ���������������� ������������� ��������� �7������ ���� ��������
� ��� � �������������������������-�������� ������� ��� ������� ���������������
����� ������!� ���������������������������� ������� �� ������������� �����������
���������� ������� ���
��������������
>� G������������������������� ������I
H� G��� ����� �������������������� ������I
B� G���������� ������������������ ������� ��I
8� G��� ��������� ����������������� �������������� ������������ ������� ��I
D� G��� ����� ��������������������� ������� ��I
�������� �
������������
>� G�/�7�'��������G�,������������������������������������������ �������������
������������������������������J���D����>>D�>BB�><8B�
H� !�@����������� ������������ �����������K� �:/�� ���(��������HB�HE�><D<�
B� $���%����!� �/�������� �������������� ���J���F�BBF�BDB�><ED�
8� /�L� �� �4$����������5������������������������J���8����8>8�8>)�7��7�������K:
><E)�
D� '�$�9������41��$��������� �5�����������������������J���D����>*8�>*)�7��7������
�K:><E)�
E� 7�7��������/�,��� ���� ��� ����������� ����������������������� ����� ��"�7""
, ����><E<�
)� $���%����7������������ ���������������������!��� ������HE�BH�J���F�><F8�
F� ?�0�@����� ��3�0�;��������@�1�G��������$�� ���� �� ������������������ ���������
� � ������ ��J���BHB����DBB�DBE�><FE�
<� &�/�$����!������!� �$�����������"�����1���H>�><<*�
>*� 0� ���3�������!� �$��������� ���������� ���#��������>>�><<>�
>>� /����"��G���1�������� ���������� ����� ���������������$�������B<�!���H*�
><<B�
>H� $���%����/����������������� ������������!����� ��J����������� �����8F�DE�><<8�
���� ���������
������ �������� ��� ������ ������������� ��� ����� � � ������������������� ����� ���� ��� ���� �
� ������� � � ������������� �������������� !�� ��� ������������� ���� ���� � � ��������������� �������
���������������"� ������������ �� "����� ��������� ���� ������� ����������������� ������������
������ ������
������ � ��� � "����� ��� ��������� � �� � �� ����� �������� ��� #������ ������ ��� ���
������������� � � ��� �������� � � $� ��� �%������ ��������� &��� ��� �� �� ������ � ��� � "����� �
����������������� ���� ���������������������������� ������������������ ����"��� ������'��������
����$�� �������� ��� ��&���� �"���� ������� ������� �$� ��� ������������ �����$������������
��������� ����������� � ��������� �������������� ���(�����'�������� ������������ ������� ��
� ������������������ ������������ ��� �� ��� "���������� ������� ������������� $�� �������
���� ���� ���������� �� �� � �� ������� $� ��� �'� ������ ����� $� ��� �� ��� ��� ���� ������ � ��
��#��������������������� ����� ������&�����"�� ������ ��������� ������� ��"���������� ��������
��� ���� ����� � � �� � ��������� ����� $������ ���� ������� ���� ������ �� ����������� ���� ��#����
�������� ��
��� ������������������
������� ������������ ������������"����� ������ �������� �)�* ���� ������������ �����#������� ��
������ � ������������ +������ $�� ��������� ����� ������������ ��(� ���� �������"���� ���'
������������� ��#����� ���*����������� ������"���� ������"������������������)
�����������������
,*����-������
��������������������������������������������
,.����/�� �
���������������������������������������������������������������������
,0������1������2����
�������������������� ����
� � � � � � �
������������������� ���� �
���������������������������������������������������������������������������
������������������������
,*�����-���$��
��������������������������������������������������������������������������
��������������������
,������3�������
����������������'�����������������������������������������������������������
,����������
1 ��������� ��� �$���� ����� ���� ��������� � ���)
��!���������������������������
��!���������������������������
������� ������������������ ����� ��������������������� ����� ��4 �� ������� � ���������
�� �������������������� ��%�� ������ ���������������"����������� �� �� ���"���� � ������5�� ��6��7�
������� ���� ����������������# ���� ������������ �� ��� �������������������'����� ����� ����� ��
��(��������������'������������� ���������� ������� � ����������������� ����!�������������������� �����
� ��� �����������������'����� � ������� ������������ �������������� ��������� ������������� �� '����
� ������� ��������� ��������� ���� ��� � ��� ����
������� ��������� �"����������� ��������������������� ���� �������������&����������������� �� ���
� ��"������ �����'��������� �������������������� ������ ��8� �"�������9�:����� �!��������
������ �������������� � �����������+�*������������#������)�; ����������� � ��� ����"������
�������������'�����!<��������� ���������������� ��������; ����������� �� ��� �������������'�����!<��
��4���������������"��"��� ������ ��������� ��; ����������� ���������������4���� ��� ���� � ������'
����!<���� �������������� �� ���; ����������� ���������������� �� ������ ���������� � ���� $�� '
����!<������������� ����� �� ��
�������� ���������������� ������
Precision and significance in the real world
A 1500 kg massis approachingyour head at45.3 m/sec.
LOOK
OUT!!
Precision Significance
� ������ ������������ ��������
��� ������������������
��� ���� ����������"���������������������������� �� ������������ ��������������:����� ��������
� ���+�!��"���� ������" ���� �� ��������� ��'��������������������������������������
&�������������'�� �������� ���=>'����� ���������������������������������� �'��������'����
���������� �� �� ���� � ������ �� �� ���'� ���� � %"������ ������������� ������ �� ���������� � � �
���������������� ����$�� �"����������������������"��� '�� �� �������'���������������&���������������
������������� ����������������������'�� ������ ������'����%��� �������������'������ ������
��� ��� ����� ��������������� ��������� ��
&������ ��������'���=>%����'�� �$���� ������������� ������������������)�5�7������ ������ ���
��� �������"������?�����5�7������ ������ ������������%����������& ���'���� ���������������� ��� �����������
��� ������������� �����" �"���������� ��������� �������
&�������������������������� ��������������������=@��& ���'����������������������� ���������
������)�5�7����� ������'���������������� ��'�����"������������'������� ���������������������
���������� �� �������"������� ��?�����5�7������������'���������������� ��'�����"�����������'�����
��� �� �����'�������������� �'�� ������������� �'���������� ����������%���������'����������������'
��������� ��������(���������������������� ��������������������&��������� ������ �������������� �������
������������"������ ���'� ������� ���� ���'��������� ���� ����& ���'��������������������������'��
����� ������'������������������
2����������� ������$�� ���"�� ���������� �������� ��������� �������" ���� ������������������
��������� ��� ��������� �� �'��� � ���������� ������������ ������������ ��'���������������A�����
&������������ ������4 ���"�� ���������������%� ��%���������������������������� ���'��� �
����� ���� ������� �� � ���������� ��� �� ����� ������������ � ��'� $� ��� �� ���������� �'� ������ �
��������'����������������'���������� ���� �'����������������?��������������������� ����� '
������� � � �����'�� �� �������'��������������������������� �� ����������� ���� ������������
������ ������������������������������������� � ������
1 ���� ������ ��������� ��#�������������B�'����������������� � ��C!10�5C�$�����!�������"����
1 ���0 ������ 7����D0�C�$������C��������'�� ���� ������ ������� ����� �� ������ � � ��������
� ������"����� "������� ������ ��� �� ������ �'����� ��������������� �� ��������� �������������&��
��������� ������� �� ���� � ����� �� ��)� ������ � ��'� ��� � ������ '� �" ���� ���� � ������ '
� ������������ ������ '���� ����� ������ '� � ��������� �������������������� ��&��������������� �
� ��� � ������ � ��� ����'� ��� �����'� ������ ������� ���� ��� �������� �� � �� ���� ���� �� � ���������
���� � � ���� ��� ���� ������ ����� ������� ����������������������%�� ���� ������� ������� �
����������������������"����������������� �������������� ����� %���������������E����� ������� ��'
�� �'���� %�����% ��������������'����������� '���������������� ��� ���� ������ ���� �� � ��� ��
��� ���������������������"����
������ �������"�� ��������������" ���� �� ��������� ��'���$�� ������� ����� � ����������
�����'������,�������� ������� ��� ������ ����� ������������ ������� ������� �� ��������� ���
C��������'���"�� ������ ��� ������ ����� �������������� ������ ��� ������������������ �
������ � ��� ���� �� ����� ����� ����������� ��� ���� �� ���� ��� ������ �� ������ � ��� ����� ����� �
���� ������'���"������� ��'�������������������������$���� �� ����� ��� ������ ����� ���������
� ������ ��2����������F��������� �� ��52F�7��2F�� ���������� �� �����4 ����� ������ ������ ��
������������������� ���� �
������������ �� �������������������� �����!�������������� ���� �����������������'����� ��� �����'� ��
�� ����� ��� ��� ����� ��������� �%����� �� ������ � ��'� ���� �����������2F�'����� ��� ���� !������'
������� � ������� ������ ���������� �� ���������� ���������(����� �%������ ���������
� ������������� �'�������� ������������5����� �� ����� �����������7���� �4���� ���$������������
� �� "�����!�����'��$����������� ���������� ��������������� �� ���������������'����3� ����'����� �
�����������������������������4 ���"���������C��'�� ����� ������'�� �� ���������� ����������� �������
���������������� ��� ���"�������������$��������������% ��������� �� ������� ��������������� ���� �
��"������� ����!��������$��� ��������� ������� �������'������"�������������� ������ ����"����������
���"����������� �������"�� ��������������" ���� �� ���������������������� � ���
��� ����������������������������
1 ��� ������������������������������ ��������� ���������� ������ �� �� )
G !��������� ��'��#������� ��� ����"����������������� ������ ����� #��������� ��� �
G !��������� ��'��"������ ������������ ���� ���
G !��������� ��'�$� ��� ������������������ ������ �� ���������� '��(��"�������'�������� �������
����� ������ �� ��"��������
G !�����������"����������� ����� ��� �� ��� �� ����������� ���������
G ����� �����������������������������
��� ����������������������������� �
&�������� �������������������� ��������������������� �"���������������� ������� ���������
��������� ��)
G ��������������������������� ���������� ���� #��������� ��� '������������� ���������������
���������������� ����������������������� ����"��
G ������ � ��� ��� �� ������ �� ��$�� � ���� ���������� "������ ����� ��� ������� � ��������
��� ���� ��
��! ����������
��!�� �"##$��%&
����"H������ �������������������������H���"H�������������������������������������� ��5�� ��6�67�
I��)�" ��JK'H�L ���56��7
����I� 5�7����������������������� ��� ������������ �����������H��������������H� �������H��"�
!����������������H���� ������������������������������ ��������
� M�N5�'HI�5�77�O�H��"P ���56�67
�' ������ ������������ ��������
��(������������������5�7��������� ��I�5�7��&���������� ��������������������"H������ �������#5"7�
!��"HM�N��'����'��P����������������������H������������������"H������� �������������� ���� �
� M�I�����Q�����Q�I������ ���56�>7
������������$����'��HM�'���'�H�� ������������$�H������� ���� ������������ ����H����H��������������� �
���������������� ��
���������� &������������������� ��5�� ��6�>7� ���������������� �������������R�� ���� ��R'�������
����������
�57 M��#�5S�5��S��767
�����H������ ����"������������
1
– 2 – 1 0 1 2 3 4
�������� ������������������� ������� ����������������
1
– 1 1 2 3 4
��������� �������� �� ��������� �����������������0������������������������������������� �
�����"���� �������'������������� �����������5�� ��6�@7��� ���������'�� �������� ������������ � ���
�������������� �� �)
G C�� �.���>KKKKK��������� ����������������'�������������$��� ���������������� �����<�
�����
�������� ����������� ������� ����������������
Rs. 300000
1
Rs. 450000 Rs. 600000
������� ���������� �������� �������
������������������� ���� ��
G C������.���>KKKKK�����.���@�KKKK'���"����� ��������������������������$���������������"
������������������
G C������.���@�KKKK����.����KKKKK'���������"����� ����������������������������������������
��" � ������������������
G C�� ���.����KKKKK������ �������� ��� ��5 ��� ��� �������� �7�
��!�� �"(()*&
�����H������������������ ��"?��������� �� ���'���� ���������5�7'�������������������� ��"H� �����������
������"��� ��� ����������� ����������
����5�7 M�N�H�"%��5�7�THKP� ���56��7
��!�� �)*+,-��"##$��%&
����������������H ������������������"H����������� �������������#����������"������������5�7�M���E��������������� ����
��!�� �.�"&
����%��"������� ���������������� ��"������� �%������������� �������J�L�H�����������������
J�L� M�N O 5 7 P
5��� 7
" �
�� �
� � �
�
�RST�� T
� �� M K
K���56��7
������ 5������7���� ���������� ���� ���������� �� ����
�������� � ������
" M�NS6'�S�'�K'��'�6'�>'�@P����
� M�K�K�S6�Q�K�>�S��Q�K���K�Q���K���Q�K���6�Q�K�>�>�Q�K�K�@�H
!�����������
J�L� M�
N ' ' ' ' P �
N ' ' P � �
N P
� � �
�
�
RS|
T|
� K � 6 > K>
K � 6 K> K�
� �
�� K
��
�� K��U
�
�
�
��!�� �)/0%1��"##$��%&
�������������� ��"������������ �"�#����J�L�������� �"�#�������� ��"����JK'��L������%���� �������� ���
����������������� ������� ��6���
!�������������� ����� ������� ��������� � ������������������� ��� ���� �� �������������
�#�����'��� ��������������������'��� ����KKK'������� '� ��������������� ��������KKK��&�������
�#������� ������������������������������D��� �������� �� �����������������������������������
������������������������������ ���������� ��������������- ���#�����'
�� ������ ������������ ��������
��!�! �"##$��"+2%*
��������������5�� ��6��7��H��������������� ���������������������� ���'�5�����7�� �"�#������ ����� ��
���������������� �� ��� ���������� ���&���������� ������������������������� �������#��
� – cut�
������� �������� �������� �����������
– 2 – 1 1 2 3
1
��!�� 3",45��"##$��"+2%*
��(����%����������������������������� ���������������������� ���'�������� �"�#������ ����� ��
���������������� ����������� ������������ ����� ��
������
�57 M�K ���56�=7
�����������������������&����J�L��������� ����� �"�#�5� �����7�������� �� H� ���������JK'�L��������
��� ���������� ���� ��
��5�7 M����J�L�' �65�7���#J�L
����56�B7
!�� ���� ��'����5�7���� ������������%���������������6�5�7���� ��������� ��%���������� ��������%�����!����������� ���������
�� � �������� J�L����J�L� ���56��7
������ �'���������%���������������� �
�� )�JK'��L��� ���56��K7
���� � � ����������� ������ ������� ����� ��'���������� ��%���������������� �
�6 )�JK'��L��� ���56���7
���� � � ����������� ��������������� ����� ���
�������� ������������
������������������� ���� ��
:����������������� ���� �
J�L� M�J��5�7'���65�7L ���56��67
&������� �� ����������� ��������"���J��5K7'��65K7L��������������������������� ��6�=�
A
1 a1( )�
�a2( )�
a1(0) a2(0)
�������� ���������� ���!��"#$%�&"#$'�
!�������� ���������������������������#����������JK'��L�����������J�L�H���� ����� �"�#�������� ��&�
&���� ������������������� ������� ��6�B�
1
– 3 – 2 – 1 1 2 3
��!�� �*5,/6"-,*��"##$��"+2%*
���������������������������� �����������������������$�5 ������7��'�������������THK������ ���������THK������������������������ ����������� �� �� �� �
�57 M �
�
�
K
��
� � �
��
� � �
R
S|||
T|||
� � �
� � �
��
��
��
��
������
���56��>7
��������������� ���� ����M�5�'��'��7��!����������������"�����������
J�L� M�J��S�5��S��7�' ��Q�5��S��7�L' ���JK'�L ���56��@7
&������� �� �������5�S��'���Q��7�
�� ���� ���� ������ ������ 5�� �� 6��7� ���� ������ �� ���� ��� ����� ��� �� ������ (�������� 8�H��
��� #���������(����� ��9�
������� (�� �����������
�� ������ ������������ ��������
��!�� �*,(%#)57,-��"##$��"+2%*
�������������H��������������� ���������������������� �����������"���J�'H�L'���������������� �������
�H����������������������� ����������� �� �� �� ��
�57 M�
�
�
K
��
� �
� ��
� � �
R
S|||
T|||
� � �
� � �
� �
��
��
��
��
� S ��
������
S
���56���7
��������������� ���� � � M�5�'H�'H�'��7��!������������������ ������
J�L� M�J��S�5��S��7�' ��Q�5��S��7�L' ��JK'��L ���56���7
&������� �� �H���5�HS��'H�HQ��7�
������� �����������������5�� ��6��K7������������������������(��������8�H������ #��������������
����"���J�'H�L9�
1
a – � a a + �
�������� ������� �����������
a – � a b b + �
1
��������� �������� �����������
��!��' �"24%&8))7
�����H����'H����������������� ������������������"��:������������H������������ ��'H����57���'57'����"��&��
������� ��������������������� ��6����
������������������� ���� ��
��!��� �9",-5&$�):��"##$��%&4
�����H����'H����������������� ������������������"��H����'H��������� �����(���'���� �����HM�''��������'
����'������:��� ����������M�'�������� ��������5�7('5�7�� �����"�
��!��� �+(&$��"##$��%&
&���������������������� ��"H�������������������������������V� ��"H����������V5�7�M�K�� �������H��"��!�
��������� ����������V������ ����� �������������������H ��"�
��!��� �/50%*4,-��"##$��%&
&����� �����������������"'�����������"���������������5�� ��6��67����"'���� ��������"'��������������
�"57�M��'H ����"�!����������� �����������H���")� ����� �������������������H ��"�
B
A
��������� ���������� ��
11x
x10
��!��� �"##$�;)5/&
�����H������������������!�������5�7�M�N�KP'�������H������������������� ����5�� ��6��>7��������������
� ���� ����M� �K�
��������� ������� ������)���� ��������������*!#���#'�
1 X0
X0
��������� �����������
�! ������ ������������ ��������
������M� �K������������� �����!����������� ���������
J�L� M�J�K'��KL�M�N�KP'�����JK'��L ���56��=7
��� ;��������������������
:���#�������������������������� ����� ����� ���� �� ������������� ��� �������������:��� �����������
�� ��� ����� ������������#����� ��� �������� �������������� ������������������ ��������������
�������� ��"������������ �� ���� ����� ��� ���� � �� NK'� �P�� � � ����� ��� �'� ���� �#������
����� ���� ������������������������������� ��������������� ��
����������'����������������� ����� �������5����7�����"�
����� �/&%*4%<&5)/
&������������ �� ���H����'��������������
5����'757 M����N�57'�'57P�M��57���'57�� ��������" ���56��B7
&������������ �� ��������'������ ������� ��6��@�
����� �/5)/
&������ �� ��������'��������������
5����'7 57 M���#N�57' '57P�M��57���'57�� ��������" ���56���7
&������ �� ��� ����� ���������������� ������� ��6����
�������� +������������ �,��������� ������������
�������� -����� �,��������� ������������
A B
A B
������������������� ���� ��
����� �)+(-%+%/&
&���� ��������� �����������������������������
5��757 M���S��57 ���56�6K7
���� ���������������� ��� ������������� ������ ������������� ������������ ���#�������������
������ M�" ���56�6�7
����������� ��� �%� �������� ����������
������ M�� ���56�667
!�����������������"HM����������M��"'�� �"�'��������� ���#������������������� �� �������� ����
� ���������������������� ���
�������� &������ ���#������������������ ��"�����������57�M��6'�����&'������������������ ���������
5������757 M���#N��57'��57P
M���#N��S���6'���6P
M���6����
������� &������ ��� �%� �������� ������ ��"�����������57�M��6'����&'������������������ ����
����
5������757 M���#N��57'��57P
M���#N��S���6'���6P
M���6���K
* �"�'�������� ���� �����������/��- ��<�����
�5����'7 M�������'' �5����'�M�������'7
�3������������
�� :�������������� ��+
6� 3#�����������" ���� ��������� ��������� ���
>� :������������������������� ��������� ��+
@� :������������������������� ���������������+
�� :������������������������������+�/�����������
�� :����������� ���� ���%�������������������� �+
=� :��������������������������������+�/�����������
B� /����������� �� �� )�5�7��(������� ������������'�5��7����������������'�5���7����"���������������
�� :����������� ����� ��� ������������+�3#�����������#�������
�K� W�"�����MN�'��'��'��'�6P�����'�M�N�'�6'�>'��'��P�����������''����������'�
��� W�"���"�M�N�'�6'�>'�@'��'��'P�������M�N6'�@'��P����������
�6� �������������������������������
��M�K������Q�K�@��6�Q�K�=��>�Q�K�B��@�Q�����������������%�����
�� ������ ������������ ��������
������������
�� ����������'�������1���'��������������*�����'�X ���B'�>>B%>�>'������
6� ����������'��������� �����'��������������*�����'�X ����6'������@%�K6'����B�
>� A��W��C �'���� ��� ������������'��������������*�����'�X ����B'�F ���'�����>6%>�'���=��
@� ����������'��������%���%��� ��������������� �� ����� ���������� ����+��������*���������'�X ��
6'�F ��6'�����@%>@����=6�
�� ���/�����'�����1��&�����'��� ������� ������� ������������'�+��������,����������������
��������������'�X ���@K'�F ��6'�����>=>%>B�'���=6�
�� ����������'�E������� ���������� ����� �������������� ��� ����#������������������� ��� ����'
�---�&������� ��� ���������'�,�����*���������'�X ��� ,*%>'�F ���'�����6B%@@'���=>�
=� ����������'�&���� ������ ������� �������"������������������������ ��� ���� #��������� ��� '
2����'����������� �������'�X ���B'��������%6@�����=@�
B� ����������'�&���� ������ ������� �������"������������������������ ��� ���� #��������� ��� '
2���6'����������� �������'�X ���B'�����>K�%>�=����=��
�� 2�������'�&����� ���� ��������� ��'�#�..� ����� �����'�X ����'�F ��>'�����6K>%6>K'���=B�
�K� /�� ��'�/������*��2���'�E����� ��� ��������F�����'� �����������+�������� �����
������'�X ����'�������>%�6�'���=B�
��� 1�� :��������'� �� ���������� ������ ���� ��� �'� �---� /����������'� �� �������'� ���� ���
����������'�X ���B'�F ���K'�����=��%=��'���=B�
�6� 1��W �����'�1������ ��� ������������ ���� �����"��'�#�..� ����� �����'�X ���6'�F ��6'����
�6�%���'���=��
�>� ����������'�2 ������������� ������� ����������������'�-������������ ������ ������1 ��������
2 �����1�������'���0 �������.�-��&� ���5����7'�������%�6�'�:���"���2���'�C ����'���B��
�@� ����������'�-�$�� �� �����������$���$���� ���'��---� ������'�X ��B'�����6�%>6'���B@�
��� ����������'�������� ��'��---�*������'�X ���6�'�F ��@'�����B>%�>'���BB�
��� D��* ����������F��1� ��'�� ������ ��� ������������'�#�..� ����� �����'�X ���@K'�F ��6'
���6�=%6��'������
�=� ����������'�1 ���� ������ ������������ �����--- ������'�X ���5F "����7'�����@B%�������@�
�B� ����������'�������� ��'����������� $������� ���� ������ '�*�����������������*,'
X ���>='�F ��>'�����==%B@'����@�
��� ����������'�������� ��S� ������ ����� ��'��---�/������������#�..� �����'�X ��@'
F ��6'������K>%���'������
6K� ����������'�. ���� ��� ���� ������ ������������ ����������� ������ �'����� ���������� ������ �
��� ���� ��������� �����������'�0 ������� ����!������ ����)�1 ���0 ������ ����������%F��
!��� ��� ��������������� ��'�����������E��Y����$'������������'�C��&�$���'�����!��A��.����'
1��� �%X��� '�C����'�����K%>='����B�
��� ����������
����������������������� �������������������������������������������������������� ���������
�������� ������������������������������������������������������������������������������������������
���������� ���� ������������������������ �����������!�����������������������
�"������#����$%�!��������������&��������'�����������������������
�� �������"��������������$%�����������#���!
��� �������������
����� �������������������������
������ �������� ���������������(���� ������ �� ������������������)������������������
���������*�����+�����+����������������������������������������������������� ��� ���������������
���(����������������������������������������
������� +��
,
��
������
� � �� � �RST����-���
�������� �����������������.�������
������� ����/����0� ��� ���/,�� 0 ����-�1�
������� +�� ,
,
��
������
� � � / � 0 / � 0� � � � �RST
������������ �
� � � � � � �
������������ � ��
����������������&����-'�������������� ��
��������6�������������-���,!
(����������3��%������������
�����! 0� ���� +11���������
���������� ����������������77�����������������77���� �����������
*��������������������������
*����+��������������������� ��������77��������������
��� ��� ��������77��������������(���������������������������.������� ����������
����������������������
���������� ������������������� ��������77��������������+�����1��-!��������&�����������
3���'����� ���������
������ +��1��1��+��-��-��+��
����1� +��1�����+��1��-��+��-��1��+�,�8
����-� +��-�����+�,�-
(���� ���������������������.�%�� �
������ +�
�
,8 �
,- 1
��
��
�� 6
� �
� �
� �
�
�
�
RS|
T|� 6 6
� 6
*��������������������� ����������
� 1 -
� � ,8 ,-
1 ,8 � ,8
- ,- ,8 �
� �
� �
� �
L
N
MMMM
O
Q
PPPP
��� �-������������ �������������
9�77�������������%����������� ����������������� ����������� ���%���� ����������
�� ���� ��������77�������������������
����� � ���������
(������������������������������ �
������������� +���������������������! ����-�-�
:�����2���������/,���0������������������������������ ��������������������
�� ����������� �� ������ �������
����� ��
(��������������������������� �
������������� +��������������������! ����-�;�
���������� ������������� �������������
+�&������������ �����.�������'
� � � �
� 1 - ;
�
1
-
,8 ,� ,� ,<
, ,8 , ,
,= � ,< ,8
� � � �
�
� � �
L
N
MMMM
O
Q
PPPP
� +�&����%�����������'
� � � �
� 1 - ;
�
1
-
, ; , ,= ,>
,= ,; ,? ,<
,- , ,8 ,?
� � �
� � � �
� � �
L
N
MMMM
O
Q
PPPP
(�����������������������������&������������ �����.�������'�����&����%�����������'�
������������ +�
� � � �
� 1 - ;
�
1
-
, ; , ,� ,>
, ,; , ,
,- , ,< ,?
� � �
�
� � �
L
N
MMMM
O
Q
PPPP
(��������������������������&������������ �����.�������'����&����%�����������'�
������������ +�
� � � �
� 1 - ;
�
1
-
,8 , ,= ,<
,= ,8 ,? ,<
,= � ,8 ,8
� � �
� � � �
� � �
L
N
MMMM
O
Q
PPPP
��������������������������������
������ +�� ,
,
��
������
� � � / � 0 / � 0� � � � �RST����-�?�
*�����������������@�����������������������������������������������%���/����0�������
���@��������������������/,�� 0�
������������ � ��
*�������������������������������������
� +������6������������! ����-�>�
�� +������6�����������! ����-�<�
��������������@�������������������������@����������
����� -��2�����
��� �����77�� ��������77�������������������(�����@�������������������������
���� +����� ������6�����! ����-�8�
���������@�������������������������
������ +����� ������6����! ����-�=�
���������� ���������������
�+�&������������ �����.�������'�+�
� � � �
� 1 - ;
�
1
-
,8 ,� ,� ,<
, ,8 , ,
,= � ,< ,
� � � �
�
� �
L
N
MMMM
O
Q
PPPP
��������@�����������������
A ���������.�������.����� �������.����������������������������1��������-��������;������
�����+�������������������������������������
A 1��������.�������.����� �������.���������������1��������1���1����1���-����1���;������
��1��+�,�8������������������������������������
A -��������.�������.����� �������.���������������-��������-���1����-���-����-���;������
��-��+�������������������������������������
X
Y
�������� ���������������� ��������
�% ����������� �� ������ �������
����% �������� �-��.+����"��3�� +11������
(�� ����������������������������������������������������
�������������� +���������������! ����-��,�
������������������������
*�������������� ����������������������77������9�.��-�-���������77������������������
B
A
A B�
�������� �� �������� ��������������������
*�����������������������������������+������������������+���
#�����
��� +���������� �����6��!
+��������������6��!
+������������������!6��! ����-����
+�����������!
+����
����' �4�.�3��"� +11���������
(����������������������������77����������������������77���������������������������������
�������� +�������������������! ����-��1�
���������������������
(��������������������77��������������77�������������� ��������������������������
���������������77�������9�.��-�;��
������������ � �'
���������� ���������� ���77����� ��������
+������
����77���������
5 ��%�����������.���������������������
���� +�������������+��
���� +�������������+��
���������� ���� �����77������������%�������������������1��-!�������� ��� ��������77�
��������������1��-!�������������+�,�1B��C��B1�C�,�1B-����
+�
� 1 -
� � ,8 ,-
1 ,8 � ,8
- ,- ,8 �
� �
� �
� �
L
N
MMMM
O
Q
PPPP
D���.������������������������������������.
���� +��,�1B��C��B1�C�,�1B-����
� 1 -
� � ,8 ,-
1 ,8 � ,8
- ,- ,8 �
� �
� �
� �
L
N
MMMM
O
Q
PPPP�+�,�8B��C�E�C�,�8B-
������� ������������� ���������������������������
(CoR) ( )y�
C x( )
R x y( , )�
Y
X
Y�
R x y( , )
�( ����������� �� ������ �������
����������� ���� �����77������������%���������������/,���0�������� ��� ��������77�
����������/,���0���������������+������������+���F�6����6�
D���.������������������������������������.
������� +�������������F�6�F��6!�+��
1
� �
����������/,���0��������/,���0
����( �+5�6� ���&5������ ��"� +11��������� �
���������������������������������(������������������������������������� ������������������
������������� +������������������������! ����-��-�
��������
*���������������������� ��������77������������������
����������� ������������77���������
+�&������������ �����.�������'�+�
� � � �
� 1 - ;
�
1
-
,8 ,� ,� ,<
, ,8 , ,
,= � ,< ,8
� � � �
�
� � �
L
N
MMMM
O
Q
PPPP
� +�&������%�����������'�+�
� � �
�
�
�
�
� 1 -
�
1
-
;
,; ,= ,-
, ,; ,
,= ,? ,8
,> ,< ,?
� � �
�
� � �
� � �
L
N
MMMMMM
O
Q
PPPPPP
(��������������������
#���G +�
� � �
� 1 -
�
1
-
, > ,8 ,?
, ,; ,
,< ,= ,<
� � �
�
� � �
L
N
MMMM
O
Q
PPPP
������������ � �)
���������
� � � �
� 1 - ;
�
1
-
,8 ,� ,� ,<
, ,8 , ,
,= � ,< ,8
� � � �
�
� � �
L
N
MMMM
O
Q
PPPP���
� � �
�
�
�
�
� 1 -
�
1
-
;
,; ,= ,-
, ,; ,
,= ,? ,8
,> ,< ,?
� � �
�
� � �
� � �
L
N
MMMMMM
O
Q
PPPPPP
�+�
� � �
� 1 -
�
1
-
,> ,8 ,?
, ,; ,
,< ,= ,<
� � �
�
� � �
L
N
MMMM
O
Q
PPPP
������������������������������������.����� ���������������������������������������������
�������������������������������������������������������������������������������
�������
�7�������0��8�
�� H����������77���������I�$����������
1� $�������������������������77����������
-� J�%���������������������������������������@���������������������� ��K�I
;� J�%����+������,������1��,�?����-��,�-�!�������+�������,�-�����1��,�;�!� ��������77���������
���%������������������+�����1��-!�������+�������1!������%����9������ ����������������
��������
?� J�%����+�����1��-��;!���������%������������������������+�������1���-���;!������%������
�������������.���������������+�������1���-���;!� ������������������������������
9����GDL�M*:������������
��� ��������
�� �����N�����9�77��G������� ��!"����������! �#��O����8��--8�-?-���=>?�
1� �����N�����G�����������������������77��������.������� ��!"���� "$� $%��O����1��:���1�����
�<<�1,,���=<��
-� "� �����"������P��L������������$!%�������%!$�%2�&'$� �������((#" �!"��%����������L�����:Q�
�=8,�
;� ��9��R������������:� �9��J������M������.� ���������D���.�9�77��#��������)��$ �$!$%��O���
=��:���-������11-�11=���=8,�
?� #�#��Q�.���G����������������77������������������$ �$!" %�������%!$�%��O�����1��:���1�����
�1-��;,���=8��
>� G�O��5%������K�%��G�����������77�� ����������������������$!%�������%!$�%��O����>��:���1�����
�>=��=?���=8��
<� R��R��������J�� ��������L��9���K���M�������������������77�����������* ��#$�%�������! �#
�������� ��!"���&'$� ���O��������:���?������-8=�-=>���=81�
�, ����������� �� ������ �������
8� H��R���������������S������5���������������������������������.����������������
��. ����������������������������������!$ ��!"���#�+�� ��#����,$�$ �#���%!$�%��O�����1��:���1�
�����;=��?<���=8>�
=� �����N�����9�77����.�����---����(�!$ ��O����1���:���;������8-�=-���=88�
�,� D��P�����T�������������������������������������������$!%�������%!$�%��O����1<��:�����
����-��;;���=88�
��� H��S����7�@�7�K��"�������������� ��������77���������2�9������������ ��!$ ��!"���#
+�� ��#����,$�$ �#���%!$�%��O�����;��:���;������-,<�-�?���=88�
�1� S���������������M�M��J�����*������������9�77���������2�(����������������������O��
:�������#��������:Q���==��
�-� �� ��9������(����������77�� ����������������������$!%�����%�%!$�%��O����?,��:���-������--��-;��
�==��
�;� ��U�������������� �������������������������77������������������$!%�������%!$�%��O����;=�
:���-������-�<�-1����==1�
�?� R��"�R�������$�$��S����9�77�������������������������������$!%�������%!$�%��O����>,�
:�����������,=��1,���==-�
�>� ���O� ���J�������������������� ��������77������������������$!%�������%!$�%��O����?;�
:����������>=�<=���==-�
�<� L��9�������������L��9�������������������������������������������77�������������� ��!"��
� "$� $%��O����<?��:���-������1�-�11����==-�
�8� #��S��������J ����������9��S�������������!"��%������������%!$�%��H����� ���������==;�
�=� ���M������������ �G��L�.��5�������������77��.����������� ��!"���� "$� $%��O����<=��:���-�
�����?=��<,���==;�
1,� S�����J��������R��Q������������$!%�����������.�/" 2�&'$� �������((#" �!"��%��L�����P����
D����G�����#�%���:����==?�
1�� (����#�����������.�/" ��"!'�-�/"�$$ "�/��((#" �!"��%��M�J����P�����*�����:��Q��K��:Q�����
�-;��;>��==?�
��� ����������
������������������������������������ ��� ����� �������������� ���������� ��� ����������� �����������
���������������� ���������� � ��������� ��������� ��������
������������������������������� ������������������ ��������������� ������������� ������������
����� �������� ������!�
��������� ��� � ���������� �������� ���� ����������������� ��� ����� ������" ������ � ������������
#������������������$���������������������� �������������
����� ���� ���������������� ������%�
� ������������������� � ���
RST & ���� ����
� � �����
� � �
& � �
& & �
� & &
����� ������'����� ��������� ���������������
���������� ��������������'�""� ������&������������������'�""� �����(����������� ������������������
���� ����'���������������� �����������������'�""� ������&������������'�""� �����(�
������ ��� � �������� ������������������'����� � �������)
�� ��� ������� ��������
������������ ���
� � � � � � �
� ����������� �� ������ �������
*��� ���� � ���������������������������� ��� ���
��� �����+�,������- ������.�
��� �����������������
/����� ������������������������������� ���� �������"����������������������
X
1
1 5
�������� ����������� ���� ����������������
�������'� ����� ������� ��� ���� ��00 � ������� '�"� � ���� ��� ������ ����� �� ���� 1�"�� ���� ��� '�
��� � �������
2 �������������00 �����'�"�� ���� �������" ����������'� �����&
2 !������������00 �����'�"�� ���� �������" ����������'� �����&�!.
2 �������������00 �����'�"�� ���� �������" ����������'� �����&�3.
2 �������������00 �����'�"�� ���� �������" ����������'� ���������� ��������.
���� ��
� .
�.
�
��
�� � .
& ���� ����
�
��
��
� �
RS|
T|������4�
�������'� ���������������������00 �������������������������'����� � ���������5���1�"����!�
y
1
1 5
�������� ����������� ���� �����������������
������������� � ��
2 .������������00 �����������������������" ����������'� �����&
2 �������������00 �����������������������" ����������'� �����&�!.
2 !������������00 �����������������������" ����������'� �����&�3.
2 �������������00 �����������������������" ����������'� ���������� ���������
�� � ��
� �
��
�
��
�� � .
& ���� ����
��
� �
RS|
T|������3�
����������� ������������������ �
������
��� �����������00 �������� ��$�������'�"�� ���� ������������� ������������������ �
������
�� ��$���������������������������������������00 �������������������������00 � �������
���������� ����������������� ���������'�����������������������6����������������������� ��������
�� ������������� ��
�������
����������� � ������������ �������������� � ������7�
���� ���� � ��������������������� ����������� ������������������ ��������
������'�"�� ���� ��
����� ����������� ����������� ������������������ ��������
� �����������������
�������
�����'�"�� ���� � �� ���������������������������� �
8����'� �"������������� � ������������������ ��������������
����� ���
&
��
���� ����
� �� � � �� ��RST������(�
*�������'����$������������� �������������������������������������� ��������� ��������������'�
��������� � ���
&
��
���� ����
� �� � � �� ��RST��������&�
������'�"�� ���� � �������������������
����������� ��&�3.��������
�� ����������� �� ������ �������
9����� ����������� ��������������������00 ��������������� ��� ���������5���� ��5� �����������������
������ �� ������� � ���:������������������;���� �������������&�7������ ����&�7�������������
��������� � ��&�7���&�7����
5���������� �������������� � ��������� ��������� ����������������&�7���������&�3(((�����
��������� � ��&�7���&�3(((���&
������$��������������������������"�������������������������'�"�������������������������������
� ���������� ������������� ����"�� � �������"�������������������������� � ���������� �����
<�������� ��$������������� ������������������ ��� ����'���� ������ ��������#�����
��� ������+�,�������- ���������
�������
��������� � ������+�,����+�������-����� �- �������!�
���
���������� � ��� ��
���� ����
� � �
�
� � � �
� �
�RST�������%�
�������� ��� �����������=�����������������*��� ������'���� ��������$��������� �"�������������
��� ��������
���"������������������"�����������
��������� � ����$�+��>��������� �- ���������
�������� ��� �����������?����:@����������������
�� �� � � �������� ������������ ��� � ���� A�����B�� ����������� ��� ��� � ��� ������ ������
�����������'��������00 ��� ��'����
�������� ��� ������ ���6������������������ ����������������00 �� ��������
��������� � �����+�������� �- �������.�
��������� ����������������������� �����$������������� �����������������'�������&���&� ������0� ��
9����� ����6�����"�:'������ ����������� �������� ������� �������� ��������� ����������������� �
���������
�� �� ������ ���� �������4�
��6�������0 ����� ����+�����>���C��- �������3�
A����� ����� ����+����- �������7�
5���� ��5� ��� ����� ���
&
��
���� ����
� ��RST�������(�
=���� ����� ��� ��
���� ����
� �
�
�RST������!&�
������������� � ��
=��� ����� ��� ��
���� ����
� �
� �
�RST D������!��
?����:@���� ����� ����$�+��>�����- ������!!�
?����:@����:��6 � ��������>���C��� ������!%�
��� ��������
������'������00 �������������������������������00 ��������� ��������� ��� ��������'
��� ������ ������!����� ��� �������������� � �� � ������!��
�������������00 ������� ���������'������� ���� ����������� ��� ���������������������"�����
��� ��������������
���� ������ ������������� ���00 ��������� �� �������"��������� ��'����
30 60
Old
Very old
������� ����������
<���"��������� ��'������'�� �"� ��������� �������� ��'����������������������00 ���'� �� �����
�� ��'����������������� �������������"��������� ���
30 60
Old
More or less old
�������� ����������������
�� ����������� �� ������ �������
����� �������������������
<���"��������� ��'��������� ���� �0���' ���#�������
��������� �������� ������!.�
�������
2 ������������������ ��'��E
2 �������������� ������������������������������������������"�����������������������������������'��"��
��00 ���'� �����������E
2 �������� ������� ������ �"�� ���"������������������������E���
2 ��������������� ������ ����������"�������������������������"�
1� ��$���������������������� � ������������"��������� ��'�������������� ����������������������'�
����+���������� ������������� ��������� ��� ����������� ���-
��� ��������� �������������������� ���� �0���' �����00 ������������� ������������ �������F&���&&G�
H����"������ � ���������������������'������'�����&����������� ������������������������
..����������������������������'�����'����3&�����
�������� ������'����� ���� �0��������00 ���������������'� �������������� ���������1�"����.�
1Slow Medium Fast
40 55 70 Speed
������� ���������� ��������������������
���� �� ������������������������ ����0��������������������������������� ��������00 ��� �����
�������1�"����4�
�������� ��������������� ������� �
NB NM NS ZE PS PM PB
– 1 1
������������� � ��
9� ���������������'' ��������
�� ;�"������I�"�
F��G ;�"������A������
�� ;�"������5�����
F��G J� ��
F��G K��������5�����
F��G K��������A������
F��G K��������I�"�
����� ������ !"�#$�%��&'�&()���'"$�
� ������+<'������� ��������L� ��������1������1�� � �� ����� ����L� �� ����<'������� �� ��-�
*���� ��������������'� �����������������"��������� ������� ������
� ������� ��� ������!4�
�� ������� F&���G�
1�������� ����>�� ������!3�
�� ������� F&���G�
<'������� ���������� ��� &
&
��
���� ����
� �RST������!7�
<'������� �� ������ ��� �
&
��
���� ����
� �RST������!(�
������� ������������'������� �����������'������� �� ���� ���������1�"����3�
�������� ! ���������� ������������������ ����������������
Truth1
TrueFalse
Absolutelytrue
Absolutelyfalse
1
�* ����������� �� ������ �������
������ ���1�� � ������� � ����������� ��� ������
1�� � �� ������ �� � ������%&�
�� �������� �F&���G�
L� �� ������ ���! �������%��
�� �������� �F&���G�
Truth
Fairly true
1
Very true
������� ! ���������� ������������� ����������
������ ���1�� � ������� � ����������� ��� ������
1�� � ���������� �� �� � �������%!�
�� ������� F&���G�
L� ���������� �����>����!
������%%�
�� ������� F&���G�
�������� ! ���������� �������������� �����������
5���������������������00 �������������������������'������ �������"��������� ��'���� ������������
���������������������������� � ��������������������
H�� �
���������� ��������� ������%��
�� �������� �F&���G�
Truth
Fairly false
1
Very false
������������� � �+
1� ��$����������������� �������
������������ ��
����������'
����������� ���������
'������
���������� ����������������
�� �������� �F&���G�
�������� ����� ���"����� ������������� ������'��� ���
a – � a b b – �
1A = “A is true”
��������� ! ���������� ������������
����������'������� �� ��������������������������������<'������� �� �������������' �������������
��� �
���������� ��� �
&
��
���� ����
� �� � �RST������%.�
a – � a b b – �
1A is absolutely true
��������� ! ���������� ����������������������
����������'������� ������������������������������������<'������� �����������������' �������������
��� �
����������� ��� &
&
��
���� ����
� �� � �RST������%4�
�, ����������� �� ������ �������
��� �����1�� � �� ��������������������������������1�� � �� �������������' ����������������� �
����������� �� � �� � ������%3�
��������� ! ���������� ������������������������
a – � a b b – �
1“A is fairly true”
�������� ! ���������� ������������������
��� �����L� �� ��������������������������������1�� � �� �������������' ����������������� �
���������� ��������! ������%7�
a – � a b b – �
1“A is very true”
��������� ! ���������� ����������������
�-����������.�
�� H����� ��������00 ������������M�N$�����������$�������
!� H����� ��������00 �������� �M�N$�������������$������
%� H����� ��������"��������� ��'���M�=�����$�������
a – � a b b – �
1A is absolutely false
������������� � �/
�� N$�����������"��������� ��'����8O�9�������$�������
.� =������������4������������������������"��"��" ����)
& >�&
�& >�!&
!& >�%&
%& >��&
�& >�.&
.& >�4&
4& >�3&
3& >�7&
7& ����'���
8�� �����" �������� ��������'� ����������������� ��"���������:�"�����������
������������
�� ��<��J������������������������"��������� ��'��������������������������� �$������ �����"�
K� ������������������ �!� !"��L����7�������((:!�(���(3.�
!� N�9��A�������<���������������"�������� ������������00 ���� ���� ������!��������#�$�����#���
���%�� &��!����'�!"��L����7��;���4������44(:437���(34�
%� N�9��A�������<����������������00 ���"��������� �$������ �����"����"���"�������� ������
���������"� ����"������"�!�"���������'�(�)!��!�� "��L����!4��;����!��������7!:��(����(33�
�� P�1��I���������I�H��K����� ����<$����������� ��������������������� ���� �$������ �����"
�������00 ���"����*������!�"���'���"�!�"��L����%��;���!�������(%:!�(���(7&�
.� H��I���� ������P��?�������1�00 ����� �����������00 ��������������� ��� ���*������!�"���'
��"�!�"��L�������;�����������%:%&���(7&�
4� H��I���� �������P��?�������5������������������������� ��� �������00 � ���������� �������
���!��������#�$�����#�������%�� &��!����'�!"��L�����!��;����������7(:��4���(7&�
3� 8��H���������������00�� ��������������� ��� ������������ ������00 ����� �������*������!�"���'
��"�!�"��L�������;����������%�:%4���(7&�
7� 5��H�'� ��<�"�� ���������������00 �������������"���������������������'��������:� ��
����:��� ����*������!�"���'���"�!�"��L��������;���!��������.:�%����(7%�
(� @��@�'�������9��K �����<����� �������������������������������� ���� ��"��� �� ���
��� &�"�� ���L����7��;���%������!43:!3(���(7��
�&� N��� ������������L���� ����*�������������������������� �$������ �����"���)�A��A��=�����
<��?������H��I���� ����P�I��?���6��FN���G������������!�+!�"����,�������!�����"�!�"��;� ��:
9�������;���Q� 6�������.3:�44���(7.�
��� P�N��<��#������<���������������00 ���������������� �'���� ���� ��� �������)�K� �����*����
�!�"���'���"�!�"��L����!!��;���%������!!(:!�����(73�
�!� ?�H��*�����H��I���� ��K ��� ����������00 ��������������� ��� ������!��������#�$�����#���
����������!�+!�"����,��L�������;���%������!3%:!7.���(73�
� ����������� �� ������ �������
�%� K�� 5����� ��� K��A�" �0�� ����������� �� ��00 � ��"���� ���!��������#� $�����#� ��� ����������!
+!�"����,��L�������;����������%!3:%�3���(73�
��� K��5��������K��A�" �0����������� �����������" ������� �����������" ����������'� ������*����
�!�"���'���"�!�"��L����!.��;����������43:3!���(77�
�.� J��/������<��?���������#� �)�#����������!�*��������#� ������-�!�����"��L����%���;���!�����
�.�:�74���(7(�
�4� 8��@���N�N��?� ���=��@��/������I��/�����������1��L�����������������������������00
����������� ��� ��� � �� ���� ������:��:������ ��� ���� ����� ���!��������#� $�����#� ��
����������!�+!�"����,��L�������;����������%&3:%�7���((&�
�3� P�/��1��� ��*���00 ��������������� ��� ���*������!�"���'���"�!�"��L�����!��;���%������!(%:%&&�
�((��
�7� <��K��6�����1�00 ����������������00 �� ��������� ����*������!�"���'���"�!�"��L�����.��;�����
����!.:%.���((!�
�(� @��8������N�N�?� ���1�00 ��������������� ��� �����"�� ���0�����00 �����������������
*������!�"���'���"�!�"��L����.���;����������!%:%3���((%�
!&� P����/��� ���A��@��"�������N��� ������������"������������ ������������!��������#�$�����#���
����������!�+!�"����,��L�����&��;���%������!%.:!.&���((��
!�� �H�A��H���/�����������������������������������������������!��������#�$�����#������ !�������.
*�����!""���'�/��0#!',!%��"!'���"�!�"��L����!��;���%������%%%:%�����((��
������������������� ���
���������
� � � � � � �
��� ����������
������������ �������� ���� ���������� ����� ���� ����� ������ �� ����������� ��� ���������
������������������ ��� ������������� ����� ����������� �� ������ ���� ����������� ��������� �����
���������� ������������ � ������������������ �� �����!!�������������������� "����
#������������������ ������ ����� "���������������������������������� ���� ��"��������
���� ��������������������$����%��������������� �������� �������
� &��'�(
��������������� ������������ ��
)��� �� � &��'�(
*�� � &���
����+����� � &��'��(
�� �� ���������������������� �����������&�� '�(%�� ������������"������������&���%����������������
������ '��(�
,��������������������������������������������������� �����"������������%�����������������
���������� '�(������������� ���������������
���- �����&�����������&���
���
�.�- �����&��.��������&��.
� ����������� �� ������ �������
���
/
���
���- �����&�����������&���
�������� �������������������
#������������������ ��������������������� �����
������ ������������������
����������
����0"���
���- �����&�����������&���
���
�.�- �����&��.��������&��.
���
/
���
���- �����&�����������&���
���- ��&���
����+�����-���&���
�� �����"���� �����+�������+������� �������� ���
1��� �� �� �� "�� � ��� �� �� �� "���%� ����� 2�� �� � ��3� �� 2�� �� ����3�� ���� "� �� ���"���� ��
����� ��������� ��� ������ ���������"���� ������� ���������������+���������������������0"��
4��%�������%���5������������
��- ����� ����������� ����
���
�.�- ����� ��.�������� ���.
y
xx = x�
y =f x( )�
y = f x( )
������������������������������ ��
���
/
���
���- ����� ����������� ����
���- �� ��
����+�����-��� ��
���� �������� � ���"��� ��� ������ ��� �����%� �� ��� ����� ��� ��� ���������� ����� ������
� ��� �� ������������ ����������������� � ���� �������������
�� ����������������
�� �� ���������������
�� �� ,���� ������������
���� ������������������
�� ��� ,���� �������
�� � ����������������
�� ��
�� ���
�� ������
����������� ������������ ��
����������� ��������������
����������� ������������ �����������������
�� �� ���������������
�� ��
����� ���
�� ������
����������� ������������ ��
�������������� ��������������
����������� ������������ ������������������
�� ����������� �� ������ �������
�� �� !�������������
'�%��(��������� ����
�� �����'�(
'�%��(��������� ����
�� ����'�(
'�%��(� �����������'6%�.(
�� �����������6
'�%��(� �����������'6%�.(
�� �����������.
�� �� ��"����������
����'�� ��(
�� ��
����'�� ��� ��(
�� ������� ��
�����!!����� ��������� ��������� ��%���������� ����������!!�� ��� �� ��� �������������� �
����7����� !��,����)������'7,)(���������� ���,����)������ �����������������-
���� �� �� �������
��� �
�����+�����- �
�� �� �����������������"�� �����������-���� � ��������� ���� �������������� �������
������!!�� ��� �� ��� ��������� ��"���������������� � ������������ ������������������ ���
����� ������������"������
�� �# ���$����������������%���%�!����
���� �� ���� ���������� ���
��� �� ���
�����+�����- �� ����
������������������������������ ��
���������������+��������� ������� ������������ � ����������������������!!�� ��� �� �����������
�� &�����'���( ���'���(
���� �%
��'�( &� ���� ��
�� ��4�'�(%�'���(�'�%��(5%������ ���'��.(
���������+��������� ������ ��������"������������������������
����7����� !��,����)�����%��� ����������������� ����������������������&�������&��%
������������������������������0� ���� ����������� ��� ����� �������������� ������*�!!��1�� �
�������
�������� ���,������������ �����������������-���� ���� ����������� ������������ � �����������
7����� !��,�����������%
���� �� ���� ���������� ���
��� �� ����
�����+�����- �� ���
�� �������������2,�����������3��������&�8������&�8%� �����������������������"��������0
� ���� ����������� ��� �� ��������� ���� �� ������� �������%� ����� ���� �� ���� ����� ����� ��
���� ��
��� ��������� �� ������
#�����������%������������!!�����"���������7����� !��,����)�������������� ��������
�� ����������� ���
����� &����� !�$�!�'
����� ����������� ���
�� ��
�� ���
����������� ��" � ������������ ������
��������� ��" �
������� ������
�# ����������� �� ������ �������
���� ��������(���!�������
���� ���������� ���
�� ��8
�� ���������
����������� ��" � ������������ ������
��������� ������" �
������� ���������
A = A� B = B�
�������� �����������
������� �������������������
����� ��)���
���� ����������� ���
�� ������
�� ���
– A�
– A
– B�
– B
������������������������������ �*
����������� ��" ������ ������� ������
��������� �������" �
������� ������
– A�
– A
B = B�
������� ������������
����� ��$�!���
���� ���������� ���
�� ���
�� ��������
– B�
– B
x
– A�
– A
�������� �������������
#�����������%������������!!�����"�����9���������������7����� !��,����)������� ��
,�� :�� ��� �� ��������������������� ����������������������� ���� ����"����
���������� '����7,)�� ���,�� � ��� �� ��(
���� ���������� ���
�� ���
�� ����
�+ ����������� �� ������ �������
�������������"���� ������� ���������������+��������� ���� ���"�
��'�( &�����4�'�(� �'�(� ��'�(�;�����5%������
�������������� 1�����&��������������"���" ��� ���� ���������������
��'�( &� ����
�� ��4'�(%�� ��4'�(%��'�(55
&� ����
�� ��4'�(%��'�(5
&� ����
�� �� � � ��
' (% ��� ' (RST
UVW&�� ��4�'�(%��5
&��'�(
#������"� ����������� ���� �� ��
��������������������� 1�����&��&���<��������������"���" ��� ���� ���������������
��'�( &� ����
�� ��4��<�'�(%�� ��4'�(%��'�(55
&� ����
�� ��4'�(%���<�'�(%��'�(5
&�� �� � � � ��
' (% ��� � � 4 ' (% ' (%5��RST
UVW&�� ��4�'�(%��=.5
&��=.��'�(����
�� �������������������� ������ �������������� �������� �� ��
������� 1��������������������"���" ��� ���� ���������������
���'�( &� ����
�� ��4�'�(%�� ��4'�(%��'�(55
&� ����
�� ��4'�(%��'�(%��'�(5
&�� �� � � ��
' (% ��� ' (�RST
UVW&�� ��4�'�(%��5
&��'�(
#��������"���� ���� �� ��
������������������������������ �,
��������� 1���������"���" ��� ���� ���������������
��'�( &� ����
�� ��4>�'�(%�� ��4'�(%��'�(55
&� ����
�� ��4'�(%��'�(%��'�(5����'�(
#���������������������������7,)� �������� �� ��"��,�� :�� ��� �� �����������
– B�
– B
A
A x( )
x
�������� ����������������������������������������
���������- '����7,)�� ���1����:��������� ��� �� ��(
���� ���������� ���
�� ���
�� ����
�������������"���� ������� ���������������+��������� ���� ���"�
��'�( &� ����
�� ��4�'�(%�'�(��'�(�;�����5������
�������������� 1�����&��������������"���" ��� ���� ���������������
��'�( &� ����
�� ��4'�(%�'�(��'�(5�&��'�(
#������"� ����������� ���� �� ��
��������������������� 1�����&��&���<��������������"���" ��� ���� ���������������
��'�( &� ����
�� ��4��<�'�(%�'�(��'�(5
&�� �
� �
' (
' (���?��
�� �������������������� ������ �������������� �������� �� ��
�- ����������� �� ������ �������
������� 1��������������������"���" ��� ���� ���������������
��'�( &� ����
�� ��4�'�(%�'�(��'�(5
&� ����
�� ��4'�(%��'�(��'�(5
&��'�(
#��������"������������� ���� �� ��
��������� 1���������"���" ��� ���� ���������������
��'�( &� ����
�� ��4�'�(%�'�(��'�(5����'�(
#�%����������������������� �������� �� ��
– B�
– B
x
A�A
�������� �������������������������������������
�.�������&��/�
�� @��� ��������������������� ��������� ���
.� 9���������������� ��������A�@��� �������� �����������
6� 9������������ ����������� ��A�@��� �������
B� @��� �������� !��������������� ���,�� :�� ��� �� ���
�� @��� �������� !��������������� ���1����:�� ��� �� ���
C� 7 ���
�����
D�����'� �D��(
��������D��
'� �D��(���'�����(
��'�����(�"�� ����������������"���A
������������������������������ ��
���0��������
�� 1�>�����%�*�!!����� ��������� ��������� ��%����������%�E����6F%�$����%�����BF�0B.G%
�����
.� 1�>�����%������������������ ��� �� ���� "����� ������ �� ����������� ��������� ��0
)����%�������������������%�E����G%��������0.��%������
6� 1�>�����%������������������ ��� �� ���� "����� ������ �� ����������� ��������� ��0
)�����%�������������������%�E����G%�����6F�06��%������
B� 1�>�����%������������������ ��� �� ���� "����� ������ �� ����������� ��������� ��0
)������%�������������������%�E�����%�����B60GF%������
�� H�I��7 ����%�*���� ���������!!������� ��%������������� �!����� ����"��#"���������$���%
E����G%�$���C%�����C.60CCG%����C�
C� @�J��,�� %�>��� �� ��������!!����� ���������� ��������� ����� ���� ��� �� ���������%
�%%%�&���������������������%�"�����$���'�������%�E����.C%�$����.%�������G.0����%������
�� K�*��H�� �%�>�������������������� ��������� ����� ������!!����� �%�(�))���������$
�������%�E����.%�$���B%�����6F�06.�%������
G� ,��, !��������J�K��� �������%� ���� ���������!!������� ���������%�(�))���������$
�������%�E����.%�$���B%�����6F�06.�%������
�� I��7 ���%�#���� ���������!!������� ��%������������� �!����� ����"��#"���������$���%�E������%
$���B%�����BF�0B��%���G.�
�F� 1�>�����%�1 ��� �� ���� "���%������ ��������� ����� ���� � ���%�,� ���������� ��%
E����G%�������60�GC%���G6�
��� 1�>�����%���������������!!����� �� ������������������������ ���� ����������������%�(�))�
�������$��������%�E������%�$���6%��������0..G%���G6�
�.� ,��#�������������� %�"� ��#$��������� �(�))����������*%�(�))���������$��������%�E�����%
$���6%�����6�606.�%���G6�
�6� 1�>�����%�#����� �� ������� ��� ����!!����� ���� ������ �� �������������������� ���� ��
���� � ���%��%%%�&���������������������%�"�����$���'�������%�E������%�$���C%�������B0�C�%
��G��
�B� J��)��%�>�������� ������������������� ���������� "�������� ���� ������ �� ������
��������������%��%%%�&��������������+��������� �������$�"���������� �*���%�E�����%�$���6%
����.CF0.G6%���G��
��� I�I��L���%� #������ ������ �� ������ ��� ��������� �� ��!!�� ��� �� �� ����� ���� ����� ��%
��'����������$��������%�E�����C%�$����%�����.60C6%���G��
�C� J�� *������ �� J�� )��%� M������ �� ������ ����� ��� � ��� ���� " � ��� ������%� �%%%
&���������������������%�"�����$���'�������%�E�����C%�$���.%�����.�F0.�C%���GC�
��� 9�,��9�%�*�!!������� �������!!������ �����+�� ���%�(�))���������$��������%�E����.F%�$��
�%�����C�0�G%���GC�
�G� 1�>�����%�>�������� �������������� ���� � ���%������������� �!����� �������� �*�����������%
E����.%�$����%�����6�0C6%���G��
� ����������� �� ������ �������
��� ,�H��7��!��!��%�>���������� ��������� ������� ��������� ���"������ ������0����
��!!������%�(�))���������$��������%�E����.�%�$����%������0��%���G��
.F� $�#��1��%�L�1�7� !����N��M���%�O�� �� ��������� ���� ����� �������������� ���� �
��������<"�����������������%������������� �!����� �������� �*�����������%�E����.%�$����%����
��06G%���G��
.�� ��H���������%�>����� ��������� ������������� ������� ��%�(�))���������$��������%�E����.C%
$����%�����.606�%���GG�
..� ,�#��L ��%�#����������������� 0 ���� ������!!������� ��%���'����������$��������%�E������%
$���B%�����.G�0.�6%���GG�
.6� ��� �%�>��N������1��1 %�>���������������!!������� ��%�(�))���������$��������%�E����6C%
$���6%�����6��06.�%���G��
.B� )�� ,���!� �� )�� #����%� *�!!�� ����� ������-� >� ��������� �� �"��� ���� ��� �� ���� �
��������0"����������%������������� �!����� �������� �*�����������%�E����B%�$���B%������G�0
.FF%���G��
.�� )�����������1�� ������%������ ��������� ������������� �����������%�������������
!����� ���� �����������������*%�E����6%�$���.%��������0��G%���G��
.C� I�� N����� �� @�� #�������%� *�!!�� ����� ��� �� � ���� 0 ���� ���� ����� ��� �������� �%
������������ �!����� ���� �����������������*%�E����B%�$����%�����B�0CG%����F�
.�� ����1�������)��9��%�I��������� ������������ � �������� ���� ����!!������� ��%�(�))�
�������$��������%�E����6C%�$����%�������0G�%����F�
.G� ��*���%�O��� �� �������� �������� ���� ������� ���+�� ���<�>����� �� ��������!!�������
����� ��������� ��%�(�))���������$��������%�E����6�%�$����%������0��%����F�
.�� K�,��N�����%�M%�#�"�������%�N��P�����"����$��P�����"�%�>������� ��������� ��
����� +��� ���� ������ � ��� �� ������ ����� ��� "���� �����%� ������������ � !����� � ���,�����
�������%�E�����C%�$���B%�����66�06B.%����F�
6F� I��1���!���,����%� �����������������*�"�$� �%�@�� ��J�����%� � �������%����F�
6�� M��M�"� ����J��)��%�*�!!������� ������� ��������� ��%�)����-������������ ���)��� " � ��
��� "�� ���%�(�))���������$��������%�E����BF%�$����%������B60.F.%������
6.� M��M�"� ����J��)��%�*�!!������� ������� ��������� ��%�)���.-�1�� �����������%�(�))�
�������$��������%�E����BF%�$����%�����.F.0.BB%������
66� ,�,��7������K��O %������������0����������!!�� ���������������%�(�))���������$��������%
E����BF%�$���6%�����B6�0B�F%������
6B� #��M���%������ ������� ������� ��-�������� ���+�� �� �����+��� �� ��������� ���%
������������ �!����� ���� �����������������*%�E�����%�$���6%�����6F�066F%������
6�� M�7��#�����!%���������������������*�-������ ������.��*�����������������%�E�����%�$����%����
BC60BGG%������
6C� Q�����)���%�>��N������)����9��%� �������%�����������!!������� ��-�>�����������
������%��%%%�&���������������������%�"�����$���'�������%�E����.�%�$����%�������B0.F�%
�����
6�� @�J��I��� � %�>����� ��������� ��-����%��������%�������%�������������������%�E������%����
.��06��%������
������������������������������ ��
6G� M�1��J����%�,�@�� �������,�*��>������%�>����� ��������� ���� ����*0�J@$0P$1@##
����� ����� ����������������%������������� �!����� �������� �*�����������%�E�����%�$����%����
��0��%����.�
6�� N��1��%�*������������������������ ��������� ��%�(�))���������$��������%�E������%�$���.%
�����6�0�BC%����.�
BF� #�,�� ���%�>�� ����������� �������� ����������� ���"���������������!!�������� ��
�����%���'����������$��������%�E����.6%�$����%�����BC60BG�%����.�
B�� #��I����N�#��I�%�>������"������������ ��������� ������������������ �������� ��%
(�))���������$��������%�E������%�$���6%�����.��0.CC%����.�
B.� )�E��I�����,�#%�H"�%�#������������������� ���������!!����� � ���������� � ���%�(�))�
�������$��������%�E�����.%�$���6%�����..�0.�F%����.�
B6� J�1��1�������I�I��L���%��������������!!������ ���������� ��������� � ���������"���
���� ��� �� ������ ������� ��������������������%��%%%�&����������%�����������%�"�����$
��'�������%�E����.6%�$����%�����6�0B�%����6�
BB� E�>��$ �����%�,��� �����������"� ��������!!��� ��� �� ������� ��%�(�))���������$��������%�E���
��%�$����%������0.�%����6�
B�� 1����N��!�� ��N��J ���%�>����� ���� ����� ���"�� � ���� ����� �������� ��� ��������
����� �� ��%������������� �!����� ���� �����������������*%�E�����%�$���6%��������0..�%
���6�
BC� �������%�>������� ��������� ���������-�M�� ����� ��������� ��%�������� ����R�����
�������� ��������� ��%�E�����%�$���B%�����6��06.C%����6�
B�� ���H �����,�7�� ���%�>�� ���������������������" 0 ���� ��������� ��������� ���"�����
���+�� ���������%��%%%�&��������������(�))���������%�E����.%�$���.%��������0�GF%����B�
BG� O�� ���� �� H�� 1 %� >�� ����� ���� ����� ��� ������%� ������������ � !����� � ��� +������
���*���������$�������� ����� �*���%�E�����%�$���6%�����B6�0BBF%����6�
B�� K�� N���!��%� S�� ����� ��� ���� ���� � � ��� ��� �*0�J@$� �����%� ������������ � !����� � ��
�����������������*%�E������%�$����%�����.�0�6%����B�
�F� ��@�"���%��� �#'���$�(�))��� ��������������������-����/�� ���������� %�E����C6%�$���6%�����6B�0
6�G%����B�
�������������� ��������
� � � � � � �
��� ����������
�������������� ����������������� ��������������������������������������������������
����������������������������������������������������������������������������������
�������������������������������������������������������������������������������� ���
������!�������������������������������������������������������������������
������������������������ ������!��������������������� ��"������!��������� ���
������������������������������������������������������������������������ �������!�
���� ��� ��� �������� ����� �������� ����� �������� ������� �� ��� ��� �������� � �����
��������#�������������������������������� ����������������������� ��������������������
���������������������������$��������������������������������"������������������
����������������������
��� ��� ��� ������
%��������# &'�()�&'�()�&'�()
���������������� �����������!������������������������������������������������������
���� ��(!*���������&'�()�$����� ����������������������������������#
������������ # � ���! *� ���!������&'�() ��� +�(!
%����������� # � ��� ���!! *� � ���!��!��������&'�() ��� +�,!
-�������� # � ���! �� �����!�������������� ��� +�.!
/�������� # � ��(! *�����&'�() ��� +�0!
������"��������������������������������������������������������������������#
1 ������� # ��� ���! *���2���3 ��� +�4!
1 5������ ���# �� ���! *��"2�6��(�'3 ��� +�+!
����������� �� � �� ��
1 ������ # � ���! *�� ��� +�7!
1 ��� # � ���! *��� 2 � 3 ��" 2 � 3� � � ���
���� ���
�RST(
'��� +�8!
1 9�������# �� ���! *��
� � ��� � ! !(� ��' ��� +�:!
1 ;�������<����# �� ���! *��
� ���" 2 � � 3�� � � '�(! ��� +�('!
1 =���� # � ���! *(>��� ( ( (� & ! ! ) � �� ��{ }� �?' ��� +�((!
1 ����� # �� ���! *
��� 2 � 3 �� * '
� ! �� *(
� ! �� *
(! (!( �� ( ���� ���
(
�
� �
� �
� � �
� � �
�
��� ��� � ��� � �� � � � �
� � � �� ��
��� +�(,!
%��������������"����������������������������?,���������������������������
�������������"���������
� �(��,��������! *�(��,��������� ��� +�(.!
�� �(��,�������! *��" � ��
�
�
RS|T|
UV|W|�
� ( '
(
� ��� +�(0!
%�����������������������������������������������������������������������������
�"�������������������������������������
��� ��� ��� ��������
%��������#&'�()�&'�()� &'�()�
������������������ ������!���������������������������������������������������������
� ��'!*���������&'�()�$����� �����������������������������������#
1 �������� # � ���! *� ���! ��� +�(4!
1 %����������� # � ��� ���!! *� � ���!��! ��� +�(+!
1 -�������� # � ���! �� �����!�� ������� ���� ��� +�(7!
1 @���������� # � ��'! *�����&'�() ��� +�(8!
�� ����������������������������
$�������������������������
� ���! *(>� (>��(>�! ��� +�(:!
����������������� �����������������������������������������#
1 ��"���� # ��" ����! ����"2����3 ��� +�,'!
1 5������ ��� # �� ����! �����2�������(3 ��� +�,(!
1 ������������ # � ����! *�������� ��� +�,,!
1 ����� # ��A/BC ���! *��" ��
���� ���
2 � 3 ��� � !� � � � �RST'
(��� +�,.!
1 9������� # 9/A� ���! *� � ��
��
!
!
,
( (
��
� ��' ��� +�,0!
1 =���� # =/A ���! *��� (� � �� �� { } � ?' ��� +�,4!
������� D���������������������� ����������������
� ���! �� ���!����2���3������&'�()
����� ��������������������������������"������������� ����
� ���! �� ��(!��
� ���! *� ���!�� ��(!��
�������������� ����!����2����3�
������� D����������������������� ����������������
��"2���3 �� ���!������� ���!������&'�()
����� ��������������������������������"������������� ����
� ���! �� ��'!��
� ���! �� ���!�� ��'!��
�������������� ����!���"2����3�
������� � ����!*�������������&'�()���������������������������
����� $�� ����!*��� ����!����� ����!*��������������������� ����!*��������&'�()�
��������(�E��������������� ����"�����������������������
� *� ����!�� ����!����2����3�
���������������������� �����
� *� ����!�� ����!����2����3�
��������������� ����� ����!*���2����3�������&'�()�
����������� �� � �� ��
������� ����������������� �������������"���������������������&'�()�
� ��"2����3��! *��"2� ����!�� ����!3�
��� �������� ���������������
D��������������������������������� �����������
�� ! �! >� � �!� �!! ��� +�,+!
���������
��������� D��� ���!*���� ���!*2�6�>(�'3
�����5������ ������������� �����
�� ! �! *��"2� �!6 �>(�'!3
���������
D������ ����������������*2�(���,���.���0���4���+���73��������������
� *'�'F�(���'�.F�,���'�+F�.���(�'F�0���'�+F�4���'�.F�+���'�'F�7
��'�(F�(���'�.F�,���'�:F�.���(�'F�0���(�'F�4���'�.F�+���'�,F�7�
������ ��������� ������
�� *'�'F�(��'�'F�,��'�4F�.��(�'F�0��'�+F�4��'�'F�+��'�,F�7�
����������������������������������������������������
��� ���������� �������
D���������������������������� �����������
�� ! �! *� � �!� �!! ��� +�,7!
���������
��������� D�� � "��!*D/A "��!*���2"6��(3�����5������ ����������
���� �����
�� ! �! *���2� �!� �!(3 ��� +�,8!
���������
D������ ����������������*2�(���,���.���0���4���+���73��������������
� *'�'F�(���'�.F�,���'�+F�.���(�'F�0���'�+F�4���'�.F�+���'�'F�7
��'�(F�(���'�.F�,���'�:F�.���(�'F�0���(�'F�4���'�.F�+���'�,F�7
������ ��������� ������
�� *'�(F�(��'�+F�,��(�'F�.��(�'F�0��(�'F�4��'�+F�+��'�,F�7�
$� �����������������!��������
���2���3 �! ���!���"2���3������&'�()
���� ��������!��������������������
�� ����������������������������
��� ��� ��������� ����
%�����������������������������������������������������
"#��� ���! *� �
,��� +�,:!
������������������������������������������������������������������������������
���������������������������������������������������������������������������� ���
����������������������������������������������������
G���������� ���������� ������� ������ ��� ����������� ��������������������
���������������������������������������������
$��������������������������������������� ������� ��� ���������������������
H������������������������������������������������������������������������������
���������������� ���������������������������������������������"�����
$���������������������������������������������������������������������������
�����������$��������������������������������������������� ��������������������
���������� �������� ������ ������������� ��������������������� �� ������������
��������������� ����������������� ���������������������������������� ���%��������
�������������������������� ����I������������� ������������������������ �����������
����� �� �� !"#�"��$� !%& �#'�!�()�*%#&�
" #&'�()�&'�()�&'�() ��� +�.'!
���������������� ������������
1 $���������
" ���! *�����&'�() ��� +�.(!
1 H�����������
" ���! *" ���!������&'�() ��� +�.,!
1 J"��������������
" '�'! *'�" (�(!*( ��� +�..!
1 -��������
" ���! �" �����!�������������� ��� +�.0!
1 "�����������
%������������������������� ���������������������������E��������� ������������
��������������������������������������"�������������������������� ��������� ������
$%����������&��������������#
������� $�"�����������������������
���2���3 �" ���!���"2���3������&'�()�
����������� �� � �� �+
����� ��������������������������"����� �����
���2���3 *" ���2���3����2���3!�" ����!
���"2���3 �" ��"2���!���"2���3!*��"2���3
E���������������
%������������������������� �����������������������#
���������� %���������������������������������������������������
���������� ��������������������������������������������
" �����!*��� �����! *
� � �
� �
� � �
��
��
��
� �
� �
� �
RS|
T|
�
� �
�
��� +�.4!
������ '�(!
%��������������������������������������������������������������
" �(������! *' >( ((
(�
' ��
�
!��
FHG
IKJ
���� ������ ��� ���� ������������� �� K����� �� ����� ��� ����� � ��� ����������
����������������������������"�������������������������������(����,�����������
" �(��,! *' >( ' � ' � ! !( ,
,
FHG
IKJ ��� +�.+!
�����"�������� ���������������������������
�������� ������������
���� � �����
������������� � �� � � �
������������� ��
������������� �� � �
��������������������� � � � � �� �
��������������������� � �� � �� � � � �
������ ���� ������������ �����
������������� ���� �!
� �� ��
��
e j � ��� �
�, ����������������������������
����� � -� �-�.�#"/%�-� �� !"#�"
���������������������������������������������������������������������������
�������������������/��������������������������� ������������������������������������
�"����������������������������������������$�(:88=���������������� �������������������
��������������� ���������������� /E%!��������
%�/E%���������������� ����������#����� ���� ��� �� ��������� ��������
�����(* (�,�����!���������&'�()�(�������(6,6���6�*(�
����������
� �(��,������! *(�(6,�,6���6���*
)
�
��
(
)�) ��� +�.7!
*&%&��)�����*&�)+�*�,�%-&���&,&.&���$'��*&���-� �(��������!�
��������� %�����(* '�0�'�.�'�,�'�(!������
� '�7�(�'�,�'�+! *'�0�(6'�.�'�76'�,�'�+6'�(�'�,*'�74�
%������������������������������������������������������������������������������
��������� �������������� ����������������� ���������������� ��������������������������
�����������E��� ���� ���/E% ������������������� ����������������������������
��� ������ ������� ��������� �������������������� ������������������� ��� ��������
��������
$��������������������/E%������������������������������ ����������������$�(:88
=��������������������������������������/E%�����������#
1 �L#$���������(*(L* (�'�����'!����
�L �(��,�������! *��"2�(��,�������3 ��� +�.8!
1 �L#$���������(*(L* (�'�����'!����
�L �(��,��������! *���2�(��,�������3 ��� +�.:!
1 ��#$���������(�*(�* (F�����(F�!����
�� �(��,�������! *� �
�
�( ������ +�0'!
%�������������������������������������� ������/E%��������E������� �������
���������������/E%������������
�L �(��,�������! �� �(��,�������!��L �(��,�������! ��� +�0(!
��������������� ������/E%�������������������������������������������������
������
���2�(��,�������3 �� �(��,�������!���"2�(��,�������3 ��� +�0,!
����������� �� � �� ��
���/E%�������������������$../����0&�D�� �(��,�������!�����������������������
21(������1�3�������&%./����$������������������/E%������
� �(��,�������! *� 1(�1,�����1�! ��� +�0.!
%���������������������������� ��� ������������ ��.$�$�$�������%������������������
����������������������*(������������������������������������
� �(��,�������! � �(��,�������! ��� +�00!
�������������"�� �����/E%�������
%���������������������������� ������������������1&.�$�&����$����*������������������
/E%������
� �(�������! *�� ��� +�04!
��� ������� ���� ��� ���/E%����������� ����������������� ��������� ��� ��
�0&%�-��-�$�&%��$%�
��������� % ��� ����/E%�������������������������.������������������������
������������������� �����
� *
'
(
'
��
��
�� 6
� 2
.2 � 2 .
� 2 .
�
� �
�
RS|
T|
k m+ – 11 k n
1/m
������ "����#�$���%"���������&
$��������������/E%������������������������������ �����1����$%����������
$%�&������������ �����������(�������������=��������� �
������ (! *(
(�
�
�
��
(
�>�!�
$��������������������(��������� (!���� ������������������������������������������
������(������$%�������������������������M ����������������������1����������������
������ D��������������������
(L* (�'�����'!
�� (L* (�'�����'!
���� (�* (F������(F�!
��
�� ����������������������������
������������������� �����
������ (L! *(� ����� (L!*'��� ����� (�!*'�4�
%��������������������������
������� (! *(>����� (!�
C�����������/E%������ �������������� ��������������� �������$%,�2&�������
�������
������ (! �'�4
��� ����������� ������������������������������/E%������ �������1,�2&��������
�������� (! �'�4�
��������� D��(* '�8�'�,�'�'!������
����� (! *(
. ,�'�86'�,!*'�+���
�������� (! *(>����� (!*(>'�+*'�0
����������������/E%����������������
� �(��,��.! *'�8�(6'�,�,6'�'�.
�����)�����)������������������������ �(��,��.!��������������������
������ ����������� ������� ���� ��������������� ������������$%�&��� ����
����� ������ ����������������������� (!�
��������� =�����(::.!%�����(���( ����� ������������/E%��������������
( * (������!�
���
( � * (�����)6 �����2> �����!� ��� +�0+!
���� ?'�)N2���������� ( �!!����� (!
����� �������������������������������� ����
����� ( �! *(
(� ! ! ! !� �
�� � � ) � 2�
��
� �
�� (
(
(
����� (� ! *����� (�!6(
(� 2>)!
�����2!)������ ( �!!����� (�!�
����������� �� � �� ��
��� �� �����(��������������������0��(� ���. �������
$�(:88=������������������������������� �������!���/E%�������
���� (! * � �
�
��� ��� +�07!
E������� �����������/E%�������������������������;��� (!������������������
���� ����������������������������
E������� �����������/E%����������������������������� (!������������������
���� ����������������������������
������ '���$��������&
������ � ���� ��� ���� � ��� C-< �� ����� �� � ����� ��������� ���� ��� ������ �
�������������������������������������������������������������
���"�������� ����-������O����������������������C-<����
A���(# ������(�������!(
����# ��� �'
����������# ���!
��������������������������������������!������������
! !* ���/
���2 �' /!� �(�!(! /�!3* ���/
���2 �' /!����2�( /!�!( !33 ��� +�08!
������
/������������ �' /!*'��/"�'����������������������������������
! !*���2 �' �'!#�( �'!#!( !3*���2(#�( �'!#!( !3*���2�( �'!�!( !3 ��� +�0:!
������
X0
1 x0
�� ����������������������������
$� ����C������������������������C-<�����
! !* ���/
���2 �' /!� �(�!(! /�!3*�( �'!�!( ! ��� +�4'!
������
��
! ! *( ( ' (
(
��
���� ���
� � !
!
! !
!
�RST��� +�4(!
W
A x( )1 0
A1C1
C
X0
U
��������� (���������#����������)�������������������&
A1
X0 u
C
C1
W
������� (���������#���������������������������&
A���(# ������(�������!(
���� ����'
H���������# ���!
��������������������������������������!������������
! !* ���/
���2 �' /!� �(�!(! /�!3*�( �'!�!( ! ��� +�4,!
������
����������� �� � �� ��
H�����������������$���9JB�����
�(# �������(�������!(
���
�,# �������,�������!,
���
PPPPPPP
���
��# ���������������!�
����# ��� �'
H���������# ���!
��������������������������������
��# ��������������!� ��� +�4.!
����������������'/�����.�,�����$������������������
�� /�! * ���!�! /�!*�� /!�!� ! ��� +�40!
����*(��������
����!�������������'�����������������
� *2�(�������3 ��� +�44!
$�������������
1 �����������������Q���R
1 ����������������Q����R
1 ����������������Q$R
E����������� �' �����������������������������������
! �( * �'��� ��� +�4+!
����*(�������
! �(����������������������������
! �( ! *�� �'!�!� ! ��� +�47!
�������
�������������! �(������� ������! ����������������������#
! * U�
�
�(
! �(* �' �(� ��� � �' �� ��� +�48!
! ! *�( �'!�!( !$ ��� $
��� �'!�!� !
�� ����������������������������
���������������������������� ���
1 ������������������'
1 ���������������� �'
1 ������������������������������ �'!
1 ����������������������������
! �( !#*�( �'! �!( ! ��� +�4:!
1 ����������������� �����!��
! *! �(� ��� �! �� ��� +�+'!
/�����������������*�����������������������������
��� � � ����0����
�����-������ ����+�4!������
����� *��#�! ��� +�+(!
1 ������������������'
1 ���������������� �'
1 ������������������������������ �'!
1 ����������������������������
!�( ! *�� �'!#!� ! ��� +�+,!
1 ����������������� �����!��
! ! * S�
�
�(�� �'!#!� ! ��� +�+.!
��+ � ������0����
�� ���D����� ����+�+!������
����� *��! ��� +�+0!
1 ������������������'
1 ���������������� �'
1 ������������������������������ �'!
1 ����+�����������������������
! �( ! *�� �'!!� ! ��� +�+4!
1 ����������������� �����!��
! ! * S�
�
�(�� �'!!� ! ��� +�++!
����������� �� � �� ��
������� (��������������������$��&
������� (������������*�����$��&
���, �(11�(�� ����
�������������������������������������������������������������������������������
�����! ������ $� ��� ������ ������ � �������� �����! ����� ����� �� ������� ���������
H�������������������������������������������� �����!���������������������������
���������������#
A2
A1C1
C �1
X0Degree of match Individual rule output
C = C �2 2
Degree of matchIndividual rule outputX0
Overall system output
A1 C1
C �1A X( )1 0
A2
C2
C �2
A X( )2 0
X0
C = C �2
�� ����������������������������
�' *����������� !! ��� +�+7!
�����'������������������1&'/���'�&%���������������������������
;�������������������������������������������������������������������!�����������
����������������������
�2�������� �3�
(� E����������T
,� E��������������������������������������T
.� E��������������������������T
0� E�����������T
4� E���������������������������������������T
+� E���������������������������T
7� D������������<��������� ������������
�( ���! �� ���!����2���3������&'�()
8� D�������������<��������� ������������#
��"2���3� � ���!���A/BC ���!�� ����&'�()�
:� E��������������������������TJ"����� ������"������
('� E��������������������TJ"����� ������"������
((� E�������������������������T
(,� E�������������������������������������������T
(.� J"��������� ���������������� ������"������
(0� J"��������-�����������������
(4� E�������������������� ���������������� /E%!�����T
(+� J"����������������� ���-������O������������������
(7� J"����������������� ���C���O������������������
(8� J"�����-�����������������������
(:� J"�����D����������������������
,'� E�������������������T
���(��������
(� U���� �������%����������������������������������'���3$/%��,�$'�"��*&.������S��('����
.(.�..0�(:+'�
,� U���� �������%�������%����������������������������������������������������/�,�����$�
"��*&.�������&�%&�&��S��8����(+:�(8+�(:+(�
.� U� ��� ���� ��� %� ������ %��������� �������� ��� �������� ���������� /�,�����$�
"��*&.�������&�%&�&��S��('����+:�8(�(:+.�
����������� �� � �� �+
0� J�H��������E�<��������������������������������������!��&%�&�������1�����&.��
S��(.�B�.����,74�,:.48�(:8,�
4� A�A�=�����-��������������������������������$�*�������S��+�B�(����,'7�,,:�
(:8,�
+� A�A�=����� ����� ����� ��� ����� � ��������� �� ����� ���� ��� ����"����� ���������
!��&%�&�������1�����&.��S��(+�B�(����,.�+.�(:84�
7� V�%�U�������G���������������������������������4###!$��%$,�����&.��"�-����&�S��
8�B�4����.�(.�(:88�
8� S�B������E�<������������������� ���������������������������4��&%����$��,
3$/%��,�$'�"��+.��*��&���/1�&��S��,:�B�(����((.�(,7�(:88�
:� -�9�D�������������I��$����������������������������������������������4###�#��&%��
S��4�B�(����.(�04�(::'�
('� W���<����C����������������������������������������������/�����&�����1�����&.��S��
.+�B�(����8.�8:�(::'�
((� ;�<� ����� ��� A�A� =����� % ����������� �������������� ����� ��� ��� �������������
4��&%����$��,3$/%��,�$'�4��&,,�-&�������&.��S��+�B�7����+87�+87�(::(�
(,� V�H�����%��������������������������/�����&�����1�����&.��S��0(�B�,����(:4�
(::�(::(�
(.� -�-�C�������V�X���������������������������������������/�����&�����1�����&.��
S��0'�B�.����0.(�04'�(::(�
(0� %�B����������V�-�K������%�������������������������������������������4��&%����$��,
3$/%��,�$'�4��&,,�-&�������&.��S��+�B�.����,:4�.(,�(::(�
(4� A�A�=�����%�������������������������������������������������,�&1�4��&,,�-�&�&�
S��,�B�0����..4�.4(�(::,�
(+� D�W�E���� ��� V�-�-������C��������� ����� ������� �������� �������"������� 4###
�%�������$���$������&.���"�����1�!��&%�&�����S��,,�B�+����(0(0�(0,7�(::,�
(7� ��U���������%$����� ��������������������������������������� ���/�����&�����1
����&.��S��08�B�(����+4�8+�(::,�
(8� V�V�U������%���������������������������������������/�����&�����1�����&.��S��08�
B�.����,8:�,:+�(::,�
(:� ;� ;���� ��� 9� <����� C������ ��������� ����� �� ����"����� ��������� 4�'$%.���$�
���&��&��S��+(�B�(����('.�(,,�(::,�
,'� A����������9�V�@���������/�������������������������������������������
����������������/�����&�����1�����&.��S��4(�B�.����,+7�,74�(::,�
,(� ;�D�9�����-�J�H������-���%�������%���"������������� ���$���9JB�GBDJ��
���������������"�����������4��&%����$��,�3$/%��,�$'�4��&,,�-&�������&.��S��7�B�(����
7(�7:�(::,�
,,� ��H�9�A������A�K����������������� ������������������� �������������������
�������/�����&�����1�����&.��S��+'�B�.����,04�,48�(::.�
,.� U�H��$�������������������������� ����������������/�����&�����1�����&.��S��4:�
B�(����(4�,.�(::.�
�, ����������������������������
,0� <� ;������ <� ;������ ��� 9� 9�������� ����� $���9JB�GBDJ�� ����� ��� �����
�������������� 4��&%����$��,� 3$/%��,� $'� 5��&%�������� �/����&��� ��1� 6�$,&1-&+���&1
����&.��S��(�B�,����(+7�(8,�(::.�
,4� ��;�������<�<�U�������$������������������������������������4��&%����$��,�3$/%��,�$'
���%$��.��&��&��$���-�S��8�B�.����(+.�,'0�(::.�
,+� ��������������������������������������������������������/�����&�����1�����&.��S��
48�B�(����7.�8+�(::.�
,7� =��������$�U���������H���������������������������������������"������������
�/�����&�����1�����&.��S��48�B�(����.�0'�(::.�
,8� J�G�������=����� ����-��������B������������� ���������������� �����������
��������������������������/�����&�����1�����&.��S��4:�B�.����,4:�,7'�(::.�
,:� ��%��������������%��������������������������"�������� ������������������
��"�����������������������������/�����&�����1�����&.��S��+0�B�(����.:�48�(::0�
.'� S�H����������������<������������������������������������4��&%����$��,�3$/%��,�$'
���%$��.��&��&��$���-�S��((�B�.����,.4�,44�(::0�
.(� H�J�����A�������������������������������� �����������������/�����&�����1�����&.��
S��+.�B�.����.0:�.48�(::0�
.,� V� K�������� /� ��������� ��� ����������� � $���9JB ������ 4��&%����$��,� 3$/%��,� $'
���%$��.��&��&��$���-�S��((�B�(����,:�4.�(::0�
..� E�<�������E������������������������������T�/�����&�����1�����&.��S��+0�B�(����
,(�.'�(::0�
������������� �������
� � � � � � �
��� ����������
������������ �������������������������������������������������������������������
������������ ������������������� ����� ��������� ���� ���� ���������������������
��������
��������� ����� ����� ������������������ ���� �����������������������������������
������������������������ ����� ����������������������������������������� ������
���������������������� ��������������� ���� ��������������������� ������� ������ ���
������������� �� �������� ������ �������� ������������������������������ ���� ����
� ��� ��� ��������������!���������������������� ����������������������������� �
�� ���� ������������������� ��� �"��� ������������ ��������������� ��������������
������������ �� ����� ���� �������� �����#�������������
$������������������ ���� ������ ������������ �������������������������� �����
�� ���� �������������� �� ����������� ����������������$������������������ ����������� �
�� ��������������� �������������� � ������������� ��� ���������� �� ���#���������� �� ��
� �� �����������������������������%������������������������������� ������������ �����
������������ ��� �"������� ����������
��� �������������������
�&�' ��������&����������&��������� &
�(�' ��������(����������(��������� (
�����������������������
���' ����������������������������� �
����� �) ��������� )
�����
�� ����������� �� ������ �������
������������������� �������������
���'������������������������������ �
�������������������������� ��������������������
��*�������+ ,�*��������� �+*����+�,�-�*�+�����*�+.��� �*�+ ���*/�&+
� ����,�&���������
0���� ��� ����������)������� �����������
� ,�1�&���������2 ���*/�(+
������� �� �
3 � ������� ������4���5
3 ������ ������4��� 5
3 �������� �� ��� ��4��5
3 � �� ��� ���� ��� ��4�5
6������� �� �� �) ��� ) �������������� �������������������
�& ,� �) ��� ) � ��� ���*/�7+
� ����,�&����������!�� �&������������ ���� �����������
�&*�+ ,�-�*�)+�����*)+.��� �*�+ ���*/�8+
� ��������
����� ������� �&�� �� ��������� � ������ ��������� �� ��� �'
,� U�
�
�&
�&�,� �) ��� ) � ��&�������� �) ��� ) � ���
*�+ ,��*�)+�����*)+��� &*�+������� � ���*/�9+
�*�)+ ����*)+��� �*�+
3 ����� �����������*�)��)+
3 �����������������* �)�� ) +
3 ������������� ����������������*�)+�����*)+
3 ��������������������� ������� �&*�+',�&*�)+����&*�)+��� &*�+
3 ����������� ������� �,� ���������� ���
����������� ����,���� �� ������������������� �����
��� �� ��������������������� ��������������������
6���������������� ��������������������������������������������
0 ������������������������������ �������������������� ����� ��
����������� �������� ��
�&�' ��������&����������&��������� &
���
�(�' ��������(����������(��������� (
���' ���� �) ��������� )
: ��#���' �����:
����� ����������� ! �" �� "#���$�
����������������� ������ ��������;������<���������� ��� �������������� ��������� ���
���������� ��������� � ��� �������������������� ��� ��
��������������� ������������ ����������,�&��(������ �������
& ,�&*�)+����&*)+��(�,�(*�)+����(*)+ ���*/�=+
������������������ �������� ��������
�&�*�+ ,�*&��� &*�++�� �(*�+�,�*(��� (*�++ ���*/�/+
������ ����������� �������� �������� ���������������������� ����
*�+ ,� �&�*�+��� �(*�+�,�*&��� &*�++���*(��� (*�++ ���*/�>+
0�������� � ������������������ �� ����� �������� ����������������� ��������
�������� �������������� �� �������� ������� ���
����� �$%&��'('���� ! �" �� "#���$�
������������������������� ��� ������ � ������������������ ������������������� ���
�������� ����������,�&��(������ �������
& ,�&*�)+����&*)+��(�,�(�*�)+����(*)+ ���*/�?+
C1A1B1
C2A2B2
u v w
u v w
Min
y0x0
�) ����������� �� ������ �������
�������� �� ����� ������������������������� �� ����� ����&������(����� ������� ���
#��� ��
& ,� &*�&+��(�,� (*�(+ ���*/�&)+
������ ������������� �� ����� ��������������
�) ,�
& & ( (
& (
� ��
����*/�&&+
�����)����� ����������������:��� ��@�������� ��
������������������� ����������������������� �� ����� ������ �������
�) ,�
� �
�
�
�
�
�
��
�
�
�
&
&
���*/�&(+
����������������������������������*�����+� ���� ���������������,�&�������
���������� 6��������������� <����� ������� �������� �� ����������������
�&�' ��������&����������&��������� &
���
�(�' ��������(����������(��������� (
���' ����� �) ��������� )
: ��#���' �����:
������� ������ ���������������
&*�)+ ,�)�/���&*)+�,�)�7
���� ���������������� ���������������
& ,����1&*�)+���&*)+2�,����1)�/��)�72�,�)�7
������ �
(*�)+ ,�)�=���(*)+�,�)�>
��� �� ������������������� ������ ���������
( ,����1(*�)+���(*)+2�,����1)�=��)�>2�,�)�=
������������������ ������&�,�>������(�,�8������������ ����#��� ��
&*�&+ ,�)�7�� (*�(+�,�)�=
������������� �� ����� ����
�) ,�*>���)�7�A�8���)�=+B*)�7�A�)�=+�,�=
����������� �������� �*
����� �%+ �'���� ! �" �� "#���$�
$��� ������������������ �� �������������
�&�' ��������&����������&�����&�,��&��A��&
���
�(�' ��������(����������(�����(�,��(��A��(
���' ����� �) ��������� )
: ��#���' �)
��������������� ������������� �������
& ,�&*�)+����&*)+��(�,�(*�)+����(*)+ ���*/�&7+
�������������������� ���������������� �������� ������
�C& ,��&�)�A��&)���
C(�,��(�)�A��() ���*/�&8+
������������� �� ����� ��������������
�) ,�
& & ( (
& (
� �C C�
����*/�&9+
������������������� ����������������������� �� ����� ������ �������
�) ,�
&
&
&
���
�
�
�
�
C
�
�
�
����*/�&=+
�������� ��������������� ���������������,�&���������
�������� ���� ������������������� ����
A1 B1C1
C2B2
A2
u v w
u v w
0.7
0.3 0.3
Z1 = 8
Z2 = 4MinY0
0.6 0.8 0.6
X0
�, ����������� �� ������ �������
�������� � 6���������$��� <����� ������� �������� �� ����������������
�&�' �����������������������������&�,���A�
���
�(�' �������������������������������(�,�(��D�
����' �����7���������(
: ��#���' �)
������� ������ ���������������
%�@�*�)+ ,� %�@��*7+�,�)�>
$;�EE�*)+ ,� $;�EE�*(+�,�)�(
���� ���������������� ���������������
&�,�����1 %�@��*�)+� $;�EE�*)+2�,�����1)�>��)�(2�,�)�(
������ �
;FG�H;�*�)+�, ;FG�H;�*7+�,�)�=�� %�@�*)+�,� %�@�*(+�,�)�?
��� �� ������������������� ������ ���������
(�,�����1 ;FG�H;��*�)+�� %�@ �*)+2�,�����1)�=��)�?2�,�)�=
������������������ ��������� �������
�C&�,��)�A�)�,�7 A�(�,�9� �C
(�,�(�)�D�)�,�(���7�D�(�,�8
$ ���������� �� ����� ����
�)�,�*9���)�(�A 8���)�=+B*)�(�A�)�=+�,�8�(9
������� ���������������������� ����
A1 A2
B1B2
u v
ux vy
�1
�2
a x b y1 1+
a x b y2 2+Min
����������� �������� ��
����) ��!$ ����� ! �" �� "#���$�
����������������� ������ �������E����<���� ���� ��� ������������
� ��������� �������������� ��������� � ��� �������������������� ��� ��
E������ ���������������� ���������������,�&��(
& ,�&�*�)+����&*)+��(�,�(*�)+����(*)+ ���*/�&/+
������������������ �� ������������ ��#���� ����� �������������
*�+ ,�*& &*�++���*( (*�++ ���*/�&>+
� � ������������������ �� ����� �������� ����������������� ��������
������������������� ����������������� ��#���� ����� �������
*�+ ,� I�
�
� &���*�� �*�++ ���*/�&?+
�������� ��������������� ���������������,�&��������
����* ���-.��� �� %//0�� �$'���+
�&�' ��������&����������&�����&�,� &
���
�(�' ��������(����������(�����(�,� (
���' ����� �) ��������� )
: ��#���' �)
������� �� ������������������������������ ����
1
1
0.8
0.2
vu
�1 = 0.2
x y+ = 5
�2 = 0.6
2 – = 4x yMin
0.9
0.6
3 2 vu
�1 ����������� �� ������ �������
��������������� ������������� �������
& ,�&*�)+����&*)+��(�,�(*�)+����(*)+ ���*/�()+
�������������������� ���������&������(��������������� �� ����� ��������������
�) ,�
& & ( (
& (
� ��
����*/�(&+
������������������� ����������������������� �� ����� ������ �������
�) ,�
� �
�
�
�
�
�
�
�
�
�
&
&
���*/�((+
�������� ��������������� ���������������,�&���������
�������� �������������� ������������������ ��������
�������� ���������������� ������
A1 B1 C1
u v w
A2 B2 C2
u v wX0 Y0
Min
Z3
�3
Min
�2
C2
�1
C1
H3
M3
L3
H2H1
M2M1
H2L1
����������� �������� �2
�3����������4�
&� 6������������������� ����� ������������������ ���� ������J�F����������
(� F�������;�����������������������
7� F������������� �����������������
8� F�������$��� �����������������
9� F�������E���������������������
=� F�������������������� ����������
��� ��������
&� E����K�����0������ ������������ �������� ���������� ! ��I ���7)��L ��&������8)/�8(>��&?/9�
(� E����K��������� ���� ������������������������������������� �� ����� �������� �������
��"�#$��������� �� !��I ���>������&??�(9&��&?/9�
7� E����K��������� ���� ������������������������������������� �� ����� �������� ��������
��"�#$��������� �� !��I ���>������7)&�79/��&?/9�
8� E����K��������� ���� ������������������������������������� �� ����� �������� ���������
��� ���� ����������I ���?������87�>)��&?/9�
9� %�M��@������0 ����� ��� ����������� ��������� #�������%�&��#��%��"����'$����� ����(� !�
I ���>��L ��=������=(7�==>��&?/=�
=� F�!��;���������������� ��� ��������� ���� ����� �������� ���������������������������
������#��!������!�����!� $!��������(� � #� ���!��I ���(=��L ��&(������&&>(�&&?&��&?//�
/� N�0��%��������0������ ����������� ��������� #�������%�&��#��%��"����'$����� ����(� !��I ���&&�
L ��8������8=9�8>)��&?/?�
>� F�!�� ;������� ���� %�M�� @����������� � �!����)� ��(� ��!� **%�������!�� �������� O����
E �� ���&?>&�
?� ;��$��� ����������������;���������� ������������� ������������ �!���(��!� $!��I ���?�
L ��7������7&7�7(9��&?>7�
&)� 6��O��������������� ��� ������������ ����#��� ���� ���� ��� ����� �������������� �
����������������� �!���(��!� $!��I ���&=��L ��(������&=7�&/9��&?>9�
&&� !�� 0������ ���� !�� O����� G����� ���� ������ ��� ����� ���� � ��������� ������ ����
�#��!������!�����!� $!��������(� � #� ���!��I ���&=��L ��(������(/)�(/=��&?>=�
&(� ;�%��@ ��������������� �� ���������������� �������� ���������� ��������������
���������������� �!���(��!� $!��I ���(&��L ��&������&�&/��&?>/�
&7� F�� $������ ���� E���� K�����**#���$�� � � �!����)� ��� ��� %%�) ��� �!� $!��� ��!���� ��(
���#�%��O���� ��O�����P�� ����H�Q��&?>/�
&8� ��%�������������� �������� ������ ���� ���� ������������������ �!���(��!� $!��I ���(=�
L ��&������(7�7/��&?>>�
&9� ��%�� �������� 0 ��� �� ��� �� ���� ����� ��� ����� ���� ������������� ������ ���
��� #�������%�&��#��%��"�**#���$�� �� �!����)��I ���7��L ��(������&(&�&8(��&?>?�
15 ����������� �� ������ �������
&=� ���%�����������G����M�� ������������������� ����� �������������������� �
���� ���������#��!������!�����!� $!��������������������I ���&?��L ��8������/9=�//)��&?>?�
&/� K��:� �����Q���������E��E��������� ���� ����������� ������������ �!���(��!� $!��I ���7=�
L ��7������7&&�7(9��&??)�
&>� M�� Q���� ���� F�� $������� 0����� ��� ����� ��� �� ���������� ���� ����� �� ��� ����
��� #�������%�&��#��%��"�**#���$�� �� �!����)��I ���8��L ��&������8/�=>��&??)�
&?� :�K��E� �����K�O��6�����M������ �� ��� �� ��� �������� ��������������� ����������
� �!���(��!� $!��I ���7=��L ��&������//�>&��&??)�
()� G��G�� �������!��O�����0��������������� �������� ������O����'������������� ��������
�������� ���������� �!���(��!� $!��I ���8)��L ��&������&87�()(��&??&�
(&� $��G�������� ��������������� ����'����������#������������#��������� ��������
��� #�������%�&��#��%��"�**#���$�� �� �!����)��I ���9��L ��7������7)/�77)��&??&�
((� K��O�������M ������'��� ������������ ����� ������� �������Q������% �����&??&�
(7� F�!��M������������ �������� ����'��������������������"�#$��������� �� !��I ���9/�����
(?/�7&/��&??&�
(8� $�;��:������������� ������ ������ ����������� ���������� ��������������� ���� �
������ � #� ���!���(��!� $!��I ���(7��L ��9������8)?�8()��&??(�
(9� G�E��!��� ���;�F��: �������;�0������� ������� �������� ����������0��!FL�HLEF$$
����������������������������� #�������%�&��#��%��"���� %%�) ����!� $!��I ���/��L ��&�����
/&�/?��&??(�
(=� !��L������������%�������������;��$��� �������������� ������ �� ��������� ������� ���
������ �!���(��!� $!��I ���9/��L ��7������(9/�(?8��&??7�
(/� K��%�������;�@��:����������������� ���� ��������� �������� �������� ���������� �
���#�������������������#��!������!����������!� $!��I ���(��L ��(������&//�&>)��&??8�
�������������� �������
� � � � � � �
��� ����������
������������������� ����������������������������������� �� ������������������� ��
���������������� ��������������������������������� ����������������������� ��
������������ ������ ��� ���������������������� ���������������������� ������ �������
���������� ������� ��� �� ���� ��� ��� ���� �� �������� �� ��� � ��� ��������� � ��� ��� �
��� ������� �� ������������������������������������� ����� ������������� � ����� ���
��������������
��� �������� ������������������
�������������������� ����������������� �
���� !���������"#���������"�������"#���������"��� ����$�#�
���������������������� ������ ����� ��� ������� ������ ��� ��� �������� ����������� ���
���������
% ������� ��� ����������� �������� ���� ��������������������������� � �����
% ����������������� ����������������������
% �� ���������������������������
Controller Systemy* e u y
�������� ���������������� �����������
�� ����������� �� ������ �������
��� ���������������������
&�'�(�����#)*+� � �������������������������������������������������������� �,��
��--��������������.&���������������������������--� � ���� ����������-����� ����
����� ����� ����������� �� �����/������� ���������/������� ����� � ������������
����� ������������� ��� ��� ������������ ������� ������� ���������������
0���� ������������� ��� ������ ������ �� ��� � ,.��123��� ���� ������� ��� ��--�
������� ������ ������� ��������������������--����������� �������� �
,������������������--����������� ���--����������� ���������� ������������������
�������������� ������������������������� ������� ������������������� � ���������������
4� �������--���������� ������������������ ������/��� �����������������������
��� �����.����������� ���������� ���������� ����������������������������� ������
����� ��� ����� ���� �5������ � ����� ����� � ��� �������������� �����������������
�������6,67���--� � ����
����� �������� ��!�"#$��� �� �%����&���''(��() $*)
.���/������������ ���� �������� �������������--� � ��� ���--���������� ������������
# 8 ���� �#����� #������ �#
� �
9 8 ���� �9����� 9������� �9
� �
���
� �
� 8 ���� �������� ������� ��
���������������������� ����������� ���� �������������������� ���������������� �������
���������� ���������� �������������������� � ���� ���� ������������ ��������������
������� ������������������ ����� ������ �������� ����������������������� ��
����� �+*,+�!��(�$��-���''(���"!.���� /�#
5��������� ������.&�������� ����������������������������
���� !���������"#���������"������"#���������"�� ����$�9�
������������������ �� �����������--������ ��1� ���������� ������������������ �����
������ ��������������������������������
������ ������� ����������.&�������� �������� ���������� ����� ���������������
������������� ���� ����������� ��������/������������������ ��� �������� ���
���"+�����":���������"���
������������ �������� ��
'����������� ����� ���������� ������ ������������ �����������
����� !����"����"#� ����$�+�
7�������������������������������� ������
����� !����"���"#� ����$�:�
7�������������� ���������� �����������-���
����� !������������� ����$�;�
���� ������� ���������������������/��� ��� �����!#�
��������������������������������� ���������������������� �������������������������
� ��������������
���� !���"#�<������ ����$�=�
��� �������������� � ���� ������������������������������������#)*;���� �������
�����������������'����������������� ���� ����.&�����-������������� ������ � �����
������ ���
# 8 ���� >�� �����>������ >����-���>������� >�� �����>
9 8 ���� >��������>������ >����-���>������� >��������>
+8 ���� >����-���>������ >����-���>������� >����-���>
:8 ���� >����-���>������ >�� �����>������� >�� �����>
;8 ���� >����-���>������ >��������>������� >��������>
N PError ZE
�������� ����������� ���� ��������������
0������� �� ����������� ��������������?���������--������� ������������������� �
����� �?����?8
# 8 ���� �#����� #������ �#
� �
9 8 ���� �9����� 9������� �9
� �
����
�0 ����������� �� ������ �������
� �
� 8 ���� ������� ������� ��
����� �� �? ����� �?
������ �?
7����� ���������� ����--������� �� � ��� ���������������--� �� �������������� �
��������--��������� ������ �.�������������������������--� � ���� � �� ���--� ������
����������������� ����� �����������--������
������� �������������� �������
����� ��''(���"!.���� /�#��() $*)
.�--����������� � ��� �.�����$�+�� ������ � ���������@������ 8
% .�--�������������������
% .�--������ ��
% .�--��������������������
% A���--�������������������
'��--������������������� ��������������� ���������� �����������--� �� �,��� ������
�� � �� ���--� ������� � ��--�����
��--�������?�8 ! �? ����$�*�
�����?� ���� �������������������� �
1 X0
X0
������� �������� ���� �������������
Fuzzifier
Fuzzy set in U
Fuzzyinference
engine
Fuzzyrulebase
Defuzzifier
Fuzzy set in V
Crisp inx U
Crisp y in V
������������ �������� �1
0���� ��� ���� ������ ������������� ��������'��--����������
� 8����� ������� �������� ���
� ��������������������������� �������� ��������
���!�"� !B�������� ��!�C����"� ����$�$�
��������������������������� �����������������������������������
B�������� ��!�C����"�!B������ ��!�C����"� ����$�)�
!���DB������ ��!�C����"�E
7����� �� ����� ��������������������������������������.�--���������� ���
����������� ������ �������������������� �0����������--����������� ����� ����������--�
�����������������������������--� � ���� ����������-������� ���--�������� �
,� ����� ��� � � ��--� � ��� ��� �� ����������-�� �� � ���� ��--� ������� ���� � ���
���������������� ���������� ��� �������������������� �
0����������� ���������������������
# 8 ���� �#����� #������ �#
� �
9 8 ���� �9����� 9������� �9
� �
���
� �
� 8 ���� ������� ������� ��
�����������������������������--��������� ������� ������ ���� � � ���������� ���
����� ��� 8
% .����������������������������� �
% .�������������������������� �
% '����������������������������� ���������������� � ����������
�� ����� ��������� �� ���� ������������� ���� ���� ��� ��--� ������� �� � ���� ���
����� ��������������������8
# 8 ���� �#����� #������ �#
� �
9 8 ���� �9����� 9������� �9
� �
���
� �
� 8 ���� ������� ������� ��
����� �� �? ����� �?
��� �������8 �� �
�2 ����������� �� ������ �������
5���������� �������� ����������
��� ������� !'���������F#����������F�� ����$�#?�
����� �
� !'���� �? � �? �F#����� �? � �? �F�� ����$�##�
������������� �������������
�? ��� !?����? ����$�#9�
���
�? �!� !?�!��? ����$�#+�
������������������������� ��������������� ���� ����8
��"�!'��D�#��?� � #��?���#�"����������?�� ���?�����"�E ����$�#:�
����"���
�����������������������������--��������� ������� ������ ����������������
% �����������������,������� ������������
����?� � ���?� ����$�#;�
% ��������������,������� ����������
��#�"� !����?�� ���?�����"�����"�� ����$�#=�
% �������� � ������������� ��������������������������������� � G���
��"� !'��D��#������ ��E����"���� ����$�#*�
���� ����� ,���� ������������������ �� ������������ ����������� ��� ���������������
������������� ������������������� �������� ���������
� !� �? � �? �F#� ���� �? � �? �F��
�����
��"� !�#��?�� #��?���#�"����������?�� ���?�����"�
����"���
��0 �����������������3��
���������������������������� ����� ���--� ��� ������������ �������� �����������������
�������,�����������������������--����� ��������������� � ������������
��� ������������� �����--��������--��������������������������������������--�������
��������������8
�? !����--�������� ����$�#$�
�����?� ��������--������������������������#�� �������--������������������
������������ �������� �4
A���--���������� ������ �� ���������� �����������������������--��������������������
�����--����������������
����� ������� ������--����������������� ���8
��0�� �$� $/��-��/$+5�/+6! (
�������--��������������--� ����� �������� �� ��--���������8
�? !
�� � ��
� � ��
"
"
� �
� �
zz ����$�#)�
���������������������������'�������--���������� ���������� ���� ���������������� �
���� ���� ��������� �� ����������� �������������"�
�? !� � � ��
� �
$ $
$
� �
� �
����$�9?�
��0�� �!/) ��-��+7!*+
�������--��������������--� ����� �� ��� ���/���-��������������
�? !��� �� � � "�
� � ��/ � �RSTUVW ����$�9#�
Z0
�������� ���������������������������� ������
��0�� �!,,#$��-��+7!*+
�������--�������������� �������--� ���� � �������� ������������ ����������� ���
�� ���� ����������/��������� ��������
�? !#
#%
�$$
�
����$�99�
�� ����������� �� ������ �������
����D�#�������%E�� ��� ���������� ����������� ��� ���������������/������������
,���� ����� �������������--��������������--� ����� ��������
�? !
���
��
&
&
zz ����$�9+�
����&������� ��� ������/���-�������������
Z0
�������� �������������������������� ������
��0�0 �+7��/! $/!��
��� ���������� � ����������������������� ������/���-��������� ��������
�? � � � � � ""
� � ��/ � �RSTUVW ����$�9:�
��0�1 3$!"8 �$-�''!-!.+ !��
��������� ����������� ����� ���� ����������������� �������� � ������������������������������� �����������������--����������?� ��������������������������������������
'�������������� ������� ������������������ �������� ���� �����8
�? !
�� � ��
� � ��
�
�
� �
� �
B C
B C
�
�
zz ����$�9;�
����B�C�������� �������� ������� � ����
���� ����� ��� �������--��������� �������������� ����������� ���� �,����� ����
����� ����������������� �������������������������.����������������������� H�������������
� ���
4�������������'������6��������6�/�������--��������������� �� �����������������
H���������� ���������� ���I ������� � �����������
������������ �������� �9
' ����������--��������������� ������������� ���� ������������������������ ����� �
������ �������� �����.����������������� ���������--� ���������� ������
��1 �������:���������������������������������
J ������0�����5���� ��� ��������5����#))9� �� ��������--����������� � ��� ���������
�8���� ������� �������� �����!#�K���
���
% L�� ��������� �����������
����� !�/� ��F
HGIKJ
L
NMM
O
QPP
#
9#
#
9� �
�
�
���� !�/� ��F
HGIKJ
L
NMM
O
QPP
#
99
9
9! �
�
�
����$�9=�
���"� !�/� ��F
HGIKJ
L
NMM
O
QPP
#
9+
+
9" �
�
�
% 0���������--�����
��--���������8 ! � ���--��������8! � ����$�9*�
% M��������--����@�������
B�������� ��!�C !����� ��!� ����$�9$�
% M��������--������������&�� �������������
B�������� ����C ����"�!����� ��!����"� �$�9)�
Z0
C
������� � �������������� ����������� ��������������������������� �������
9; ����������� �� ������ �������
% ������������--���������������
� !
�� � �
�
�
� �
�
�
� � �
� � �
+
#
#
� � � �
� � � �
����$�+?�
������+� ��������������
��������� ������/������ �����������������/����������������� ������������������ ����
������������������
3������������������� ����������
�� �� ���� � #���'�!���#���(!������� ����� �������� ��'� ���)��� �����������������#*��#�#����N�?+�)�#����������������� '���� ��# ���������"��)� ����������� ������)��)��
��� ��
OO'���"���OO�� ����$�+#�
��������#)); �� ������6������G ��--�������������
�8 ���� ������� ������� �����!#�K���
���
% 0����������������������� �����������
����� !�/�#
?
� � � �RSTO O O O� � � �� � � �� ���
����� � �
��!� !�/�#
?
� � � �RSTO O O O* ! * !� � � � ��
����� � �����$�+9�
���"� !�/�#
?
� � � �RSTO O O O� " � "� � � �� ���
����� � �
% 0���������--���
��--��������?�8 ! �? ����$�++�
% 6������������--����@�������
B�������� ��!�C !���D����� ��!�E ����$�+:�
% 6������������--�����������
B�������� ��!�C������!���D������ ��!�������E ����$�+;�
% 6�/��������������������������
'���F#�F9�����F�� !��/DF#�F9�����F�E ����$�+=�
������������ �������� 9�
% ������������--���������������
� !
� � � �
� � �
� � �
�
�
� �
�
�
���D � � � �E
��� D � � � �E
#
#
����$�+*�
������� ����������������� ������� ������/������ �
�<������� ����
#� 5���� ��--�������������P
9� 2/����� �������� �������������--� � ����
+� 2/����6��������������--��������������
:� 5��������������� ���� ����--����������� � ���P2/���������
;� 5��������������� ����-��������������� P2/���������
=� 5���� ������������������--����������� � ��� P
������������
#� &�'�(������ �������� ��� ��--�������� Q��������������� � ��� ������#���������
� ��# ��R��):�3��#����+�:�#)*#�
9� 2�1� 6������ ��� 0� ' ����� '� �/�������� �� ����� ��� ����� � ��� � ��--� ����
���������,���#���� ����- �#���� ��������)����.�������R��*�3��#����#�#+�#)*;�
+� 2�1�6�������'������ ���������� ��� ����� � ����--��������� �,���#���� ����- �#����
���)����.�������R��$�3��=����==)�=*$�#)*=�
:� M�Q�S������2�1�6������������������������--������� � ��� ������ ��������� �
��� �������R��#+�3��+����9+;�9:9�#)**�
;� 5�Q�6�S���������2�1�6�������'��� � �����--��������������.�--� �� ��� � ��� �
R��#�3��#����9)�::�#)*$�
=� 6�4�� ����A�'�F����������0������������������ ������--��������������������.���
����.�������R��9�3��+����#$;�#))�#)*)�
*� ����&���0������������������ ������--��������������������.��������.�������R��9�
3��+����#$;�#))�#)*)�
$� 2��-�������5�M�����-������������� ����--� � ��� �������.��������.�������R��*�
3��+����9;*�9*:�#)$9�
)� 2��-�������5�M�����-�.�--�������������������--����������*�#�����������.�������
R��#+�3��+����9*;�9)+�#)$9�
9� ����������� �� ������ �������
#?� S�0�F�����A�A����6�@������'��������������������������� ����������� � �������
0,07 ���6,67 � ��� � ������� ��� ��--� ���� ��������� ,///�0#������� ��� � �
.�����������������*�#�������R��#:�3��9����+:;�+:)�#)$:�
##� 6�0������'������������� ���������--��������,�# ���� ��.��������R��+=�3��#����;)�
$+�#)$;�
#9� �����������6�0������.�--����������������� � ��� ����� ���������� ������������
�������,///�0#������� ��� ��.�����������������*�#�������R��#;�3��#����##=�#+9�#)$;�
#+� 6�6�L�����Q�4�S� -� ���L�6����@���6���������� ������������--������� � ��� �
,///�0#������� ��� ��.�����������������*�#�������R��#=�3��;����=+$�=;=�#)$=�
#:� Q�'�4�������J ��������� �� � ����������� �������,///�� ��# ��.���������'������
R��$�3��;����+�#+�#)$$�
#;� 4�M�L��������F�4�3� ��.�--���������������������������������������������.���
����.�������R��9=�3��+����9;;�9*+�#)$$�
#=� Q�Q�4������.�--��T ������--��������� �� ��# ��������*�#�������R��#$�3��9����#9*�
#+?�#)$)�
#*� U���M����L������������ �����--������������� ���������� �������.��������.�������
R��+=�3��#����$+�$)�#))?�
#$� Q�.�4�� �����3���.�L����6�������������� � �����--�������� �1�*�#�����R��)�
3��+����99+�99)�#))#�
#)� Q�Q�4�������������������--���������8���������������������.��������.�������R��;#�
3��+����9:)�9;$�#))9�
9?� S����������6�0������0����������� � ����� �������--������� � ��� �������.�������
.�������R��:;�3��9����#+;�#;=�#))9�
9#� L�6�'����������1�������.�1�1�������Q�V��������A� ��������--���������� ���
��������������������������� �,///�0#������� ��� ��.�����������������*�#�������R��9#�
3��;����)9;�)=?�#))#�
99� .�4��������'�,����� ��.�--���������� ��������������������� �������.�������
.�������R��:$�3��#����=;�$=�#))9�
9+� '�S�����&�1�&����(�W�����.�--��������������� ������������������� � ��� ������
.��������.�������R��:$�3��#����))�###�#))9�
9:� F�F�V�����'����������������������������������--��������������������,������'�����
R��9�3��:����++;�+;#�#))9�
9;� ��5�������������A�6���0����� ���������������--��������� �������������� �
������.��������.�������R��;*�3��9����#:)�#;$�#))+�
9=� F�F�������6�&�������.�--������������,���#���� ����- �#���� �.�������.��������R��
9:�3��#?����#$9;�#$:$�#))+�
9*� 4���������Q�7����������������� � ��� � �����--�����������������������.�������
.�������R��;)�3��#����#�#:�#))+�
9$� Q�W��������&�Q������0������ �����������--��� ������������ � ��� �������.�������
.�������R��;*�3��9����#;)�#=$�#))+�
������������ �������� 9�
9)� 3�S�������M�6�.�����.�--��������� ����������� �- �#���� �.�������.�������R��9:�
3��#?����#)?;�#)#:�#))+�
+?� A�M�.������F�F�V�������������� ����--������������� ���*�#�����������.�������
R��9:�3��9����)#�##:�#))+�
+#� 5�M�����-�.�--��������� 8M������� ��������������� �����(2������/�'����#��'�- �#����
R��+�3��#����#�+9�#))+�
+9� Q�V� 1�� ��� R� 6� 6������ � ������ �������������� .�--� ���� ��������� ,///
0#������� ��� �.�����������������*�#�������R��9+�3��#����9**�9$;�#))+�
++� ��R�'������1�7�'�����4�S��� ����0����� ���2�4�F������'���������--�������
������������������� � ����������.��������.�������R��=#�3��#����9)�+=�#)):�
+:� F�F�V��������A�M�.����/���������� �������� �����'������ ��# ��Q���5����3� V����
#)):�
+;� '�Q�4�������0�4�������F�F��-�.�--������������������� �- �#���� �,������'�������������
.�������R��9�3��9����#9;�#:=�#)):�
9Fuzzy Logic ApplicationsFuzzy Logic ApplicationsFuzzy Logic ApplicationsFuzzy Logic ApplicationsFuzzy Logic Applications
C H A P T E R
9.1 WHY USE FUZZY LOGIC?
Here is a list of general observations about fuzzy logic:1. Fuzzy logic is conceptually easy to understand.
The mathematical concepts behind fuzzy reasoning are very simple. What makes fuzzy nice is the“naturalness” of its approach and not its far-reaching complexity.
2. Fuzzy logic is flexible.With any given system, it’s easy to massage it or layer more functionality on top of it withoutstarting again from scratch.
3. Fuzzy logic is tolerant of imprecise data.Everything is imprecise if you look closely enough, but more than that, most things are impreciseeven on careful inspection. Fuzzy reasoning builds this understanding into the process rather thantacking it onto the end.
4. Fuzzy logic can model nonlinear functions of arbitrary complexity.You can create a fuzzy system to match any set of input-output data. This process is madeparticularly easy by adaptive techniques like ANFIS (Adaptive Neuro-Fuzzy Inference Systems),which are available in the Fuzzy Logic Toolbox.
5. Fuzzy logic can be built on top of the experience of experts.In direct contrast to neural networks, which take training data and generate opaque, impenetrablemodels, fuzzy logic lets you rely on the experience of people who already understand yoursystem.
6. Fuzzy logic can be blended with conventional control techniques.Fuzzy systems don’t necessarily replace conventional control methods. In many cases fuzzysystems augment themand simplify their implementation.
7. Fuzzy logic is based on natural language.The basis for fuzzy logic is the basis for human communication. This observation underpinsmany of the other statements about fuzzy logic.
3rd Proof 12/7/07
FUZZY LOGIC APPLICATIONS 95
3rd Proof 12/7/07
The last statement is perhaps the most important one and deserves more discussion. Naturallanguage, that which is used by ordinary people on a daily basis, has been shaped by thousands of yearsof human history to be convenient and efficient. Sentences written in ordinary language represent atriumph of efficient communication. We are generally unaware of this because ordinary language is, ofcourse, something we use every day. Since fuzzy logic is built.
9.2 APPLICATIONS OF FUZZY LOGIC
Fuzzy logic deals with uncertainty in engineering by attaching degrees of certainty to the answer to alogical question. Why should this be useful? The answer is commercial and practical. Commercially,fuzzy logic has been used with great success to control machines and consumer products. In the rightapplication fuzzy logic systems are simple to design, and can be understood and implemented by non-specialists in control theory.
In most cases someone with a intermediate technical background can design a fuzzy logiccontroller. The control system will not be optimal but it can be acceptable. Control engineers also use itin applications where the on-board computing is very limited and adequate control is enough. Fuzzylogic is not the answer to all technical problems, but for control problems where simplicity and speed ofimplementation is important then fuzzy logic is a strong candidate. A cross section of applications thathave successfully used fuzzy control includes:
1. Environmental• Air Conditioners• Humidifiers
2. Domestic Goods• Washing Machines/Dryers• Vacuum Cleaners• Toasters• Microwave Ovens• Refrigerators
3. Consumer Electronics• Television• Photocopiers• Still and Video Cameras – Auto-focus, Exposure and Anti-shake• Hi-Fi Systems
4. Automotive Systems• Vehicle Climate Control• Automatic Gearboxes• Four-wheel Steering• Seat/Mirror Control Systems
96 FUZZY LOGIC AND NEURAL NETWORKS
3rd Proof 12/7/07
9.3 WHEN NOT TO USE FUZZY LOGIC?
Fuzzy logic is not a cure-all. When should you not use fuzzy logic? Fuzzy logic is a convenient way tomap an input space to an output space. If you find it is not convenient, try something else. If a simplersolution already exists, use it. Fuzzy logic is the codification of common sense-use common sense whenyou implement it and you will probably make the right decision. Many controllers, for example, do afine job without using fuzzy logic. However, if you take the time to become familiar with fuzzy logic,you will see it can be a very powerful tool for dealing quickly and efficiently with imprecision and non-linearity.
9.4 FUZZY LOGIC MODEL FOR PREVENTION OF ROAD ACCIDENTS
Traffic accidents are rare and random. However, many people died or injured because of trafficaccidents all over the world. When statistics are investigated India is the most dangerous country interms of number of traffic accidents among Asian countries. Many reasons can contribute these results,which are mainly driver fault, lack of infrastructure, environment, literacy, weather conditions etc. Costof traffic accident is roughly 3% of gross national product. However, agree that this rate is higher inIndia since many traffic accidents are not recorded, for example single vehicle accidents or someaccidents without injury or fatality.
In this study, using fuzzy logic method, which has increasing usage area in IntelligentTransportation Systems (ITS), a model was developed which would obtain to prevent the vehicle pursuitdistance automatically. Using velocity of vehicle and pursuit distance that can be measured with asensor on vehicle a model has been established to brake pedal (slowing down) by fuzzy logic.
9.4.1 Traffic Accidents And Traffic Safety
The general goal of traffic safety policy is to eliminate the number of deaths and casualties in traffic.This goal forms the background for the present traffic safety program. The program is partly based onthe assumption that high speed contributes to accidents. Many researchers support the idea of a positivecorrelation between speed and traffic accidents. One way to reduce the number of accidents is to reduceaverage speeds. Speed reduction can be accomplished by police surveillance, but also through physicalobstacles on the roads. Obstacles such as flower pots, road humps, small circulation points and elevatedpedestrian crossings are frequently found in many residential areas around India. However, physicalmeasures are not always appreciated by drivers. These obstacles can cause damages to cars, they cancause difficulties for emergency vehicles, and in winter these obstacles can reduce access for snowclearing vehicles. An alternative to these physical measures is different applications of IntelligentTransportation Systems (ITS). The major objectives with ITS are to achieve traffic efficiency, by forinstance redirecting traffic, and to increase safety for drivers, pedestrians, cyclists and other trafficgroups.
One important aspect when planning and implementing traffic safety programs is therefore drivers’acceptance of different safety measures aimed at speed reduction. Another aspect is whether theindividual’s acceptance, when there is a certain degree of freedom of choice, might also be reflected ina higher acceptance of other measures, and whether acceptance of safety measures is also reflected intheir perception of road traffic, and might reduce dangerous behaviour in traffic.
FUZZY LOGIC APPLICATIONS 97
3rd Proof 12/7/07
9.4.2 Fuzzy Logic Approach
The basic elements of each fuzzy logic system are, as shown in Figure 9.1, rules, fuzzifier, inferenceengine, and defuzzifier. Input data are most often crisp values. The task of the fuzzifier is to map crispnumbers into fuzzy sets (cases are also encountered where inputs are fuzzy variables described by fuzzymembership functions). Models based on fuzzy logic consist of “If-Then” rules. A typical “If-Then”rule would be:
If the ratio between the flow intensity and capacity of an arterial road is SMALLThen vehicle speed in the flow is BIG
The fact following “If” is called a premise or hypothesis or antecedent. Based on this fact we caninfer another fact that is called a conclusion or consequent (the fact following “Then”). A set of a largenumber of rules of the type:
If premiseThen conclusion is called a fuzzy rule base.
Fig. 9.1 Basic elements of a fuzzy logic.
In fuzzy rule-based systems, the rule base is formed with the assistance of human experts; recently,numerical data has been used as well as through a combination of numerical data-human experts. Aninteresting case appears when a combination of numerical information obtained from measurementsand linguistic information obtained from human experts is used to form the fuzzy rule base. In this case,rules are extracted from numerical data in the first step. In the next step this fuzzy rule base can (butneed not) be supplemented with the rules collected from human experts. The inference engine of thefuzzy logic maps fuzzy sets onto fuzzy sets. A large number of different inferential procedures are foundin the literature. In most papers and practical engineering applications, minimum inference or productinference is used. During defuzzification, one value is chosen for the output variable. The literature alsocontains a large number of different defuzzification procedures. The final value chosen is most ofteneither the value corresponding to the highest grade of membership or the coordinate of the center ofgravity.
9.4.3 Application
In the study, a model was established which estimates brake rate using fuzzy logic. The generalstructure of the model is shown in Fig. 9.2.
Fuzzifier Defuzzifier
Rules Inference
Input Crips output
98 FUZZY LOGIC AND NEURAL NETWORKS
3rd Proof 12/7/07
9.4.4 Membership Functions
In the established model, different membership functions were formed for speed, distance and brakerate. Membership functions are given in Figures 9.3, 9.4, and 9.5. For maximum allowable car speed (inmotorways) in India, speed scale selected as 0-120 km/h on its membership function. Because of thefact that current distance sensors perceive approximately 100-150 m distance, distance membershipfunction is used 0-150 m scale. Brake rate membership function is used 0-100 scale for expressingpercent type.
Fig. 9.2 General structure of fuzzy logic model.
Low Medium High1
0.5
0
0 20 40 60 80 100 120
Fig. 9.3 Membership function of speed.
Low Medium High1
0.5
0
0 50 100 150
Fig. 9.4 Membership function of distance.
Brake rate
Speed
Distance
Rule base
FUZZY LOGIC APPLICATIONS 99
3rd Proof 12/7/07
9.4.5 Rule Base
We need a rule base to run the fuzzy model. Fuzzy Allocation Map (rules) of the model was constitutedfor membership functions whose figures are given on Table-9.1. It is important that the rules were notcompletely written for all probability. Figure 6 shows that the relationship between inputs, speed anddistance, and brake rate.
Table 9.1: Fuzzy allocation map of the model
Speed Distance Brake rate
LOW LOW LOWLOW MEDIUM LOWLOW HIGH MEDIUMMEDIUM LOW MEDIUMMEDIUM MEDIUM LOWMEDIUM HIGH LOWHIGH LOW HIGHHIGH MEDIUM MEDIUMHIGH HIGH LOW
9.4.6 Output
Fuzzy logic is also an estimation algorithm. For this model, various alternatives are able to cross-examine using the developed model. Fig. 9.6 is an example for such the case.
9.4.7 Conclusions
Many people die or injure because of traffic accidents in India. Many reasons can contribute theseresults for example mainly driver fault, lack of infrastructure, environment, weather conditions etc. Inthis study, a model was established for estimation of brake rate using fuzzy logic approach. Car brakerate is estimated using the developed model from speed and distance data. So, it can be said that thisfuzzy logic approach can be effectively used for reduce to traffic accident rate. This model can beadapted to vehicles.
Low Medium High1
0.5
0
0 10 20 30 40 50 60 70 80 90 100
Fig. 9.5 Membership function of brake rate.
100 FUZZY LOGIC AND NEURAL NETWORKS
3rd Proof 12/7/07
9.5 FUZZY LOGIC MODEL TO CONTROL ROOM TEMPERATURE
Although the behaviour of complex or nonlinear systems is difficult or impossible to describe usingnumerical models, quantitative observations are often required to make quantitative control decisions.These decisions could be the determination of a flow rate for a chemical process or a drug dosage inmedical practice. The form of the control model also determines the appropriate level of precision in theresult obtained. Numerical models provide high precision, but the complexity or non-linearity of aprocess may make a numerical model unfeasible. In these cases, linguistic models provide analternative. Here the process is described in common language.
The linguistic model is built from a set of if-then rules, which describe the control model. AlthoughZadeh was attempting to model human activities, Mamdani showed that fuzzy logic could be used todevelop operational automatic control systems.
9.5.1 The Mechanics of Fuzzy Logic
The mechanics of fuzzy mathematics involve the manipulation of fuzzy variables through a set oflinguistic equations, which can take the form of if–then rules. Much of the fuzzy literature uses settheory notation, which obscures the ease of the formulation of a fuzzy controller. Although thecontrollers are simple to construct, the proof of stability and other validations remain important topics.The outline of fuzzy operations will be shown here through the design of a familiar room thermostat.
A fuzzy variable is one of the parameters of a fuzzy model, which can take one or more fuzzyvalues, each represented by a fuzzy set and a word descriptor. The room temperature is the variableshown in Fig. 9.7. Three fuzzy sets: ‘hot’, ‘cold’ and ‘comfortable’ have been defined by membershipdistributions over a range of actual temperatures.
The power of a fuzzy model is the overlap between the fuzzy values. A single temperature value atan instant in time can be a member of both of the overlapping sets. In conventional set theory, an object(in this case a temperature value) is either a member of a set or it is not a member. This implies a crisp
80
60
40
200
50100
150100
50
0
Speed
Distance
Bra
ke
rate
Fig. 9.6 Relationship between inputs and brake rate.
FUZZY LOGIC APPLICATIONS 101
3rd Proof 12/7/07
boundary between the sets. In fuzzy logic, the boundaries between sets are blurred. In the overlapregion, an object can be a partial member of each of the overlapping sets. The blurred set boundariesgive fuzzy logic its name. By admitting multiple possibilities in the model, the linguistic imprecision istaken into account.
The membership functions defining the three fuzzy sets shown in Fig. 9.7 are triangular. There areno constraints on the specification of the form of the membership distribution. The Gaussian form fromstatistics has been used, but the triangular form is commonly chosen, as its computation is simple. Thenumber of values and the range of actual values covered by each one are also arbitrary. Finer resolutionis possible with additional sets, but the computation cost increases.
Guidance for these choices is provided by Zadeh’s Principle of Incompatibility: As the complexityof a system increases, our ability to make precise and yet significant statements about its behaviourdiminishes until a threshold is reached beyond which precision and significance (or relevance) becomealmost mutually exclusive characteristics.
The operation of a fuzzy controller proceeds in three steps. The first is fuzzification, wheremeasurements are converted into memberships in the fuzzy sets. The second step is the application ofthe linguistic model, usually in the form of if-then rules. Finally the resulting fuzzy output is convertedback into physical values through a defuzzfication process.
9.5.2 Fuzzification
For a single measured value, the fuzzification process is simple, as shown in Fig. 9.7. The membershipfunctions are used to calculate the memberships in all of the fuzzy sets. Thus, a temperature of 15°Cbecomes three fuzzy values, 0.66 ‘cold’, 0.33 ‘comfortable’ and 0.00 ‘hot’.
Fig. 9.7 Room temperature.
1.2
HotComfortableCold
0.67
0.33
1.0
0.8
0.6
0.4
0.2
0.00 5 10 15 20 25 30 35 40 45 50
Temperature (Degrees C)
Mem
ber
ship
val
ue
102 FUZZY LOGIC AND NEURAL NETWORKS
3rd Proof 12/7/07
A series of measurements are collected in the form of a histogram and use this as the fuzzy input asshown in Fig. 9.8. The fuzzy inference is extended to include the uncertainty due to measurement erroras well as the vagueness in the linguistic descriptions. In Fig. 9.8 the measurement data histogram isnormalized so that its peak is a membership value of 1.0 and it can be used as a fuzzy set. Themembership of the histogram in ‘cold’ is given by: max {min [mcold(T), mhistogram(T)]} where themaximum and minimum operations are taken using the membership values at each point T over thetemperature range of the two distributions.
The minimum operation yields the overlap region of the two sets and the maximum operation givesthe highest membership in the overlap. The membership of the histogram in ‘cold’, indicated by thearrow in Fig. 9.8, is 0.73. By similar operations, the membership of the histogram in ‘comfortable’ and‘hot’ are 0.40 and 0.00. It is interesting to note that there is no requirement that the sum of allmemberships be 1.00.
9.5.3 Rule Application
The linguistic model of a process is commonly made of a series of if - then rules. These use themeasured state of the process, the rule antecedents, to estimate the extent of control action, the ruleconsequents. Although each rule is simple, there must be a rule to cover every possible combination offuzzy input values. Thus, the simplicity of the rules trades off against the number of rules. For complexsystems the number of rules required may be very large.
The rules needed to describe a process are often obtained through consultation with workers whohave expert knowledge of the process operation. These experts include the process designers, but more
Fig. 9.8 Fuzzification with measurement noise.
1.2
1.0
0.8
HotComfortableCold
0.6
0.4
0.2
0.00 5 10 15 20 25 30 35 40 45 50
Temperature (Degrees C)
Mem
ber
ship
val
ue
FUZZY LOGIC APPLICATIONS 103
3rd Proof 12/7/07
importantly, the process operators. The rules can include both the normal operation of the process aswell as the experience obtained through upsets and other abnormal conditions. Exception handling is aparticular strength of fuzzy control systems.
For very complex systems, the experts may not be able to identify their thought processes insufficient detail for rule creation. Rules may also be generated from operating data by searching forclusters in the input data space. A simple temperature control model can be constructed from theexample of Fig. 9.7:
Rule 1 : IF (Temperature is Cold) THEN (Heater is On)
Rule 2 : IF (Temperature is Comfortable) THEN (Heater is Off)
Rule 3 : IF (Temperature is Hot) THEN (Heater is Off)
In Rule 1, (Temperature is Cold) is the membership value of the actual temperature in the ‘cold’ set.Rule 1 transfers the 0.66 membership in ‘cold’ to become 0.66 membership in the heater setting ‘on’.Similar values from rules 2 and 3 are 0.33 and 0.00 in the ‘off’ setting for the heater. When several rulesgive membership values for the same output set, Mamdani used the maximum of the membershipvalues. The result for the three rules is then 0.66 membership in ‘on’ and 0.33 membership in ‘off’.
The rules presented in the above example are simple yet effective. To extend these to more complexcontrol models, compound rules may be formulated. For example, if humidity was to be included in theroom temperature control example, rules of the form: IF (Temperature is Cold) AND (Humidity is High)THEN (Heater is ON) might be used. Zadeh defined the logical operators as AND = Min (mA, mB) andOR = Max (mA, mB), where mA and mB are membership values in sets A and B respectively. In the aboverule, the membership in ‘on’ will be the minimum of the two antecedent membership values. Zadeh alsodefined the NOT operator by assuming that complete membership in the set A is given by mA = 1. Themembership in NOT (A) is then given by mNOT (A) = 1 – mA. This gives the interesting result that AAND NOT (A) does not vanish, but gives a distribution corresponding to the overlap between A and itsadjacent sets.
9.5.4 Defuzzification
The results of rule application are membership values in each of the consequent or output sets. Thesecan be used directly where the membership values are viewed as the strength of the recommendationsprovided by the rules. It is possible that several outputs are recommended and some may becontradictory (e.g. heater on and heater off). In automatic control, one physical value of a controlleroutput must be chosen from multiple recommendations. In decision support systems, there must be aconsistent method to resolve conflict and define an appropriate compromise. Defuzzification is theprocess for converting fuzzy output values to a single value or final decision. Two methods arecommonly used.
The first is the maximum membership method. All of the output membership functions arecombined using the OR operator and the position of the highest membership value in the range of theoutput variable is used as the controller output. This method fails when there are two or more equalmaximum membership values for different recommendations. Here the method becomes indecisive anddoes not produce a satisfactory result.
104 FUZZY LOGIC AND NEURAL NETWORKS
3rd Proof 12/7/07
The second method uses the center of gravity of the combined output distribution to resolve thispotential conflict and to consider all recommendations based on the strengths of their membership
values. The center of gravity is given by XF = x x dx
x dx
( )
( )zz where x is a point in the output range and XF
is the final control value. These integrals are taken over the entire range of the output. By taking thecenter of gravity, conflicting rules essentially cancel and a fair weighting is obtained.
The output values used in the thermostat example are singletons. Singletons are fuzzy values with amembership of 1.00 at a single value rather than a membership function between 0 and 1 defined overan interval of values. In the example there were two, ‘off’ at 0% power and ‘on’ at 100% power. Withsingletons, the center of gravity equation integrals become a simple weighted average. Applying therules gave mON = 0.67 and mOFF = 0.33. Defuzzifying these gives a control output of 67% power.Although only two singleton output functions were used, with center of gravity defuzzification, theheater power decreases smoothly between fully on and fully off as the temperature increases between10°C and 25°C.
In the histogram input case, applying the same rules gave mON = 0.73 and mOFF = 0.40. Center ofgravity defuzzification gave, in this case, a heater power of 65%. The sum of the membership functionswas normalized by the denominator of the center of gravity calculation.
9.5.5 Conclusions
Linguistic descriptions in the form of membership functions and rules make up the model. The rules aregenerated a priori from expert knowledge or from data through system identification methods. Inputmembership functions are based on estimates of the vagueness of the descriptors used. Outputmembership functions can be initially set, but can be revised for controller tuning.
Once these are defined, the operating procedures for the calculations are well set out. Measurementdata are converted to memberships through fuzzification procedures. The rules are applied usingformalized operations to yield memberships in output sets. Finally, these are combined throughdefuzzification to give a final control output.
9.6 FUZZY LOGIC MODEL FOR GRADING OF APPLES
Agricultural produce is subject to quality inspection for optimum evaluation in the consumption cycle.Efforts to develop automated fruit classification systems have been increasing recently due to thedrawbacks of manual grading such as subjectivity, tediousness, labor requirements, availability, costand inconsistency.
However, applying automation in agriculture is not as simple as automating the industrialoperations. There are two main differences. First, the agricultural environment is highly variable, interms of weather, soil, etc. Second, biological materials, such as plants and commodities, display highvariation due to their inherent morphological diversity. Techniques used in industrial applications, suchas template matching and fixed object modeling are unlikely to produce satisfactory results in theclassification or control of input from agricultural products. Therefore, self-learning techniques such asneural networks (NN) and fuzzy logic (FL) seem to represent a good approach.
FUZZY LOGIC APPLICATIONS 105
3rd Proof 12/7/07
Fuzzy logic can handle uncertainty, ambiguity and vagueness. It provides a means of translatingqualitative and imprecise information into quantitative (linguistic) terms. Fuzzy logic is a non-parametric classification procedure, which can infer with nonlinear relations between input and outputcategories, maintaining flexibility in making decisions even on complex biological systems.
Fuzzy logic was successfully used to determine field trafficability, to decide the transfer of dairycows between feeding groups, to predict the yield for precision farming, to control the start-up and shut-down of food extrusion processes, to steer a sprayer automatically, to predict corn breakage, to managecrop production, to reduce grain losses from a combine, to manage a food supply and to predict peanutmaturity.
The main purpose of this study was to investigate the applicability of fuzzy logic to constructingand tuning fuzzy membership functions and to compare the accuracies of predictions of apple quality bya human expert and the proposed fuzzy logic model. Grading of apples was performed in terms ofcharacteristics such as color, external defects, shape, weight and size. Readings of these properties wereobtained from different measurement apparatuses, assuming that the same measurements can be doneusing a sensor fusion system in which measurements of features are collected and controlledautomatically. The following objectives were included in this study:
1. To design a FL technique to classify apples according to their external features developingeffective fuzzy membership functions and fuzzy rules for input and output variables based onquality standards and expert expectations.
2. To compare the classification results from the FL approach and from sensory evaluation by ahuman expert.
3. To establish a multi-sensor measuring system for quality features in the long term.
9.6.1 Apple Defects Used in the Study
No defect formation practices by applying forces on apples were performed. Only defects occurringnaturally or forcedly on apple surfaces during the growing season and handling operations wereaccounted for in terms of number and size, ignoring their age. Scars, bitter pit, leaf roller, russeting,punctures and bruises were among the defects encountered on the surfaces of Golden Delicious apples.In addition to these defects, a size defect (lopsidedness) was also measured by taking the ratio ofmaximum height of the apple to the minimum height.
9.6.2 Materials and Methods
Five quality features, color, defect, shape, weight and size, were measured. Color was measured using aCR-200 Minolta colorimeter in the domain of L, a and b, where L is the lightness factor and a and b arethe chromaticity coordinates. Sizes of surface defects (natural and bruises) on apples were determinedusing a special figure template, which consisted of a number of holes of different diameters. Size defectswere determined measuring the maximum and minimum heights of apples using a Mitutoya electroniccaliper. Maximum circumference measurement was performed using a Cranton circumferencemeasuring device. Weight was measured using an electronic scale. Programming for fuzzy membershipfunctions, fuzzification and defuzzification was done in Matlab.
106 FUZZY LOGIC AND NEURAL NETWORKS
3rd Proof 12/7/07
The number of apples used was determined based on the availability of apples with quality featuresof the 3 quality groups (bad, medium and good). A total of 181 golden delicious apples were graded firstby a human expert and then by the proposed fuzzy logic approach. The expert was trained on theexternal quality criteria for good, medium and bad apple groups defined by USDA standards (USDA,1976). The USDA standards for apple quality explicitly define the quality criteria so that it is quitestraightforward for an expert to follow up and apply them. Extremely large or small apples were alreadyexcluded by the handling personnel. Eighty of the apples were kept at room temperature for 4 dayswhile another 80 were kept in a cooler (at about 3°C) for the same period to create color variation on thesurfaces of apples. In addition, 21 of the apples were harvested before the others and kept for 15 days atroom temperature for the same purpose of creating a variation in the appearance of the apples to betested.
The Hue angle (tan-1(b/a)), which was used to represent the color of apples, was shown to be thebest representation of human recognition of color. To simplify the problem, defects were collectedunder a single numerical value, “defect” after normalizing each defect component such as bruises,natural defects, russetting and size defects (lopsidedness).
Defect = 10 ¥ B + 5 ¥ ND + 3 ¥ R + 0.3 ¥ SD ...(9.1)
where B is the amount of bruising, ND is the amount of natural defects, such as scars and leaf roller, astotal area (normalized), R is the total area of russeting defect (normalized) and SD is the normalized sizedefect. Similarly, circumference, blush (reddish spots on the cheek of an apple) percentage and weightwere combined under “Size” using the same procedure as with “Defect”
Size = 5 ¥ C + 3 ¥ W + 5 ¥ BL ...(9.2)
where C is the circumference of the apple (normalized), W is weight (normalized) and BL is thenormalized blush percentage. Coefficients used in the above equations were subjectively selected,based on the expert’s expectations and USDA standards (USDA, 1976).
Although it was measured at the beginning, firmness was excluded from the evaluation, as it wasdifficult for the human expert to quantify it nondestructively. After the combinations of features givenin the above equations, input variables were reduced to 3 defect, size and color. Along with themeasurements of features, the apples were graded by the human expert into three quality groups, bad,medium and good, depending on the expert’s experience, expectations and USDA standards (USDA,1976). Fuzzy logic techniques were applied to classify apples after measuring the quality features. Thegrading performance of fuzzy logic proposed was determined by comparing the classification resultsfrom FL and the expert.
9.6.3 Application of Fuzzy Logic
Three main operations were applied in the fuzzy logic decision making process: selection of fuzzyinputs and outputs, formation of fuzzy rules, and fuzzy inference. A trial and error approach was used todevelop membership functions. Although triangular and trapezoidal functions were used in establishingmembership functions for defects and color (Fig. 9.9 and 9.10), an exponential function with the baseof the irrational number e was used to simulate the inclination of the human expert in grading apples interms of size (Fig. 9.11).
FUZZY LOGIC APPLICATIONS 107
3rd Proof 12/7/07
Fig. 9.9 Membership functions for the defect feature.
Yellow1
90 95 100 104.5 106 114 116 117
Greenish-yellow Green
Hue values
Fig. 9.10 Membership functions for the color feature.
Fig. 9.11 Membership functions for the size feature.
Size = ex ...(9.3)
where e is approximately 2.71828 and x is the value of size feature.
Small
11.2711.158.057.807.106.136.05
Medium Big
Size
1
Low Medium High
0.2 1.1 1.7 2.0 2.4 4.5 7.6
1
Defects
108 FUZZY LOGIC AND NEURAL NETWORKS
3rd Proof 12/7/07
9.6.4 Fuzzy Rules
At this stage, human linguistic expressions were involved in fuzzy rules. The rules used in theevaluations of apple quality are given in Table 9.2. Two of the rules used to evaluate the quality ofGolden Delicious apples are given below:
If the color is greenish, there is no defect, and it is a well formed large apple, then quality is verygood (rule Q1,1 in Table 9.2).
Table 9.2: Fuzzy rule tabulation
C1 + S1 C1 + S2 C1 + S3 C2 + S1 C2 + S2 C2 + S3 C3 + S1 C2 + S2 C3 + S3
D1 Q1,1 Q1,2 Q2,3 Q1,3 Q2,5 Q3,8 Q2,6 Q2,7 Q3,15
D2 Q2,1 Q2,2 Q3,3 Q2,4 Q3,6 Q3,9 Q3,11 Q3,13 Q3,16
D3 Q3,1 Q3,2 Q3,4 Q3,5 Q3,7 Q3,10 Q3,12 Q3,14 Q3,17
Where, C1 is the greenish color quality (desired), C2 is greenish-yellow color quality medium), and C3 is yellow colorquality (bad); S1, on the other hand, is well formed size (desired), S2 is moderately formed size (medium), S3 is badlyformed size (bad). Finally, D1 represents a low amount of defects (desired), while D2 and D3 represent moderate(medium) and high (bad) amounts of defects, respectively. For quality groups represented with “Q” in Table 1, the firstsubscript 1 stands for the best quality group, while 2 and 3 stand for the moderate and bad quality groups, respectively.The second subscript of Q shows the number of rules for the particular quality group, which ranges from 1 to 17 for thebad quality group.
If the color is pure yellow (overripe), there are a lot of defects, and it is a badly formed (small)apple, then quality is very bad (rule Q3,17 in Table 9.2).
A fuzzy set is defined by the expression below:
D = {X. m0(x))| x Œ X} ...(9.4)
m0(x): Æ [0, 1]
where X represents the universal set, D is a fuzzy subset in X and μD(x) is the membership function offuzzy set D. Degree of membership for any set ranges from 0 to1. A value of 1.0 represents a 100%membership while a value of 0 means 0% membership. If there are three subgroups of size, then threememberships are required to express the size values in a fuzzy rule.
Three primary set operations in fuzzy logic are AND, OR, and the Complement, which are given asfollows
AND: mC Ÿ mD = min {mC , mD} ...(9.5)
OR: mC » mD = (mC ⁄ mD) = max {mC, mD} ...(9.6)
complement =
C
= 1 – mD ...(9.7)
The minimum method given by equation (9.5) was used to combine the membership degrees fromeach rule established. The minimum method chooses the most certain output among all the membershipdegrees. An example of the fuzzy AND (the minimum method) used in if-then rules to form the Q11quality group in Table 9.2 is given as follows;
FUZZY LOGIC APPLICATIONS 109
3rd Proof 12/7/07
Q11 = (C1 Ÿ S1 Ÿ D1) = min {C1, S1, D1} ...(9.8)On the other hand, the fuzzy OR (the maximum method) rule was used in evaluating the results of
the fuzzy rules given in Table 9.2; determination of the quality group that an apple would belong to, forinstance, was done by calculating the most likely membership degree using equations 9.9 through 9.13.If,
k1 = ( , , ), , ,Q Q Q1 1 1 2 1 3 ...(9.9)
k2 = ( , , , , ), , , , , ,Q Q Q Q Q Q2 1 2 2 2 3 2 4 2 5 2 6 ...(9.10)
k3 = ( , , , ,, , , , ,Q Q Q Q Q3 1 3 2 3 3 3 4 3 5
Q Q Q Q Q Q Q Q Q Q Q Q3 6 3 7 3 8 3 9 3 10 3 11 3 12 3 13 3 14 3 15 3 16 3 17, , , , , , , , , , , ,, , , , , , , , , , , ) ...(9.11)
where k is the quality output group that contains different class membership degrees and the outputvector y given in equation 10 below determines the probabilities of belonging to a quality group for aninput sample before defuzzification:
y = [max (k1) max (k2) max (k3)] ...(9.12)
where, for example,
max (k1) = (Q1,1 ⁄ Q1,2 ⁄ Q1,3) = max {Q1,1, Q1,2, Q1,3} ...(9.13)
then, equation 11 produces the membership degree for the best class (Lee, 1990).
9.6.5 Determination of Membership Functions
Membership functions are in general developed by using intuition and qualitative assessment of therelations between the input variable(s) and output classes. In the existence of more than onemembership function that is actually in the nature of the fuzzy logic approach, the challenge is to assigninput data into one or more of the overlapping membership functions. These functions can be definedeither by linguistic terms or numerical ranges, or both. The membership function used in this study fordefect quality in general is given in equation 9.4. The membership function for high amounts of defects,for instance, was formed as given below:
If the input vector x is given as x = [defects, size, color], then the membership function for the classof a high amount of defects (D3) is
m(D3) = 0, when x (1) < 1.75
m(D3) = ( ( ) – . ).
x 1 1 752 77
, when 1.75 £ x(1) £ 4.52 or ...(9.14)
m(D3) = 1, when x(1) ≥ 4.52
For a medium amount of defects (D2), the membership function is
m(D2) = 0, when defect innput x (1) < 0.24 or x (1) > 7.6
m(D2) =
( ( ) – . ).
x 1 0 241 76
, when 0.24 £ x (1) £ 2 ...(9.15)
112 FUZZY LOGIC AND NEURAL NETWORKS
3rd Proof 12/7/07
9.6.8 Conclusion
Fuzzy logic was successfully applied to serve as a decision support technique in grading apples. Gradingresults obtained from fuzzy logic showed a good general agreement with the results from the humanexpert, providing good flexibility in reflecting the expert’s expectations and grading standards into theresults. It was also seen that color, defects and size are three important criteria in apple classification.However, variables such as firmness, internal defects and some other sensory evaluations, in addition tothe features mentioned earlier, could increase the efficiency of decisions made regarding apple quality.
9.7 AN INTRODUCTORY EXAMPLE: FUZZY V/S NON-FUZZY
To illustrate the value of fuzzy logic, fuzzy and non-fuzzy approaches are applied to the same problem.First the problem is solved using the conventional (non-fuzzy) method, writing MATLAB commandsthat spell out linear and piecewise-linear relations. Then, the same system is solved using fuzzy logic.
Consider the tipping problem: what is the “right” amount to tip your waitperson? Given a numberbetween 0 and 10 that represents the quality of service at a restaurant (where 10 is excellent), whatshould the tip be?
This problem is based on tipping as it is typically practiced in the United States. An average tip fora meal in the U.S. is 15%, though the actual amount may vary depending on the quality of the serviceprovided.
9.7.1 The Non-Fuzzy Approach
Let’s start with the simplest possible relationship (Fig. 9.13). Suppose that the tip always equals 15% ofthe total bill.
tip = 0.15
0.25
0.15
0.05
0.2
0.1
Tip
Service
00 2 4 6 8 10
Fig. 9.13 Constant tipping.
FUZZY LOGIC APPLICATIONS 113
3rd Proof 12/7/07
This does not really take into account the quality of the service, so we need to add a new term to theequation. Since service is rated on a scale of 0 to 10, we might have the tip go linearly from 5% if theservice is bad to 25% if the service is excellent (Fig. 9.14). Now our relation looks like this:
tip = 0.20/10 * service + 0.05
0.25
0.15
0.05
0.2
0.1
Tip
Service0 2 4 6 8 10
Fig. 9. 14 Linear tipping.
The formula does what we want it to do, and it is pretty straight forward. However, we may wantthe tip to reflect the quality of the food as well. This extension of the problem is defined as follows:
Given two sets of numbers between 0 and 10 (where 10 is excellent) that respectively represent thequality of the service and the quality of the food at a restaurant, what should the tip be? Let’s see how theformula will be affected now that we’ve added another variable (Fig. 9.15). Suppose we try:
tip = 0.20/20 ¥ (service + food) + 0.05
10
5
00
5
100.05
0.1
0.15
0.2
0.25
Food Service
Tip
Fig. 9.15 Tipping depend on service and quality of food.
114 FUZZY LOGIC AND NEURAL NETWORKS
3rd Proof 12/7/07
In this case, the results look pretty, but when you look at them closely, they do not seem quite right.Suppose you want the service to be a more important factor than the food quality. Let’s say that theservice will account for 80% of the overall tipping “grade” and the food will make up the other 20%.Try:
servRatio = 0.8;
tip= servRatio ¥ (0.20/10 ¥ service + 0.05) + (1– servRatio) ¥ (0.20/10 ¥ food + 0.05);
The response is still somehow too uniformly linear. Suppose you want more of a flat response in themiddle, i.e., you want to give a 15% tip in general, and will depart from this plateau only if the serviceis exceptionally good or bad (Fig. 9.16).
10
5
00
5
100.05
0.1
0.15
0.2
0.25
Food Service
Tip
Fig. 9.16 Tipping based on the service to be a more important factor than the food quality.
This, in turn, means that those nice linear mappings no longer apply. We can still salvage things byusing a piecewise linear construction (Fig. 9.17). Let’s return to the one-dimensional problem of justconsidering the service. You can string together a simple conditional statement using breakpoints likethis:
if service < 3,
tip = (0.10/3) ¥ service + 0.05;
else if service < 7 ,
tip = 0.15;
else if service < =10,
tip = (0.10/3) ¥ (service –7) + 0.15;
end
FUZZY LOGIC APPLICATIONS 115
3rd Proof 12/7/07
If we extend this to two dimensions (Fig. 9.18), where we take food into account again, somethinglike this result:
servRatio = 0.8;
if service < 3,
tip = ((0.10/3) ¥ service + 0.05) ¥ servRatio + (1 – servRatio) ¥ (0.20/10 ¥ food + 0.05);
else if service < 7,
tip = (0.15) ¥ servRatio + (1 – servRatio) ¥ (0.20/10 ¥ food + 0.05);
else,
tip = ((0.10/3) ¥ (service – 7) + 0.15) ¥ servRatio + (1 – servRatio) ¥ (0.20/10 ¥ food + 0.05);
end
0.25
0.2
0.15
0.1
0.050 2 4 6 8 10
ServiceT
ip
Fig. 9. 17 Tipping using a piecewise linear construction.
10
5
00
5
100.05
0.1
0.15
0.2
0.25
Food Service
Tip
Fig. 9.18 Tipping with two-dimensional variation.
116 FUZZY LOGIC AND NEURAL NETWORKS
3rd Proof 12/7/07
The plot looks good, but the function is surprisingly complicated. It was a little tricky to code thiscorrectly, and it is definitely not easy to modify this code in the future. Moreover, it is even less apparenthow the algorithm works to someone who did not witness the original design process.
9.7.2 The Fuzzy Approach
It would be nice if we could just capture the essentials of this problem, leaving aside all the factors thatcould be arbitrary. If we make a list of what really matters in this problem, we might end up with thefollowing rule descriptions:
1. If service is poor, then tip is cheap2. If service is good, then tip is average3. If service is excellent, then tip is generousThe order in which the rules are presented here is arbitrary. It does not matter which rules come
first. If we wanted to include the food’s effect on the tip, we might add the following two rules:4. If food is rancid, then tip is cheap5. If food is delicious, then tip is generousIn fact, we can combine the two different lists of rules into one tight list of three rules like so:
1. If service is poor or the food is rancid, then tip is cheap2. If service is good, then tip is average3. If service is excellent or food is delicious, then tip is generousThese three rules are the core of our solution. And coincidentally, we have just defined the rules for
a fuzzy logic system. Now if we give mathematical meaning to the linguistic variables (what is an“average” tip, for example?) we would have a complete fuzzy inference system. Of course, there’s a lotleft to the methodology of fuzzy logic that we’re not mentioning right now, things like:
• How are the rules all combined?• How do I define mathematically what an “average” tip is?The details of the method do not really change much from problem to problem - the mechanics of
fuzzy logic are not terribly complex. What matters is what we have shown in this preliminaryexposition: fuzzy is adaptable, simple, and easily applied.
Fig. 9.19 Tipping using fuzzy logic.
10
5
00
5
100.05
0.1
0.15
0.2
0.25
Food Service
Tip
FUZZY LOGIC APPLICATIONS 117
3rd Proof 12/7/07
Here is the picture associated with the fuzzy system that solves this problem (Fig. 9.19). Thepicture above was generated by the three rules above.
9.7.3 Some Observations
Here are some observations about the example so far. We found a piecewise linear relation that solvedthe problem. It worked, but it was something of a nuisance to derive, and once we wrote it down as code,it was not very easy to interpret. On the other hand, the fuzzy system is based on some “common sense”statements. Also, we were able to add two more rules to the bottom of the list that influenced the shapeof the overall output without needing to undo what had already been done. In other words, thesubsequent modification was pretty easy.
Moreover, by using fuzzy logic rules, the maintenance of the structure of the algorithm decouplesalong fairly clean lines. The notion of an average tip might change from day to day, city to city, countryto country, but the underlying logic the same: if the service is good, the tip should be average. You canrecalibrate the method quickly by simply shifting the fuzzy set that defines average without rewritingthe fuzzy rules.
You can do this sort of thing with lists of piecewise linear functions, but there is a greater likelihoodthat recalibration will not be so quick and simple. For example, here is the piecewise linear tippingproblem slightly rewritten to make it more generic. It performs the same function as before, only nowthe constants can be easily changed.
% Establish constants
lowTip=0.05; averTip=0.15; highTip=0.25;
tipRange=highTip–lowTip;
badService=0; okayService=3;
goodService=7; greatService=10;
serviceRange=greatService–badService;
badFood=0; greatFood=10;
foodRange=greatFood–badFood;
% If service is poor or food is rancid, tip is cheap
if service<okayService,
tip=(((averTip–lowTip)/(okayService–badService)) ...
*service+lowTip)*servRatio + ...
(1–servRatio)*(tipRange/foodRange*food+lowTip);
% If service is good, tip is average
elseif service<goodService,
tip=averTip*servRatio + (1–servRatio)* ...
(tipRange/foodRange*food+lowTip);
118 FUZZY LOGIC AND NEURAL NETWORKS
3rd Proof 12/7/07
% If service is excellent or food is delicious, tip is generous
else,
tip=(((highTip–averTip)/ ...
(greatService–goodService))* ...
(service–goodService)+averTip)*servRatio + ...
(1–servRatio)*(tipRange/foodRange*food+lowTip);
end
Notice the tendency here, as with all code, for creeping generality to render the algorithm more andmore opaque, threatening eventually to obscure it completely. What we are doing here is not thatcomplicated. True, we can fight this tendency to be obscure by adding still more comments, or perhapsby trying to rewrite it in slightly more self-evident ways, but the medium is not on our side.
The truly fascinating thing to notice is that if we remove everything except for three comments,what remain are exactly the fuzzy rules we wrote down before:
% If service is poor or food is rancid, tip is cheap% If service is good, tip is average% If service is excellent or food is delicious, tip is generousIf, as with a fuzzy system, the comment is identical with the code, think how much more likely your
code is to have comments! Fuzzy logic lets the language that’s clearest to you, high level comments,also have meaning to the machine, which is why it is a very successful technique for bridging the gapbetween people and machines.
QUESTION BANK.
1. Why use fuzzy logic?2. What are the applications of fuzzy logic?3. When not use fuzzy logic?4. Compare non-fuzzy logic and fuzzy logic approaches.
REFERENCES.
1. L.A. Zadeh, Fuzzy sets, Information and Control, Vol. 8, pp. 338-353, 1965.2. USDA Agricultural Marketing Service, United States Standards for Grades of Apples,
Washington, D.C., 1976.3. W.J.M. Kickert and H.R. Van Nauta Lemke, Application of a fuzzy controller in a warm water
plat, Automatica, Vol. 12, No. 4, pp. 301-308, 1976.4. C.P. Pappis and E.H. Mamdani, A fuzzy logic controller for a traffic junction, IEEE Transactions
on Systems, Man and Cybernetics, Vol. 7, No. 10, pp. 707-717, 1977.
FUZZY LOGIC APPLICATIONS 119
3rd Proof 12/7/07
5. M. Sugeno and M. Nishida, Fuzzy control of model car, Fuzzy Sets and Systems, Vol. 16, No. 2,pp. 103-113, 1985.
6. B.P. Graham and R.B. Newell, Fuzzy identification and control of a liquid level rig, Fuzzy Setsand Systems, Vol. 26, No. 3, pp. 255-273, 1988.
7. E. Czogala and T. Rawlik, Modeling of a fuzzy controller with application to the control ofbiological processes, Fuzzy Sets and Systems, Vol. 31, No. 1, pp. 13-22, 1989.
8. C.C. Lee, Fuzzy logic in control systems: Fuzzy logic controller- Part I and Part II, IEEETransactions on Systems, Man and Cybernetics, 20: 404-435, 1990.
9. S. Thangavadivelu and T.S. Colvin, Trafficability determination using fuzzy set theory,Transactions of the ASAE, Vol. 34, No. 5, pp. 2272- 2278, 1991.
10. T. Tobi and T. Hanafusa, A practical application of fuzzy control for an air-conditioning system,International Journal of Approximate Reasoning, Vol. 5, No. 3, pp. 331-348, 1991.
11. U. Ben-Hannan, K. Peleg and P.O. Gutman, Classification of fruits by a Boltzman perceptronneural network, Automatica, Vol. 28, pp. 961-968, 1992.
12. R. Palm, Control of a redundant manipulator using fuzzy rules, Fuzzy Sets and Systems, Vol. 45,No. 3, pp. 279-298, 1992.
13. Q. Yang, Classification of apple surface features using machine vision and neural networks,Computer, Electron. Agriculture, Vol. 9, pp. 1-12, 1993.
14. J.J. Song and S. Park, A Fuzzy Dynamic Learning Controller for Chemical Process Control, Vol.54, No. 2, pp. 121-133, 1993.
15. S. Kikuchi, V. Perincherry, P. Chakroborty and H. Takahasgi, Modeling of driver anxiety duringsignal change intervals, Transportation research record, No. 1339, pp. 27-35, 1993.
16. N. Kiupel and P.M. Frank, Fuzzy control of steam turbines, International Journal of SystemsScience, Vol. 24, No. 10, pp. 1905-1914, 1993.
17. T.S. Liu and J.C. Wu, A model for rider-motorcycle system using fuzzy control, IEEETransactions on Systems, Man and Cybernetics, Vol. 23, No. 1, pp. 267-276, 1993.
18. J.R. Ambuel, T.S. Colvin and D.L. Karlen, A fuzzy logic yield simulator for prescription farming,Transactions of the ASAE, Vol. 37, No. 6, pp. 1999-2009, 1994.
19. A. Hofaifar, B. Sayyarodsari and J.E. Hogans, Fuzzy controller robot arm trajectory, InformationSciences: Applications, Vol. 2, No. 2, pp. 69-83, 1994.
20. S. Chen and E.G. Roger, Evaluation of cabbage seedling quality by fuzzy logic, ASAE Paper No.943028, St. Joseph, MI, 1994.
21. P. Grinspan, Y. Edan, E.H. Kahn and E. Maltz, A fuzzy logic expert system for dairy cow transferbetween feeding groups, Transactions of the ASAE, Vol. 37, and No. 5, pp. 1647-1654, 1994.
22. P.L. Chang and Y.C. Chen, A fuzzy multi-criteria decision making method for technologytransfer strategy selection in biotechnology, Fuzzy Sets and Systems, Vol. 63, No. 2, pp. 131-139,1994.
23. A. Marell and K. Westin, Intelligent Transportation System and Traffic Safety Drivers Perceptionand Acceptance of Electronic Speed Checkers, Transportation Research Part C, Vol. 7 pp. 131-147, USA, 1999.
120 FUZZY LOGIC AND NEURAL NETWORKS
3rd Proof 12/7/07
24. D. Teodorovic, Fuzzy Logic Systems for Transportation Engineering: The State Of The Art,Transportation Research Part A, Vol. 33, pp. 337-364, USA, 1999.
25. R. Elvik, How much do road accidents cost the national economy, Accident Analysis andPrevention, Volume: 32, pp: 849-851, 2000.
26. M.A. Shahin, B.P. Verma, and E.W. Tollner, Fuzzy logic model for predicting peanut maturity,Transactions of the ASAE, Vol. 43, No. 2, pp. 483-490, 2000.
���������������� �����������
� � � � � � �
���� ����������
��������������� ������������������������������ ��� ������ ��������������������������� ������������
������� ������������������������������������� ������������������������������������������� ������
������������������������������������������������������������ ������������������� ������������ ��
���������������������������� ������������������������������������������������������������������������
����������������
���� �����������������������
���������!�� �����������"���������������������������������������� ���������������� ���������
����������������������������!������������ �����������"������� ���������������������������#$##
�� ���������������������������� ������� ����� ��������� ����������������� �� ���������������
����������������������� ������������������ ��������������������������������������%&��������� �
���� ���� � �� �� ��� ���� �&���� ����� ����������� ��������� �� �����&� ������� �������� ������
�������������������� ���������������������&������������������'����#$�#���(�����������������������
�� ������������) ������ � ������ ������ ������������� ���� ��� !��������"� ������������������ ��������
������������������� ����������� ����&����������������������������������������������������� ����������
������
��� ���� �� ���� ��������� ���� �� ����� ��� ���� ���������� ����� ���� ����� �������� ��� �� �����
����������������������������������� ������������ � ������������������ ������������������������������
��� ������������������'����#$�*������������������� ��������������������� ���������������������������
���������� ������� ������������� ���������������������� �� ��������������������� ��� ������&�
�� ����
��� ���������� ������� ���������
���� ��������������������� �����������������
+������������������������������������������������������� �������������� ����������������
����������������������������������� ���������������������������+���������,����������������������
������� ����������������������� ��������-
. ������������������ ������!�� ����"��!����"�/
. �������������������������������� ��������������) ���������������� �� �������� ���/
. ���������������������� ������0����������������������������������������������������
������������������������������������� ������������� �����/
. ��������������� ���������������������������������� ��������� �������������&���������� ��/
. ������������� �����������������������������������������������������������������������
��� ���������������� ��������������������������������� ������/"
21
X1
X2
Xi
Xn
Wij
W2j
Wij
Wnj
��������� �������������� ����� �������������� ��� ������
��������� �������������� ����� ������������ ��� ������
Dendrite
Cell body
Myelin sheathAxon
Nucleus
Nerve ending
Synapse
���� �������������� ���� �� ���
. ����&���������� ����������������������������� ���/
. ������������������������������������������������ ���/
. ��������������������������������������� ������������������������� ������������������������
��������������
'�� ���#$�1���� �������������������������������������������� ��������������&����������
�������� ������������� � ����� ��������� ���� ������������������ ������������������� ����
���������������� �
������ �������� !� �"�
%��� ��������������������������������,��-����������� ��������������������&��������� �������� �������
������ ������� �� �������������������������������������� ������+��������������������������������
��������������, ������������������������������������������������������������������������������� �������
������ ����������� �������������������������
(�������� ������������������ �� ������������ ������������������ ����-���� �� ��������������������
����&������������������������� ������������ �������������� �� �� �������������������������&��
���������������� ���������� ������������������������ �������������������������&������������� �����
� �� ������������������������������ ������������
� ���������������� ����������� ���������������������� ���������������� �����(������������ �
������������� ����� ������������������������� ������ ���/��������������� �� ������������� ���������
� � ������&������������������ ��������������������������������������� � �������������� �������������������
���������������������������������������������������������������������
������ �� ��"�� ��#�"$�� � �"�
������������������� ������������ ������������������������������� ��������������� �������� ��������
��������������������������������� ����� ������������������������������ ������������������ �� ������
������������������ ������� ������������������������-
����� 2� ����
� ����������3������ ����#$�#�
w
w
w
Skj
w jk y j k� �� �
k
yk
wjk
Fk
yj
j
�k
��% ���������� ������� ���������
���������� �����������������������������������������&���������������������������������������������
��������������������&�� ������������������� ������� �����������������������������������������
�&�������������������������� ����(������ ������������������������� ����#$�#�������� �����
+���������������������� ���������� ������'�����������4������������������������������������� ��
������������5��� ���������������
����� 2� ����
� ���� ����
� ����3������ ����#$�*�
6��������������������������������� �������������+���� ��������� ���������������) ������ ���������
�������������� ����������������� ����������������������������������� ���������
������ ��"�&'"�� �' (��)"*)"��)+��
(��������������� �������������������������������������� ������������������������� �����(��������
��������������������������������� ���������������� ������������������������������ ������������ ���
�������������������� �����-
�����3�#� 2��� � �������������� ����#$�1�
6������������������� ��������������5���������� ��������������������� �������� ���-
�����3�#� 2��� � �������2��� � � � � ��� �
�
�� � � � � �� �FHG
IKJ
� ����#$�7�
����� ������������� �������������������������������5���������� ��������0���������������������
���������� ��������� ���-��������������������������� ������������� ���������������������������5������
���������������������������������������������'����#$�7���'�������������������������� ������������
���������85�������� ����������
i i iSgn Semi-linear Sigmoid
�������� ��������������� �� ���� ����� ���
�� 2�������2�#
#� ��9
����#$�:�
��� ������������������������������������������������ ��������������� �� ����� ����������������;9#/�3#<�
������������������� �� ������ ��������������������� ��������������������� �������� ������������
���� ���� ���������� ��� ���� ����������������� �������������� ���� �� ���� ��� ��� � �� ���� �� ���� ��� �
�������������������������������������� ���������������������������� �-
���� �������������� ���� �� ��,
�������#� 2�#
#� � ��9 =
����#$�>�
������������������� ��������������������������������������������������������������� ������
������������������������������������� �� �������� ���������������������������������������������
���% ������������������
������������� ��������������� ����������������������������������������� ��������������������� ���
���������������������� ������������������������������������������� ��������������������������
�����
+������������������������������������������������������������������������-
. '���5������������������������������������������� ������ �� �� �������������������5�������
�����������������������&����������� ������������������ ������� �������������������������
�����������������������������&������������� �� ����� ����������� ����� �������������������������
������ ���������
. ?� ������������������������������������������������@��������������5����������������
������������������������������������������������������������������������������������ ��������
����� �������������&�������������� ��������������������������������������������������������
��������������������������������������������������������������������������������������
��� ���������� �� ���� ��������������������� ����������������������������������� �������
� �� ����������������
@�������� �&������� �� ���5������� ��������� ���� ���� ���������� ����+������������������ ��
��� ����� ��� ������&����������%&����������� ��������������������������������������+��������
A������������B���������������������� ��������� ���) ������������
���, �������������������������������������
+��� �������������������������� ����� ����������������������������������� ������� ����������
!�����"��������������&��������������������������������� �� ����C���� ������������������������������������
�����������&�����6������������������������������&��������� �������������������������+����������������
!�����"������� �������������������������������������������������������������������������������������
��������������� ���
���,�� �'�'(�!-���.���'� � !
(������������D������������������ ��������������������������������������-
E 8 ���������������������+����������������������������������������������������������������������
��� ��������������� �� ��������������������� �5� �� ������������������������������&������
�������������������������������������������������������5� ����������
E F�� ��������� ������������8��5������D������������������� �� ��� ����������������������������
� ������ �� �������� ������� ���� ��� ��� ��� ����� ��������� ���� ������� ��� � ������� ��� �������
��/ ���������� ������� ���������
������������������������ ������������� ����� ��������F����������� ���������������������������
������������������������������������������������������������������������������������������������
� ������������������������������������������� ������ ���
���,�� ��(�.0� !��'""�� ���.��� ��"�&�"0
4�������������������������� �������������� �����������, ������������������������������������
�������� ���������������������������������� ����C��� ������������������� �������������������������
�����������������������������������B����������������� �������������������������������� ����������������
��������� ������ �������������������������� ����������������������������������� ���������������������
����������B������������������������������������������������������
���� 2�������� ����#$�G�
��������������������������������������������������������������������������������+�������������� �� �������������� ��������������� ������� ���������������������������� ���������������������������
��, �����������������-
���� 2��������������� ����#$�H�
���������������������������������������������������������������������������������(�����5B��� �����
����������� ������������������� ��������������&���������
I�������������������������&��������������������� ������������������������������������&���������
������������� ������� ��������������� �����
���/ ����������������������1
���/�� ��"'"��
(�� ��� ���� ������������������ ��� � �� ��� �����J���� ����� ���� ���� �������� ����������� �� ��� ���
���������� ���� ����� ��� ����� ����� � �������� ��� � �������������� ��� ���� � �� ������� �� ��� ����� ���
���������� ��� ������ ������� ������� ���� ������������ ��� ���� ��������� ������� ����� �������� �����
����������C����������������������������������5�����������-
�����K������ ����������K/
������� �� ���/
����������� ���/
����� �� �� ���/
�������������� ���������������/
��������������������������������� ���������������/
��� ���� ��� �� ������������� ������������� ������������������ ������������������������������ ���
��������/�����-�������� ������������������������������ �����������������/
���������������� �� ������������������������ ������������������������� ����������������/
����������������������������������� �� ������������������������ ������������������������� ��������
�������/
���� �������������� ���� �� ��2
�������������������� ������������������������� ������������������������� ����������������/
� �������������������� ������������������������������������� ������������������������� ��������
�������/
�����������&�������������������/
��������������������������������������������� �����/
���������������������������������� ��������� �����/
����������������� ��������������������� �����/
�����������������������������������������������/
�������������������� ����/
��������������� ����� �����/
������������������� �����������/
��������������������� �� ������������������������ ������������������������ �/
���������������������������
���/�� ���-� �+�!0
6 �� �������������������� �����8������������������������������������������������������ �� ���������
������������� ������ ������������������������������������������������ �� ���������� �����) �������
������������� ��
����������������� �� ���������������������������������������������������������������������� ��� �
������������������������� �������������������� ������� ����������������� ������������������������� ��
���������������������������������������������������������������������� �������' ���������������
�&���������� ����� � ������������������������������������������������������� ������������������
��� ��#�
��������� ����� ��������5����������������������� ���������������� �������������������������
�������������� �������� ������������������������ ������������������������������������ �� ����������
��������������������������������������������������������������������� ����������� ����������� ����
�������������� ������� (���� ��������� ������������������������������ ����������� �������
��� ���������������������������������������������������������������������������������������������
������������������������������������
��������������������������������� ��������������������������������������� ������������������������
���������� �������4�� ������� ���������������� ������������������������� ������������������������
������������� ����� �����&������ ���� �������� ������� ���� ����� ��� ��� �������� ���� ���������� ���
�����&���������������������D����
������������� �����������������������������0�����������������&����������������������������������
������������������������� ������������������������������������������L
��3 ���������� ������� ���������
�4������� ����
#� (��������������,���������������������������� ���������L
*� %&���������������������� ������������
1� (���������������������������������������� �����������L
7� (������������������������������L
:� (����������������� ������������ �����L�%&�����������������������
>� (�������������������������� ��������������������L
������������
#� ��6��B������� �������������� �������J���M���-�(������#N7N�
*� 4��(������� � ��!���������"��������#���� ���$ ��������%��!� �$ ��������# !�
���������#��� ���#N>*������I�@��O����D��0����O������0��0����������(�������������@-�8������
4����������71:57>#��#N>*�
1� O�+��+���������J� �������������������������������������������� �4���������8�O��8�� ���
�%������ ���&� '�& �� �� �� ( ����� ' �& ���� ���� )��� � ���� *� !�� ����� *G5N$��
B����������JO-�%���� ���#NGG�
7� ���A��������+����������I�����-�%�#��� �+�� � �&�!�%����&���8�������5C�������#NGG�
:� O�+��'��������������B��4��������@�����������������������������������������@���������8�����
C����>������*$:5*:7��#NH*�
>� O�O��B���������J� ����������������������������������������������������������� ��������
�����������'�& ��������� �$����!�%&�� �����#& �& ���C����GN������*::75*::H��#NH*�
G� ��%��? �������� ���� O� ��I@���������'���!! !�,���-�� �� '�& ����-����!������ �� ��
*&�����&��� ���)����������I����������#NH>�
H� 4�+�� ������ ������ �������� ������ ����� ���,�������� ��� �� ������ �� ���� ���������� $ ���!
)���������C����#��J���*������*>15*>N��#NHN�
N� 4�(��I����)�� &�����(-��*���'!�������8����������@+-�+�������������#NN$�
���������������� ���
� � � � � � �
����� ����������
���������������� ���������������������������������������������������������������������
������������������������������ ������������������������������������������������������
��������������������������������������������������������������������������������������
�������������������������������������������������������������������������������������
��������������������������� ������ ������������������������������ ���������������� �
!��� ���������"������������� ��#����������$����
���� � ��������������� ������������������������
"������� ����� ��%�������������������������������������������������� ������������� ��
��������������������������������������������������������������������������������������
������������������������������������&����''�'�(����������������������)��������������
��������������������������������������� ������������������������������������ ���
���������������������������������������������������������
X1
X2
+ 1
W1
W2
�
y
��������� ��������������� ������� ��� ������������ ��������
��� ����������� �� ������ �������
� *��� � �� �
�
�FHG
IKJ
�
� �
'
+
���(''�')
�������������������������� ����������������������������������������%�������������
��������������������������(���)���������
�(�) *�� �RST' ,��
������
�
-'���(''�+)
������������������������������.'����-'��������������������������������������
���������������������������������������������������������� �����������������������������
�������������������������������� �����������������.'���������������������������������
����� �����������������.'�������������� �����������������������������������������������
����/������
�'�'�.��+��+�.�� *�, ���(''�0)
�������������������������������������������������������
"��������������������������������������������������������������&����''�+��1/�����
(''�0)����� ��������
�+ *�-�
��'
+' �-�
�
�+
���(''�2)
����������������������������������������������� ����������������������������
����������������������������3���������������������� ����������������������������
��������� �� ���������������� �� ������������������������ ������������������
x2
w1
w2
|| ||W
– � x1
+
++ +
++
+
��������� �� ������ � ���
���������������������������������������������������
3��� ����� ���� ������ �� ������������ ����� ��� �� ������ ����� ���������� �����
�������������������������������������������������������������� ���������������4
#����������� �������������������������������������������������������������������
��5��������5678�������9��������������������������������:������������"��������
��������������������������&�������������������������������� ���������������������
���������������������������������������������
��(�.�') *���()�.����() ���(''�;)
�(�.�') *��()�.���() ���(''�<)
�������������� ����������� ��������������������������������()�������()������������������������������������������4
���� � �� ������� ��������� �������� �� �� ��� �� �
������ �������� !���"�!#!$��%&�
8�������������������������������������������������������������������������������(�)��&��
����������������������(�)������������.'����-'����������������������������������������������
���������������
'� 8�����������������������������������=
+� 8��������������������������������������������=
0� �������(�)�(��������������������������������)��������������������������������������
����*�(�)��=
2� >�� ������+�
3����������������������������������$ ����=����������������������������
�����������������������������������������������������9�������������������������
���������������������������������������������������������������,� �������������������
������������������������������������������,�*�'��>���������������������������������� ���
�����������������������������������
�� *�, �� � ������� ������� �������
( ) ������ �
RST���(''�?)
������ � !'��$�!����(� ��)
&��������������������������������������������������������������������������������
������ ���� ��������������� ����������������������������������������������������� ������
����������������� ������������������������� ������������������������������������������
��������������������������� �� ����������������
������ >���� �� ���� ��� �� �������� ��������@��������������� ���� ( �������� �����
�������)�������AA�@AA�*�'��9������@���������������������������A�������A������������������������������������ ����������,����������������B�,���������A�@����A�B������������������
��� ����������� �� ������ �������
3������� ���� *�� �
�
� @
AA AA�
#��������������������������������������������������������������������������������
�������������*�(�)������������������������������������*���.�����&���������������������
������@ *������@�.�(�)����@����
*������@�.��� (�@����)��@����
B������@�.�
AA��AA+ *�AA��.�(�)�AA+
*��+�.�+�(�)�������.��+
C��+�.��
+( ����� (�)�*�-����D�����E)
*��+�.��
"�����������������������
�()����@B������
@�.�
AA�()AA+ C��+�.��
�������
����() *�� �
�
@ ( )
AA ( )AA
�
B�� �
� �
@ � �
�
+
&������������������
���� �����() *����� �
� �*� �������������'�
��������������������������� ���������������������������������������������������
���������������� �������������������������������������������������������������������
������������������������������������������������� ����������������*�'��������������������������*�,�
��� *��
+���(''�F)
���� ������ "�������������������G��������������������������'�*�'=��+�*�+=���*�-+��������������������������������������������������������������������������� ������������
���������&����''�0�
��������� �� ������ � ���
��������������"��������������*�(,�;=�'�;)��������������(�)�*�.'��������������������
&����/������(''�')������� �����������������������������.'�������������������:�������
�������������������������������������*�(-,�;=�,�;)��������������(�)�*�%'=����������������
��������������������#������������������������������*�(,�;=�,�;)�������������������
-'������������������(�)�*�.'�
"���������������������������������������������������
��' *�,�;����+�*�,�;����*�'�
�������������������
�' *�'�;���+�*�+�;����*�-'�
���������������������������������
���&����''�0����������������������� �����������������������������������
���* ������ ���� ��� � � ���+�,"&#!�-
"�������������������������������������������������������������� ��#����������$������
������������/�����(678)������������������������������������������������������������
��H���������������������������������������������������������������������������
������������������������������������������������������������(����-'����.')�������������
������%����������������������������������������������������-'����.'�
������������������������������������������������������������"�������������� �
#����������$������������������������������������(&����''�2)���������������������������
�������� ����������������������������������������������������������� ��������������
���������I��������������� ������������������������������� ����/������������������������.'
���-'��������������������������������
"�����������������������������������������������������������������������������
������������������������������������������������������� �� �������������������� ��
�����
����������������������������� ��������*�,=�'������ ������������������������������ ��������
���������������������������������� ����������������
��������� ������������������ ����� �������������������������
+ +A
+ C
1 2
2
1
x2
x1
B
Original discriminant functionAfter weight update
��* ����������� �� ������ �������
� *� � �� �
�
�
�'
�.�� ���(''�J)
������*��,������������������������������������������������*�����������������������
������� ������*�'=�+��K�� ����������������������������� �������������������������������*�,��'�
K�� �������������������������%����������������������������������� ������� �������������
���������������������������������������� �������������������� ���������������������������
������������/������"�������������������������������������������� ����������������
���:��������������������������������������������&�����"�������#����������������
������������:�����������
���. �� � ������
&�����������������������������������������������������������������������������������
����� �
� *� � �� �
�
� �.�� ���(''�',)
8���������������������� ����������������������������� �����������������������
���������������������������9������������������������������������������ ����������(����
��� "�����)�� �� ��� �� ������ ��� �� ������ ����������� ���� ��� �� ������ ���� �� �������
�����������������������������������������������������������������(����)����������������
����������������������������������� �������
8�������������������������������������������������������������������� ����������
���������������������������������������� ������������(������)���������������&�����������
������������������������������������������������������� ��(�-���)�������������
�������������������������������%�����������������%�������%�������� ������������������
����:�����������
�������� ������������
Inputpatternswitches
�
�
+
+1– 1
–
+ 1
Level
w0w1
w2
w3
– 1 + 1
SummerGains Error
Referenceswitch
Output
Quantizer
��������� �� ������ � ��.
���������������������������� �����������������/�����������������/��������������
����������������������������
� *� ��
�
� �*�'
+
+( - ) �� �
�
� ���(''�'')
����������������������������������������������������������������������������678
����������������������������� �������� ���������G���������������� ��������������
���������������� ���� ��� �������� ������ ��� ������������������� �� ����������� �
����������������������������������������������������������������
����� *�-��
�
�
�
�
�
���(''�'+)
�������������������������������������������������
�
�
�
�
�
�
*��
�
�
�
�
���
�
�
�
�
�
� ���(''�'0)
9����������������������/��(''�',)�
�
�
�
�
�
�
*��� ���(''�'2)
���
�
�
�
�
�
�*�- (��-���) ���(''�';)
�������
����� *�������� ���(''�'<)
������*���-����������������� ������������������������������������������
����������������������������������������������������������������������������������
����������������� ����������������������������������������������������������������
���������������
���/ 0����� 1������2� �
������������������������������������������������������������������������������� ���
��������������������������������������������������������
��/ ����������� �� ������ �������
�� ������ ���������� ������������
�� �� �
! ! !
! ! !
! ! !
! ! !
L�����7���������� ����������������������������������������������������������������
���������������������%�������������� ��0�'��������������������������� ������������
��������������������������
�������������������������������������������������������&����''�'��������������/���
��
� *��'�'�.��+�+�.�� ���(''�'?)
"�����������/��(''�')�������������������������G����������������������/��������
��������������������&����''�;������������������������������������������������&�����������
��������������������������/���������������������������������������������������� ��
�'�' .��+�+�*�-� ���(''�'F)
����/������G���������������������������
����������������������������� �������������������&����''�;������������������������������
�������������������������������('��-')�����(-'��')������� �������� ������������������������
�������������(-'��-')�����('��')������ ������/����������������$�������������� ��� �������4
7���������� ���������������� ���������������������������������� ����������� ���������������
�����������������������������������������������������������������������
��������� �� ���������������� �� �������������
x1
x2
And
(– 1, 1)
(– 1, – 1)
(1, 1)
(1, – 1)
x1
x2
x1
x2
?
?
OR XOR
&�������������������� ������������������������ ��������������������������� �
�����������������������%������������������� ������� ��������&����''�<����������
����������������������������� �����������%���������������������� �����������������
������������������������������������������������������ �������������������(����)�������
�����������������������������������������������������������������������������������
��������� �� ������ � ��3
��� �������������� �� ����%����������������%�������������$������ ������������G����
����� ������������������������������������������������������������������������������
���������������������
(�)���������������&����''�'�����������������������#�����������������������������
����(��������������������)�������������������(�����������)������������������������
��� ����( )��������������������� ��������������������������&����''�<�������������������������
��=������������������( ������������������)��������/������������������������ ��
��������� � ���� �� ������"#$�� �����
���3 ����1��4 ��� �� ������������� � �4�����
������������������������������ ������������������������������������ �������
�������&��� �������������������������������������������� ��������������������������������
��������������������������������������������������������&�������������������������*
(�)������������������������������ ���������������������������
�.*�M�A(�)�*�'N������
-�*�M�A(�)�-�'N ���(''�'J)
8�������������������������������� ���������� ������������������+���&�������������.
������������������ ���������������������������������'�����������������������������������
����������������������������������������/������������������������������ �������/���
��'�%����������
� �� *���� � � ��� �
�
�
- �FHG
IKJ�
'
+���(''�+,)
���/������'��������*����������8������������������������������������� ����������������
����������������������������������������������������
� �� *���� � ��
�
�
�FHG
IKJ�
� -'
+'
���(''�+')
– 0.5 – 0.51
1
1
1
– 1
(1, 1, 1)
(– 1, – 1, – 1)
a. b.
��5 ����������� �� ������ �������
�����������������������,�*�'��������������.����������������������������������� �������
�������� ���������������������������/����������� ���������������.���������������������+
��
L��������������������������������� -������������������������������������ ���������������
�������������������+�%'��"������������������������ ��7���������� ����� ������������������
�������������������������� ������/�������������������������������������������
�6 ������2����
'� 1�������������������������������������������������������
+� O���� �����������������������
0� O��������������������������������������������
2� 1�������"������������������
;� 1�������������������������:��������������"������������
<� 8�������������������������������������%L!��P���������������
?� #������������������������������������������������������������4
�� � � �� ��
'� &��!��� ������� ������������ ��� !"�����3��Q�����8������9������'J;J�
+� 9��#�����������7�1��$�����#!��$��%����� ������ �������'J<,����#�����R��������!�����
O������'J<,�
0� O�L��$ ��&������! �'!�� �������!$�� ���3��Q�����#�����'J2J�
2� 7��7�����������8�� ������������� ���# �( �� ��� �����"� !�� !��)��"��������7��
�����'J<J�
���������������
� � � � � � �
����� ���������
��������������������� ������������ ������������� ����� ���������� �� ��� ������������������������
��������������������������� ��������������������� ����������������������� �� ������ ������
���� ������ �����������
������������ ���������� !"!���������������� �������� �� ������ �������� ��������
��� ����������������� ���������������������� ������������������#���������������� ���������
���������������� ��������$����������� ����������%������ ���&������'������� !("����
���� �������������� �������������������������� �� �)�� �� �� !(*+�,��� !(*-�
.��� ��� ��� ���� ����� ���� ������� �� ����� ���� � � �� �� � ���� ���� ��� ���� ����� ���� � � �
���� ������������� ������������� � ������������������������������� ��/� ����� �����������������
����� ������� ���� ������ �������� ��� �� ����� 0����� �������� ��� ����� ��� ����� ��� ��� �
��� ��1����������������� ������ ������ ��������������������������� ����� ���
���� ��������������������������������
��������� �� ������ ������������ ����� ���� ���2�������� ��������������������� ��������� ����
� �������� ��������� �� ���������������������� ���������������������� �� �������������������
.�� ��� ���������������������� ��.������������ �������������� ������� �������� ����������
.������������ ���� ����3������4����+���� �������������������������������.���������������
��������������������������������������������������������������$��) 5�6-��.����������������
�������������� ��������� ������7������ ��������8���������������������������� ����������������
������������������ ��������������� ����9�������������)����/��� 8� -�
��������������� ���������������������������� �������������� ���� ���� ��� #���������
���� ��������� ������)������ �:-����������������),������� !(!+�/�������� !(!+�&� ��
;����������<�'����� !(!+�&� �����=���� ��<�=�������� !!5-����������������� ������������
�������������� �7������������������������������������������ �� � ��� ������� �����
������������������������������������ ������� �)������� ������� �7��������� ��-�
��� ���������� ������� ���������
�������������������������� �� ������ ����������������� �������������������������
���������������������� ���������
���� ������������������������
;������� ��������������������� ������������������������������� ��������������� ����
���������� �������������� � ��� ���� ��������������������������� �����������������.��
���������������� �������������������������������������
��� >��)���- ����) 8� -
�����
�� >� ��� ��
�
� �?��� ���) 8�8-
.������������ ������� ��1����������������� �������� ������������� ������������ �������������
���� >�@��
�
�
�
��
���) 8�A-
.���� � �������������������������$��� ����� � ��� ������ ���������������������
�� >�
8
8
���
��
�
��
@d i�
� ���) 8�6-
��������� ������������ ��������������������� ����
N0
Nh1–1 N
h1–2Nh,1
h o
Ni
� ������ ��� ���
��� �� ������������ ������������ ����5���������� ��������������'���� ��� �������>� ��
�
� ������
��������$�� ���� � ��'������ ��
�
�
�
�
��
>��
�
�
�
�
���
�
�
�
��
��
���) 8�*-
0���$�����) 8�8-���������������������������� ��
����
�
�
��
��
>���� ���) 8�"-
'����������
��� >��
�
�
�
�
��
���) 8�:-
�������������������� ������������$�������������������� ����������� ���������� ������������ �
����������� ������������������� � ��� ������������������������������������ ������
���� >��������� ���) 8�(-
.���� ����������� ��������������������������� �������������������� ���.����� ����� �������������� ����� ���� �� ����� ��� �� �� �� ������ ��� ���� ���������� ��� �������4������� ��� ���������������� ��������� � ������������� ���� ������������� ��
.������������������������������� �������� ��������� ������ �������������� ������������������ ���������� � �������������������� � ������������������������������������������ �����������
�������������������������������������������������.������������
��� >��
�
�
�
�
���>�
�
�
�
�
�
��
�
�
�
�
��
��
���) 8�!-
B����������������������������� ��0���$�����) 8� -������������
�
�
�
�
��
��
>��);��- ���) 8� 5-
������������������� ��������������$���������������� �������������������������������������;��������������.��������������� �������� �����$�����) 8�!-���������� ������������/ ������������������
������������������>�������������� �������������������������� �����������������������
�
�
�
�
�
��>�@) ���@��
��- ����) 8� -
���������������� �������������������������������� �������� �����;�����������������$����
) 8� 5-���$�����) 8�!-��������
��� ���������� ������� ���������
��� >�) ���@��
�� -���
C�)���- ���) 8� 8-
�� �����������������;����������������������������������������������������������� ���������
������� ������������������������������ � ������������ ���&����� ������� � ������ ��������� ���
��������������������������� ���������������������� ����>����)� ���8�������
�������-������������������
�������� ��
�
�
�
�
�
���>�
�
��
��
�
�
��
�
��
�
�
�
�
��
��>�
�
��
��
�
�
��
�
��
�
����
��� ��
�
��
�
�
�>��
��
��
�
�
��
�
�
��
�
�>� ���
��
�
�
�
�
�
����) 8� A-
;���������������$�����) 8�!-������
� �� >��)���� - � �
���
�
�
�
�
�
����) 8� 6-
2$������) 8� 8-����) 8� 6-������� ��� ����� ����� ���� ��������������4��� ����������������� �������� � �� ��������� ��� �������� ���������� ������� ���� ��� ��� �$����� ) 8�(-��.��
� ����� ������������������� ��1��������� ������ ���������� �� ������ ���������� �����
������ ����� !"��#�$�%"&'�(�)*"$"!#)�
.����$�������� ���������� ����������������������������������� ������������������������������
���D������� �������������� ������������ ������������ ����� ��������������� ���$�����D
.������� ���������� ��������������������������������� ��������� ������������������ ������ �
'���� ������� � ���� ������ �$������ �� ���� ���������'��� �� ��� �� ����� � �� ��������� ���
���������������� ��� ���������������������������������������������� ���������������� ����������
��� ������������������������������������������ � ��������������������������B��4������������ � ����� ����� ����� ��������������'����������� ��������1� ��
.����������������������������������� ������������������ ����������������������������
�� ������� ���������������������7������� ���������� � �����������1� ���� ������� ����� ������ �
'������� ������������� ������������ �� ���� ��������� � ���������������������������������
���� �����
��� >�) E�@��E-��� ���) 8� *-
.���������������0������������������������������������������� ����������������� ���������
���������� ����� ����������������������������������� �� �������������� ��������������� �� �
���� ������ ���������������� ������� �7��������� ���
��� �� ���������������������� �������������������������������������������������� ������
���������������� �������������������������� ����� ���������������.����������������������� ������������� ���������������� ����� ����� � ������������������ ������� ������������� ����� �� �
�����������������������������������F��� ���������������������� ���������������� �������
�������������$�����������������������������������������������)>������������-�����������������
� ������ ��� ���
���������������������������������������>� �5
5
��� �'���������7������������ ���������������
��������������������+�� ������������������������������������ ������������ ��������� ��������������
���� ������������%����(�(������
.���������������������� ������������ ����������������������������F� ������� ����������������
����� ����������� ����������� �� ���� ������������� ������������������������������������� �����
�����������.����������������� ������������� ��������� ��� ����������� � ������������ �����
����������
.������������������������������ ��������� ������������� ���� ������������ � �������
��������������������������� �������� �� ������������������ �������������
������ ��#$+!���,- !.��! �/#!+��#$.)#���&!#0"!#)���-�&!#)�
.��� �������� �������� ����������������������� ������� ����$������
G .�������������������������#������������������ ��� ������������� ������������ � �����
�������������� ���������������������������������������������������������������������
���� >��������� ���) 8� "-
G ������������������������������ � ��������������
��� >�) ���@��
�� -���
C�)���- ���) 8� :-
.�������������������������������3�����4����������������������� �8�
�����)�
�-�>�
� �@���) 8� (-
����������������� ���������$������
� )��-�>��
����
� �@>�
8
�
�
�
�
@
@@
e je j �>� @
@
8
� �e j
@ @
@
�
�
�
�
e je j
�>���) �@ ���- ���) 8� !-
��������������� � �������� �������������������� �������
���>�)
���@��
��-���
�����) ����
��- ���) 8�85-
G .���� � �������� ����������������� ���� ��� ��������� ������� � ��������������������
�������� ������������������������������ ���������������/� ������������������
������
��� ���������� ������� ���������
��� >�� ); ��-� ��
��
�
��
�
�
�>����) �@����- �
���
�
��
�
�
���) 8�8 -
������ ��"��#�$��"!������ ).��!-.
.������ ��� ����� �� �$� ���������������������������� ��� ���������
�
�
�
��. ���� �����������
�$� ����������������������� ��������.�������������� ��� ���������������� �� �������/� � ��������� ��������������������� �� ���������������� ���������������������������������������
H���������������������������� ��������������������������������������������������������
�������������������������� ��
����)��?� - >����������?������)�- ���) 8�88-
��� ������7�������� ������������ �������������������������� ����������������������� �����
������������
.��� ��������������������� ����������/��� 8�8��'��������������� �������������������
������������ ������������������� �������������������� �� �������� ������ �������� �� ����
�������������� � ���������������������������������'���������������������� ������
������������ ������������ �
ba
c
��������� ��������� ��� ����������������������������� � ����������������������� � ������� ����������������� ��� �
����������������� � ������ ������ ��������������
������ ��"��#�$�(���("!!���
�������������� ������������������� ������������ ������ �� ���� ������������������������� �
������������������ ����#���������� �������������������� ������� ����������� ���������� ����������
���������� �� �������������������������� ����� ������������������� ��������������������������������
������������ ����������)��>� ��8��I���-��.�� ���7������� ������������������� �������������
���� ������,� ������ ������ ������������ ������ ����� �� � ������ ��������� ��� �� ��������/�
�7��������������������������$�������� ������� ������������� ��������������������������
� ������������ ���.���� ��������������� ���������������� ������� ����������
� ������ ��� ��1
���������� ��������� �� ������ ������������� ������ �7������� ������ � ����7�������
;������������������������)�� ��7����������������� ������� ����������� ���-������������������
����������� ���� ������.��������������������������������������������������� ���������
������������������������������������ � ��'��������������������� ��������� �>��)�-�� ���(5
�7�������J���� �K�������������/��� 8�A�)��������-����������� �� ������ ������� �� �������������
������ 5���������������������������������������������������������� ��������
�������,������� ���� ����������$�����)6�85-��������������������� �������� ���������������
���������������.������� ���������� �����1������������������������������ ����� ������
*�555���� ���� ������������������� ��������� ��� ��������� ���������� �������������.��
��������������������� ���� �� ������������������ ����������/��� 8�A�)���� ���-����������
�������������� ������������ �����������������/��� 8�A�)�����������-��.������ �7����
� � ������������/��� 8�A�)������� ���-��'���������������� � ������� ��������������������� ���
���������������� ������������ ����� ������.������� ��������� ���������� ������ ������
�����7� ��������
��������� !���������� ���� �����!����� ������������������� ��������������������������� ����� � �������������
���������������!����� ���������� ��������"������������������ ���� ��������� ������������� � ���������
"������������������������ ���������!����� �
1
0
1
1
0
– 1
–1–1
0
1
1
0
– 11
0
– 1 –1
0
0
1
1
0
–1
–1 –1
0
1
0
1
1
0
– 1
–1–1
0
1
��2 ���������� ������� ���������
���1 ���������3�������������
����������������������� ��$������������������������������������� ���������������������
������������������������������������ ������������������ ���� ���������������� �7����
���� ���
/� ��7�������� ���/�� � �������������������������� ����������������� ������������
�������������������� ���)/�� � ��� ��-�
�)�- >�
� �
�
�5
)���������?��������- ���) 8�8A-
'����� �� ���������������������������� ��
�)�- >��5�?�
� �
�
�
�����)���?���- ���) 8�86-
�������>� � �� �8 8 �������>�� ����)�L�-��.������������������������� �� ������ ����������������
����� ����������������������� �� )�-�����������������������������������>���)-��.��������
�5��� ���������������������������������������������� ������� ��������������������� ����������
���������+���������������� ������ ��������������������� ������������������������������ ��
�� ������������������������������������������������� �
.������������ ���������������/�� � ���� ������������������ ����������� ����������������
����/�� � ���� ���������3������4��������������������������������)������� ����������� ���-�� �
�7������� ����� �������� ����������������� �������� ��������������� ����������� ����
���������������������������������� �������������� ����������� ����� ����
.������� ������������������� ������������������������� ������������� �� ������ ��������
�������������� ��������������������������������� ��� ���� ���������������)�-�>��)8�-
�)�-��.��� �����������������/��� 8�6��.��������������)�������������� ���� ������-��
��� ������������� ��������������������������)����/�� �� 8�*-��/ ���������� �����������
������������������������������������������������ ������������������������
���2 ��������������%����(�(������
F�������������� ������������������������ ����������� ������ �������� ��� ��������������������
������������� ���������� ��������������� �������������������� ��������������������� ��
� �������.��� �������� ��������� ����������� ��� �� ���� �������������� ������� �������
���� ������������������� ����������� ����������������1�������������������������� �� ����
�������������������������7���������H�� ����� ������� ������ ������ ���� ���������� ����
���� ���� �������������������
� ������ ��� ��4
– 4 – 2
0.5
+ 1
2 4 6 8
�������� ��������������� ���� ������#��� ��$����� ���������!������������� �����%��� ��� ���� ��
�������� ��������������� ���� ������#��� ��$����� ���������!����������������������%��� ��� ���� ��
– 4
+ 1
2 4 6
– 1
��5 ���������� ������� ���������
���2�� ��!/)�'�("�"67 #
����������� ��� �����������������������#����������� ���� �����������.�������������������������
� ����������������� ��� �� ������� ������)���� ��������� �������-��������������������������
������������������������������������������������ �����������1� ��� ��� �������������������
���� �� ����$������) 8�85-����) 8�8 -��������������#�������������� ��� ��� ��������� �� �) �@���� -
����������������1� ����������� ���� �������������������� ��������������
���2�� 8�)&"6� #�#."
.���� � ��� ����������������7����� �����������������������������0��������������� ����������������
���� �� ��� ���� � ������ � �� ������ ����� ���� ��� �� �� �� ����� ����� � ����� �� ���
� �������������������������������������� ���������������������������������� �������������������
������ ������������� ��������������������������������� ��������������������� ����������
�������� � ����������������������������� �������������� ��������� ���������� ������������� �����������
���� ������������������������7������������ ������� � ���������������� ������������
����
���4 �3������������ �
���� ���� ��� �� ����� ������� �� �������� ��� ��� �7������ ��� ���� ����� ������ �������
���� �������� ���������������������� ����� ������������������������������������$��������� ���������
��������������� �������������������������������������� ����������������������
������������������������� ������������ ����������� ���� �� ���������������������������
���� �� � ����� ���� ��1���� �������� ������ ��#������ � ����� ��1����� 9���� ����
��1������������ �������� ����������������������������� ������ ��������� ������� �����
)���� ������1������������������������-�
����������������������� ����������� �������������������� ������������ ������������ �����
��#������������������ �������������1���������������������� �������������������������
��1��������������������� �� �� �������������������� ������� ������ �� ���.������
��1���������� ����������������������������������1����������������������� ������
� ������� �����������������������)� �������������������$��� ���-��.��������� ���� ��
� ������������������� ��������1��������� ����������������������������)� �����/��� ��
.����������<�M���� ���� !("-�
;�������������������������1�������� �7������������.���� ��� ��
��)�- >���)�-�?��
�
�
� ���
�
��
�
� �� �
�
� � �� ��
8
8
�
������?����
8������@������?�� ���) 8�8*-
��� ������������ ����������
� ����)�-
� ������ ��� ��9
� ��@� ��
N�O�� >��
� �
8 �
� �� � �
���) 8�8"-
������������ ������������������������ 7������&����������������.���� �����������
�� >��7�@�� ���) 8�8:-
����������������������� ������������������������ �������
�)�� - >��)��- ���) 8�8(-
9����������� ��������1����������� ������� ������������ �� ����� �����@��?� ��� �� �
�� ������� ������������
������? >�5 ���) 8�8!-
��� �� ��� � ����� ��? �� �������� �� � �� � ��� ����� �� �� ����� ����� �������? � ����� ��� ����
��1��������������� �$� ������������ ���������� ������ ������� ������������
������?8 >�5 ���) 8�A5-
���� ������������������� ������������������� ������������������������������
,�����) 8�8!-����) 8�A5-��������
5 >�����)��? �@���?8-�>������)��-�>��
������? ���) 8�A -
'����$��) 8�A -��������� ���������� ����������? ������� ��������������#������
9������� ����������������5������� �����1����� ������5���������$��������5�>�@���)�5-� ������������������ ��/� �����5����������������� �����
��? >���? �?����� ���) 8�A8-
��� �����������������������������@ ������������������� �������� ������� ������
�� >�� �
� �
��
�
��
�
��������>�@�� P����� ���������5 ���) 8�AA-
9�7���������������?8�>���? �?���? ���? ��� ����? ��������������������1���)��?8-A�
������������������������4����������� ������� �����������������#������)����������);��� �<�0�� ����
!(5--��.���� ���������� �����������������������/������ �%��������������������� ��� �����
�� ������������ ���� ��� ���������������)&�������<�;������� !*8+�������� !: +��������� !::-�
����������������� ������ ���������� ���$��� �������������������� �������� �����������������
�������������� �������1��$��� �������������������������� ��������� ��������� � ���������� �����
������������������������ ��������)����/��� 8�"-���������� �������������� ������������� ������
������� ����$��� �������������.��� �������������� )�-���������������������� ��������
��� ����� �����6��������������������
�1� ���������� ������� ���������
;������ ���������������� ������������������ ��������������������������������
� �� ������ ����� ��� ������������
M�����0������ �����;������ ��)0������ ��<�;������ ��� !(!-������������� ���������� �� �
���� ��������������������� �������� ����� ���������������������������� 7�!�������
��#������������������������
�)��?� - >��)��?� -�N )��?� -�@�)�-���)��?� -O���)��?� - ���) 8�A6-
������������������������������ �����)���?� -���)���?� -���� 7���������������������������� �
0��������� � ������������������������������������� ���� �$� �������� ������� �������
;��������������);����<��������� !!5-��������������������������������������������1�
�� ��������������������� �������� ����� ����������� �� ������������������ ���� ����� �
����� �
���)��?� - >�
� �� �
� �
�� �
� �
��
�� ��
��
�� ��
�
�
) -) - ) -
) -) - ) -
� �� ���� ��� ���� ���
� �� ���� ��� ������� ���
�
�
�
�
�
�
�
�
RS||
T||
���) 8�A*-
Gradient
ut l+
ut
A very slow approximation
��������� &������������������� '���������� ��� � � �(���������������)����������� �������������%����������������� �
� �������������%����������*�� �����(������������� ����� ���������� ����������������� ������ �������������
�������%������������� � ����������� ���������� ��� �������� ���� ���+��� ���������������� �����%��������
������� ������������� ���� ���+��� �� ��������� ���������������������,�#�-�� .�
� ������ ��� �1�
��� ������� �� �������������������������������������������������������� ������������.������
�������� ������������ �� �����������������������
���5 ��������� ����������������������������:
/ ��������7������������/��� 8�A������� ������������� �7���������������� ��������� ������.��
���������� �7������ � ��������������
� .������ ������ ����������� ������ ������.������� ������������������ � ������
� �����������1���
8� .������� ������� �����������.������� ������������������ ����������� �� ��������
�������������
A� .��� ���� � ��� ����� ����� .��� ���� ���� ���� 3�7� ������ ���� 4� ��� ���� ���� ��� /�
3������4� ������� ���� �� ���� ���� � ��� ����� ���� � �� ������� �� � ������ ���������
��������� ������������������������
������� �������������������������������� �� ������������������� �������������������
� �������������� ������ �������������� ����������������������� � ����������������
�� ����� ������ �������������������������� ������� ����������������������������������� ��������
����
'��� ���������������������$������ � ������ ��������� ������� ��� ������� ������ ����
��1������� � ������������������ ���������������� ������������� �� ����������� ���.��
��� ����� � ��� ���� ��������������������������� ��� � � ����� � � ����
���� � >�
���� ���
�
�
�
�
��� �
���) 8�A"-
������������������� ������������������ ���������������������������������� ����������� ����
��� ����������
�� >�
8) @ - ��
���
��
5 �
� ���) 8�A:-
.���������� � �������������� ������� ������� ���� ������
����������������������������� � ������������ ���������� �� �������� � ����������������������
� ������������.������� ������������������ ���������������������������������� ���������������
������ �������� ������� ���������������������� �� �������� � ������ ���.������ ��������
����������������������� ������������������
'�������������������� � � �������������� ����� � �����������������
����� >�
�������
�
�
�
�
����
���) 8�A(-
���������������������������������������������� � ������ �������������� �������1����
���� �������������
�1� ���������� ������� ���������
���5�� �+���;;�&!�;�!+���-.<���);���"��#�$��".*6�
��������� �����������������7�����������������>��)�-�������������� �7������������������� �� �
�� ������� ������� ������� ����� �����������������*���������������������������
�������������� ������������;������������������������������� ������� ����������)������6-���
�������� ��� �� � �������� ���������������. ��� �������������� ����� � ������������ ����
���� ��
.���� ����)��� ��-���������������/���6�:������������������.������ ����������������
��� �7���������������� ��� �������������������� ���'������������������������� ����������)���
���� ���������������� ��������� ������������ ���������-����������� ���� �������������� � �������
���� ������ ����.������ �7������������� ���85���� ������������������/��� 8�:0��.��
���� ������ �� ������������������*���� ��������������������������������� �
��������� ���������������� � ��������+��� ������� ����+��� �������������� ����%����������������� ���� ��������� � �
����������������������������� ����������!����� ������� �������������� ���������� ��� ���/������
� ���������������0���� � �������������$,���� � ���������
.����7�� ���������� ��������������� ���� �������1������� ���� ��������� �������1�����
�7�� �������� �������� 5�������.������ ������� ����������� � � �������������������������� �
�����1��� �������/��� 8�(��9���������������� ��� � �� ������������� �������� �������1��
������������� � ���� ����������� �������� �������1��
��������� ��� � �������)�����-���� ������������� ������� ������������ ���� �� ����Q
'���� ��������� ������� ������������������� � � ��������� ����������������������.��������
������������� �� �������������� ������������ ����������������������������������������
��� �7������.���� � ������������������ �����������������������������������������
��� ��� � � ���������������� ���������������� � � ����������� ��� ����� ����������������������
�����
0
0.2
0.4
0.6
0.8
1
0 0.5 1
A
X
0
0.2
0.4
0.6
0.8
1
0 0.5 1
B
X
y y
� ������ ��� �1�
���5�� �+���;;�&!�);�!+���-.<���);��#�������#!
.����������������������� �������������������������������������� ����������������� ���
.���� ����)��� ��-����������� ����������������� ����� �7�������������/���6�!����
*��������������/���6�!0��� �85�����������.�����������������/���6�!0������������� �� ���
.������� �������7����������������� �������������������������������� ������� ����������������
���������������������� �� ������������������ ������ ��� ��������������� ���������� ����� ��
������������ ������������������������ ����������������)��������� ������ ������������-�����
���� ������3����������4����������� ������������������������������������ �7�����
.����7��������������������� ������� ������������������������������� � �������� ����������
��������� ��������������������� � ���������������������������������������������������� ������
����������� ���&����� ��������������������� ������������� �������������������������������������
� ���������������.�������������������������������������.������ ������� ����������� � � ���������
���������������� �������1��� �������/��� 8� 5�
���9 �((��������
0����� ���������������������������������� ������� ���� �������������
G ;�#��������%����� ��) !("-�� ������������������� �������������92.�������������������
���� ���� ����2�������7���������������������������
R ��������� �� ������ ��������� ���� ������������������������� �������S� �����
;�#�����) !((-������������������������� ���� �������
Test set
Learning set
Number of learning samples
Errorrate
�������� ���������������� � ��������+��� ��������������������%��������������� ������%�������������������������
�� ���� �������� ������������ � ���������
�1� ���������� ������� ���������
0
0.2
0.4
0.6
0.8
1
0 0.5 1
A
X
0
0.2
0.4
0.6
0.8
1
0 0.5 1
B
X
y y
��������� ������������� �������������� �� ����� ����� �������������� ���������������� ����%����������������� ���� �
�������������� ����������� � ��������� ��������� ��� ����%�����������!����� ������� ��������1$���� � �
������������������/������ �� ��������$,������ �� ����
Test set
Learning set
Number of hidden units
Errorrate
���������� ����%�������� � ������������ ������%������������������������� ���� �������� �������������� �� ����
R ����������� �������� �� ������ �������������� ��������� ������� �����������������
����������������������������������������� �������� ������������7������������
������������������� ��������������� ��1���� �������������������������������� ������ ������
������ ������� ������ ��������� ����������������������7�������������� �����T���) !((-�
����������� �������� � ������� �� ������ ������������ �������� ��� �� ����� �� �� ���
�� ����������� ���� �������������������� ������ ����� ���� �
� ������ ��� �11
�=�������%����
� 27����������������� �������� �� ������ ���
8� F��� ���������� ��1��������� ����
A� '������������ ������������ ���D�27����
6� &��������������� ����#�����������������������������D�27�����������7������
*� 27������� �� ������������������������� ���������������7������
"� 27��������������������������������7������
:� '����� ������������������������ ������������ ���D
(� 27������ ��������������������������� ��������������������������� ������������ ����
!� &��������� ����������� �������� �� ������ ��D�27����
5� 27�������������������������� ������� �������������������� �������� �� ������ ���
� 27�������������������������� ����������������������� �������� �� ������ ���
8� '����� ������������������������� ������������ ���D
������������
� ������������;������ �����"����"�������#��"� ����������$�%���������&�'��%��"���.�����.
� ����� !"!�
8� F�2��%������ ���S�2��&�������%�T��'�������B�� �� �� ������������������ �������
� � �������"���M����A8A������*AA�*A"�� !("�
A� F�0���� �� ��B�� ��B����).�����%����9����.%�)6:-��,��� ������������������������������
���.����������,��� ��� �,�����������%���� ����2�������������������;�����
!(*�
6� U�B��,���U��B��V��� ����� ���4��� ����������� � �������������������� $�����"���� ������
$������(���M����(*������*!!�"56�� !(*�
*� =��&� ������;�������������&��'������������� �������� �� ������ ���� ����� ���
��� �7����������"�&�����"���M����8��9���*������A*!�A""�� !(!�
"� =����/��������H�������� �7����� ���1��������������������������� ������� ���
���"�&�����"���M����8��9���A��M���� !A� !8�� !(!�
:� S��,���������� �7������������ ���������������������������)����%��������$���"�&�
�����&���� �����%��M����8��9���6������A5A�A 6�� !(!�
(� 2�T��&� �����T�F��=���� �����T����=��������B��� ����� ������� �������S����������
���������� ������� �7����������"�&�$�%����������M����8��9���8������8 5�8 *�� !!5�
!� '�&��� �����0����/��� ���;����.�������������'�.��M���� ������%�"���&�*������������"����
�����������$�%��������,��� �����,��� ����V�� ����� ����� !("�
5� T��;��� �����%��0�� �����#��"� ������������%�"���&����&����9���U� ��&������ ���0� ��
;� �� �M� ����� !(5�
�12 ���������� ������� ���������
� ��%��&�������� ���2�� ;��������������� ��� ��#������ � ������ �� � ������ ��� � ��������
+��"��&�����������&�,�"����������� �" ��M����6!������65!�6A"�� !*8�
8� 2���������$�%���������&�)���� ���� ���%�-�������9���U� ������������ ����� !: �
A� ��T�F�� �������� %���� �� � ����� ��� �� � ���� ��#������ � ����� �������� )����%�����&
�"��"�%%�����M���� 8������86 �8*6�� !::�
6� .�T��;�#���������,�%��%����� ��������&�������"�&&�&�����"�������.��"�����*�� ��&��
).�����%����9����T&VL22,;�("L5 -��.���T���&�����V�� ����2���� ����2��� ����
,������ �;�����F��� ������ !("�
*� %����S� �������.�T��;�#�������������������������������� ������� ��� ��������������
��� ��� ���������"�&�����"���M���� ��9��� ������:*�(!�� !((�
"� S��T����9�� ������������ ��1��������������������� ���� ������,��&�����&�$���"������
M����*!������8(A�8!5�� !((�
�����������������
� � � � � � �
����� ���������
����������������� ��������������������������������������������������������������������������
����������������������������������������������������
��������������������������������������������������������������������������������������������
�������������������������������������������������������������������������������������������
������������������������������ ������������������������������� ���������!���������������������
������������������� ����!���������������� ��� �������������"����������������������� �����!�� �
��� ��������#�������������������������������������������������������������������������������
���������������������������������������������������������������������!����������������������
��������������������������!��������$���������%����������������������������������#������������ ��
��������������������������������������!�����������������������������������������������������������
������������������!����������������������������������������������������!���������������������������
��������� ������ ���� ������� ����� �� ����� ������ ����� ���������� $������ ��� ��������� ������ �
������������������������������������%�������� �������������������������������������������&������
���������������������������������������!�������������� �������������������������$������������������
������ ������!�������������������%�
&�������������������������� ����������������������������������������!�������������������������
�������� �������������������������� ������!��������������������������� ����������������������
����������'�������!���������������������������!�����������
������� ��������������������������������!����������������(�������������������������!������
�������������������������!�������������)���!��#�������������������������" ���� ����������������
�������������������������������� ��������
��� �����������������������������������������������
����!�����������������������������������������������*+������!���������������������������������
�������������������������������������������������������������������������������������!����������
��� ���������� ������� ���������
�������� �������������������������������������������!����������� ���������������������$����,� ��
�������%���������������������������������!�������������������$����-�������������%�
����������������������������������������������������.�������������������������������������
����� ������������������������ ������������������� ����������������������� ���������$�%�
�$��/�*%���$��/�+%��0��1��������������������������������������������!��������������
*� 2�������������*���+��0�����������������������������������������������������������������3� �
�����4������������������������������������������
+� 2������ ��������� ���� ����� �0�������� ����� ������� �$�%����� ����� ����� ��� ������ �������� ����
�����������5������������ ������������������������������������������������������������
����������
���� ����������� ��� ��� �������� ����� ���� ����� � ���������� ��� ���� ������������� �������� �
����������������������������������������������������������������������������������-���������
,� ���������������������������������������!�� ��6������������������������������������������
���������������!���������� ���)��������������������������������������������������������������������
� ��������������
��� �� ��������� ���!"��#
7����������������������������������������������������-������������������� � ��������������������
�����������*8�*��&������-��������������������������������������������������������������!�����������
��������� �������������� �������������������������������� ����������������������������������������������
��������������
Input units
ho
State units
����������������� ��$
���������������������������� �������������������������������������������������� �����������������������
����������������������������������������������!����������������������������������������� �������
���9*)������������������������������������������!�����������������������������������������������
������������������������������������������������������ �������������������������!������������������
��������
��� � �����%&� ���!"��#
&������,� ������������������������� �������������������������������� ����������������������������
���������������!������� ������������������������������������������ �����������-���������������� ����
�����$*%��������������������������������������������������!���)�����$+%������ ���������������������
����������������
�������� ������������������������������������������*8�+�
Context layerInput layer
Hidden layer
Output layer
��������� ������������� ����������������� ��������������������������������������� ��������������������������
������������������������������������
��������������������������������������������� �������������� �����������������9*��:�����
������������������
*� ��������� ������������������;)���<�*
+� =��������������� ��������������������������������������� �������)
8� ����!����������������������������������)
>� ������9�*)������+�
��������� ���������������������������������������������������������������������������������/�*�
���������� ������ ���������!����� ����-����������,� ����������������!������� ��� ������
���������������������� ����#������������������������������������������������������������������!��
���3�� � !��4����������������������������������������������� � ������������������,� �������������
��������������!?���� ������*���������!?�����������������������������������?���������������������
�����!?�������������� ����!��������������������!?��������������� ��������������������������� ������
�������
�'( ���������� ������� ���������
�����������������!�� ������������,� ��������������������������������������������������������
������������������������������������������������� ��������&�������������������������������������������
������������������������������������*8�8�������� �����������!���������������������������
�������������������������������������1�������������������������������������������������
100 200 300 400 500
– 4
– 2
2
4
0
��������� ���������������� �������������� ����������������������������������������� ���������!��������������
��������"����� �����������������������������������
100 200 300 400 500
– 4
– 2
2
4
0
�������� �����������#������������ �������������� ����������������������������������������� ���������!����
������������������"����� �����������������������������������
����������������� �'�
��������������������������������/8���/+����*������;����������������������� �����������������!?����
@����������������������*8�>�����������������!�����������������������������������������!���������
������������������������������������������������� ���� ��� ����������,� �����������
��� �� )�*#�+��,�-�!.� �. �/0%%1���*0��� !���!"��#2
A������ ��� ����� �������������!������������!��������������������������������������������=����
$*BCD%������� ����$*BCD%����������������������!������������������������������������������ ���
��������������������� ����������������!�������������������������������������(������������
��������������������������������� ������������������ ����������!��������!��������������������
� ��$=���� �������*BCB��*BB;%������������� ����������������������������� ������!���������������
�������������������!����������������� ����������������������������������?�����������������������������
���� �����+/����������
7��� ��� ���� �������� ���������� ������� ��������� ��������� �� ���������� ���� ���� ��������������
������������������!���!�����������$*BDD%�����E�������$*BDD%��&����������������������������������
�����������!���������������������������$�������*F�F%����������������������������
(�������$*BC+%�!����������������������������������������������������������������������
�� ������ ���� ��������������
�������� �������#�������������� ��$�����������������������������������������������������������������
����� �������������������������������������������������� ���������������������������������������
������
�' ���������� ������� ���������
������ �2*�.,!.�
����(�����������������������������������������������������������$���*8�F%������������������
����������������������������������������������������������������������������������!������������
����������������������������������������!������7��������(��������������������������������*�����;�
!��������������9*�����/*������������ ���������������������!������1�����������������������������
�����������������
���������������������� �������!������������������������<� $�%�����������������$��9�*%������������
�������������9�*��������������
��$��9�*% <� ��
� $�%���9��� ���$*8�*%
��� ����������������������$���*;�+%������������������������������!��������������������������
$��9�*%����� ����9�*�
��$��9�*% <�
� � �
� �
RS|
T|
* *
* *
�
�
��������
� � �
� � �
�
� �
� �
�
$ %
$ %
$ %
���$*8�+%
����� � $��9�*%�<����$�� $��9�*%%������ ������������������������������<�;��!����������������������
���������
�����������������(���������������������������!������� �������������������������#�������$*8�*%
����$*8�+%�
�$�% <����$��$��/�*%% ���$*8�8%
���������������������!������������������������������������������������������!����������������������������!������������������� ������������������������!���
1��������� �����������������<������ ���������!������������������� �����!�������!���������
�������������
� <�/*
+ � � � � �
� �
�����
� ���$*8�>%
��������� ��������������������������������������<����������������������������������
���������$*8�+%��������!���� ��������
������ ��������������������������� �����������#��$*8�>%���!���������� �!��������������� �����
!���������� �!�������������������������������������.������������� �������������������������������
��������������!������
�� <�/� � � � �
�
�FHG
IKJ
�
� � ���$*8�F%
��������������������� ���������������������#���$*8�*%�����$*8�+%�
����������������� �'�
������������������9�*G/*� ������������*G;� �������������� ����������������������������������
������������ �����������������!�������������������!�����������������������*G;� ���������������������
�����$������� � �����������������;;�0�;;�������������!����!���**�0�**����������!�%��. �������!�����
��������������������������������� ��������������9*G/*� �����
@� ���������������������!���������������������$��������<���%������������������ �����������
����������������������������!���������
����� ��,3.�%����!"��#��2��22�*.�!.4��5�&��1
���� ���������������������(������������������������������ � �����&����������������������������
�����������!���������������������������!��������������������������������������� ��������������������
���������������������!������������������������������!���������������������!����������3���4��������
�������1���������������������������������������� ������������������������������������������������
���������!�����������������!��������������������� ��������3����4���������������������
����(�!!����������!���������������������������
�� <�� � ��
��
�
�
� �RS|
T|*
;
�
��������
���$*8�H%
����������������
�������#���������������������������������������!������$�����������������������(�!!
������������������������%��&��������������������������������������������������������#���������������
�!����;�*F�� � ���������!���������!��������������������!��� ���������
�����������������!�� �������������������������� �������������
*� ��������������������!��� �������!��)
+� .����������!�����������������$��������!����������������������������������������������������%�
�������������������������!�� ������!���������!����������� ����������!���������������$������
2���������������I��������J�1��������*BCH%�
������������ I������������������ ��� ���<�K��L�������������������������!�����������������
��� ������������
��������������������������������
�� <�;
*
� �����!������ ����� ���
��������
���R
ST
���$*8�D%
5��� ��������!������<� � �$��9���%���������@���������������������������������������������!���
&������������������������������������� �������������������������� ����������������������������
������ ��� ���������������$��������������%M
��������������!�� ���������!��������!������������!�������������(�!!����������������������
�����������!����������!���������������������������$(�����������������J�=�� ����*BC8%������������
�������������������������������������!��� �������!�������
�'6 ���������� ������� ���������
������ ��0�� 2�".!�����������2,� 2�
�����������������!������������*8�8�*�����!��������"���!�����������������������������������
(�����������������������������������������������!����� �������!���������������� �����!�����������
!�����!������������ ���������� ��� ��������$(��������*BC>%�
�����6 ��,3.�%����!"��#2�3���,!.&.7�!.� �+��8%�&2
�����������������������������(��������������������������������������������������������������
����5=��� ������������������� ������!�� �$I�����J�-��������*BDB%��&���������!�� �����������
� ����������� ����!��������!�����������������������������!���������������������������� ��
(����������������$*BCF%����������������������������������,�������������� ��� �������������
���������������������� ������������������������������������1���������������������������������������
��������� ���������������������������������������������������������������������������������
����������������������������������������������������$*8�+%�������� �������������������
!�������;�����*��������������������� ��<�*����������������������������������������������������
����������������������!���������!�� �����!�������������������������������������������������
������������������ ����!�� � "���
� <��
�
�
�� �� � � �
�� ��� �+ + +
+
� � �FHG
IKJ��������
��
���$*8�C%
�������������������������������������������������������� �����#������$*8�C%�����"����������������
���������� � � ���������������������������������������� ���������������������������� ���"�����
���������������������� ����������������������
��� � �������������������������������� �������
� <��
� �� � � �
� ��+
* *$ %� �� �
�
���� ���$*8�B%
�������������������������������� �� ������������!�������������������������� �����������������
������������������!������������������ ��������
�����������������������������
������ <�/����$*�/���%���!�����������������������������
<�/���$*�/����%���!������������������������������ � ���$*8�*;%
<�/����!�����!���
<�/����$����9��9�����/�%���������
���������<�*�����������;��������������������������������������� �������!�����������
������������������������������������ �������������������������������������!������� ����
1�������(��������������������������������������������������������������������*H��������+;������
�����F;N������������������������ ��������������������������������������������������� � ����
$1���������=�������*BCC%�����������������*FN������������������������������!�����������������������
����������������� �'�
��������� �������������� ���������������� ������!�� �����������������!������� ������.�����������
���������!�� �������������M�����!����������������������� ���!�������������������������������������
������������������������� !������������������������MG+���6���������������������� ���������������!�
����������������������������������+���������������������������������������������������������
�������!�����������������!�������������������+����������������������������������� �������!������
���������������������������������������������������������������� ���!�����!��������������
���6 )��95����5�������
��������" ���� ��������������������!���!����������(����������.�?��������*BCF�����������
�����������������!�������������� ����������(�����������������������������������������������
������������������������� ��������������������������������������� �������������������������
����������!������������������������������������������������������������!���� ���������������
�������������������������������������������"��������������������������������������������!������
�������������������� ��������������������������� ��������������������������������&����������" ���
��������������� ��� �����!����������������� ����������������#������$*8�+%��������������
������������������������!��� ������������������!�!������
�$ ����9*% <�*
*� �� � ��� G���$*8�**%
���������������� ������� ����!�����������$��������%��� ��������������������� ���������������
��������� �������� �� ���� ��� !�� ������������� �������� ����� �� � ��� ����� ����� ��������
��������
&�������������������������������� ��!����������" ��������!��������������������������������
������3���� ����#��!�� 4��������������������!�!�������������!�����������������������������������" ��������!����
�
�
�
<� ��� �$ %G� � � ���$*8�*+%
�����������������!�!�������!��������������!�������������������������������������������5�����������
���� ����#��!�� ����������������������������!����������!�!��������������������������������!��
�������� �������������
��������� ��������������������������!������������������������������������!�������� ����#�������
�������#��!�� � ���!����������������� ��������������!������������������!���!����#��!�� ��
�����������������������������!��������������������������������������� �������������������������������
�������� ����������� ���������������� ������ ��������������������������������������������
�#��!�� ��&���������������������� ������������������������������������������������������������!��
�������������������������� � � �������������������������������� ��������������������������!�����
������������ ����������������������������������������������!������ � �����������������������
� � ��������������������� ���������
�'' ���������� ������� ���������
��� ������������������������������" ���� ������������������������ �������������!��������
����!��� � ���� ���� ��� ������ ������ (����� ��������� ���� ����� ���� !������������ ���� ���� �������
��������������������������������������� ��������� ��������" ��������!����������������� ���
�������������������������?��������������������������������������������������� �������$���������
�����*BCF%������������ ������������������
O ����������������������������������������� ����
O �������������������������������������������������� ����#��!�� �������� ������������;��&������
������������ ���� ������#��!�� �������������������� ���������������������������� ������
�����!���������������������������������������������������������������������������������������
�������������� �������$ � �%��� ���������� ����������!�!��������������������������������������
������������ ������������������������� ����#��!�� �������������������������������������
��� ����
O . �������$ � �%������� ���������������������������������������� ����!�������� ����!�����
��������
O &���������������� ������ ����������������������������������������� ����!������� �����5���
�������!�!���������$��%������������!������������������������������������ �������������������
!�� �����������������������������!�!�������� ���$��%�����������!��������������������$��%��
����� ����!����� ���������!����������������������������������
O 5�������������������������������������������������!�������!�!����������#����������������������
���������� ��������������� ����!��;��7������������������� ������������������������ ������
���������������!������������������4���������� ������������������ ������������������������
3��� �������������4����3E���!�������� ����4��������
<� � �� �
� �
��
�
�
��� ������ ���
����$ % ��
$ %
$ %� ���$*8�*8%
5��������������� � "�� ������������������������ ������������������������������
��� <�/��
�
��
���$*8�*>%
&����������������������������
�
�
��
<�/*
� � �$ % $ %��� ��� ����� ���$*8�*F%
�������������������������������!�
��� <�� $ % $ % � ���� ��� ����� ���$*8�*H%
����������������� �':
�;�������)����
*� 1�������������������������������������������������������������������
+� , ���������������"�����������������������������������
8� 6����!������-���������������������� � ����
>� 6����!��,� ������������������� � ����
F� 6����!������(���������������
H� 6����!������(���������������������������� � ����
D� 6����!��(���������������������� "��������!�� ��
C� 6����!����������" ��� ������
B� 1���������������!�� �������������������������� ��������������������������� � �����(��
���������!�� ������!���������
���/��������
*� A�&�� -����������������� ���� ��� ���� ��������� � �� �� ������������ ��#������� ������� &�
=����������������,�����������2�����������������2������.������.�������(���������5-�
,��!�� ������F8*�F>H��*BCH�
+� A�&��-�������.�����7��������=��������6���!�����=�����������������$������@����5���CH;>%�
.���6����:��-������2���&������������2������.�������P�����������2���������*BCH�
8� -�:��,� ���������������������� ����!"��#���$��$���Q����*>������*DB�+**��*BB;�
>� ���=������I������"��������!���������������������������������������������� %$&'�(�#��
)����*%��Q����*B����������+++B�++8+��*BCD�
F� :������ ��������������������������������������������������������!���������� !�������
������ �����&���*!$����"%�!+������*%��,���*�&�!�&'��!�+�*��$��!����-*&'�����!*�%��Q����+�
����H;B�H*C�*BCD�
H� ����� =���� ������� :������ ������ ������ ���?�������� �� ���������� ������� ���������� ��-*&'
�!.�-�&�!���Q����*��5���+������+H8�+HB��*BCB�
D� �����=���� �������� �&.$�(�$-**������-*&'�����!*�%�$������@����5����2AP�2.�B;�*BH%�
=���!�����=��*F+*8��.���������2� ������.�������2������A������P���������*BB;�
C� -����������������-*&'�/!��'%������!"��#��,.�'$&�!�%��&��6��:����������.�-��.� ����
$,���%�� ����� =��������� �� @����� =��������� ���� 2� ����������A������� (��������� 5-�
,��!�� ������+D�B;��*BDD�
B� ���E���������%%!$&�#��/�.!* ����� %��.0���!*��$&'����*!&$���.������Q������*BDD�
*;� -�-��(��������5�������������������������������� ������� ������������������ ���������
�!�������*!$����"%�!+������&�!�&'��$&��. �!+��$��$�%��Q����DB������+FF>�+FFC��*BC+�
**� ��6������������2��������� ��������� ,��I�������� ����6�-��1�������� :������ ���� � ���
��������������������������������������&��-�.��6������$,��%���,���!�+�*��$���*!$����"%��1��
��-*&'�����!*�%�+!*��!.�-��"������HF�D;��6P557��*BCH�
�'� ���������� ������� ���������
*+� -�-��(��������6�&���������������@�I��=�� ����������������������!�"��������������������
� �������&�-*���Q����8;>������*FB�*FB��*BC8�
*8� -�-��(��������5������������������������������������������� �����������������������������
�����������������������*!$����"%�!+������&�!�&'��$&��. �!+��$��$�%��Q����C*������8;CC�8;B+�
*BC>�
*>� A�@��I����������6�.��-���������!.�-��*%�&���,��*&$�&2'� ��5���'�����1�(������ ����*BDB�
*F� -�-�� (�������� ���� 6�1�� ������ ������� �� �������� ��� �������� �� ��� "����� ���!�� ��
�!'!"$&'�� 2�*���$%��Q����F+������*>*�*F+��*BCF�
*H� I�Q��1����������I�.��=�������7���������!������������������������ ������!�� ������� ���
(������������������!'!"$&'�� 2�*���$%��Q����FC������H8�D;��*BCC�
*D� 6�(����������I�,��(������������-��.�?�������$*BCF%����������������� ���������" ���
���������!"��#���$��$���Q����B��5���*������*>D�*HB��*BCF�
�������������� ��������
� � � � � � �
����� ���������
������������ �������� ����� �� ���������������������� ��������������������������������������
������������������ �������������������������� ������������������� ������������ �������!�"������
������� ��� �������� �������������������� ������������������ �������������� �����������������
����������������������������� ������������� ������������������ ���!������� ���� � ������������
������������ ����������������������������������������� ����� ���!
#����������� ���� ����������� �����
$ ��������������������������������������������� ��� �������������������� ��� � ������ ���
������� ������������� ��� ����������������!�%����������������� � ���� ���������������� ���
���������������������������� �������������&
$ �� ������������������ �������������� ���������������� � ������� �������� ����'��!�%��
������������ � ���� ������(���� ������������������������� ���� ����������� ��������������
����� ����!�%��� � ������ ���������������� ����'����������������� ����&
$ ������������� ���� ����� ���� ����� ����� ���� �������� �� �� �� ������ ����� �� � �����
���� �������������������� ������������������!�%��� � ������ ���������������������������
����������� �������������������������������� ���� ����������������������&
$ ������������� ��������� � ������ ������������������� ��������������� ����!�%� ����������� ��
���� ����������������� ��� ����������!
��� �� � �������� ��� � �� � �� ������� ��� �����(������������� ��������� � ���� ��� �� ��� � ��
������� !�%������ ������������� ������� �������������������� �������!�%����� ���� ��������
���������������� ������ �������� ������ ����������������������������������������������� !
%���������������������� ���� ���(�����'���������� ������������������������������������ !�)��
��������� ���� �� ����� � ������������������� ������ ������*�������������+� ����,-./�!�0����
����������������������������������������������� � �������������(��� ����������� �����
1������!�)����� ���(�����'���������� �����0*%������� ������2�������������3�� ������,-.4������
5��� �����,-4/�!
� � ���������� ������� ���������
���� �������������������
������ ����������
2���������������� ����������������������������� ��� ������������������ ������ ��� ���������
������������������������!�0�������������������������� ��������������������������� ����������
�������� ������ ���� ��������������������!�6������ ����� ��7���������������� ���������������
��� �������������� � ������!�0����������������� �������� ��������� � �������7���� ����!
0�� �������� ��� �� ��������� ���������������� � ����� ��5�!� ,8!,!�0��� ������� ��� � �� ���
������������������������� ������������ ��!�6���������������������� ���� �������������� �����������
���������������������������������������������!����������������������������������������������� �������
�������� ���������!�5��������������������������������������������� ������������������������
������ ��� �!
O
i
wio
������!���"��#�$�#����#%�"�
5��������������������� ������������������������ ������������������ ������������'���������
������!�9������������������������� �� �������������������������������������������������������
������������
� �
�
� ����� ��� !!!�,8!,�
������������ ���������������� � � ��������������������������
�� �� �������� !!!�,8!:�
0������ ������� ��� ���������� � �,��������� � �;!�%� � ��������������� ������������������������
��� ������ ��� ���� ������� ������ � � ���� �����(����(���� �����!� %��� �����(����(���� ������ � � �����
������������� ����������� ����� ���������������������������������� ��������������!�%�
�������� ���� �� �� ��� ���������� ��� �� ������� �������� ������ � �<0=>9%� �?�������� ,-.-�!� ��
<0=>9%������������ ���������������������������� �;���������������� ��������� ����������
��������������
�� �� � �
RST �
������ �
,!!!�,8!@�
��������� ��������������������� ��������������� ��������������������������������� ������������
������ ������������� � �
���������� ������������ ���������������� ������ ������������������������������������� ������
�������� ��� �������� ������������ �������������������� ������������'���!�5������������������
������ ������������ � � �������������������������������������������� �� ��!
)�������������� ��� ������ ������������������ �������������������������
���A�,� � � � � �
� � � �
� � � � � � ��
BB � � � � � � ��BB
�
�
�
�!!!�,8!8�
����������� ����� ��� ��������������������� ������������'��!�>����������������������� ���������
������������!
%�����������������������7�������,8!8������������������ ������������������������ ����
������������!�9������������������ ���� �����&�������������������� � ������� ������ � ������������
�� �7��������������������� ���������!�2�� �7������������������� ������������������� ���� ������
��������������� ���������������� ��� �����������!�%� ����������� � ���'�����5�!�,8!:!
��������� �� ������������������������������� ������������������ �������������������������������������������������
����� ������ ������������������� �����������������������������������������
��������� ���� �� ����������� �
C���� ��� ���� � � ����� ����� ����� ���� � �� ���������� ����� �� ����� ������'��!�D ��� ���
�����������������������7�������,8!,���� ����������������� ����� ������!����5�!�,8!@���
����������������������������������������'�������� ������������� ��!�>�������������������������
�����������������������������������'������������!�%���� ����������������������� � � �������
����� ������������� ���� � �������������������������� �������9��������� ��������� ����
� BB �E��BB�BB�E��BB�� !!!�,8!/�
��� ��� �����������������7�������,8!/�������� �����,8!,�������,8!:������������� �����������'��!
%���9��������� ����������� ���������������������������� ������7����� ��,8!,�������,8!:�!��� �������
������������������������������ ����������� ���������������7�������,8!8���������������������� ����
���������������������� ���������� ����������
���A�,� � ����A�� ������E� ���� !!!�,8!F�
w1
w3
w2
Weight vectorPattern vector
� � ���������� ������� ���������
0������������������ �������������������������!
0����������������������� ������� ����� �����������7�� � ���������'����!�9 �������������
���������� ������������������������������(���� ���������� �������� �������������������������
���������������'������������������������������� ���� ���������������������� �������������
������������� ��!�%������������ ��� ��������������'������������� ������ ������������������ �G�H
�������������������� ������������!�0�������������������������������������� ���� �����������
������� �������������������� ���������������������!�%� � ���������������������������������
��������������7�������,8!F�����
����A�,� ������A�� �������E������������ !!!�,8!4�
����� ���� �� ���� ������ �������� ����!�0� �������� ������������ �������� � ���7������ �� ��������������������0������1� �����������2�����I�<�������,--;�!������ ����������������������
������ ������������������ ��� � �������������!�%������������������ �������� � �� ����������� ���
���������!�2���� ����������� ��������� ���������������������� ������������� ��������� �������
�����!
������� ���� 9���������� ���������������������������������������� ������ ����������� �������
���������!� !�!�� ������������ ���������� ��� J������� ��� � ���� ����� ������ ��������� ����
������� ������� ������� ������������������������ ������ ������������� ��������������� ��� !
#������� ���� ����������� ������������������������������� ��� �� �� ���������!�0�������
�������������� ��������7������������������ ������ ����� 7��������������������������
� ��
� BB �E���BB:
!!!�,8!.�
������ � ������������������������������� ���� �����!�%�������� ������������������ ���� ���
������ !���� ���������������� �������������������������������� ��� ����������������������
7���������������������������������������������(�������!
W1
W2
XW1
W2
X
a b
�������� �������������������������� ������������� �������������� ����������� ������������� �����������������
� ���������� ������������ ����� ��� ���������������������������!�������������� ������ ����� �������� �������
���������������������"�#�$�$$�"$��� ����� ������� ������������������� ������!�� ���������������� �����
���������������� ��������� ������� ����������� ����������� ���������������%������&����������
��������'�����������������������"����������� ������� ���
��(�
������ ������������� � &
������������� %�������������������������������
��� �
�
� BB �E��� BB: !!!�,8!-�
������ � ���������������� ���� �������������������������������7!��,8!F�!
����� 0 ����7!��@!,:�����������������������������������������������������������������!�#��������
����
���� ��� ��
�
�
�
�
!!!�,8!,;�
�������� ������ ���������������������!�>�����������������������������������������������
�
�
�
�
�
� � � �
��RST
������ ���
������ �;!!!�,8!,,�
��������
��� ��� ���E������ �� ��
��E��� !!!�,8!,:�
����� ��7!��,8!F���������������������������������!
%�����������7!��,8!.�� ����'��������������������������� �� ����7!��,8!F�!
����!�������� ���5�!�,8!8��.���� ��� ���������F���������� ������������!�0�����������������
��������� ���9��������� ��������� ������������������ �����'���������������������� �� �;!�%��
���������� �������������� �;�,�������� �� �;�;;,����������� ��� ������������� �������/;;�������� ���� ����!
��������� )������������ �������������������� � ������� � � ��������� ��*+,��������������������������������� ����
-..����� �������������� ��*�,�
1 +++
++
+
++++
+
+
+++
++
0.9
0.8
0.7
0.6
0.5
0.4
0.3
0.2
0.1
0– 0.5 0 10.5
� � ���������� ������� ���������
������ ��"�#��'�(����(��#�
0����������������� ����������������������������� � ���������������7���� ����!�0������
7���� ����� ��������� ���������� �������������������� J���� �� ���� ���������� ��� ����������
���������������������������� �� ����������� ������!�!������� ���������������������!�%������������
������� ������ ����������������� ������������ ��������������� ��� ���� ���������������������
7���� ������������������ ����!�%���7���� �����������������������������������������������
����������������������������������� �������������������� ������������ �������� � �� ���� �
���� ������� ������ ����������� ������� ������������������������� ������������ ��7���� �����
������������� ������ ����������� ����� �����!�0��������������������������������� ��� � ���������
5����� ,8!/!� K������ 7���� ����� �������� ��������� �������� �� ��� � �� �� ����� ���(������
� ����'���������� ������ ������������� ������������� ���������������������������� �!
�������� ���������������� ������������ ������������������������������������� ������� ����� ��������:/�����������������
�����������:��!������ �� ��������������� ���� ��������������� �������������������������0�������� �����1
������� ��������������������������������� �������������������� ����������������� �������������������
� ������� � ��������������� ������ ������������������� ������� �������� ���������� �����������
����������������������� ������������� ������� �� ���
����� ������������������������������� �������������� �������������� ������������� ��� ���
� �������������������� ������!�"�������������������������� ��� ������ ������������������
���� ����������������� ���������������������������������������������� ������� ������
������� !�6�������� ���������������� ������L������������������M����������������L�������������
7���� ����M!
�����& �#��������#)(�(��#�
������������������������������ ��������� ��������������������7���� ����������������������������
������������������������������������������������������!�0������������� �������������� ������
x2
x1
Weight vectorInput pattern
������ ������������� � *
5�!�,8!F!�%� �������������������������������������������������� �������������������������
�������������N,&�:��O���P������� � ������������ ��������������������������� ��������
���� �������� ���������!�%� ������������������������������������������������ ��������(��
������������������ �� ���������������������� ��������� ��BB��E� BB�BB��E�BB����������������������N, &�: ������ P
������ ������������� �������� �����������������������!�0�����(����������������
�������������� �����2���������������������������"����(>�� ����,-..�!
Vectorquantisation
Feed-forward
h
i o
y
Wih
Who
��������� ���������� ������ ������2� ���� ����� ��������� �"3� ��������3��� ������� ���������������������� �
��������� ������ ����������������:����:�������������� ���:������������������-����4������ �� ���
Q�������������������������������������� �����������������������7���� �������������������
���������������������������������������� ���������������7���� ������������������������������
��������� ��!�0 ������������������������������������������ ��������5�!�,8!F�������� ���� ����
��������������������������
,! C�� ��������������������������������������������������� �� ���&
:! C������������� ���� ���7���� ����� ���!�5������������������������������������ ����������
� ����������������������������������������������� !�D��������������� ���������7�����
�,8!F�&
@! C����������� ���� ��������������� ����
���A�,� � ����A�� ���E� ���� !!!�,8!,@�
%� � � �����������E������������ ���
� ���� � ������ � ���������������������������� ���
������� ���������� �����!
��������������������������� ��� �
����� � �, � ������
; ������ �
RST!!!�,8!,8�
���������� ������������ �������������������������� ���
� �
�
z�
�� �������� !!!�,8!,/�
� + ���������� ������� ���������
!�!�������������������������� �������������������������������������� ������� �� ���������� ��������
����������������!�0 �������� ����������������7���� ����� ����������� ����������������������� ��
���������������� ��� �������������������������������������������� ������ ������������ ��� �
���������������!
>�������������� ���������� ���������������������� ��������������7���� ��������������������
����� !��!�!���� ������������������������ ���� �� ������� �� �������������������������������
��������������(������������������ ���������������������� �������� ���������������!�"��������
���������������������������� �� ������������������� ���������� �����R���������������������������
��������� �������� ����������� ����� �������������������7���� ��������������������� ����
���������������������������������!�)������ ���� ����������������� �� �������������������������
��� �������������������������� ������ �������������������������������������������� ����������
����(�������� �������!� %��� ������� ������ ��� ��������� ��� �� ������������� �������� ���������� � ��
��������,/�!
%���7���� ���������������������������������� �������7���� ����� ����� �� ����� �1������
������� ����������������� ��S�� ����#����������3������,--8�!�������������� �������� ��� ����
�������������������������� ��T�������5��������)� ���������#������,-.8&�5��������,--,�����
�� �������� ����������������������������� ����������������������������������������������
7���� �������������!�!���������������������������������������(�������7���� �����!
������ ��(��������"�#��'�(����(��#�
��� ���������� ������������������������������������������ �������?�������K������U���� ������?KU�
������ ���������� ������ ���� ������ �����!�3��������������� �������� ��� ��������������� ��������
7���� ������� ������� �� ����������������� ������������������ ���� ������������������ �������
����� ��������������� ���� ������ �����!�%�� ��������� ���������������������� ����������� ���
��������� ������������������ ������������������� �� ������������� ���&��������� �����������!�!����
������������� ������!
0������������������������ ����������������?KU������� � ����������������������������!�%�������
������ ��������������������� �����������
,! 6����������������������������� �������������� ������ ����������������� �� ������&
:! 0��������� ��������� � �������������������������������� ������������ �������� �&
@! D ���� ��������� ��� �������������������� ���������������������������������������� ,�
����������������� ������ �������� �� :�
BB���E� ,BBRBB���E� :BBRBB�
��E��BB����� ,�� :
8! %�������� �� � ,���� :��������������������!�%����������������������������7�������F!F�� �� ��
����������� �������� ������� ��!
0�� �������� ��� ���� �� �� ���� � ���� ��� ����?KU:� ��������� ���1������� �,-44��� � ��� ���
��������� ��������
$ ��� � ,������������� �� � :
$ ����BB���E� :BB�E�BB���E� ,BB�R�
$ ����� :���A�,�� � :����A�� ���E� :����
$ ���� ,���A�,�� � ,����A�� ���E� ,����
������ ������������� �
!�!�� :����������������������� ������������ ���������������������� ,������������������������
����������������!
%�������?KU��������� ����������������������� ����������������������� ������� ����������
��� ���!�!������������������ ������ ������������������(�� �������� ����������������������������
��������������������������������� �������������� ���������� �����������������������!
���& ,-������� �,
%���1����������������,-.:��,-.8��������� ����� ��������� �����������������������������������
��������� �� � � ��������������� ��������!� 0� ��� ���� 1������� �������� �� � �� ��������� ��� ��
��������� !
��� ����1������� ��������� ���� ������� ��� � ���� ���� �������� �� ���� �� ����� ������ �� �� ���(
���� ������������������������������ � ����������(���������!�%����������������� ���� ���������
� ������������ ������������������� ������������� !
>������������������������ �������� ������������������������������� ������������������ ��������
�������� ���������������������� ��������������� ������:� ���� �������������������!�!������������ ���!�%� ����� ��������������������� ���������������������������������������� �������������������
������������������ ��������� ����� ���������������������������� ������������������������� �
����������� ����������������������!�!������ �������������������� !�%�� �������� �������������
� ����������������������������� �������� �������������� �������������� ����������� ���!
%��������������������� ��� ���� ����'����������������� ������ � ��������������������� ����!
"����������������� ������� ������������ �� ��������������1����������������������� �����������
���� ������!�5�������������������������(����� ������������������������� ���������� ����
���� ��� ������� ����� �� ���(���� ����� 1������� ��������� ����� ���� ���� �������� ��� � ��� ���
���'����������������!
D �������������������������� ������������ ����� ��������!�0����������� ����������� ��������������
��� ��������������������!�D ������� ����������� �� ��� ������F!,���������������� � ����������!
>�������������� ������ ������������ ������� �� ��������� �������������� �������������������
���A�,� �����A������ �������E����� !!!�,8!,F�
"��������� �� ��������� ���������������������(� ����������������� ������ �� ����������� �� �
�,!�5�����������������������3�� ������������������� ���� �������������������� ��V������ �� ����
�E ��E� �:��� ���5�!�,8!4�!�Q�������� ������������������ ������������ ���� �����������������������
����������������������������������������� !�%�� ��������������������������� ��������������
���� ����������� ������������������� ����� �����������5�!�,8!.!
����������� ������ ������������ ��� ������������������� ��������������������������������������
������ ����� �����������5�!�,8!-!
%�����������(��� �����7����������� ����������� ����������������� ���������������� !�%��
����� ������'��������������� � �������� ���� �������� �� ����������������������� ����������������
������(���� �������� !�5������������������ ���� � ��������������� ����������������������� ���
���� �������������� �������������� ����������!�%��������������'��������� ������������� ������
� . ���������� ������� ���������
Iteration 0 Iteration 200 Iteration 600 Iteration 1900
��������� �������3���������� ������������������������������� ����������������������� ���5���5������
������� �� �������� ��� � ������� �������������������� ���������������������� �� � ��0 1" (�������������
�� � ��0 � 1" (" � ��� �� � ��0 1" ( " ����������������������������������� ���������/������������������������ ����
��������������������
�������� 6 ���� ������������ �����������0�1��!������� �����0�1������������ ���3�������� ������� � ����������
����
��������� ����� �������� ���3�������� ���������� ���� ���3�������� ��7������������
1
0.75
0.5
0.25
0
1
1
2
0
– 1
– 2
– 1
0
1
2
– 2
������ ������������� � /
��������������������������������� ����� �� �������� ��������������������� �������7�����������
��������������!�%���� ��������������������� ������� �������� �������������� ���������� �� ���
�������� ������������������� ����������� ������������ ������ �������� � �������������������� ��
��� ���������������������������� ����������!
������ ����������� ��� ���� ����������������������������������������� ������������ ���������
1���������������(��� �������� !�1��������� ������ � ���� ������� ��������������������������(
�����������1��������<�� ���������#��������,-.8�!�0� ����������������� ������� �����������
�� �������������������������� ���� �� �� �� ����� ������������� ��������������������� ���� ����
�3������1����������������3 ��������,--,�!
%����������������� ���������� ����� ��������������������������� ��1������������� ���������
�������� ������� �������� ���� ������ � ������ ��� �������� �� ��������� ��������� � �������� ��� �
������ !������������ ������� ������������ ������� ���������<������������ ���5�����,8!,;�!
Excitation
Lateral distance
���������� 8��� ��� ���9 ��� ������� ���� ����������������������� �� �������������� ��:����� �������� � �
������������ �������� ����������������
���� ��������������������� �,!
%���������� ���� ����������������� � ����� �������� ����� ���������������������� �������� �
���������������������������������������������������������� ���������� !�%�������� �������J� ���
�� �������������������������������� ������� ���������������� �������������� ����������������������
������������������������������� !
%��� ���(�����'������� ������� ���������� � ������������ ���������� ������� ������������������
���� ��������������������� ������ ��������������� ��� ���������������������������� ���������������
����������������������������������������� !�0���������� � �������5�����,8!,,!
%����������� ����� ����� ���,���:�������������������������!������������� ��� ����������,������:����
��������� ��������������������,������������������ ��������������������:���������� �� �������
���� ������������������������������,� ��:!��������������������� ������W8��������������,���:���� �� �������������������!�"����������������������������� ����� ������� ���������� �����������������
��������� !�0��������������������� ��������� �������������������������������������� ��������������
�����'������������������ ��!�%� �������������������������������������� ����� �� � �� �� �, :
���� � � �� �� �, :
������������ !�0������������������������������������ ����� � ������������������,��� ����
����������������:��� !
�.� ���������� ������� ���������
%� � ���� ����� � ���� ��� ���� �������� ��� ���� ���������� ���� ��������� ������ ����� ����
����� �������������������� �������������������� ���������������������� ������������ �������
�������������������� ������ ������� ��� ���!
%�������� �������� ���� ������������������������ �� ���"����������������������������� ����
������������������������!�������� �� �7����� ������������� ����������������������������������� ��
"������ �������� �������� �� � ������ ���� ��������������� ���� ������� �� ���� �� �� ������ �������(
���� ����������� !
������ �#�0(��1�%�-�22�(������
%������������ �������������� � ����������������������������������� �!�%���������������������
������� ������������� ��������������������� �����������������������������
���� ���������� !!!�,8!,4�
0 � ��������������� � ����� ����������� ������� ���������������"�������������!�"����������
�� ��"������������������������������� ���������������������������������������������������
������� !�%� ������������������������� ����������������������������������������������,������
���� �����������������������������
���A�,� � � � � � �
� � � � � �
� � � � � �
� � � � � � ��
�
�!!!�,8!,.�
��������$�������� ������������������������ ������������������������� ��� ����������������������!2��������� ����������������������������'�����������������������������������!�%��������������
������� �������'������������� ��������"��������� !
>���������������������������� ������������������������������������������������������������
�����%����������� ������������ �;�
�������A����������� �,�A���
���
�
� ;
�A����:� !!!�,8!,-�
���������� ������ �������������� ������
x2
x1
dx2
de2e1
de1
dx1
e2
������ ������������� �.�
6������� �� �������� ������ ���������������������������7�������F!,.������� ��� ����� ����
���:�!
���A�,� ������A������������ ,
;
:��
��
FHGG
IKJJ
�
� ��
�� � !!!�,8!:;�
#�����
���
�
�;
� �����:�� ��������������������������� ���������� ���
���A�,� �����A�����������������E��������� !!!�,8!:,�
����� �������������)J�����������������)J���,-.:�!�%� ����������������� ������ ����������������
� ����"������ �� ��������� �������������� � �����"������������������������������'� �� ������������
��������������� �������������������E�������������!�6��������������� ��� ������������������������
�����������X
������ ����"�)(���#0)#������3��("�#�
*������������������������X�2�� ��������(���� ����� �������������
$ <������ ��������&
$ 2������������������ ���������E����������E�����!
�������������������� �������� ����������������'����� ���� �;!
5�����7�������F!:,����� ����������������������������������� ���������)J����������������7���
�����A�,�B���� �����A�� ������E��������������� !!!�,8!::�
������� ����������� ������������
�
����� ������E��������������� !!!�,8!:@�
�����������"� ?���������������� �������������������������� �������� ��������������� ��� ����������,�Y��:�Y�!!!�Y��� !�6����7�������F!:@����������� �����������������������,!
����� ,� #���� ���� ��������� � ���#� ���� �����(���� ����� ������ ���������� ������ ���� ��
������� ����
��� �
�
�
� ������� !!!�,8!:8�
#�� ��������� �������������������7�������������������������������� ������� ��������� �!
�����& �#��������4�"�#��
������������ � ���������� � ������������ ������������ �������������� ������������������������
��������������������������������������!�!�������������������������� ����������������������
�.� ���������� ������� ���������
������� �������������������������������������� !�"������������������7�� ���������������������
����������������� ����������������������������������� �����������������!
2�� �������� �������������������������� ������������� ������������� �������� �����������
������#�
� �
�
�
� ��� !!!�,8!:/�
���������� ����������������������������������������,������������������������� ������� ����
�� ������������������� ������
Z� ���E� ,�, !!!�,8!:F�
������� ����������������������������� ��Z���������������������� ���������������� ,� �;�� ����
����� �����J� �� �����������!�6������� Z� ������������������!
��������� ������������� ������������� � ����� Z� �������� ������ ����������������������������
������������������������������ ����������!�#�������������������������������������������
����������������� ����������������������������������������������������������������������
��������!������������� � ����������������������������� ������������� ����������������
������������������������������:!�6���������������� � �����������������������������������
���������������� ������!
6��������������������������������������������� ������ �������
�� ��� ��
�,
�
�
� ���� � � !!!�,8!:4�
���
��, !!!�,8!:.�
#�������������������������� Z� ��7���
Z� ���E�� !!!�,8!:-�
%�������� ������������������������������������������������� ����������������(���J��������
����������!�2��������� ����0*%��� ����������������� �����!
���* ����������!�������-��5
%����� ���� ���� ����������������������� �� ������ ��������������� �������� ����������
���������&�� ������������ ������������������������������ ���������������������������� �����������
������������������ !
���*�� 6("7��#��%$��%()��4�����#�(�"���8�#�9
���,-4F��3�� ������������������������������������������������������!�%����������� ������
��������������� �
������ ������������� �.&
,! 0�������'�������������������������������!�T�������� � ��� ������ �������������������
������ ������ � �� ����� ���������!� 5��� ��������� ���� ������ ���� ���� ������ � ���� ��� �����
������ ������������ �� &
:! 2����� ����������������������������� !�%���������� ���� ��������������� ��������������� ����
����������������� ���� ����!�Q ���� ���������������������������� ������������ ��������
���������������������!�%��������� ��� �������� ������� �������������!
@! #����(�������������#%<�� �������������������� �(����������������!�T��������������������������
��� ��������� �� �� �� ��� ������ �� ���� ����(����� ������!� %��� ����(����� ������� �?%<�
�������� �������� ��������� ���!�!��������� ��������������� �����#%<� �� ��������� �
�������������� �������?%<!
%��� � ������� � ������������� ���,������:�����������������������������������������?%<�� ��
���������� �����;�� ����������
5�!�,8!,:�!�%���������������� ������������,�������� ���� ����������� ����������:!�0 ���������
����������������� ���������������� ���!�5� �������������'��������� �������������� �������������
������� ������� �������������������������������� ������������!
%������������� ���� ����������?%<���������� ������ ����������������������������������'������
������������������ ������������!�%������ ������� �������������������������������������������
������� �� �������?%<������ �������:�����,!���������� ������������������������ ����� �����������
������ ��������� ������� ���J�����!
���*�� ����$��8��!�0)��:��%�����(�����;#�7��#%��
%���0*%,� ���������������� � ������������� ���������������� ���������� �,�����;�����������,����������� ���������������:������������������������ ���5�!�,8!,@�!�9��������������,� �������������
���������� ����:��������������� (��������������������������������?%<���������������� �������
�����(���������������?%<�� �!�%��������������� ���������,�����:�� ,����� :����������� ���������!
9����������������������� �������������� ����������� ������������������������������������
��������������������������������������������� ,!�0�������������� ���,�������������������� ����������
��� ������ ������������������(���� ������!
Category representation field
Feature representation field
LTM LTM
F1
Input
F2
STM activity pattern
STM activity pattern
�.� ���������� ������� ���������
%��������� ����������������������������������������������������������������������������� (
������������ ����������������� ����������� ����������� !�%������������������������� ��������
������������ �����������������!
3���:� ����������������������������������� ���������������������!
3���,��7��� �����:�����������������������������������������:������� �����,&�������� ����������
'���!
5������������� ��� ����� � ��������������������������:���������������������������������������,������������������� ���������������!
���*�& )��(��#�
%����������� � ��������:���������:������������������ �����!�%� � ����� ������ ����������������
���������?%<���������������� ���������������������,!�3���,� ���������������������������� ����,������������������������������������:�����������!
��������� ��� �� �������� ����������������������������� �������� ��� ��������������������������
�:�������������� � ���������!
�� ����� ��� ��������� 2��������� ���� 3�� ����� � �� ������� ��� ���� � ���� � ��� ����������
�7����� ������ ��������������������������?��������,-.4��
,! �����'�����
!�� �;� �,
!�� �
,
, �
��������� �����;��"����� ���������
j
M neurons
i
N neurons
G2
G1
F1
+ +
+ +
–
+
Wb
Wf+
–
+
Reset
Input
F2
������ ������������� �.*
�������� ��������������������� ����,��"��������������������� ����:��;�����R��������;���!�R�"!0� ������� ����������������� ��������;�������,&
:! 0���������������������������&
@! 2����������������������� �������������� ����:�
��� �!
�
�
�,
� !� ����, !!!�,8!@;�
8! #����������������������� �;��� ���"�&
/! K��������� ����
� �
� �
�� � �
�Y�� !!!�,8!@,�
������������� ��������������������� ����4���� �������� ����F!�>���������� ������ �������� ����
��������������[���������������������������#�����������������������������&
F! >������ � �� ������������������������!�3����� ����@&
4! #������������������������
� ����A�,� �� ������
� �� ���A�,� �
� �
� �
��
�
��
�
�
�
� �
� �,
:,
�
�
.! *�(����������������� ����:����������� ����:!
5�!�,8!,8� ��� ��������������������������������!
���*�� �����$��8�������(���#%��
���������������2�������������3�� ������,-.4����� ���� �������������������������� ��������������
���� �����������������������!�6������������ �� ������� ���������0*%�,!
%��� �������� ���������� � �� ������(���(������� ��� ������ ��������� �"�������� ,-4/�!� %�
������������ ������������������������������������ ������� !������������������ ���������������!�!�
����� ���������������������������������������� ������� � ������� � �������� ��������������� �
��������������������������������!
%�������������� ���������� ������������������ ������������������������������������ ����������
����� �������� ��������������!������ ���������������� �� ����� ���������(������������������������
������� ��� ������������ �7��������&���������������������������������������������������� ��������
����� ������������������ !�T�������������� ��������������������������������������������� ��0*%,
������� ��� ��������!
�.+ ���������� ������� ���������
���*�* �#�0(��1(��#��#:��8�������(���#%��
6�������������������������,�����:����� !
9��������� ����,�����:������ ���������$ ������� �������������������������� !
��� ������ ��� ��������� ������'����� �� �������������� ��� %� � $ � ���� ���� ���� ������� ����
���� ���� � �$ �%E,!
#�������������������������������������������� ��� ��� �����������������������������
$ ������ ��������������������������� ��������� �� �����������������!�!������ ��������� ���
�������������������������������������������� ��
�� $ �
�
&
$ �� ���������������� ��� ��� ������ ���������������������� �����������A&$ &
Notactive
Backward LTM from
Inputpattern
Output Output Output
1 2 3
Output
4
Notactive
Notactive
Notactive
Notactive
Notactive
Notactive
���������� ����� ������� ���� �� ������� ����) ��������6��� �������������� �������� ������������ �� ��� �����
� ����������������������� ���������2����� �����<����������������������� �������0�����������������������������
���������������������1� ��������
������ ������������� �.
$ �� �������������� ��� ������������'�����E� �$ &
$ �� ���������E'� !
"�����'�����&�������� ���� !�%���������������7�������������������� ����,������:�����
��
��
�E'� �A��&�E�� �$ ���
�� $ �
�
!!!�,8!@:�
����;���� �;����&������ ������������������������������������������������������������������!
0���7���������������
��
� �;����������%� � $ � ������������
� �'�A�,� �&$ !!!�,8!@@�
T���� ��������������������� � �$ �%E,�������
� ��
&%
' %!!!�,8!@8�
%��������������7�������� � ����������������� ������� ���
&%
' %��& !!!�,8!@/�
%���������������������� � � � ������������ �&���� �������'��!
���*�+ �#���(�����8(�"�0���
��� ������ ���������:� ������ ������� ��� ��������� � �� ������� ���� � ���,� ���� ��� �� ���� ������ �
������������ ������������������� � �������������������������� ����������������������!�6�����
����������7!��,8!@:����� ����� �������������!������������������������������� � ���������������������
�7���� ������� � ������������ �� ���,�����:!�%� ������������������������������� �������� ����
����������������������� �������������������� ��������������(�
��
��
�E'� �A��&�E�� �$ �E��� �A�(� $�� �
� !!!�,8!@F�
0���7���������������� ���&� ����E,��(��������� ��������������������� ��������
� ��(%
' % �
�
FHG
IKJ�
,!!!�,8!@4�
>��������������������������������$ ������7���� �������������������� �����'�������������������(�
������������������ !������� ���&������E�,�(����(W�&�A�(����,W������������������������� ������������������!
%����� ����������0*%,�������� ���������������������������7����� ���������?%<!��� �������
���������2�������������3�� ����� ��� ���������������������������� �������������� ���� ��������
?������!
�.. ���������� ������� ���������
�'��!����6��,�
,! 6�������������������� ���� ���(�����'���������� X
:! 6���� �������������������������X
@! 9���������� ������� ������������������������������������� �������������������!
8! Q� ��������� 7������������������������� ��������7������������������ �����!
/! Q� ���������������7���� ����� �����!
F! 9������������������������������������!
4! Q� �����������������������7���� �����������!
.! 6���� �1��������������X�9�����!
-! 9������������'���"����������!
,;! Q� �������������� �������������!
,,! 9������0*%�,���������������!
,:! Q� ���������������'��������0*%�,!
���<������!�
,! Q!9!�*��������������Q!�+� ����5�������� �������������������������!�(�����)���*���*��
K��!�-����!�4/(,,:��,-./!
:! 3!0!�2��������������#!�3�� ������0��� ������������������������������� ���(�����'���������
��������������������������(��+��,�-�$���� ,.���*$��.���%�.���/,*�$$�����K��!�@4����!�/8(
,,/��,-.4!
@! #!� 3�� ������ 0������ �������� ��� ������� ���� ���� ��� �������� �� I� ���� &����*.�
(���,����*$��K��!�:@����!�,:,(,@8��,.4(:;:��,-4F!
8! 1!� 5��� ����� 2��������� 0� ���(�����'��� ������������ ������� ��������� &����*.�
(���,����*$��K��!�:;����!�,:,(,@F��,-4/!
/! 1!� 5��� ����� >������������ 0� ����������� ������� �������� �������� ��� ���� �������
�������������+,.�����, $��K��!�,����!�,,-(,@;��,-..!
F! *!C!�?��������*��������������������� ����� �������������������+,.��(��+�.����K��!�,�
��!�,(@.��,-.-!
4! #!2!�0������0!1!�1� �����������C!�2�����Q!�<�������2������������������������ ����������
7���� ��������+,.�����, $��K��!�@����!�:44(:-;��,--;!
.! *!"!�>�� ����2������������������������ ����+,.�����, $��K��!�,��>�!�,@,(,@-��,-..!
-! 0!�S�� ����C!C!�#������C!�K������������5!2!0!�3������>� ����������� �����������������������0!5!
<�������9�!�����+,.�����, �'����*.���$��1������0�������C��� ��� ��,--8!
,;! ?!�T�������S!"!�5��������*!0!�)� ���������2!S!�#������(�.$$���*.����.������,�$$����,��$!
6�� ����������T��� W2�����,-.8!
,,! S!"!�5��������<��������������������� ��� ���� ��'��.�$�����.��$��*$��K��!�,-����!�,(,8,�
,--,!
������ ������������� �./
,:! %!�1��������'$$*�.��)��"��,���'���$���0���,���*.��'��,.*���#������(K�������,-44!
,@! %!� 1�������� #���(�����'��� ��������� ��� ������������� �������� �������� ��� �� T�������
2�������� ��8@��/-(F-��,-.:!
,8! %!�1������������0�,�.��1.����.���'$$*�.��)��"��,���T������#������(K�������,-.8!
,/! %!� 1��������<!�<�� ����� ���� %!� #�������� C��������� ��� B� ������� ����� �������� ��
������������ ������� � ���� ������ �����������%��/,*������$��� ����2��� %����%���,�.���.�
(���,��*����/.���,����*��������QD>>)��,-.8!
,F! 2!�3������1!�1����������������S!�3 ��������0��������������� ���(�����'��� �� ��(�� ����
������������� �������� ��� �� ��� %!� 1������� 5!2!0!� 3������ ���� ?!)!� "���'������� �9� !��
/,*������$���������*���%���,�.���.��(���,��*����'+���+$���$���$��9� ����#�����
C��� ��� ����!�8,4(8:@��,--,!
,4! 9!�)J���0� ��������������������� ��������������������������'����3+,�.����".����.��*.�
&������K��!�,/����!�:F4(:4@��,-.:!
,.! #!� 3�� ������ 0������ �������� ��� ������� ���� ���� ��� �������� �� I� ���� &����*.�
(���,����*$��K��!�:@��,:,(,@8��,.4(:;:��,-4F!
,-! *!C!�?��������0��������������������������������������� ��%�����,.�$.*���$���'*+$��*$�
����*���.�������.��/,*�$$�����K��!�:�>�!8����!�8(::��,-.4!
:;! 3!0!�2��������������#!�3�� ������0��� ������������������������������� ���(�����'���������
��������������������������(��+��,�-�$���� ,.���*$��.���%�.���/,*�$$�����K��!�@4����!�/8(
,,/��,-.4!
:,! 3!0!�2��������������#!�3�� ������0*%�:��#���(�����'�������� �����������������������������
����������������������� ��'�����������*$��:F�:@���8-,-(8-@;��,-.4!
::! S!0!�"��������(�+$��,����'��,����$��>���\�����S����6����I�#�� ��,-4/!
���������������� �����
� � � � � � �
���� ����������
������������ �������� ������������� ���� ���������������� ������������ ����������������
���������� ����� ����������������� ����� ��������������� ����� ����� ������������������ ����������
���� ������������������� � ������ ��������������������� � �����������������������������������
�� ��������������� �������� ������ ���������� ����������������� � ������������!�����������
������������ ����� ��������� ��"���#� �� ������������������������� ������� ��������������� ���
�� ����� ������������� ������� ��������� ���"� ����������������� ��������������� � �������
����������������������� ����������� ��� ����� ������������������������������������������"��
�������������� ����#��������������������������������� ���������� ��������������������� � ��������
��������� �� ���� ������������$� ����"�������������� ������ �� ����������������������� �
�� ���������#���%&�%� ��� ���������������'�������������� ����������������� � ����
Critic
Reinf.learningcontroller
System
Reinforcementsignal
xu
�J
��������� �������������� ������������
���� � ��������
"����� ���������� ����������� ������������������� ����������������� � �����������������������
�������� ��� ���� ������ � � ������$�� �� ��������� ������� (������� ��� ������������ ������� �
������������������������� �������(����������������������������� �������������������������������
������������ ������� ���
��������������������� �������� � ���������������)�"������������������������ ������������ �������
������������������������������*� ����������������������������� �+,������-����������.���� ��
+%/012�� �������������������������+"32����������+-�������%/002������������������
-���� ���������������� ��������� � ����������� ������������� ���������+���������2��� �������������
� ���� ���� ��������������������� �+������ ������� 2�����"�������������� ������ �����������������
���������������������� ������������� ������������������������������ �������#���4�%��3��������
��������������� �����+���������2������� � ����� ���� ����������������������������� ���"����� �������
����� ������������������������������ ���5
�+���������2 6� �� �
� �
7
�
�
� ��+���������2 ���+%&�%2
�����������89��%:� ���� �������������+� ��������9�/&2�
"����������������������� ���� ����������������� �����������5
�+���������2 6��+���������2�;���+��;%����;%����;�%2 ���+%&�<2
������������� � ������������������������������������������� ���� �������� ������� � $� � �������5
$� +���������2 6��+���������2�;��$� +��;%����;%����;�%2 ���+%&�12
��� ���� ������ � � ���� ���������� �������� ���� ��������� �����������+�2� �������� ���� ���� ��������� � �� ��������������������������� 5
�+�2 6�8�+���������2�;��$� +��;%����;%����;�%2:�7
$� +���������2 ���+%&�=2
.��������������������������� ������������������� �+�2���� ���������$����<+�2������������5
�+�2 6�7+�2�
�
$+ � � 2
+ 2
� � � �
�
� �
���+%&�&2
�������� ������������������
���� � ��������������������
������������ ���������������������������������������������������������������������������� ����
����������� ������������������������������������ � ���� ���� ������������������ � ��������"����
��������� ������ ���� ���5
%� ����� ������������ ����������� ������������� ��������������������������"�������������
������ � ��������������������������� �� � �������5
�� 6�����U
$� +���������2 ���+%&�>2
��� ������ ������������� ���������
"���!?'������������� �������������� ��������@'��������+A�� � �B�3������%//<2��"���������
���������� �������������������������������� �� �������������� ������
<� ���������������������� �����+���������2� ��������������������������������������������� �������
���������������������������������������������� ������������������������� � �����������������
������� ���� ����������$������������� ����������������������������� ������������������������
��������������5
��+�2 6� 7$+ � 2
+ 2��
�
� � � �
� �
� � �
�
� �
��
+ 2
+ 2���+%&�42
������ ����� ���� �������� ������A���� � +%//<2� �� � � �� ��� ������� ��� �� �������� �� ��
�������� � ���������-���������A���� +%//<2��������������� �������������� ��������� � ��
����$���������������������� �
1� .���������������������������������������� ����� ��������������������������������������������
���������������������� ����� ������ ������(������%&�1��-���� �������������������������� ���
����������$����C������������ �������� ���������������������� ���������������������������
�������������� ��������������������������������� ������������������������������������������ ������
�� ��������������������������������������� �������������$�����"������� ���������������� �����
�� ��������� ���������������������������������������������� ���������������������?������
���� ����� ����������������'���'�������������� ���������� ������� � ���������������
��������������������� ���� �(����� �
D���������������������� � ������������� ������������ �������� �������� ��������� �����������
��������������� ������ ������������������������ ��*� ����������������� ������� �������
��� '�������������� ��������������������������� � ���� ���� ��������� �+,�������������%/012�
E������������������ ����������������������������� ��� ������������������ ����� �������������
�� ���� �������� �������������������������� � ��� � ���� ������������������� ��D��������
+%//92������������������ ������ ����������������� �
���� ��������������� ��� ���������������������
,������-����������.���� ���+%/012���������������������������������������� ����������� ��������
�������� ������������ ������������� ������������������������"��� � ������ ���������,������������
���� ����������������������'������������� ������ � ������������������� �+������������� ����2
���������� �(����� ���������������� �����+������ �������2������������������������ ������ ���������
��������������������������������� ���������������������'����������������������������������
������� ����������� ������� ���� ������� ��������� ���� ���� �� �� ������� ����� ���� ������
�����������+A���� ��%//92�
"����� ������������� �������,����������� ��������. ������-������E�������+.-E2�����
� � ��� ����� �������������������������������������������������������������������������.�����
C���� E������� +.CE2������ ����� � ��� ��� �� �������� ��������� ��� ������� ������� ��� ��� �����
+#���%&�<2��"������������������������� ����������������������������� ������ �� ���+�������������
���� ��� �� ��� ��� �������� �����2� ��� ��� ������ ����� ���� ����� ������� #��� ��������� �� �������
��������� ������������ ������������ � ���� ����������������������������.���������������� �����
������������� �������5
������������ ������� ���
� 6�9 �
������ �
� �RST7%���+%&�02
������ ���� !"#!$%��%"& '
���� ��� ����������������������.-E��� �����������������������+�2��F9��%GH�� ��� ����� ����������������������������"���������������������.-E� �� ���������������������� ����������������<�����
�������� �������������� ������������������������������ ���������� ��� �� ��� ����� �����������
���������$������������ �������5
�+�2 6� ��� �
�
�
�
�%
+�2�;��� ���+%&�/2
"��������������������� ������� ����� ��������
��+�2 6��+�2�% 9
9
�
������ �
� �+ 2 RST���+%&�%92
#�������������������� �������������������������������� �� ����������������������� ��������
��������������������� ������+�2��������������������� ��������� ���������������������9+�2���+�2���
���������������5
��+��;�%2 6���+�2�;��+�2���+�2 ����+%&�%%2
������� �������������������"�������������� �������
��������� �������������� ��������������� ����������������������������
Reinforcement Reinforcementdetector
Decoder System
ACE
WC1
WC2
WCn
WS1WS2
ASE
WSn
State vector
Internalreinforcement
yo
�T
T
��� ������ ������������� ���������
��+��;�%2 6����+�2�;�+%�7��2��9+�2���+�2 ���+%&�%<2
�������������������������������������"����������� ��� ���������������H���� ����������� ���� �����
��������� ������������������������������������������������� ��������
I ����+�2�������� ���+%&�%%2��� ������ ������������������������������ ������������������ ���
���������������������� �������� ���������+�2��� ���������������� ���������������������� ����� $�+�2�����������.CE�� �� ���
,���������.�������+%/0&2���������������������������� ������� ���������������������������� ��
����������������������������� ������������������������� ����������������� �����+�'���� ����2� ����
��������������� � ������������������������������������������ ������������� �����������������������
� ������������ ������������������������������������� ������������������������ ��"������ ���
�������������+ ����2� �������������������� ������ �� ���� �������� ��"���������������������������
�������������� �� ���������������"����������������� ������������������������������������������
����������������������(������������������������� �� ����� ����������� ���������� ������ ����
+J�� �� ����3����%//<2� ����� � �������� �'����� (���� �������� ���� ����� ������ �� ���'�����$��
(���� �������� ������������ ��� ���������� ������������ ��� ������������������������
������ �(")#!$%��&!#!
"���.������C����E�������+.CE��������������������� �2� ��� ���������� ����� ��� �������
������4�%��.�������� ����� ������������������������������������������ ���� ���������� �+����
�� ��������������K2����� �� ������������������.CE5
$� +�2 6��+�2�;���+�2�7�+��7�%2 ���+%&�%12
�+�2� ������������� ��� ��� ���������� ������������.CE� ��������
�+�2 6��� ���+%&�%=2
������ � ���� ��� �������������������������������6�%��"����������� ���������������� ������������
��������������������'������������������� �������������� $� +�25
���+�2 6�� $� +�2��+�2 ���+%&�%&2
�� ������������������������������+�2������� �������������������������5
��+�2 6����+��7�%2�;�+%�7��2���+��7�%2 ���+%&�%>2
"� ������� ������'�� �������������������������������������������� �������� ������������ �
����� ������� ��������������� ������������������������������������� ������������ $�+�2� ��� �������
��������������� � ������ ��� ������������������������������������� ���������� $� +�2������� ��
������������������� � ����� $�+�2����������� ������� ������������������������� �����
������ �'%��"&#���*%��+�#%,
.������������� ������ � ���� ���������'�������������� � ����+ ���#���%&�12����������������
������������� ��������������������� ����������������������������� � ���� ���� ��������"�������������
����� �������������������������������������������������������������������������������������� �����
���������� ��"����������� ������ ����������� 5
������������ ������� ���
� ������ ��������������������������� �
� �������������������������������������
&� ��������������������
&� �����������������������������
#�������������� ��������������� � ���������������������������� ��������� ����������� ����������
�������� ���� ����� ���� ���� ���� � ���� ��� ���� ����� �������� ���� ����� ���� ���� ������ ���� �������� �����
��������������������������������������"��� ����� ����� �������������������� ����������������
(���� ��������� ���� 5
%� � 5�L9�0��L<�=��
<� � 5�9M��L%M��L>M��L%<M
1� &� 5�L9�&��L���N
=� &� 5�L&9��L��MN
"� ����� �1���>���1���1�6�%><������ ������ ������������������������������ �������������� ��"��
��������������� ���%><'���� ������������.��������������������� ����� ����������������� ����
��������� ��������������� ���������5
�������O�<�=����P�7<�=����O�%<M������P�7%<M�
"��� � ������ ���������� ������������������������4&��������� ��� �
���� ����-����������������.�/��������������������
"����������� ��� ������� �������� � ��� ��������� �������� ����� � �� ������ ��� ����$�� �� ���������
��������������� ��������������(���������� ������ �(���������������������� ���������������������
�������������� �3������Q����������+3Q2��"���������� ��� ������������������������������
��������������,�������+%/&425�A���������������� � ���� �������������� ���������������� ���������
x
F
�
�������� ����� ������������
��0 ������ ������������� ���������
��������������������������������������������������������� ��� ����� �����������������������
��������������������������� ������ � ���� ��������� ������������������������ �����������������"��
�,��������(����� �����������������������������������������������-����������(����� ���� ����
������ ��������������������������
. �������������������������� �����+���������2�6� � � � �� �
� �
�
+ � � 2
�
� ������������������������� � ��
���������$����"����������� � ���������� ������������������������,��������(����� ����3Q��"��
�(����� ���������� �������� ������+A����B�R�������%//<25
���+���������2 6���� ��
8������;%����;%����;�%2�;��+���������2: ���+%&�%42
���+��2 6��+��2 ���+%&�%02
"��� ������������������������������������������ � � ������(������+%&�%42�����+%&�%02�����
����������������������"� ������������������ ���� �� ���������� ���������"�����(������� ������
����������� ���� �������������� � � ����� ��� ��� ��� ������ ����� �������� ��� ���� � ���� ���� ���
�����������"����������� ������������������������������ ���� �� � ���� ���� ��� ����������
� ���������� ��������������� ������ �������� ���������������� ������������������������������
����������� ����� � ��� ������������������������������������������������������������ ������������
�������� ���� �������� ��������������� � �� ������ �������(������%&�<�
!������������������������� ��� ����������������������� ����������������������� ������������
��� ���� � �������������������!?� � ������������������������������� ���������������������
�����(���+,������-�������B�A�� � ��%//92�+-�������,������B�A� ����%//<2��+A���� ��%//<2��"����� �
����������������!?'�����(������3Q� �@'��������+A�� � �B�3������%//<2��"����� ��������@'
�������� ����� �����������������@����� ���� ���������� ���������� ������������ �������� �����
��������� � ����+���������2�+����������@'������������� ������A�� � ���������2��#�����������������
�������������� ��������������5
$� +���������2 6�����+��;%����;%����;�%2�;��+�� ���� ���2 ���+%&�%/2
"����������������������������������� ��������� ���� $� ������������������������������������������
�������� ����������������������$� � $� ��������������(������4�>�
"���� ����������������� �� $� � ���������������� ������;�%������������(������4�&��"�����������
����������+�2�������������������������������������������� ������� ��5
+�2 6�8���� ��
� $� +��;%����;%����;�%2�;��+�� ���� ���2:�7�$� +�� ���� ���2 ���+%&�<92
A�� � ��� � ����������������������������� ������� �������' �������������� ������������
�������,���������(������+A�� � �B�3������%//<25�+%2���������� ������������� ������ '��������H
+<2�������������������������� �������������$���H�+12���������� ����������������������������� ���� �
������������ ������� ��1
�2������������
%� E��������������������������� ������
<� A�������� �������� ���������� ������������������ �� ��������������������������������
� ���� ���� ������������������ )
1� 3� ���������,����������� �������������������������
=� A����������������������� ����,����������� )�E�����������
&� E������������ �'�������������� ������
>� 3� �������������������������������� �(����������������������� �
���-��������
%� .�D��,������!�-��-�����������C�A��.���� ����S������� ���������������� � ��������� ���
����������������������� ���EEE�"��� ����� ����-� ��� ����������������������T����%1�����
01='0=>��%/01�
<� !�-��-�������?������������������������������ ���������������������� �������������������T���
1������/'==��%/00�
1� C�R��C����A�� � ������Q��3������@'��������������������������T����0������<4/'</<��%//<�
=� Q��A���� ��.������������������������������������'����������������������������������
3��-�����B�3��A����+E� �2�� ���������!�"���##������������#�������#����$$������� �����%�
����������T���S� ������!��������S���U�� ��%//<�
&� 3��-����������3��A�����.�������������5�������������������������������������3��-�����B�3�
A����+E� �2�� ���������!�"���##������������#&������#&���$$�&����� �����%�� ����������T��
S� ������!��������S���U�� ��%//<�
>� .�D��,������!�-��-�������C�A��.���� ����S������ ���������������� ���������� �����������
��������������� ��"'''�(��������������)����*�����������������������T����%1������01='0=>�
%/01�
4� T��D����������.� ����� �������������������������������������������������'������������� �
�����#����������T����1������>4%'>/<��%//9�
0� Q�A��A���� ��.������������ �� �������������������������������������A�"�*�������!�-��-������
B�Q�R��A���� �+E� �2�������#���������!���������#��*�"�Q�� N,���������%//9�
/� .�D�� ,������ ���� Q�� .�������� Q������'������$��� ����� ��� �������� ���������� "'''
(��������������)����*�����������������������T����%&������1>9'14&��%/0&�
%9� ,�R�.��J�� �������R�A�*��3����?������������������ �� 5�.�����������������������������
�������������������������������Q�������� �����#.CN�#�QN�*.C-��������������-���� ��
���.���������������������!���'"���C��������3����5��#.C��?��������������</&'199�%//<�
%%� !��,��������+���*��,�����**�����Q��������I��� ���Q�� ��%/&4�
%<� 3��A���������*��R���������������������5���������������������������������������3��-�����B�3�
A����+E� �2�� ���������!�"���##������������#�������#����$$������� �����%�� ����������T��
S� ������!��������S���U�� ��%//<�
��3 ������ ������������� ���������
%1� .�D��,������!�-��-�����������C��A�� � ��-�(���������� ���������� ������������������ ����
3��"����� ��+E��2��.����� ��������#�"�!��*������,�������������3ISS���%//9�
%=� !�-��-�������.��,����������!��A� ����!�������������������� �����������������������������
"'''�������#�)����*���T����>������%/'<<��%//<�
%&� Q��A���� ��.������������������������������������'�����������������������������������3�
-����� B� 3��A���� +E� �2�� �������� �!� "���##������ ������#�������#�� ��$$��� ���� �����%�
����������T���S� ������!��������S���U�� ��%//<�
%>� C�R��C����A�� � ������Q��3�������-#��������������������������T����0������<4/'</<��%//<�
���������������� ����������
� � � � � � �
���� ����������
������������������ �������������������������������������
�� ��������������������� ���� ������������������������������������������ ����� �������������
�������������� �������� ����� ��������������������� ����� ��������������� �����
�� ���� ��������������������� ������� ����������������� ����������������
�� ��������� ������������ ������������ ���������� ����������������
!� ��������������������������"���������� ������������������������� ����� ����� ������
������������������������� �������������������� ����� ����
#� �������$���������������������� �������% ����� ������������� ����� ������������� ����
��� �������� ������� ������ ���� ���� ������� ��� ������ �� ������� ����� ���������� �����
&��� ��������������������������������'����������� ������
(� ����������������)�� ����� ������ ��������� �� ���� ���� ����������� ��� �������� ���
������������������ ��������������� ���������������������������
*� ��������� ��������������� ������ ������ ����� �������
+� ���������,����������������������������������������� ������� ��������������������� ����-
���� ��� ���������� ���������� �������� �������� �������� ����� ���� ���������� ���� �� ���
���� �����
.� ����������"���������� ������������������������ �������������������������� ����������
�������������� �����/����������� � ���&����� ������)�������������������������������
�����
�0� ���������1��� ������� ���������������������� �������2������
��� �������������3����� ������� ��� ��� �������� ����� �� ������ ���� ���������� ��� ��� ���
� ���� ����������� ���-��� ����� �� ������� ������� ������� )������� ���� ����� ������� ��
�������� ������� )������� ���������� ����� )������� ���� ������ �����- ���� )������� ���������
��������� ��� ��������� ����������� �� ��� ����� �� ������ ���������� � ���� �������
�������������% ������������������������������������� ����������� �� ������ ��
�����
� ���������� ������� ���������
��� �������4����� �� �� �������������556�����5�6���������������������������������2��������
�������������������������&������� ���������������)������������������� �-�������
��������
��� ������ ��5&����������
�!� !�"�����/��% ����� ����������� ����������������������� ������������������������
�#� #�����7� ��� ������������ �� ��������������� ������� ��������&�-��-�� �����������
�(� #���������3�� ������������������� ����������������� ������������������������
�*� $����� ����������8������������ ��������������������������������� ������-��
������������������ ����������� ��������������� ������������
�+� $�������������/�� ���� ��������������������� ��� �����������������������
���� �������������
������������������������ �������������������� ������������������������� ���9����������������� �
���������������� ������������������� ���������������������������������������������������������
��% ���� ����� ��� ������ ������ ������� ����� ������� �� ���� ��� ������� ���� ����-��������� ��
������������������� ���
8�������� �������%������ ���������� ��������������������������������/����������
�������������������������������:��������.+.;�
< =������� ����� �
< 8����� ����� �
< >���� �
< /��% �������������
������ ������������������
?����� ��������� �� �������������� ������������������������������������� ������ �� �������
$������������ �� ��������������������������� ������ ����������������������������������������
�������������������������������� ���������������������� ���� ���������������������������������
����� ���/��������������� ������ ������������ �������������������������������������������-
�� ����:@����A;�������������������7� ��� �������������������%����������������������� �����
������������ ��������������������������������������������������������������������:�
=�����(��;�
������ ������������������
/���� ������ ��� ����� ��� ��������� ����� ��� ��������� ���� ����������� ��� ��� ��-�� ���� ��� ��
������������ �� ������������������������%�������������� �� ���������������������������������������
����������������/���������������������������������� �� ���������������������
/�� ������ ����� � ������ ��� ���� ��� ����� ��� ��� �������� ���� 4 ���� ��� �����
)������������������������������������������������������������������������ ������������������
)�����������&���� �����������������������������������������������7���������������������������
�)�������������������� �������������
���� ���������� ����� ���� � �
����� !������
>���� ��������������������������������������������� ���)�������� �����������8������� ��
� ������������������������������������� ����������-�� ������� ������������������ ���������
�������� ���&����������)����� �������������������������%������ ���������8������� �������������
����� ������������: ����� �;�������������������������� ����������������������������� ������
� ������/� ����������� ����������:������;�������������������� ��������������� ��)�������
������������������������/������� ��������� ������&����������������� ����� ��������
< /�����������������@���A��8���������������� ����������������������������������������:���
������������������������� �������;�
< 8���������������������% �������������� �� ������������ ����� �����A���/�������� ������
��������������% �������������������������������������:����A���������������������������
� �������������������� �������������;�
�����" ���#�����!�$���������
/�������������������������������������������� ������������������ ��%������������������
����������� ������������5&� ����������� ������������������ ������������������������% ����
���������
8������������ ������������� ���������������� ������������������ ������������������������������
��-�� ���� :��� �� ��� ���������� ��� ������ ����� �� ��� ���������� ����� ������
�������������;�
�����% &��'&((������)���������*
/��������������������������������� ����������������������������������������������-�� �����������
�������������������� ���������% ���$�������� ��������������������������� �������������� ��������
�������������������������������������������
< >�������������� ����������������������������������������/��� ��������������������������
�����������������������������������������������&�� ����������������������� �������
������ �� ��������������������������������������������% ������������������
����������-������� ����������������������B
��������� ������������� ������� ��
tool frame
base frame
3
2
1
4
� � ���������� ������� ���������
< $�������� �������������������:������������������� ����;�� �� ��������%�������������
�� �����������:�������������� ����� �;��/����������������������������B
< 3���������:����� �� ������;����� ���������������6������ �������������������������������
���������������������� �����������
�����%� ����+��������(���,��+�������-�
7����������������������������������������������������� ��� ������������������������� �C�/�
������ ��� �������� ����������� ��������$���@�����������A�������������� ��� ��������� ���������
� ���������������������������������������:������ ����������� ���������������� �����
�����������������������A���������B���������������� ���������������������������;�����)����
������������������ �������������������������� ���������������-���-����������)���
� ���������������������������������=������������������������� ���&�:�������D;� ������
�������������������������������������&����:��������������;�������������������������������
�������������
������ ������'��.��������������������,�������/00��1�������
/����������� ��������������� ������������� �������������������&�� ����������������������/�
����������������������������������������������������������������������������-�� ����
/��������������������������������������������������������������������������������������������
����������:<;��/���� ����������������������%�����������������������������
� E��:�������������; ���:�(��;
$� ��� �������������������������������������������0��������������� ����������� � ����������:<;�
�0 E��:�������������; ���:�(��;
/����� ������������������� ����������������������@ ���������A�����0�
/��������������������� ������������ ������:<;�
�� 6������������������������� ��������� ����� ������)��:+��;��/����������������������� ���
������ ����� ������� �:<;� ��� ��� �� ����� ��� ������ 8������� �� ���� ��� ���-��������� ��
�����������������������)������7��&������������������������������������B
�� ������� ����������������:<;��������������������������������$������:���������������
�����;����������������������������������������� ���������������������������
�������������� �������� ��������������� �����/���������������������������������������������
�������������� ��� ��������� ���������������������������������������������������
�����������
$��������� ���������������������������������� ����������������� ��������������-�� ���
������������� 8�� � �� ��� ���� ������ ���� �� �������������� �� ������ ���� ����� ��� �������� ����
������������������� �����������������
���� ���������� ����� ���� �
������� /00����2'�3�����'(�������������-�
$�������������-����������������� �������������������������������-���������������������
�����������F���� ��������������������������1��������7����������G������:�.++;��������
����� �� ��� �� ��� ���������� ��� ���-���������� ������������ ��� ��� ������ ���� ������ ��
&������������/��������������������
�� �������� ��������� 8�� ����� �� ��������� �� ��������� ������ ������ �� ��� ������ ���������� ��
���������������������� �������� ������������% ���/����������������������������������� �
��� ��������� ��� ������ �������/����������������� ��������������� ���� ��� ����
��������������������������������-�� ������������� �����������/�������������������������������� ������������������/������� �����������������������������E���H����:��=�����(��;�
�����������2�������������������������������2��������������������������E���H�����=��&����� ��� ����� � ����� ������ ��� �� @��������A� ��������� ���� �A�� ��� �� �������� :����� ���������88;�
�� ��������������/�������������� ���������� ���� ����������������������������������
���������������������������������/������������ � ������ ��������2�I��H���I��/���� ���������������������������������������� ���������������������� ������ �� ��� ��������
������������
Neuralnetwork
Plant
Neuralnetwork
�1
�
��
x�x
��������� ������ ����������� ��������� ������������������� ����� ��������������� ���������� ����������� ���� ��
������ ���� ������������������� ������
�� #�������%�����������?������������������������������������������������ �����������2���
���������������������������������E���H�����$� ���������������������� ����@�� �����������A�����
���������������������: �������������������� �����������������������������������;��/���
����� �)����� ������� ��� ��� J� ������ ����&� ��� ��� ������� �� J� ������ ����&� ��� �
����������������� ����������������&�����������������������������������������������������
����������������=���&����������������E��:�;������
�� E��:��������������;
�� E��:��������������;
M
�� E��:��������������;
� " ���������� ������� ���������
��� ��� E��
�
���
�
�� �K��
�
���
�
�� �K�����K��
�
��
� �
��� E��
�
���
�
�� �K��
�
���
�
�� �K�����K��
�
��
� �
M
��� ���
�
���
�
�� ��
�
���
�
�� �K�����K��
�
���
�
�� �� E��
�
�
� ����:�(��;
5)��:�(��;������������������
�� E��: ;�� ����:�(�!;
������������J� ����������&��������������J� ����������&� ������������ �� �������� ����������
��� ��������������������� �����
"������������ ��������
��� E��
��
LNM
OQP
��
�
���:�(�#;
������:�;��������������������������������������������/��������������������������������������� ����������������� ��������������� ����� ��� �������������� ��/�� ������ �������E��� H����������������� ��������������������� �� ��������������
�� E��:��; ��
��
��
��
���
: ;���:�(�(;
�� E���H���
���������������� ��������� ���������������� �����$�������������������� �������� �������
��
��
�
: ;�� ��
�������&�������
�
��
��
�
: ;��� � � �� � � �
�
: ; H : ;� � �
�����:�(�*;
/���� �����&���� ��������� ��� �� ������ ��� ��������� �������� ��� ������ ��� ������ ���
����������� �������������������
���������������������� ������� �����:?�����?����������6������..0;�����:7��������?����
�..�;�������������-�������-������������� ������������������ -�����������������������������
���� ���������� ����� ���� � %
�������� ������� �����������������������������
�� ������������������������ �������������� ������� ����������������� ����� �������������� ���
���� ������ ���������� -���������������������������������������� �����������&��������������� ����
/�� ����������������� ���������������� �������������������� �����������������% ����>�������
�� ���������� ��������������������������������������������� �������������������� ������������% �
��������� ������������������������������������2�:�������������� ������������ ������������
����������������:7�����?���������6������..�;������� ����������������-���������������� ����
���� ������ ����������� ����������� �� ����� ��������������� �����% ��������� ����� ����
����������������;�
F����������������������� ����������������������������������
�� 3�������������� �������� ��������������������������������������� �������������
�� 9������������� ����������������� ����������������������������������������������������� �/������� ��������������%����������� ���� ������B
�� 7����������������������B
!� �������������������� �������� ��������������������������������������� �������������B
#� ��� ��������������������������������������������������H���� ���������� ��
� �������
�������������&�������� ���� ���������������� �������������� �������B
(� /� ������������������:��H���� ������B���;������������ �
/��������������������������� ��� �����������������������������������������������������������
��������������������������������:7����L�?������..�B�7�����6�����L�?������..�;�
4������������-������������� ������������������������������������&����������������
��������� ����� ������������������������������������ �����������-������������� ��������
������������������������ ���������������������� �� ������������ ������4�������������������
�����������������������������������������������������������C
5&������������������������������������������������������� �����������������������
����������������� �������������������������� ���������������������������������������������
����������&���������� ����:J�������������..!;��/������������������������������ ���� ��������
�����&������������������������-������������� �����������������������������������������
��������������� �������������������&�����������������������
XNeural Network Plant
X ��
�
� � ���������� ������� ���������
4���������� ����������������������������������������������������������� �������������������
����������� ���������������������� ��/����� ��� ��������������� �����: ������������������;�
/����������� ��������������������?����������� �
������. /00����2��3���0�+�*!����������*�4�0�
,������3������2������7 ������:�.+.;��� ���������������?�����-�� ������ ����������� ��������$
������������ ������� ����� ����������� ��������������������������������������������
/��������� ��������,����������� ���������������������������������������������������
:�������������������-�� ������������� ����;����� ����������������% �������>-��� ��/���������
����������������&�� �������� ��������������:����;� ������������������% �������������� ���
:��=�����(�!;�
�������� ������������ ����������� ����� �� ���� ��������
5� ������ ����������������������8��������������������������� ��������������% ���
:������- �������� ���;��������������������� �������������?����������� �����������������
�������� ������������������� �������������� ��������������� ����� ���������������
/������������� �������������������-��������������� �� ���������������H��������������
�����������������>���� ��� ����������������������������������� ��������� ��������������������
��� ��� ��$����� ����������� ����������J� ����������&���������� ������>�������������������������������������� ��� ����������������������������� ���������������������-�� ����
/�� ��� �� ���� ��� ��� ���2������ ��� ������ ���� ��� �� ��� �������������� ��������� �� ��
������������������� ������������������������% �������� ����H��B����������������� �����
������������ ������������������������� ��������������J� ���������
������ E����K���:��H���; ���:�(�+;
��� ������������-�����/������&�������������������/��������������� ������������������-�� ��������
������������������� �
���� ���������� ����� ���� � 5
M���������� �����������������������������������:����;N��������������������������������������������������������������
���� E���
����K��:�;����:�;�:��H������;
:����;��� E�:����;�
����K���:�;�����:�;�::����;N��H�:����;�
���;
8�����:�;�E�����:�;�E�������������������������� ������������������������������?������������������
�������� ���� �������������� �����������:�;������ ���:�;����6����������������������������� ����������������������������&�����������������������������:����;N�����������������������
�N E����K���:��H��; ���:�(�.;
�N E����K���:��H����H���K���;: H ;
II H II
� �
� �
��
���E����K�:���H�����;
�
�
�
�
�
II II����:�(��0;
8��)��:�(�.;������������������H������������������ ����������������������������%�������� ����
������� �������������/������������������������������ ��������������������������N�:�����
�� �������2�������������;�
8��)��:�(��0;�����E���H������������ ��������������� ������������������-�� �����������������������������E���:��H���;����������������%����������������������������/����)��:�(��0;� ��
��� ����2������������- ��� ���������������$�����-�������������J� ����������8������������������
(�000� ���������� ��� ����� ������ ��� ��� �� ��������� ���� ����� ����� �0�000� �������� ����� ��
����������������������������
�����5 ��.���/���!������
$������-�� �������������������������O������ ��������������������������������������������
������������������������������������� � ���������������������������� ����� ���������������-
�������� ������������������������������� ��������������������������������������������������
����������� ������������-���-�����/�����)������������������� �����-�������������������������
������ �������4����������� �������������������� ��������������� �����������)�������
F������������������������� ����� ���� ����������������� � ������������������������
����������?�������=��� ���������7�2� ��:�.+*;��/����� ����������������� ���� ��������
����� ���������������������% ��������%������������/������������������� ����������% ����
��������������������������������������� ������������������ ����������
/������� ����&�����������8���� ������������������-������������� ��������� �������
�������������������� ��������������� � ���������� ������������������������ �����������������
������� ����� �������� ��� �� 8�� ����� ���� ��������� ��� ��������� ����� ����� ����� ��� ��� ����� ����� ��
�����&���������������� ��������������������������� ������
>���� �������/����������������� ���������������%��������������������������=�����(��
��������������%������/�����������% �������:�;����� ��������������������������������������������
�����-����� ������:=�����(�#;��/��������������:�;������:�;�������������������������
� 6 ���������� ������� ���������
/���������������� ��������������=�����(�(�� ����������������� ��������� �������������
��� %����� ��� ���������������/�������� ���% ��������E� :�������������;� ��� ��� ����� ��� ������������������/���������������������������������������� ������
���:�; E� � ��� ��
�
��
��
:��E��������; ���:�(���;
����
��� E��:���:�;�����:�;�����:�;;
�� � E�����E���:���:�;�����:�;�����:�;;
�������������������/�����(���
/������ ����)����:�;����=�����(�#� ����������
��:�; E� !�:���:�;�E���:�;;�K� "��� �
��
�: ;� :�H�����;
"� E�0�������I��:�;�H����:��% ���������;�I�P��
/������ ������� !����� "���� ���������:#�*����*!(�0���.��!;/�����:�(�����*����+�!;/��
"&������������������������������������
���
��
�� E��������E����:����H����;� :��E������; ���:�(���;
������������������������������=�����(�*��������0������������������������� ����)�����
������2����� ��������������������� ��������������������������������������������������
������������������ ����������������������������������������:���;������������������E���� � � � ���
������� ������
��������� ���������������������������� ��� ���
Inverse dynamicsmodel
ManipulatorT t
i( ) T t( )�
d( )t �( )t
T tf( )
K
+
+
+ –
���� ���������� ����� ���� � 7
��������� ����������� �������������� ��� ����������� ������������������� ��� ���� ������ ����!��������
���������� �� ������������������ ����������������������������� ��� �� ���� ������ ��� �"���� ��� �#���
$�����#%�#&�� ���� ��� ���������� �� ��� ��'����(�
� ��������� )������� ����� ������������� ����� ��������
� �#"�#���'���(& �#"�#���'���(&
# &&�#&&�'
' &&�#����'��'&&�(
( &&�#����'��'&&�'������(
* &&�#����'�"�'�+��(& &&�(������(
, &&�#����'�"�'�+��(& &&�'#
������'������'
% &&�#������'�����"�'�+��(& &�'#�����"�'�+��(&�����"�'�+��(&
- &&�#&�'������'������'
&�'#������'�����"�'�+��(&
. &&�#� &�'�����"�'�+��(&�����"�'�+��(& &�'#������'�����"�'�+��(&
/ &&�#&�'������'�����"�'�+��(& &� '
'������(
#0 &&�#&�'������'�����"�'�+��(& &� '
(������(
## &&�#&�(�����"�'�+��(&�����"�'�+��(& &�'
&&�(������(
#' &&�#&�(������'�����"�'�+��(& &�'
#( &&�#&�(
x t1, 1( )
x t13, 1( )
x t1, 2( )
x t1, 3( )
x t13, 2( )
x t13, 3( )
T t1( )
T t2( )T t3( )
T ti3( )
T ti2( )
T ti1( )�
�
�
�d 2( )t
�d 1( )t
�d 3( )t
f1
f13
g1
g13
�� ���������� ������� ���������
/��������������������������������������������������� �������������������� ��� �����
��� ������������������������������ ������������������ ����������������� ������ ���
��� &�&����������������&/�/$&����4�����$��)&�/����8
/��� ���������������� �������������� ��������������������-��%�������� ����������������� �
��� ���������� ��������������������������������������������������������/������ ��������
������������)�������-������������������ ������������������������������������ �������
���������������� ���� ��� ����� ���������������������������������������� ��:G�������..+;��F�
������������������������������)����������������� ����������� ������������� ������-����
9������ ����2����������������� ��� ���������������������������������� �� �������������
������� ���������������
/�� ���������� ����������� ���� ������ ������������������ ��������������������$������������
���� ��� �� ����� ������� ��� � ���������� �������� ��� �������� ��� ������ ������ ����� ��� /��������
���������� �������������������������������� �����������������/����������������������
������:�,/;���������������� ������������������� ����������������� ������������������:8�����
����3 �����������..�;����������������-������������������������������� ���� ������������������
������������������������� ���������������
"����� ����� ������� �������� ��� ������ ���������� ���� ������� ������� �� ������� �� ��
������ ��������������������� ������������������,����� �/�����:�,/��;��� ��� �������������
����� ������� ������������������-������2���������� ��������� �������������������)�� ���������
��������������� ��������������� ���������������������� ��� �����������������:���������7����
�..#;��"���������� ���������� ������������������������������������� ����������������������
���� ������ ���8������������������������������������ � �����������������������������
8�������� �������,/��������������������������� ����������������������� ������������
��� �����,/�����������������������������������������
:�; /�������������������������� ������������������ -������������� ���)�B
:�; /���� -������������� ���)��������2������������������������������������������������
������������ ����������������/���� �������������� ���)�� ������������������ ���������
�������� �� ���������������������B����
��������� ����������� ��� �� ������ ��� �#��1��� ��'����(��2�������� ����� ����
���10 20 30 t s/
�1
�
0
���� ���������� ����� ���� ���
: ; �,/������������������������������ ���� ��������������������������� ������������������
��������&���� �
/��������������,/������������ �� ������������������������������������&���� ����
���������������������� �������������������������������������:������������6����������..�;�
$�������,/������ �� �������������������������������-������������� ���������������-��������
������� ��������������8����������������������� �������� ��������������������������������
���������� ������������������ ��������8�� ������������� �������� �������������� ����
�������������� �������� ����������������� �������
����������������������������������������������������� ��8�����&�����&������������
����������� ��� �� ���������� ����������������� ������� ���������������������������� ���������/�
��� �����������������������-���������������������������� ������������� ���7�����������
������������� ���������������� ��������,/������������������ �������������������������
������������/�������� ����� �����������,/������������������ ���������������������������
��������������������� ����������������������
��� �� ��,0��������/��0����������������2���!�9/��:���,��+������-�
/������������������������� ������ ������������������� �����������������6���������:�.+*;�
�������������� �� ��������������������������� ������������� �&� ��� ����� ���/�
�,/�������������� ������������������������6��������:�..�;����-������2�� ��������� ���
����������
/������ ��,/����� ��� ����� ��������������������������������������������:7/3;������
��� �������������������&������������������������:M/3;�����B���� ���������������
�������/���������������:���;����� ����������7/3������������������2����� ��������������
������������M/3�:#��;��/��7/3��������������������������������������������/��7/3�����������
���� ���� ������2������� �������� ����� ���� �������� ��� ������ /����� ����� ����,/� �� �� ����� �
�������������������2��������������������������������������������� ��������������������-��
���� ���-����������������� ���� ��� ���� �������/��� ������� ������������� ��� ���������
)����������� �� �������������
$� E�"
� "
�
II II���:�(���;
�� E�%��K�&$� ���:�(��!;
!� E�$��K�� �: ��;#�� ���:�(��#;
�� E�!
� !
�
II II���:�(��(;
"� E�:��;�K�':��; ���:�(��*;
�� E��
� �
�
II II���:�(��+;
��� ���������� ������� ���������
���II!II��II"II�����II�II��������������������� �����!��"����������������������������/�����-�����
���������� ��������)�������:#;���������������������������������� ������������ �����:�;��������������
)�������
:�; E�� �
�
��
�� 0
�
� �
RST�
�0���:�(��.;
����������������������� ���������/����� �������������������������������������� �����������2��������� ������������������������������/�� ���������&��'������������� ������������������� ����
����� ������
/��7/3������������������������� �������� ��������)���������� ������ ����������������
M/3��$������ ���������������������������������M/3��������������������������������������
����� ����������7/3��/���������������������������������������������������������:�����-��;���
��� �������������������������������� �����
4����-������������� �� �������������,/���Q=��������00!R
�� E� ! #� ��
�
� ���:�(��0;
/��������������� ������)�������:�(��0;�������������
�� E��&�O���������������S ���:�(���;
�������������������������� ������������ ������������������������������ ������ �
����/������������ ���������������������
�:��; E�� � �� ���
�������
� � � ��� RST� �
0���:�(���;
5)�������:�;��� �������������������
!� E�$ �
$ �# � �
�
� ��
�� ������ ���
��� ���������� ����� ���
�
�
RST
���:�(���;
/�������-����������-�����M/3�)����������
�����-���:�������;��
�#
��
��E��:��;�Q!��H�#��R ���:�(��!;
���H������:��������;��
�#
��
��E��:��;�Q!��H�#��R ���:�(��#;
$���������� ���������)��������:�(��!;�����:�(��#;���������������)�������:�(���;����
���� ���������� ����� ���� ��
�#
��
��E��Q!��H�#��R ���:�(��(;
����������� ��������:�0�P���P��;���������������,/����������������������� ������������������� ��
���� �������� ��������������� ��������������������������� �����������
(� E�$ )!
� $ )!
� �
II II II II���:�(��*;
8��II(II�P���*����������������������������8��II(II�����*��������� ������������������������
����������������������������/��M/3���������������� �� �������������������������������
���������8������� ������������������������������������� �������������������� ���������
����������������������
��� �� ���,+����������,�����
/��&����������������� ��� ����������������������������������0*������������������� ������
�����������/���,/������������ ������������������������������������� ������������������8����
����������&����������������������������������������������������� ��������/��������
������������������������� ������������������ �������������������������/������(��-�(�#��/�
����������� ����������������������������������������������������� �������8��� ��������������
����� ����� ������������������ ��������������� ������������ ������������������������ ���������
��������������������������
/��������� ��������,/����� ��������0�.(����0�.+�����������������/���,/�������������������
�������������� ��������������������������=��������� �������������������������������� ����������
�� ����8����������������������������� � ������������������������ ������������������� ��������
���������/������(��-�(�#���������������� ���������������� �����������������:/�����(��;������
:/����(�!;�����!���:/�����(�#;���������������� ���������F������������������������������
��������������������������������������������������������8������ ��������������� �����������������
�������������� ������������������ ������� ���������� ��������������� ������������������������
� �������� 3������� ��������������� ��� ��� �� ����4���5����������� ���������� �������0�/%�
�����4������������ ������� ���������������� ���� �
���������� ��� ������������� �� �������� ������������� ����� �
,00 #�0#% ,0�. 6 #
,00 #�0#% ,0�. 7 '
,00 #�0#% #0#�% 6 #
,00 #�0#% #0#�% 7 (
,00 #�0#% '0(�' 6 #
,00 #�0#% '0(�' 7 (
,00 #�0#% ',* 6 *
,00 #�0#% �',* 7 �,
��" ���������� ������� ���������
� ������� 3������� ��������������� ��� ��� �� ����4���5����������� ���������� �������0�/%�
�����4������� ����� ������� ���������������� ���� �
���������� ��� ������������� �� �������� ������������� ����� �
,00 #�,'* ,0�. 6 #
,00 #�,'* ,0�. 7 '
,00 #�,'* #0#�% 6 (
,00 #�,'* #0#�% 7 '
,00 #�,'* '0(�' 6 #
,00 #�,'* '0(�' 7 '
,00 #�,'* ',* 6 (
,00 #�,'* ',* 7 '
� �������� 3������� ��������������� ��� ��� �� ����4��'��5����������� ���������� �������0�/.�
�����4��'����������� ������� ���������������� ���� �
���������� ��� ������������� �� �������� ������������� ����� �
-00 #�0#% ,0�. 6 #
-00 #�0#% ,0�. 7 '
-00 #�0#% #0#�% 6 (
-00 #�0#% #0#�% 7 '
-00 #�0#% '0(�' 6 *
-00 #�0#% '0(�' 7 '
-00 #�0#% ',* 6 *
-00 #�0#% ',* 7 �'
� ��������� 3������� ��������������� ��� ��� �� ����4��'��5����������� ���������� �������0�/%�
�����4��'������ ���� ������� ���������������� ���� �
���������� ��� ������������� �� �������� ������������� ����� �
-00 #�,'* ,0�. 6 #
-00 #�,'* ,0�. 7 '
-00 #�,'* #0#�% 6 #
-00 #�,'* #0#�% 7 '
-00 #�,'* '0(�' 6 #
-00 #�,'* '0(�' 7 '
-00 #�,'* ',* 6 #
-00 #�,'* ',* 7 '
/���,/�������������&���� ���������������������������������������������� ����� �����
�� ����� �������� ���� �������� ��� ������� ��� �������� ���� �������� ����� ��� �������� ��
� ����������������������������������������������� ���������������������&������������
��� �������������� �����������/����������� ��������� ���������������������� ����� ���)����
����������������������������� ����������������$������������� ����0�.+�����������
����� � ��������������� ���������������������������������� ������������ ��������������� �
���������������������������������� ��������
���� ���������� ����� ���� ��%
�;&8������/���
�� 5������������������� ��������������������� ��
�� 5&�������������� ���������-�������������������� ������������������
�� 5&�������������� ���������?������������ ����������� �������
!� 5&�������������� �������������������� ������������������� ��
#� 5&�������������� ����������,/������ ������������ �������
��&�&�&��&8�
�� J�J�����������(+�$)��+��+��+'+��)����������-$����1�������������������.+.�
�� >��1�����������7����������������G����������������������������� � �����������,,,�-+�(+�
%�������.&�&#����T����+��"�����������*-�����.++�
�� 4�J����?�����3�J��?������ ����=������6�����M������� ��������� ���� �� ������� ����� �����
�������������������������8��F��?���� �:5��;��8555�8������������$�� ��������8���������3����
��������������..-�0���8555���..0�
!� 1�1��7����� ����4�J����?������� ���-��� �������������� ������ ���������� 8��/��?������
?��3� �������F��7������L�J��?������:5���;��1�� �������������..��8������������������
��������� ����"�����"���� ���"����-�������'5������7 �� �1���������������#�-�#(���..��
#� 4�J����?�����3�J��?����������=������6�����9�������-��- ���� �����������������������������
8�� 1�� ������ ��� ��� �..�� 8555',7J� 8������������ ������ � ��� 8��������� ,������ ���
7�������..��
(� 1�1��7���������4�J����?����������-����������������������� ����������8��/��?�������?�3�
� �������F��7������L�J��?������:5���;��1�� �������������..��8������������������ ���
������ ����"�����"���� ���"������������'5������7 �� �1���������������#�-�#(��..��
*� 4�J����?�����=������6���������4�J����?�����,���������-5���������������9�����"����
"���� ��� / ��� ,��� "���� �7-.�-�0�� >������� ��� ������� 7������ 9��������� ��
���������..��
+� ���J������1�1��7���������=������6�����"��������� ������������ ��������8����=��3������:5��;�
"�����"���� ������ ��������?������ ��� �1�����������..!�
.� ��J��,������/�3��3������2������?�J��7 �������/�������- ������������������������������-
����- ���������������$(&������+(����T������������#.-�(+���.+.�
�0� ?�������3���=��� �����?���L�7�2� ���,��:�.+*;��������� �� ��������-����� ��������� ������
�������������������������������4������ ���������� ���#*���(.-�+#�
��� ���G�����U8�-��� ������ ���������������� ������������������������������� ���������� �V�
�������.&)���++���.&$&)���T�����+��"�����������#*-�*����..+�
��� �"�/��8�������������3 ����������U>� ���������������� �������������H�88��/�������������
������ ����������.&)���++���.&$&)���T��������"���!������#!#-##+���..��
��� ��������� ���� =�� 7����� U�������� ������ ������=���� ���������,/��������������
��� ����V���������+���$(&������+(����T����+��"���!������(0#-(�+���..#�
��� ���������� ������� ���������
�!� ������������6���������U�,/��-����������������� �������������������� ��������������
����� ��������V���������+���$(&������+(���T����!������!.�-#0!���..��
�#� M��=��������$�&���&���+���$(&������+(�����()����)�$(�������+(�������&���!!��)&��+��
1������5�� �����������5���������00!�
�(� 6�����������������7��6����������������������������� ��� �������������-������2���������
�������� ���������� ������������T�������/(&!��)���&����&����(+)�������T�����*������#!-
��#���.+*�
�*� 6�����������������7��6����������,/����7��-������2��������������� �������� ��������� ���
���������������������������!!�����0!��)����(:��;��!.�.-!.�0���.+*�
��������������� ����������
� � � � � � �
���� ����������
������������ ����������� � �� �����������������������������������������������������
������������� ��� ����������������������� ��������� ������������������ ������������� � ��
�������������� ������������������������������ ����������� � �� ���������������������������
����������������������� �������� �
���� ������������
�� ����������������������� � ����������������������� �� ������ ��������������� �� ��������
������� � �� ����������������� ���� ��������� ��!������� ����������������� ������������������
����������"��������� ����������� ���#������������������ ��������������� ������ ����������"��������
��� ������� �#������������������������������������������ � �� ������������������ ���� ��
�������������� �� ������ ��������� ��������!�������������������� �������� ������������
��������������������������� �
$������ � �� ������� ����������������������������������� ������������ ����������������
%���������� � �� �������� ������� &
' �(�������������
' )�*�������������
' +��������������
������ ����������� �������� ��!
�(�������������� � �� ������� ��������������� ��������������,����� ��������%��������������
���������������� �������������������������������� ������)� ������ �(�������������� � ����
�������-����./�.��%�� �� ��������������� ����� ���������������������� ������������������������
���������������� �� ������� ���
��" ���������� ������� ���������
������ #�$������� �������� ��!
!���� �������������������� ���������� ��� ���������������� �������������������������������%��
��������������������� � ��������������������������������� ��������� �������������������� ���)�
��*�������������� � ���� � �������-����./�0��%�����*�������������� � ���� ������������� �(������
������� � ���
Inputs
Technology A
Technology B
Outputs
��������� ������������ ����� �����
��������� ������� �� ����� �����
�����% �!������� �������� ��!
!������������������ � �� ��������������� ����������������������������� �������������������
�����������������%����� ����� � ����������������������������������������������������� ��
����� ������� � ���� ������� ������������-����./�1� ���� ��� �������������������� � ����%��
���������������� � ���� ���������� �(�������������*�������������� � �� �
Inputs
Output
Technology A
Technology B
����������������� ��������� ��&
���% '((��)�*������)�#����*�#)*���� ��
)������������������ � ��� ����������������������������� �������������������������������-��
�*�����������������������������,������������ ����� ��������-����./�1��%�������� ��� ������������
�� �������������������������������������������������������������������������� ��2��� ����������
���&
������� ��"������� ���#����"���������� ���#������"��� ��� ���#
'
'
'
�������� ��"������� ���#����"���������� ���#������"��� ��� ���#
'
'
'
������ ��"������� ���#����"���������� ���#������"��� ��� ���#
�������� ��� ������������������������������������� ������������������������ ������������������
����������������"�����*��������� �������������������#���������������������������������� �
��������� ������ ��������� ������� ������ �(������ ��� ����� ������ ���� ��� ����� ������ "%���� �� �
������������ ��� ���� � ����������� ����� ��� ���� ������� ��� �������� ���� ����������� ����� ��
����������� ���#
Inputs
Technology A
Technology B
Outputs
�������� ������������� ����� �����
Desired performance ErrorFLC MLP
Learningparameterperformance Output
Actual performance
�������� �������������������� ����� ����������������� ������������������������������ ��������������
��+ ���������� ������� ���������
����������� �� � ����������������������������������������������� ��� ������� �����������
�����������
���, '((��������
��� � � �������� "���������������������#�)���������������������� �����������������������
���� � � �34��.5��"� ������������ ���������� #��������������������� ��� �34��.5��!�������������������������"�������������� ���������#�� �����,����
� 6��"�" .���.#��������� " �����## ���"./�.#
� 6�� "�" .���.#��������� " �����## ���"./�0#
�" �����#!� �,������� �" �����#�� ��� ���� ����� �������� � ���������� %�� �� ���������� � ���� �����
���������"��������������� ���������#�� �����,�������,����������� ������������ �����������)�������
��������"�������������������� ����������!�������� ����������������������������,�����"���#����
�������������#�������"��*#������������������������$�%%���������"./�.#�������������������� �����
��������������������&'�$�%%���������"./�0#��7�������"./�.#������ ���� ������,��*������ ����
����"./�0#������ ���� �����*,��������� ������������������������������
)���������������������������������� ����*�������� ����8������� ����8������� �"��
���� #��������������� ��%��������� ������ ������ &
.� ��� ������������������ �������������"������ ������������������������#�
0� ��������������� ������ ������������
1� ���������������������� ������������
������������� ��������������������!-,%$+������ ��!����������������*� ��������������������
������� � ���� ���� � ���� ��� ������ ��� ���� � ���� �������%�������� ���� �� � ��������� ��� ��
��� ���������������� ����������������������� ������ ����� � �
��� � � ������� "��"�����$�%%����������������!�'���#�)����������������������������� ��������
��������� ����� ����8������������� �� ��������������������������������������������� ������������
����*�� ��������������
������������� ��� ������� ��������������6�""�. .�9��0 0#�������������� ��������� ����������
������ ��:��� �� ����*�� �������������� �� ����������� ��7���� ������ ��(� � ������������ ��
+*�� �������������
("�# 6�" # ; " #� � " �
�. . 0 0
. 4 .
4
� � �RST
��
����� ����"./�1#
�����";."�#�6������;����".�;��#�� � �������������� ����������������� ��� �������""%#�6�.8".�9��;%#�
%���������������������������������������� �� ������������������������������� ������
��������������� ��� ����������*�� ������������������������ ��������*����� ������������������
������� �
����������������� ��������� ���
������������� "�� ���������� ���������������� �������� ���������� .��� �.����� 0��� �0�" ��� ����������
������������ #�����
""�. .�9��0�0# ��""�. �.�9��0� �0# ���"./�<#
������ =���� ������������*����������� ����������� �����
"�. .�9��0 0# ��"�. �.�9��0� �0# ���"./�>#
��������� � ��� �������� ������������������� � ������������ ��� �����*�������%�� � � � �� �����
�������������������� ������ �����
��� � � �������� "�������$�%%����������������!�����#�)���������������������������� ��������
�������������������� � ����34��.5!����8�������������������� ������34��.5��!������������������������� � ���� �,������" �����#�� �,��������" �����#�� ��� ���� ����� �������� � ���������� %�� �
���������� ��������������������� �����,�������,����������� ������������ �����������)�������
��������"�������������������� ���������
?������ ������� ����������������������� ������������ ������������ ��� ����������������
������ ���� �������������������
���- ���#)����.��/��#��0��10�������������0���10���������
7�������������� �������� ���������� � �� �� ������� ���������� ���������:������������ ������
��� �������� ������ � � ��� ���� ��� ��� ������ ������ "���� ��� ���� ��� �������� �� ������#� ���
�*������������%���� ��������������<����� ��������������������%����������������������� ��������
��� �"�� ������� ������������������� #��
)�
�
�
� ���"./�@#
�����)��� �������������������� � �����*� ����-����*�������������������������� ��������������� ����
� ��������������� ����������� � ������������������������� �� �.@�A4/��%���������������� ��� ����
�����������������������%��� ����� ������������������������ � ���������� ������*����������*����
��������������������
%����� ���������������������� ���������� ������������ ������ ����������������������
����� � �"B�)#��%��������������������������������������������� �� ������ ������ �������������
������������ ��� ������ ��������*������� ��������� ��(���������� ��������*��� � ������ �����
���� ��� ��� �� ������ ���� ���C������ ��� ���� ���� �� �*,����� ������ �� ������ %���������
������������������������������������ �����������������������������������������������������������
�������� ���������� ������������������ ������� ��� ����������������������� ��������������%��
���������� ���������������� ��������������� �������� ���������� ������������������ �������� ����
�������� �"������������������������������ #��%��������������� �� ������ &
.� ���������������������� ������������ �����������
0� ������������������������*������ ����������� ���������������
��� ���������� ������� ���������
1� ���������������� ������ �������������*������ �����������
<� ���C������������� ������������������
������������ ��������� ��������������������� ������������������)��,������������������
��������������� �"�������������������� �� �*�����*�+���#������� ������������������������ ����
��� ���� ������������������� ��,��, (���� �������� �������������������������������������������
����� � ��!������������������������������������ �������������������������������������������
�����������������������,������������������������������� � �
���2 ���#)����.��/��#���������'�'((��)�*����������
%��� ��������� ������������������� ����������� ������ � �� ������������������ ���� �� ��
������������������������� � �� ��%����������������� ���������������� � �� �� �������������
���������"������� ��������#������������������� � �� �������������������������� ���������� �������
"�������������#���������������� �� ���������� � �� �
D��������� �� ���������������� ������ �������� �����*�������������������������������������� �
������������������!������������������ ����������������8������������ ����,�����������������
�� �����"�� ������������#� �������� ����������������������������� �
!�����.EA4 ����������������������������������������������������,������������������ ��
�� ���������!�� ���������������,�#-��-�"�������%�������������������������� ���������� ���
��������� �������������������������� ������������� ��������������%������������������������
����������������� �������������� ���������������������� �� ���������,�������������������������
������������������������� ������ ������� �������������� ��������������� � �� �� ������������
����� �� %��� ����� � � �� � �� ��� �������� ��������� �� ��C� � ���� �� ����� � ���� ��� � ��
������ ����������� �
!��-����./�>����������������� � ������������ ���������������*�������� ������ ������ ��
������
Multivariate memb.
functions ��1
*
*
*
*
��1
��k
W1
WM
+
Normalize
X1
Xd
l
l
l
Denominator
= Gaussian membership function
��������� �������� ����!��"�������"#���������
����������������� ��������� ��%
%����� ������������������ �������������������������� � �������-������./�@��)��������
���� ���������������������������-����./�>����� ��� ���������� �����������7���������������� ���
������������ �
���� #3#��#*���#���#.�#�/���'�����'((���������
%����������� ������ ������ &
.� :���� ������������� ����%$+������������ � �"�������������#
0� 7������������ �"���������� �������������� ����������� #�������������������
1� !���������� ����������� ����������������"������ ������� #
%������������ ������� ���������� ��������
���" �����������'����.��/�
%��������������������������� ����������,�))�������� ������� �����������������������������
������������������ ��%������������������������������������������������������������� �����
����� ��!�������� � ��������� ����������������������� �������������������� ���������������� �
������������ � �� ���������������������� �
��������� �������� ����!��"���������������������������������������������
Neurofuzzy function approximator
Neurofuzzy classifier
�
Linguisticvariables
x1
x2
A1
A2
B1
B2
y
Multi-plier
Norma-lizer
Consequentparameters
A1
A2
B1
B2
x1
x2
y
Class 1
Class 2
Class 3
Class 4
Class 5
Linguisticvariables
And OrMax defuzzifier
��, ���������� ������� ���������
%���������������������"����#�� ������������ ���������������������� �������.������ &
�&*" # 6�.
..
� �
�
.
�
" # ���"./�/#
%������������������������ � ������������������������������������������
F� ���".EE.#��� ������ ������� ��������������������������������������������� � �� ������
������������ ��������,��������������$����� ������ ��������������������� � ������������������
)?� � ����%����������������������"./�/#�� ����F� ������� ������� � ������� ���" #���
����������� ������34��.5�� ������������ ����� � ����� ��������������������
���& '���#�� ���������#�������#�/�0��0#*#����
%�������,�������������� ����������������������������������������������������� � �"������,�� #������������� ��������������� ����*������������� �����D,2����������������������� ���� �����
�������� ����������������������:������������������ ������������������� � �������������� ����������
���� ��������� �������������������������������� ���������������C� ����������������� ��������
����� D,2� ���� ������������ D� ����� �*������ ��� ������� ��� ����� ��� ������ ������� �����
�����������������������,�������� �
!����������������������� ��� ������=B�������� ������������������������������������ �������
����� ����������������������%��������������������� ������������������ ���������������� ���� ���
�������-����./�/� �� ��� ��������������������������
Input Hidden Output
x1
x2
y1
y2
y3
��������� ��������� ��������� ����������!��"
)��������� �� ��� ���� ��� ���� � �������� ��� ������� ����� ��������� ���� � ��� ������ ������
����� �� ������ &
!� ��� ��������������������� G
!!� ������������������ ������ G����
!!!� ������������������������� �
%����"!!!#���������������������������������� �� ���� �����������!���� ��������������������
�������������� ������������ ������ �������*�������������� ��/��������������� ����������������
��������������������������������������������������/�����������������������������%������������
��������/��������������� ������������� ���������� &
����������������� ��������� ��-
���-/ 6� � &/�
�
�
-/ /�
�
�.
� ���"./�A#
:���������-/�� �������������������������/��������������������������&-��6� -��� �����������������
�������������������/�� ���������� �������/����������%��������������������/���������� �����������
������ �����������
&-/ 6�$"���-/#� /�6�.��0��������� ���"./�E#
-�������������������������������������������������������� ���������� ������ &
���-� 6� � &�/
/
�
-/ �
�
�
�
�.
� ���"./�.4#
&-� 6�$ "���-�#��/�6�.��0��������& ���"./�..#
%��������������� ��������������������������������� � �"������,���#�������������� ������������ ������������� � ����*�������������������������������������������������������������� �������
���� �������������� � ���� �������������������� �������������� ���������������� �������������
�����������������
-����������� ��� " -���-#� � � ��� ������ ����,��������� �������-�6� "�-.���-0�� ������-�&#� � ��&;
����� ���������������������������� ������������������������������ -�
%����� ��������������������,����������" -���-#�� ����������
�- 6� �-�
�
���"./�.0#
%����� �����������������,������ � ������������������������&-����������������������������
���������
�-� 6� �-���
�&
�
.
���"./�.1#
����
�-�� 6�� -���0��
1-��
� -�� 6��
� &-� �
-� �
�3 5 ; 3 5d i0
0
�1-�� 6��� &-� �
1-� �
1
�3 5 ; 3 5d i0
0
��*� �������������������� �����D,2�����������������������������������-�����������
��2 ���������� ������� ���������
�� ���=B�
���&�� ���4�5��1����6�� ������4��47�'�88����!���
��� � � �������� )����������� ������������� ����'��� ������������������������������������ ���
.� �"4#�6.G
0� �" #�6���"; #G
1� ��� ����,������ �������34��9���5�
��� � � ������� )��������������*�� � ������������ ,'��������������������
*" # 6�
� �
'
� �
��
��
;
;
FHG
IKJ � �
FHG
IKJ � �
RS||
T||
��
��
4
4
���"./�.<#
�� ������������'���������������������*�� ������������������*���������������������������������
����� �� �������������������*�6�")��# '�
��� � � �������� %�� ����������������������*� � � ������������ ����� ,'� �������������������
".#�6�'".#�6�4�
%�� ������������������������ ��������� �� ������ &
.� %���,�� ������������������������������ ���������� ���������������
0� -����������� ����������*������� � �
1� D��"��;� #H���6�.�� �6���;������� �������� "��;��#�6� "�#�6�4�� ����� �'"��9��#�6�'"2#�6�4�� ��������� ����������������������������� ������������"���2#��������������� �
%�� ���������� ������ ����������������������������������������������� ���������������� �
���������������� ��� ����(���������� ��������� �,����%�� ��������� ���������� ��������������� ������������������ ���������������� ���������������������� ���������������������������� ��
������� ��������������� ��%�� ���������� �������������� �������������������� � �������� ������,
� ���� ��������������� ������������� ��:����������������������*� �����������������������
�������� ���������������� �
%��� ����� ,'������ �������������������������������� ��%��������������������������"%�-���#��
�� ���������� ������� ����� ,'�������������������:�������������� ����� ,'�����������������
������������� �*�6�"������2# '������������� ����� ����� ,'����������������������������(��������� ��������������������� ��)�������������������C� �������������� ��������� ����� ,'����
������������������������ � �
:���*��� ���� ����� ,'�����������������/�����/�������������� � ��/���������� ���������� ��
3�/ 6�"��/���
��/��
��/# '
3/� 6�"�/����
�/���
�/�# '
�� 6�"�����
�����
��# ' ���"./�.>#
����������������� ��������� ���
�/ 6�"�/���
�/���
�/# '
D� ,�/ 4�� �
� �
�/ �/
�/ �/
� �
�
;
;! ,/��6�
� �
� �
/� /�
/� /�
� �
�
;
;� ,��6�
� �
� �
� �
� � �
� �
;
;� ��� ,/�6�
� �
� �
� �
�
/ /
/ /
;
;
%��� ���/ 6�
� , �
,
�/2
�/ �/
�/
� �
�
.� ��
�/��������
��������� ���������� ��
��/�
:���� �� ��������������� ����� ,'������������������/�6�"��/���
��/���
2�/#���������� /�
������������������������������� ���������2�����������������������(�����������C� �������
���������������������� ��������
�� �/"�# 6�;�
�
�
�
�
-�
�/ �9����'��
�/�"��;�.# ���"./�.@#
��1�/"�# 6�;�
�
�
�
�
-�
�/1�9��'��1
� /�"��;�.# ���"./�./#
%���������� ����������������������� ������ &
�
�
�
�
-�
�/ 6�
�
�
�
�
-�
�/ �3 5 �
�
�
3 5�
�
�/ �
�/
�9��
�
�
�
-�
�/ ��
3 5��
�
3 5�
�
�/ ��
�/ ���"./�.A#
�
�
�
�
-�
�/�6�
�
�
�
�
-�
�/ �3 5 �
�
�
3 5�
�
�/ �
�/�
�9��
�
�
�
-�
�/ ��
3 5��
�
3 5�
�
�/ ��
�/�
���"./�.E#
�������/�� ��� ����� ,'���������������������� ��#����������4,������������������ �� ������ &
3 5��/ �6�
� , �
,
�/�
�/ �/
�/
� �
�
.�;�
" ; #� �
,
�/�
�/
�/
.�
LNMM
OQPP ;."�# ���"./�04#
3 5��/ ��6�
� , �
,
�/�
�/ �/
�/
� �
�
.�;�
, � �
,
�/ �/�
�/
�/
" ; #
.�
LNMM
OQPP';."�# ���"./�0.#
%���������
�
�
�
�
-�
�/ 6�
�
� ��
�
LNMM
OQPP
�
�
,
,
�
,
-�
�/ �
�/
�/ �/3 5
" #;.
. .�9�
�
� � �
LNMM
OQPP
�
�
,
,
,
,' �
-�
� / ��
�/
�/
�/
�/3 5; " #
;.
. .���"./�00#
�
�
�
�
-�
�/�6�
�
� ��
�
LNMM
OQPP
�
�
,
,
�
,
-�
�/ �
�/
�/ �/3 5
" #;.
� . .�9�
�
� ��
�
LNMM
OQPP
�
� ,
,
,' �
-�
�/ ��
�/
�/
�/3 5" #
;..
. .���"./�01#
��" ���������� ������� ���������
%�� ��������� ��*������������������ ����� ���
�
-�
� / �3 5�����
��
�
-�
� / �3 5���������#��2�� ������������
���4,������������ ����� ,'� ���������������3�/�������������������������� �������������
������������� &
��/"��9�.# 6��
�/"�#�9���
�/ ���"./�0<#
���/"��9�.# 6��
��/"�#�9���
��/ ���"./�0>#
:��� �������������� ������"�������.���0��I����#������ �������������������������������������
�������!���� ������������������������������������������������������������������� ������ &
.� !���������������������� ����������������� � �
0� 2�����1�������6��.���0���������
1� 2�������������������������������-�6�.��0�������)�")�����,��������� �" -���-##�
-����������������&��������������;������ �������������������������&-������ ������������
����������������� -�
=���,����������&�)�C� �������������� ����������������� � �� ��������� ���������,-��
<� !�������, ��������� ����������������"����������������������������� #�� ���� �� �����������0�
D��" -���-#�� ��������������,��������� �������-�6�"�-.���-0��������-��#��������;����� �����
��������������������� ����������������������������� -�
���&�� ��!�����4�
:����� ��������,����� ������� ������������������!���������� ����������!-,%$+������ �� ������ &
!-� -.�� ��-.������I������ -��� ��-��
%$+��*��6�" -.����� -�#�����������-�
:�����-�6�.��0����������-��� ������ �������������*�����&����������� �������������������������������
���������� �� � ���� ����-�� � � �� ���������� ����� ,'� ���� ������ �������� ��� � � �� ���
�6�'�9���*�"4��.�;H H0#��
:������ �������������������������� ������������������������������ �� ���� ����������
������������ ��-�6�"�-.��������-�#��������������������-����������������� ������ &
�- 6�. .
4 0
�� ���
�� ���
�
�
-
-
�
�
RST���"./�0@#
��������������������������������������������&�
:�������������������������&
�-� 6���*�J"�-�;��-#080H&-��3�-5�K ���"./�0/#
:�� ������������� ������������������������-��������������!�� ��� �������������������
��������������������� ���������������������6� " ; # 8� �- -
-
�
0
.
0
�
����=B��������������������������-
����������������� ��������� ��&
�����-���������������� ��:���������������������������������,����� � �"��6�4�0��4�<��4�@��4�A#����
��������������������-�������� &
�-� 6� � � � & � �- - - -
-
' ��* J" ; # 8 H 3 5 K0 0 � ���"./�0A#
%����� ������������������������������������ � �������-����./�A��:��� �����.,�<���������
��� .�������>,�A������������� �0��L ������������ ����������������������������� �� ���������������
144������ �
1
20
18
16
14
8
6
2
0.5
A5
A6
A7
A4
A3
A1
A2
A8
Class 1
Class 2
5 10 15 20
�������� $����������������� ����������
����+ ##0��3������1'((����'��������������9#�'��:
)������� � ������������� ������������������������������������������������� $��D�M ���������
�*������������*��� �������$�
$�" # 6�
�
�
�
)
��
�
�
��
�
�
�
)
��
�
� �
��
�
�
FHG
IKJ
FHG
IKJ
. .
..
.
" #
" #
����"./�0E#
�������� ����������������� �����������?���������� ������� ����������������� ������ ��������� �����
� ����������%��������� ������������ ��. " �#������ ���� ����������� �6�" .������� �#���������������%��
������������������������� ��� ������������������������������������������������������,��,������
������
�%+ ���������� ������� ���������
%�� ���������������������
$�" # 6� � � � �
�
)
�
.
" # ���"./�14#
��������6���
�/" # 6�
��
�
�
��
�
�
�
)
��
��
�
��
�
�
.
..
" #
" #
!����� ����������� ���������������������������� �������$����������*��������������� ����
��������������
����$�� ���"./�1.#
:���,����� ������ ������)����*������� ������ �������������� ����������*������ �� �����
� �� �"�����:���&�)����� ����������� � �� �������������B�������$�����.EE/#�
%��� ��������� ������ ����� ������ ���2�-�������������)�N��B�������&����,������������5�5� ��
*�������--�����*����)���,5�� ����������� ����7���������B��C������%�������
������������ D����������������������������3����5��������6�" .������� �#��� ��������� ����3����5��%���
������*� ������� � (���� ���������������������������-���������)���)�%�5
H " # ; " #H� - � �
�
�
0
.�
���"./�10#
������������������� ���������������
������������� !����3����5������������������4��������*� ����� ������*����������������������
����������� ������
HH��;���HH����HH��6�-HH� ���"./�11#
������������������� �-���������������
������� %����� ���� ���%�������0� � � ��� ���������� � ���� ��� �� ��� ��� ����� ��� ��������
������� ����$������ ������%��� ���������� ����� �������������������������� ��:�������� ����� ����
��� �����������������������*�������������������������� �
������������� !����� ����������������������3����5��������6�" .������� �#��� ��������� ����3����5��%���
������*� ����� ������*������������������� �����������������������)���)�%�5
��*4 � �� �
H�" �#�;�-" �#H ���"./�1<#
������������������� ��������������
����������������� ��������� �%�
����+�� #�'�������;����
��� ������� ������������������� � �������������������� �
.� !�� �� ��.�������� ��.����� $.�6�-. �9�.. ��9��.
0� !�� �� ��0�������� ��0����� $0�6�-0 �9�.0 ��9��0
D����������� ����������� ���������� � ���!���!���4�.��0����� � �� �� �
!������������������� ������ ��-����,������%,�����"�����������#�
.� +���������������������� � ��� �� ���
�� 6� ��" #� ��
" #� ��6�.��0 ���"./�1>#
0� +�������������������������������������� �(����� �����
$�" ���# 6�� � $ � � � $ �
� � � �
. . 0 0
. 0
" � # " � # " � # " � #
" � # " � #
�
����"./�1@#
7�������������������� ���
$ 6�� $ � $
� �
. . 0 0
. 0
�
����"./�1/#
%�� �������� ������������� � ������� ���������
�� 6��
� �
�
. 0����"./�1A#
%����$��������������
$ 6�� $. .�9�� $0 0 ���"./�1E#
x
y
A1
A2
B1
B2
�
�
N
N
w1
w2
w1
w2
x y
x y
w f1 1
w f2 2
f
�
��������� � �%&����������
�%� ���������� ������� ���������
)������������ ����������� �����������������������
�<��������#�/�
.� :���������������������� ����������� � �� O�+*���������� ������������
0� +*���������� �������������������������������� ������������������������������
1� ������������������&
' $������������������
' 2�������������������������
' $������������������������
<� +*����������������������������� �� ����,����� �������� ,����� ����������
>� :���� ����������������� O�+*������
@� �� ������-���������������� ����������������������
/� �� �������������������,���������������� � ���
���'��������
.� =��F� �������������������������%%����5��)5��B�������$�����+����������N��.EE.�
0� P�)��������������� ��P�� ������%��������������������������������������� ��������������
��������������������)-�����*�"�%�����Q����0.������1������//,AA�
1� ��$���������������������5&����)-�����5�2�������������� !+++� �������� ������ ��� �
?�����������R�
<� ��F���������� ��1����5������"���������������5�������%%�� �"�,��!+++���� ���R�
>� $�?��D�������=�$��D����-�����=B&������������������������������������������B��������� ���
!����������������������������������������������� ������.>A1,.>AA��.EE<�
��������������� ����������
������ �����
� � � � � � �
���� ����������
��������������� ������ �������������������� �������� ��������������� �� ���� �����������������
������������������������������� ����������� ������������������� ������������ ������� �������
��������� �������������� �������������������� ������������������������������ ����� ���������������
��������������� ��
���� ��� ������������������������������������� ���
� ����� �������������������������� �� �� �������������������������� ��� ������ �������������� �
�������� ��� ����������������������� ������� ����������� !"#��������� �� ����������������������
����� ���� ������� ��������������� ��������$�������������������� ���������� ��������% ��������
!"��������& �� �� ��������!� ������� ��"�������& !"#���������������������������������
���� ��� ������������������������� ��������������������������� ���������� ��� ������� ��� ���������
�������� ������ ����������� ������������ ���� �������� !"������& !"����������������������������
����� �������� ��������������
����������� ������� ������������������� ��� ����������������������� ����� ���������������������
������ '���� ���������������� ���������������������������� '���� ���������� �������� �������
������������ ��������������������������� ���������� ���� ���������� ���������� �������� ������������
�� ����� ���$����� ��� ��������������������������� ��������� ������� �������������������������
������������(��� �����)����������� ���������*+,,#�
�������������& !"�������������� ����������������� ���������������������� ������� ���� ��
�������-� ���������� ���������� � � ������������ ��� �������������� ��� �� ����� ��� ����������& !"
�������� ��.����������������������� ����������� ������/0/#������ ������� ���������������������������
���������������� ��"� ���/0/������ ����� ���������������� ���� ���������� ���������������������
������������������������!���������������� �������� ��������$���������������������� ������������
� ��������� ����� ������ ������������������ � ������ �������� ������ ���� ���������� ����� �
�������� ���������� ������ ���������� ������������������������� �����1� �� �0���������*+,2#�
��� ���������� ������� ���������
( �� '����������������������������� ��������������������� �� �� ������ ���������� �����
����� �������� ������ � ������������������ ������������������� ������������������������ ���
������������ ������ ������������������������������������������ '���� ��������������3���������
�� ���� ��
��������� ��������������� ����������������� ���������� ��������������� ����������� �����
���������������� ����������������(�� ����������� �������������� ������������������������������ ���
� ����� ������� � ���������� ���1� �� �0���������*+,2#�������������������������������������
�(4#� ����� �� ����� ��� ���� ��� ������ ����� ���������� ���� ����'������'����� ������ ������ ����
���� �$�����5!�#����������������������������������������$�� ��������� �$���� (6"�#���������������
�� ����� �!�1������ ��*++7#������������������������� ������ ������ ��� �1����*++7#������������ �
������������� ����� �������������������� ���������� ���������� ��!������������ �����������������
� ����� ��������������������������������� ����� ������� ��( ����������������������������������
� ������� ������� �� �������������� ���� ��
8����� �����*++9#����������������� ���� ����� ����������������������������� ��������������
���������������� �������������/� #�� � ��� � ���������� ���� � ������������ ����� ���������� �����
������ � �������������������� ���������� '�� ����������������������� ��:�� ����� ��� �/��
�*++;#��������������������� �$�������������'��������� �� ������<���$������������������� ���� ����
��� ������������������� �������������������������� ������ ���������� ��
�������������� ��� ������ ��������� ������������� ������� ���������������������������� ������
� ����� �������������� �=� ���*++9#���������������������� ������ ���� ����� �$���� �������'������
(4�������������������������� ���� � ���������� ��������������� ���� ���������� �����������������
�� ������������������������ ������� � ����������� ������������� ���� ���>���/����� �8� ���*++?#
� �������� �� �������������'���� ���� ������ ������������ �������� �������������'�������(4
����� ����������������� �������������������� ������ ���������� ������������ � ��������������
���������������������������������������(4������� � ������ �������
/�� �� �.������*++@#������� �������������' ������������������ ������������� ���� ��� ������ �
�������� �����������' ������������������� ������������������'�� ��� ��������� ����� ������������
������������A���� ������3��� ���������������������������� �� ��������������������� �������������
�����������'�� ����������� ����������������
������ ��������� !"���#$���% &'�(�%&������&���%��%& ��)��%& �*#�$�((
!���� �������� ��� ��������� � ����������� ������������� ���/0/������ ����� ������ ���������� �
�� �������������������B������������� ���������� ���!���� ������ �� �������������� �������������� � �
��������������� ������������ ��� ����������������� ��� ��������������������� ��������� �� ����������
������������������ ���������������������������������������������������������������������� �������
����� ��������� ������������� ������������ �������������� ������� ���� ���������� �������������� �������������� ������������� ���������� ������������ �������������� �������������B
��� C� � �� �� �
9 9� ����*,�*#
D����
��� ��������������� ������������ ���
����������������� ���������� ����� ���� ��+
��� ������������� ���������� ������ ���
��� ������������� ��������� ������ ����
������� ���� ��� ������ � ������������������������� �������������� ������-����������������
������� ���� ��������������������������� ��������������E������������������������������������
������������������ ��� ����������� ������������ �����������/�������������������������������� ����
�� ������������������������������������������������������������������(���������������������������������
������� ��������� ���������������������������������������������������������������� ����������� ���
(����� �������������� �������������� ����� ������ ������������������������������B
*� ������������� ����� � � ����� ��������� � ���������������� ������ ������ � ������� �
��������������������������� ������������������������ ������������������-
9� !������������ �����������3��� ������������������������ ������ ������ ���������
������������� �����������3��� ��������������� ������������������������� �� �� �����
������
������*,��*��������������������������� ������� ������ ��������� ������������� �� '������������
���������������� ��������������������� �� �� ������ ���������� ����������� �������� ������ � �
����������������������� ������������������� ������������������������������ ������������ � ���������
������ ������������������������������������ '���� ������������ ��� ���������� ��������3��������
�� ���� ��
������ ��)#'�����,�#-(
� ����������������������������� � ������ ��������.500#���������� �������������� '���� ��������
������������������������������ �������� ������ �����������������������������������������������������
��� ������ ���������� ����� �������������� ���������� ��������������� ������������ ����������
���������� ��
.�������������� ����� �� ��������� � ���������������� ���������������� �������#����������
����������������3�� � �� ��������� �������� ����� ����������� ��������#� ������������ �� � �������*,�*�
��������������� ��������������������� � �����������$��������F�������E������� �������������������������
� ��� ������ ����������� ������ ��� ���������������������������������������� ��������������(�����
�������������� ������ ����������������� ��������������� �� ���� ���������������������������
� ������� �� ���� ���������� � ������ ����� ������ �� �������� � ��� ���������� � ���� ������ ���� ��
����� ���������������� ���������� ���������������� ����� ������������ ���� �������� ���������������
�� C� � � � �� ��G H� ����*,�9#
�� C� � � � �� ��G H� ����*,�7#
������������� �� ���� ���� ������������ � ���� ��� ������� �������� ���� �� ���� � ���� ��������������� ���������� � ���� ��� �������� ����������� ���� ����������������������H�������� ��������������������*��� � ��� ������������������������
��. ���������� ������� ���������
������� ����� ���� �����������������F������E����F�$����� �E�� ���� �������������������������
������ ������������������ ��!� ������ ����� ����� ���� ���� �������������� ���������� �� ����
����������"������ � ���� �������������B
�� C�*
*� � ��G����*,�?#
��������������� ���� ������ �����������������
/������ ������������������ ������ ������������������������������������������������� �������������
����� ����������� ���������� ������� ���
��������� ������������ �������� ���� ����� �������� ���� ��
One revolution
1000
800
600
400
200
0
–200
N1200
Fa
b
b
a
Good Tool
One revolution
Fa
a
1400
N1600
1200
800
600
1000
400
– 200
0
Key:a = force signalb = revolution signal
Cutting Parameters:speed = 650 rmp, feed = 15 ipmdepth = 0.08 inch
Broken Tool
200 b
����������������� ���������� ����� ���� ��/
������ �01�#%2�&�'���(% &�'&���!(��2��3���12�&���01�#%2�&�'��(% &
������������� ������������/0/��������������� � ���� �����(�� ���������������� ���� ����������
����������� ����� �� ������(� ���������� �� �������� ������ ���� ���� ��� ��� ��� �� �������� � � ����
��������� �� ����I'� �������'� ����'���������'������������������������������ ��������������� �����
���������������� ������������� �������� ������������������������ �������������� �������������
���� �� � ����*,�9����������� ������������������������������ ��������������������� ����*,�7#�����
����� ������������������������B
*� ��������������� ���������@?H��;HH��;;H��2HH��� �2;H���������� ������� ���#�
9� ���������������������2��*9��*,�� �9?�� ��������� ���#���
7� �������������������������H�H2��H�H@��H�H,��H�H+�� �H�*�� ����#�
��������� ��������������������
Proximity SensorProximity Sensor
DynamometerWorkpiece
Amplifier
DC Power SupplyDC Power Supply
A/DBoardA/D
Board
VM
C40
VM
C40
��� ���������� ������� ���������
T1 T2 T3 T4
1.5
1.5 2 2 3
3 2.51.5
Unit of value: mm.
�������� ������� ���� ���� ��
��������������������������������������� ����������������� ������/���� ��������������������
���������������/������(��������� ���� ���������0���� ����#��������������
������ ��)#'�����,�#-4�*��!(��2��3���12�&�
������������������������� ��� ������ ������������������� '���� ����������!(�1(.������������
����������� �����������"��� �������������� ������� ������� ����������� ������������������� ���
����������������������� � �����������"����9����� ������������� ���������� ���������� ������ �����
� �� ����� �������"����7������������������� ������� ������� � ��� ������ �������������� ����������?
��������2����������������������������� ���� ���� � ����������� � ���� �� ������� � �����<���
���� ������ � ��������� ����� ����������� � ������� ������@��� ������� ������������� � ���������
������������������������� ���� ��
������� ��������� ��������
����� ���� ���� ������������������������������������ ����B
*� "�� �������-
9� �������-
7� =����������-
?� !����������������-��
;� !������������ ������3��� ������������
%������ ���� ���������������*#�J��������9#�.���� �
�������� ���������� ������������� ������������J������������������������������� ������
�������������������������� ���������������� ��������� ��!"�6�������������
������� ����������������������������������
� � ����� ��� ����� �������� ���� ������� ������� �� ���� ������� ������� �� ����� ���� ������ ����� ���'
�������� ������ ������������ ��������� � ��� ��������� ����������"� ����������������������������
����������������� ���������� ����� ���� ��5
������ �������� ���������������� �������"������1� ����!���� ���������������������������� �����
���������������� ��������� �������������������������������������������������� �����
���� ����������� � ���� �������������?���������� � ������������������*��� ��������� ��������
����H�;������ ������������ � �������������9HHH��� ���������� ������������;��������*,�*����������
��������� ����������� ��������� ������ ��� �� ����� �������(��� ���� �������������� ������ �����
��������������� �� �� ����� ������
�� ������ ����������������������������� ��������
������ ������ ����� ���� � ����� ������� ������� �������
����� �� �� ���� ����� ���� ���� ���������� ���������
������� � � � ��� ����� ����� ���� �����
!���� � � � ��� ����� ���"� ���#$ ��%
������� ���������� ����������������������������������
����7HH������ ���7HH������������������� ������� ����������� ����������������������������������
9HH����� � ������� �*HH��9HH���*HH#������ ��������������� ����99;����� � ��� �@;��99;���@;#������ ������ � � ���� ����� ��� 9;H� ���� � �� � � ;H� ����� �� �9;H��� ;H#� ����� ������ *,�9� ������ ����.���5��������� �0������0��������.500#���������� ��������������������� � ��� ������ ���������������
��������� ����������*,�9���������� � ��� ������ ���������
�������� � �������� ���� �4!"���������� ��$����#�������������� � ������������ �����������
����������� �� �������������������4!"��������������� ���������������� �������������������������
��� �� ���������-��������������4!"������������������������������������������������������������������
����������� ��������������������������������������� � �������������������������������������������
������ ��� ������� ���������������� ������� ���������������� �������� �����������������������
���� � ��� ������ ����������7B*���� ������ �������������99;���@;�������������������������� ������ �������
�� ������� ����������������&�� ��������������������
������� ������ ������ ����� ���� � ����� ������� ������� �������
����� �� �� ���� ����� ���� ���� ���������� ���������
'��(���� � � � ��� ����� ���"� ���#$ ��%
''�(�$� � � � ��� ���%" ���#% ��� � ��'#
'��(��� � � � ��� ����� ����" ��'�� ��' �
������� ���������� �� ��������������� �����������
� ��������� � ������� ����������� � ���� �������������;��� �������� ������������������*��=���� �
��� � ���� ��� ���������������������������� ���������������������������������������������
����� ��������������� ��������� � ���� ��������������?�� �2��� �������� ��������������������*��
9��������*,�7�����������.50������������ �� ����������� � ���� ��� ���������(����� ���������
�������������� ����������������������������?���� � ���� ��� �*���� ������������������� ��������� ����
��6 ���������� ������� ���������
�������������������������� �������� ��� ��� ��� �����?���� � ���� <*���� ��������������� �����
����� �������������������������������������������������� ���� ���� ��K�������� ���� �#<9��������������
������ � ������ ����������� � ���� ������������� � ��
�� ������ ��������������� ������������ ���������)���
�� �� �� �� ����� ���� � ����� ������� ������� �������
���������� ���������� ���� ����� ���� ���� ���������� ���������
% * � ��� ��� � ��'�� ��'�" �����
� * � ��� ���%" ���#% ��� � ��'#
� * � ��� ����# ���#% ���#% ��'
% % � ��� ��'"$ ��%'� ��%% ��%$�
� ' � ��� ��� # ����% ����' �����
� % � ��� ��%�" ��%%% ����$ ���'�
� � � ��� ���"� ��''$ ��%"' �����
������� ���������� �������������
�������������� ������������������ ������������������ � ������������� ���������� � �����������*�������
����� ������� � ���������H�;��9��� �*H�������������������������������� �������������*,�?����������
.50���������� ������ � ���������������������*,�?��������������������������� ��������������� � �������
��H�;�� �*����������������� ������ ������� ����������� ��������������� � �����������������������
��3���������� � �������������������������� �������������� � ���������*�����������������������������
����� ������������ �������������
�� ������ ��������������������+�����
������ ������ ����� ���� � ����� ������� ������� �������
����� �� �� ���� ����� ���� ���� ���������� ���������
� � ��� ��� ���%" ���#% ��� � ��'#
� � � ��� ���%" ���#% ��� � ��'#
� � ' ��� ����" ���%% ��%�" ��%�#
� � �� ��� ����� ���%% ��' " ��%�$
������� ���������� �������������
���� � ��� ����� �� ���� � ������� ���� ��� ��� ��� ���� ������ �� ���� ���� ���� ����� ��� ����� � ���
�� �������� ����� ��������������������������� ����������� ���������������������� �������������H�;�
( ��������������������H�7��H�2��� �H�,������������������������������������ ������������������*,�;������
����.50���������� �������������������� ����������������*,�;��������������������� ���������������
���� ������������H�7�� �H�;���������������� ������������ ������������������������������������������
����� ����������H�;����� ������������������������������������������� ������������ �������������
����� � !��������
(������������ ��� �������� ������ � �� � ������� ��������������� � � ���� ���������$����� �� ��
�������������� ���� ��������� ������������������������*���9��L���� ��;�������� ��;�� ��������������������������������� ������������������������������� �������������� ������3��� ������
��������������������.������������ ����$����� ���*,�;#������������������������� ����������*����9����7���?��� ���������������B
����������������� ���������� ����� ���� ���
��* C�*
* * 9 7 ? ;? 2;9 H ??, H +?@ 97@ H ,;7 99*� � � � � � � � � ����
GM � � # � � # � � # �G9;� # � � # G �GH� #N� � � � � ����*,�;#
��9 C�*
* * 9 7 ? ;?H ?;@ 7+ ?9* 92* @ 7*@ H;? ?? ;H;� � � � � � � � � ����
GM � � # � � # �G*;� # � � # �G9*� # G � � #N� � � � � ����*,�2#
��7 C�*
* * 9 7 ? ;99? ??? 9? 9;9 7 ??+ ? 9*; 9,+� � � � � � � � � ����GM �G*H� # �G7� # � � # � � # � � # G �G*� #N� � � � �����*,�@#
��? C�*
* * 9 7 ? ;* 79* @72 H 9H9 H @+ H H*; H ,9+� � � � � � � � � ����
GM � � # �G9?� # � � # � � # � � # G � � #N� � � � � ����*,�,#
����* C�*
* * 9 7 ?** 2+@ *2 +@@ *9 9+; ** ,H@ 9 +?;� � � � � � � ����
GM � � # � � # � � # � � # G � � #N� � � �� � � �����*,�+#
����9 C�*
* * 9 7 ?2+@ +@@ 9+; ,H@ +?;� � � � � � � ����
GM �G**� # �G*2� # �G*9� # �G**� # G �G9� #N� � � �� � � �����*,�*H#
� ������������������ ������� ������������3��������������� ���� �B
������*�������9����� ������������ ���� �������
������*�������9����� ������������������ �
�����+ �%&�%& (�'&����&$�)(%�&(
���������������& !"��������������� '���������� �� ������ �$�����������������������'����� ��������� '
���� �����������������$������� ������������������ ������ ����������������������������3���
����� �������������������� '����������������������������� �� ������ ���������� ������� ������ �������
��������������������� ��������� ���� �������������� �� ����������������������������� � ���������
+2�?O��� ��������������������� ����������+H�@O��5��������������������� � ��� ������ ��������������
� ��������*,�2�� �������*,�@�
�� ������ ,��������� �� ��� ���������
������ ������ ����� ���� � ����� ������� ������� �������
����� �� �� ���� ����� ���� ���� ���������� ���������
� � � ��% ���%" ���#% ��� � ��'#
� � � ��� ���%" ���#% ��� � ��'#
� � � ��" ����# ���#% ��'�' ��'
� � � �� ����" ���%% ��%�" ��%''
��� ���������� ������� ���������
�� ������ ,������������ �����������
�� ��� �������� �� �������� !��������
"������� �� �' �% �� �� � �� � �'
- � #���� "�� �' ���# ��� � � - �
.� ��� �''���� "�� �' ���# #����� � � .� ���
- � "%��"� ��� �� ���" '$��"� ��# ���' - �
.� ��� $ ���� ��� �� ���" %" �"� ���% ��#$ .� ���
- � "$��%" "�� �� ���" '� �"� � � - �
.� ��� �$��" "�� �� ���" �%$��� ��' ��# .� ���
- � �'%#�� ��� � ���$ ''��' � � - �
.� ��� �"$$�#' ��� � ���$ �/��#�"� � � .� ���
- � ���%�$" ��� �� ��� %����" � � .� ���
.� ��� � "��$' ��� �� ��� �/'���#' ���� ��## .� ���
�� ������ ,������������ ����������
�� ��� �������� �� �������� !��������
"������� �� �' �% �� �� � �� � �'
- � $���#� ��� �� ���" �$$��' � � - �
.� ��� �'#"��" ��� �� ���" � ��"" ���� ��## .� ���
- � $'%�%' ��� �' ���$ %����' ��%� ��"� .� ���
.� ��� �'���#" ��� �' ���$ �/��'��� � � - �
- � �� ��%' ��� � ���$ �#'�� ��## ���� .� ���
.� ��� ���'�#' ��� � ���$ �/%�%�#' � � - �
- � ��'���" "�� � ���$ �$'�'' ��# ���' .� ���
.� ��� �'�%�' "�� � ���$ � ��% ���% ��#$ .� ���
- � ���$�� ��� '� ��� �����" ��# ���' .� ���
.� ��� � $"�$� ��� '� ��� �/�"'��' � � .� ���
����������������� ��������� ���������������������� �������������'���� �� ������ ��������
� ��������������������� ��������������������������� �������������� ��������������� ���� ������������
����� '��������������� ����������� ������������������������� ��'��������������� ���� ���"� �������
�� ���� ������������ ������� �������'������������� ����������� �����������������������������������
����� �������������������� ��� ����'����� � ��������������������������� �������������������
����� �������������'���� ���������������������������� ���������������� �������������� ���������
������������������������������� ���������������������������������������� ������� �� ��������������
� � ����� ������ ����� �� ���� ���� �������� ��� � �� � ���� ������� ��������� � � ������� � �������
� ���� �� �������������������������������������� �� ��� �������� ��������������������������� ����
��������������� ���� ���� ����� ���� ��� ���� ���������������& ��� ���� ��������� ����� ���� �����
���������������� ����������� �������� �� ����3��������������� ���� ���������������� ���������
���������������� � ��
����������������� ���������� ����� ���� ���
���� ������ �������������
.������������ �������� �� ���� �� ������� ������������������������������������������� � �����
������ ��� ���������������������������� ��������������������'����������������� ������������
�������� ��� ���� �� �� ��� ��� ����� ������� ����� � ����#��.��� ����� � ��� �������������� ��������
� ������ ��������������������������������������������� �� ��������� ������� �����������������#����
������ ����������� �������������� � '������������������������ ��� ���� �-���� ���������������
������������� ��� ������� ������ �������� ������������ �������� ��������� ��������� ���������������
������ ��������� �������� �� ���� ��� ����������� ��� �������� ������������ � ��� ������ ������ � � ���
��������� ��� ������������� ������ �� �� ������������������� ��� �������������������������9
�� �� ����������������
���������������� ���� �(0 �"��������������������� ����������� ��������������������������
���������/���� ������������������������������������������������������������������ ���� ������%9
�� �� ��
������ ��'1�%3����)#�4�)77!��&8�#�&$���!(��2
�����1�����/� ���������� 1/#������������ �������� �������� ��������� �� �� �� ���� ����������
������������������ ���������������������� ������� ����������������� �������������������������
������������ ���� ��� ����������������������������� ������������
(�������0����' ����� � ��� ���"������� ���� �����"��� �������� ���� � � ���� ����������
��������������������������������� � ��� ��������� ��"������������������� 1/������������������
���������� ��� ��������� ���������������� ������(0 �"������������������������ ��������'����������
������ �������������"��� ������B
"�����# ���������*#�� ��������*#�����
��*�C��*��K��*��K��*#
"�����# ���������9#�� ��������9#�����
��9�C��9��K��9��K��9#
% �����������(0 �"������������������������ ������������������������� �� � ����*,�?��0����������
�������� ������������� ��������������$������ �������� ��������� �������������������������� ��
��� ������ � �#��� ����������� ������� ����� ����� ������������������ ����� �����������
$�����# (������� ����� ������������������������ ������������������������������������������� ��������������������������� ���� ��! #�������� ���������� ��B
�*��� C������#��C�*��9
�*��� C�����G�9��#��C�7��?
��� ����� ����� ������������������������� ���������������� �������������������! ����������� �
��� ���������� ������� ���������
��� ��# C�*
*
9
�FHG
IKJ
L
NMM
O
QPP
� �
��
�
��G
��C�*��9 ����*,�**#
������������ ����������������������������� ��
$�����# ���� ����� ��������������������� ����������#�������������������� ���� ������������������������������������������������������������������������ ������������ ���B
�9��� C������#������# ��C�*��9 ����*,�*9#
������������������ ������������������������ ���������� ������ ���������������
$�����# 0����� ������������������������� ���������������������������� ������������������������� ����������� ���������� ������ ������������������������������������������ ���� �������������������
��B
�7��� C�!� �C�!
! !�
* 9����C�*��9� ����*,�*7#
$�����# (������� ����� ������������������������ ����������������������� �����������������������
������ ������������ ������ ����� ����������������� �����B
�?���C�!� ��� "!� �����K�����K���# ��C�*��9 ����*,�*?#
������������� ����������� ��������������� ��$�� �������������� ������������������������ '�������������������#
��������� 0123!�
Layer 1 Layer 2 Layer 4Layer 3 Layer 5
Backwards
Forwards
W2
W1
W1
W2
A1
A2
B1
B2
Y
AM
M N
N
N Y
N Y
Y
S
����������������� ���������� ����� ���� ��+
$�����# ���������������� ���� �� ���������������� ��������������������������� ���� ��������������������������������������� ���� ���������� ���B
����;C�� C� ! �� ��
� �C�
! �
!
� ��
�
�
�
����C�*��9 ����*,�*;#
����(0 �"����������������� ���� �$����"������������� ��������� ��� ����������������������
��������� ������(0 �"���������������������������������������������*9��*;#��1�����*�������������������
����������� �������� ���#� ������ � �� ��� ���� � ����! �� M*7N�� ������ ����������� ���� ������ ���#�$�������������1�����?�������������������������������������������� � ��#������� � ���������������������� ������������������������������������%$����%������������
������ �'#&%& ���������8������
��������������� � �������������������������������������� � �����������������������������������������
(0 �"���������������������� � ������M*?N��0��������������������� ����������������������������� ������ ���������������! E�������������������������������������������������������������� ��������������B
� C�!
! !*
* 9���*�K�
!
! !9
9 9���9
C�! � ! �* * 9 9� ����*,�*2#
C�!*��*��K��*��K��*#�K�!9 ��9��K��9��K��9#
C� ! �*b g�*�K� ! �*b g��*�K� !*b g �*�K� ! �9b g ��9�K� ! �9b g��9�K� !9b g ��9������������ ��������� ���� ���������������������������� ������������������ ������� ���������
����������������� �����������B
� C��*����9 ����*,�*@#
� C�����������������������
�* C���������������� � �� ���#�����������
�9 C��������� ��$�� ����� ���#�����������
� C����������
����������������������� ����*#������� ��������������$���������������� ���������� ��$�� �
������������0������������ �����������������*������� ���������� � ������� ������ �����������$����� B
�� C�� ����*,�*,#
��������� ��� ������� � �� ������������� ��&�������������� �����$��������������� ������������ ����'������������ �������9���'�'�����������������$��������������B
��. ���������� ������� ���������
�P C���(��#G*��(�� ����*,�*+#
����� ���������������������������$���������������� ��������� '�� ������ � ��
��������������������� ����*,�?#��������������� ���������������������������������������������
����������������� ��������M*;N������������ ����� ��������������$�������������� ����
)��# C�*
9
9
*
M � # G $� � #N� � � ��
�
�
� ����*,�9H#
� ��������������� ����������������'��&#������������������������������ �������� ���� ���������������
�� ���������� ���
$��� ��# C� $��
� ���G�*#�K�� �
�
* �
���
� #
$ � #�����*,�9*#
������������������ � �������� ���������� ��������
�
�
*
��$�C� ����
�
�
$
$�+� �
���
����*,�99#
� $�+� � ���� ������ ��E���������� � ������������������������������������� ���
������ �������8���29)(�%�&
������������������������ ����������������������������$����������� ���������������� ������ �������
�������������������������� ������ ������������� ������ ��� ������������� ��������� � ��� ����
��������������� ������� ����������������������������������������������������� � �������� ������������
������������������������������ �����������������������������$��������� ���� �������������� � ������
�9��� �� ��������������������������������������������� ���������������������������������������
�� ������������������� ������ ��������������������������9��� �� ������ �7';O�M*2N��� ������'�������������������������� ���� ����*,�;#��������������������������������� ������ ���������������������
����
������������� �������������� ������(0 �"����������������� �M9HN��������������������������
�������5����#�� �������������� � ����,�#��� ���� ����������� ��� �� ���������������������-./���� �������������������������� ������������$������� ����*,�2#
��������� �� ���������� ��������� ��������� ����*,�2#��� ���������������������0���� ���������������������� ���������������� ��� �� ������������0���� ��������������������������� ������������������� ����������� ��������������������������������������������������0���� ����������
1�$# C�2���K�2 ��*
��C�*��9 ����*,�97#
��������� ������ ���������������������-./�������������������� ����� ������������$��� �������������������������� ��������� ������������ ���� ������������ ������������������ ��������������B
-./ C�H�92295�����G�+�@9H@
����������������� ���������� ����� ���� ��/
��������� 2���&�������� ���������
�� C�H�H@7@0�����K�*H�+*9 ����*,�9?#
�$ C�H�92290�����G�?�HH;
������ �1�%2%7'�%�&��8�����*�4��&�#����#(�(%& ���&��%$��� �#%��2(
"�� ����� ���������� ������������ ������������������������ ������������������������������ �� ����
������ �������� ����������������� ������ ������� ����� ��������������� ���������M*@N�
(��� ������� ����������������� ��� ���������������� �������������������B��������� �������������
������� ��������������������������� �������������Q������R���������� �������� �� ���� ��������
����� ����������������� ���"������� ��������� ���������� ���������������������������������� �������� ���
�� ������ ������������������ ����������������������� ����������� �������#�� ��� ����� ���� �
/�������������� ����� ��������������������������� ��������������������� ���� ������ ������� ����
��������� ��-���� � �������������������� ������������ ���������� ������������������� ������������
Econ. Heater
(4)
(6)
X
I
(7)
Steamflow tonetwork
Steam header
Steam Pressure
Furnace pressure
Air fan(9)Boiler
drum
BoilerdrumBoilerdrum
(2) (1)
(8)
Oxygen Induced draftfan
Sec. air
Prim. air
(5)
(3)
Prim. air fan
Fuel feed
Furnacewaterwall
Steamsuper heater
��� ���������� ������� ���������
�������(�� ���� ��������������� ����������� ���������� ��� ����� �����������������������������
���� ��� ���� ��� ��M*,N��!������ ������������������������������ ������������� ���������������� ��
�� �������� �� ���� ����� ������������ ������������������������������ ���9H�� ����������
����������9�� ���������������������������������� ������������� �������������� ��������������������
���3��������������� ������������������������������ ����������������� ����������� �������� ����
������ ��������������������������������������������������� ���� ������������� ����������������
��� �� ������������������M*+N��/�������������������������������������������� ���������� ���� �����
������������ �������������� �������������������$����������� ������������������ ������������ �����
�� ����� ���� ���
) C�
� G $ #� �
�
�
���� ����
*
��K�����
� G $ #� �
�
� �
�
9 9
*
�����*,�9;#
������������������������ ���������� ������������C�9������������������������� ���������� ��� �� ����������������������������������������������� ��
����������� ����������� �������������� �����(0 �"������������������������������� ��������
����������������������� ������ ������������������� �������������� ������������������ ����������
��������� ��������������������� ������ ����� ������������������������������������(0 �"�����������
�������� ������� � � � ���� ����� � �� �� �� �� � ��� �������� ������ ������� �� ���� ����� ��� � ��
��������� �������
��������� 4 �� ���)���� ��� ���� ���� �����
Pcomb
Pcomb
Linearlizationmodel
Oxygen andcombustion power
controllers
ANFIS fuelflow model
andStoichiometric
combustionand fuel gas
model
Cf
QH2
FQ
Fs
����������������� ���������� ����� ���� ��5
��������� 2��������� ���)���������� �� �����-0
��������� ,3�� ���� ��� ����� �� ����� ��&� �����-0�
+
+
+
++
+
+
+ +
++++
++
+
+
+
++
Generations
1 2 3 4 5 6 7 8 9 10
2.5
3
3.5
4
4.5
5
6.5
5.5
6
Best
Average
Poorest
Fit
nes
s
Optimization of the Pl controller
120
110
100
90
80
70
60
50
400 100 200 300 400 500 600 700 800 900 1000
Setpoint
Output
Time [S]
Co
mb
ust
ion
po
wer
[MW
]
�+6 ���������� ������� ���������
�������� ,3�5�)����� ����� �� ����� ��&� ��
���������� 4 ���� ��� �������� ���6�� ����� �� ���������+�������������� ����������������������� �� �
�)����
4.2
4.15
4.1
4.05
4
3.95
3.9
3.85
3.8
3.75
3.70 100 200 300 400 500 600 700 800 900 1000
Ox
yg
enco
nte
nt
[%]
Optimization of the Pl Controller
Setpoint
Output
Time [S]
Setpoint
Output
Co
mb
ust
ion
po
wer
[MW
]
0 100 200 300 400 500 600 700 800 900 100030
40
50
60
70
80
90
120Combustion power measurement signal
Time [S]
110
100
����������������� ���������� ����� ���� �+�
�:������������
*� 6����� ��������������� �������������� ������ ������������������������������ ����� �����
����� ��
9� 6����� ��������������� ���(0 �"������ ������������������ ���������
������������
*� )��(��� ��������)����������� �8��������������=������� ��������.��������� �!���� ��%������� ��
*%3�%����%3����%4�$���5A����**H�����9@*'9@@��*+,,�
9� 8�/�� /�� �� (� ����'0���� ����'.�������� =������� � "������ ��� 6 '!���� �� %������� ��
�%���%����%�6)���%�6���47�%��4 �%��������%3(���%�6�3���A����*9������*;7'*2?��*++2�
7� 8�/��/�� ��� �8����.������ 8����(� ����'0���� � '�������� � 0�5#�"�������������'.�������
!� ����� ��� �6 '!���� ��%������� ����%���%����%�6)���%�6�� ����%�%3�(��6$#�%����8����%3��A����7@��0���2������@,7',HH��*++@�
?� 8�"��8� ���/����"� ��� �6��!����� ��������8��//��%4����,�#����%3��0���8�����B�5�� ����������*++@�
;� >��8����� �����=������� ���/���� ��6���.��������� ���� � ����%%�6$�����,��0��A����?*�0���*������+@'*HH��*++9�
2� !��1� ��� �)��0���������� '5�������=������� ��������.��������� �!���� ���*%3�%����%3����%4�$���59:;5*+*'*+@��*+,2�
���������� 5�)����� �������� ���6�� ����� �� ���������+�������������� ����������������������� �� �
�)����
0
1
2
3
4
5
6
7
9
8
0 100 200 300 600400 500 700 800 900 1000
Time [S]
Oxygen content measurement signal
Oxygen
conte
nt
[%]
OutputMeasurement
Setpoint = 4%
�+� ���������� ������� ���������
@� ��8��>���� �=�D��/����=�D�� �!�)��8� ���% '�� ��!� ����� ���������.��������� � ���
!���� �B�&�� ����"��'%��� ����0������0��������)���%�6�� �%��������%3��$��#$��A����*?�0���9������,H'+H��*++H�
,� ��0���� ������ �/��!�1� ���� ��=������� ��������.��������� �!���� ��%������� '�����������
"������( �������(����������%���%����%�6)���%�6�� ����%�%3�� ���6$ �%��������%3��A����77�0����?������;7*';??��*++7�
+� ��0���� ������ �/��!�1� ���� ��=������� ��������.��������� �!���� ��%������� '��������0�����
0�������(����������%���%����%�6)���%�6�� ����%�%3�(��6$ �%��������%3��A���77��0���?�����;?;';,,��*++7�
*H� )�"����� ���� �.�)��1����(�"� �����������=������� ��������.��������� �0/�!���� ���)���%�6�� ������6$0����$$�%3(���%�6�3���A����72������9;+'9@9��*++7�
**� =��:�� ���)���� ��� �=��/�� ��% '�� ��=������� ��������.��������&�� ������������ ���
/���� �� ������� �!���� ����%���%����%�6)���%�6�� ����%�%3��(��6$ �%��������%3��A����7;�0���*������*+'9@��*++;�
*9� 4��8� ���/��"� ��� �6��!����� ��������8��//��%4����,�#�������%��5�� �����������08�*++@�
*7� �(�� (�������� � � (�.�� (�� ����� 0����'����� �� ����� �� �� ������ ������� ����� �� � ���
0�����4�%3�����9<<<�***��� ��� ���� ���/� ��� ���� �/� �����(��������� ����������&"(�����*H;H'*H;;��*+++�
*?� 6����� � ��� �>��0�3���� ����� ������ ��������� ����������� �������� ./�����������66�5����'
/� ������������(��������� ���A����*?7������9;+'92+��!���*++2�
*;� "����>����)����>����>�.��"����� �����8�� ��% �=������� ��� ��������� �����'������� ����
��������5������666<4"8�/� ��� ���� �� ������� ���������� ���������)���������8��� ������+;H'
+;@��8����*++7�
*2� >��1���S������� �8��>������������������������� ��� �� �� � � ���������5����� �("�6=
� ��� ���� ���/� ��� ���� �(������!����� ��� �"�������� ��0����9HH9��/���������!(�
&"(������7?*'�7?2�
*@� 8��������� ���4�������%�%������6�%4���������6��$��#��!���5������*++9�
*,� 8�"�)� �� � � !�1�� D����� (� /���� "���� �� 5�=� /� ������� �� � �� ��� J� ����� (��������
5������ ������("�6=�� ��� ���� ���/� ��� ���� �!����� ��� �/� ������� ��������9HH*�
*+� 8��A�������� �(��!�����D�����J����������0� �� ����5��������!���B�%���������� ������J� ����
(����������5������ ������("�6=�� ��� ���� ���/� ��� ���� �!����� ���� �������� ��
/� ������J�� �������"�������� �9HH?�
9H� :���T�����A��D������8��>�������� �&��>��������0����'�������������������������� ��� �� ��
5������ ��� �� �("�6=� � ��� ���� ���/� ��� ��� � �!���� �� �� �������� � � �/� �����
J�� �������"�������� ��9HH?�
�����
�
�������������� � ������ ���������
��������
�������� ��� ��� ����
����� ������ ���� ���
�������������������
��������������������� �����
����������� ��������� �����
��������� �! � ���"#��$��%�
� ������&�
� � �!!��!�&�
�'()*����
�'()*�*������������
� ��� ����+����$��,
� ���*$���������$��,
��������� !�����--$�������
����+���������! � ���
����#��������� ���
����#����������� ��%
� "����&����%����%�
� "������
����������� ���������
����������� �������
����������� ������ ������������
�*���������� ��� ����
�!!������������ � ����
�!!��������.���$��&�
�!!��������*����#����
�!!��������*����#������ �����
�!!��������$���� ��
�!$�������������� ����&&
�����!!������ �������&�
��+�����$�/$�����*$!���!���%
��+�����$�#$����!���0
���������������
������ �������!��%
�+ �������
�
1����������� ������������
1���� ���������
1���2!�������#����
1�!���������$���
1����� ��3���� !���&
1��!���0
1� ��$���--$������� ���
1������� ������ ��������������
1��-�� ����#� �!��&�
1��� ������
�
���!!��������!�� � !���
�����4���!$!�������
�����!�� ����������
����!����
�� �����������$����#��0�
�� �����������%0
�� ���������--������� ��,���
�#��������!��������--$�!$!���!��
���!!��������!�� � !���
���!!��������!����� !���
��� ������������ ����������������
���!!�����'�����$������� ���
���!���� ��&�� �0,
������������
����������� �����!����
�����������&�
�����������$��%
���� !���$��%
��������������� � ��0,
������� ���0
��� � ���+��������%�
���!��� ����������
� 5���������� ���� ���-��� ���%
� 5� ��� ��������
� ���!��� #� ���� ���%0
� ����������!�� ����
� ��������������������,,
� ������� ���������
� ���� ����#��������
� ��+���--$�!�����
�!���� ��� ��0�
�� ����������� ��0�
���������,
�
6���--������� �&0���,�
6���--������&%��%&
6��������
6�������������
6� �����!��� ���
6��� !� ����$�������� ��&�
6������ �!����� ���-��� ����#����%
6�!������������!#����� ��� ��,
6�!5� ��� � ������
6����������0,
6���!�� ����������
6$ �����4������ ����
6$ ����!��,�
�
��� �����!��%�
���� �'���������
���������/$�����*$!���!���%
���������#$����!���0
����$�(�--$�*�����
� �����������!��� � ��,�
� ������� ����
� ������� ������ �����!!����
� ������ �� ������
� ���$�&�
�3������ ����,
����������������� ����
������� ��� ��0�
�������� ���!�� ����0�
�������� � ���������
�+���!���������
�+���!!������������
�+�������� ���� !��%
�
(��������+������ ��&�
(����������� ���������� ��,
(����������� �����!����
(��������� ����!$!����%�
(��!����.�+����%0
(��+������� �������� �!$!���!����
(''����#������������
(�����#������������!���� ������#���%�
(������7� ������!��,,
(�� ����
(�--������� �%
(�--$�������#���&
(�--$�� ����%
(�--$���������� ����������
(�--$���������� !��,
(�--$������� �� &� 0
(�--$������ �������%���%�
(�--$�8���� ������!����
(�--$������!��� �
(�--$� ��� ���,
(�--$�'��������
(�--$�4� ����
(�--$������� !�������
(�--$��������!��!$!����0�
(�--$�!����
(�--$�!� ��� �&�
(�--$�!$!���!��
�
9��!!�� �������!#����� ��� !�%�
9� �����!����������������,
9� �����-���.��!�4 � !���
9����������� ���
9������������� ���
9��������!� !���&�
� �� ���
9���� ��������!��,�
9�����$�%0
�
/����#��������&
/��� ������ ���
/����� ����� � ���&
/����� � �����%,
/��#������--������� �%%
/���� �: ��!���������
/������� �������&�
/��� ����� �������
/$�������--$� ������ ���������
/$����� ������ ��������,
/$�����!$!���!���0
)������ �$��%��&�
) ���� ������#� �!�!�0�
) ����� ��!����
) �������� ���
) ���!���� ��&� ��
) ���!��7� ������!��,,
;��� �'��������%
�
7��� ��6�� �!���������� ���
7# � � �������00
7��������� ������ ��&&
�
8��!� �� ���� ���.��#� �!��00
8��!� �!$!����&&
8������#���+���������������
8��!���"#�#���
8��� � ���0
8��� � � �������
8��� � �*�����!��������,
8��!����� �!3��������� ���
8� ������!����� � ���� ��� ���,
8� �����#��!#��� ������ ��������,
8� ��!�������������������
8� ��!�����������������#���
8.*����
8.*2���������
8����.� ������%
8 ����������$��%�
.���� ��� ���� ���.��#� �!��0�
.���� ��!$!����&&
.���� �2!���������� ����������� &�
.����������������� ���
.��#��������� ��� � ���������
.�+�������� �%%
.�+������&
.��!��������!���!� �&�
.���� ���
.�����!#����� ��� ��,
.��������.�+����%0
.���� ���,
.� �������
.������!���
.�� �������
. � ����$���� ��� �%��&�
.�������$��� ��������,
.�������$����������� !���0
.������ ����������������%�
�
'���� ��������
'�����������$!�!���%
'������ �����!��� ���
'������--$�!$!���!�%
'������--$�� �����!$!���!�%
'�����--$� ���������
'��� !����������&�
' ���--$�������#����
'�������--$�!�����
'�����-��� ��%&
'����������$��!���0
�
<��!�����0
< ����� �$���
<����������#���������� �&,
<��� ���������%�
<�������������&�
<� �!!�&�
<������� ��!����
�
4������!������� � ����
4�������������,
4������� ��� ���� ���
4������� ����� � ���������
��� ������������ ����������������
4������� 2����� � ���������
4������� !��
4����!������ ��������� ����%
4����!� �0
4�� ��������� � ��� ��$!�!����
4�� ��������� �����������$��,�
4�� ����������������$����
4�������!�����&
4���!!� �: ��!����
4��������
4��������--$�� 5� ��� �%�
4��������--$���������� �%�
4�5���� ���
4�5���� � ������
�
=����� � ���&
=��!����--$� ��������
�
������ �� �����!��������0
����+����$��,
��������--$� ������ ��������,
�� ������ ������ � ����
�� ������ ������ � �!�#������,
����!� ���� ���0
��������� �!��&
��������$ ����!��,0
���� �����,,
�
*������ �-��� ����
*������ �-� � �����!��&�
*������ �������
*�3�� �����#$����!���0
* ��� ��� ����
*#��������--$������� ���
*#������������$��%�
*�������
*� ����� ���0
*������������--$� ��! � �00
*� �����$��������������� ���������
*� �����$��� �������������,�����
*� ��� ���--������%�
*��������� �%
*�� �����*��������
*��#�!������ ��� ����
*�� ��&
*��!����&
*��!��#����
*�� �) ���� ���.��#� �!��0�
*������!3��������������
*���.� ����!��� ��&
*����!����0
*������!������� � ����
*��������
*$���������$��,� ��
*$�����$���
�
"���� �&
��� �����!���� � ��0
�� �����!���� ���!���� ��0
"�$���!����!���%
"�!���������������
"#���� ��!�����������������#���
"#��!#�����0
"#��!#���>! ?���,
"�������������
"������������
"����� ������� � ����&
"����������,
"������������� �!�� ����������!����$��&
"��5����$�� ����� ��,�
"�� !������$��,
"�� !���� �����!���
"����-�������--$� ��������
"��� ������ �����
"��� �����(�--$�'��������
"��� ����� �����
"!������� ���� ������#� �!��0�
�����$��������������� ���������
"��� ����!� ���������%�
�
: � ��&� ��
: ����!�������+����� ��#��������
: ����!�������+�����!���
: ����!�����--$�!�����
: �� ������+������� �������� �!$!�������
: !������!������� � ����
� �� ���
�
@�����3�� ��!��� ��&����0�
�
A������
A� ���*������ ��0,
�
B������� �&
�
C������ ���$���