marketing, etc., where the users of the machine learning algorithm wish to gain ... applications of decision tree learning, not only to give an explanation but the ...
!" #
%$$ +
$ # 2 % # $% % $ # # ! % 2 3 $ # % 3 2 ! $ ! $ $ ' ! % ! $ 4 %# " # ! # % ! 8 # $ ## % % !" ! 2 % % ! "&" $ # % 69: -; # 7 7 % " $ !
& $% ' ( , -..,/
$$
&%
' ! % ) * 0
"
'
' % # %
!
" 6" 24 $$ % 2 % $ "
$' % #
1 $ 2% % 2% $ # % &% 2 $ # % # % & 5 " $ 6"&"7 7 %# &% $ # $ # ' ' ! "&" 2 # ! ! # % $$ $' "& 2 # 6 $ 9.;
# ! # $% $% * 2% 2 # 3 2 $* ! ! # ! 3 $$ $ 6 7 ' % # 1 $ % 2% % $ ! $ # % &% 2 ' % $ # ' % ' # # $ 2 ' $ 2 < &% # $% ! $ !! ! # 3 $ 2% % ! % # $% %# 2 % % % # % % % % $ !$ =9> & % 3 ! # % 5 $ # % % 2% $ # % ' $ ' 2 # ! $ ! $ 2 % $ ! $ ! # ? % * # $ ! $ 2 &% $ ! 2 % $ # % $% !$ 2 3 $ # $% # $ ! $ % % $ # ' % $ !$ % $ $ ! 2 % #
$ #
%
% #
$ #
! $ %
$% %
%
%
$
'
$ !
$ $ &% ! $ # 3 ! # ' % % % ' 4 $ ! $ ! # % ' !! # ! % # ' !! $$ $' $ =@> &% ' ! % # 2% % $ ! % $ !$ # & ' ! 2 3 $ ! $ ' % ' ! % ! $ # $ 4 A% 2% !! $% ! ! # % # $ $ ' !! $ &% $ ! $ % $ 2% 2 $ # % % % % % $ $$ $'B =,C> $ % $% #2 %$ # % % 2 3 0 $ $ % ' $ !2 2 $ $ 2 2 ' $ ' '$ ! 6 %' $ ' $ '7 2 % # $ # '6 % $ # 2 % # # ! 2 # 3 % $ # $ * $ # $ # % 7 # $% =,>=->=C>=D>=,E> % # 4 # $ ! # ' 2 3 $ ! $% $ !$ $ # # 3 $ % 2% $ % % # $ * $ $ # % ' # '$ ' =9>4 A2% $ $ ' ' % # ! ! ' $% ! ' # $ % $ $ ' ! % # B F % # % ' ! $ !$ # " & 5" $ %# 6"&"7 2% $% $% % ! # $ ! 2 &% ! % $ !$ $ 2 % # ' &% # ! % 2 3 $ # % % ! "&" %# 2 % % " # 6" 7 %# ' # =9> ! # % ! 24 $$ $' $ # ' ! % $ ! ' % ' %' $ $ ' &% $ $ % %# 2 $ # "&" " %# 0 $ 0 $ E2 $ % # * !' ' # $ ' % # # % ' $ 0 $ C 0 $ 92 ' ! % # 4$ # $$ $' $ # ' $ ' ! "&" " %# G '0 $ @ % 2 % $ $ ! % 2 3
&%
2 4 %
$$
$ # ' ! #
$' $
'
"
!! #
%$% $ # % ) % $ 2 3$ !$ $ 2 % % ' %
"
!$ '$ % #
!
"
2 %$ # % $ ! &% ' $ $
$ 2
$ % $ # % %# # % #' # 2# 2 $ # %
! # &%
#
$
% 2 3 "&" " % % # % $ $ # % ' ' % # "&" $ # % 3 2 ! % $ ! % $ $ ' ! % ! $ % % ! ! % # $ !
'
# $
%
$
%#
4 $ 6 # $
! "
! 2
$ # 7 #
# !$ #
#
#
6
7
4H , #
+ +
% #
! $
'
'
4H , + + + +
% % $ H I % #
#'
# '
J $
'
'
% %# 2 !$
$ ! ' % # &% ! % $ #
'
%
" %# % $ 2 # % 2 32 2 6 $ &% 2 ' % $ %# % "C 9 / !K =,-> % % % $ # $ ! $ * $ % $ # % ! # =-> &% 3 2 ! % # 7 &% $ 2% $% ! 2 # 3 % ! % " & 6"&7 $$ # % !! ' 2 % $ ' ) % $ % # % # ! &% $ $ %# &% %# $ ! # 6 7 ! # % &% # % # $% * 6! "# 7 G # % $ ! % $ $% # $ $ 2 % 2 % $ # !! # $ $% $
"&"
%#
6
7
#
6 7! #
2 %!
"#
# % $ "# 4H !""$ "# 4H , % 4H I J 4H , %
$ 4H & 4H % < $ %
$6% 7 $ '( !
% $ 6' ( 7 M "$ $ 0 $ "# 4H , $ J % 4H I $
$
6' ( 7
'(
)
,L L
6' ( 7 6' ( 7
#
I
J
%
$ "#
!
$ "# 4H $ "# # ' % $ ! #
%$# # '(
&% $ % $
' %# % # # &% $ $ ! % !
%
$ % $ 2 $ $
5 $ F%
%
$ %# % $
%#
%
$
% %
'
# $ %
% ! % ! % ' % ! ( $ % $% $ % % $ ' ( % ! $% $ # % % !! ! % ! # ! "C 9 % ! % % $ # 5 # ' &% " & 5 2% % 2% % # % % # ! % $ # ! F% $ $ $ $ % ! # % % % # % 2 3 % # 2 ' $ 3 =/> =,,> % 2 % "& % $ # $ $ ' ' % "C 9 % # # 2% # 2 % % % % ! !
#
2 %
!
$ # ! D9; ! # 7 =/> &% 2 %
"#
% $
!
6 $ % 2 3
"&" $ # $ # 8 !
" %# % $ # ! # % ! 24 ' $ ' F ! 2% 2 ' $ ' ! ' % $ # ' !$ !$ # % # 2 % # &% $ # # % # ! ! % &% 2 4 % ! % % * # # % " " # 2 2 ' ' % $ ' $ $ # % % $ # % ! 4 " " &% $ # $ # $* # % ! % &% ! 6 $*7 $ % $ ## # 2 $ $ % $ % ' ! 2 $ $ % ! # 3 % % $% !$ % % % '2 $ $ ## F% !! ! % % $ !! G ! + $ 2 % " " $ $ % ! % $ # 68* ,74 "
" 6+ $ 7
6
,7 , ,
3 " " - " "
$$ $
2
*
! "# !
%
$ ! #
%
$* 6+, + 7 .
% # ' $ $ # ' F 2 $ ! $ ! 2
2 % # #
# % #
%
$ ! # % 2 3 2 (" ? ' $%# 3 % # G % .// 00 $ 0' # 2 % % 2% $% % 9 -E $ $ % $ ! % # ! # ! C :C, # 2% % # !$ % 2 6 $3 N $37 & , % 2 % 2 ! ! % # 6 # $ 7 4 % 6 "1 $$ 7 ! # ,C/ C :C,O % # !! 6 !
# 2 %
# $ $
#
!' %
! '% #
$
8 =,.> %
%
%$!
6 7
,
-
!
$ !
"1 1 $
7 ! # C C,O 7 ! # - ,9 $
!
%
#
#
/"
!$
6
"1
# "1
$$
"1 1 $
@:: ,9. E.E -,C -E,. CE9
"1
,. ,E : ,: ,@ ,/ ,: -9 E9
,99 E,@E -:. $
!!"# $$
! %
E D D C -
&% #
# % ' % # % $ 9 ,. $% ! % ! ! % $ < C.. # % $ 4 < -.. ! # ! D9; ! % # % $ ! 2 % $ # 6&HD9;7 < -.. # 2 % $ # $ % # % $ ! 6) 7 &% ! ! # % "& % $ ! " $ ! &% 3 % % ! % %# $ % 3 ! # 2 % " $ ! 2 % # ! D9; ! % "&" $ ! 2 % # %$ 2 2 % % 2 2 % G , % 2 $% # ! % ! # 0 #
& ,N,.
0
& :N,.
&HD9;
,. F $ ! % # $% $ !$ ' ! $ # % G " $ ! % # ! #' # 6 7 ! & 3 $$ % $ # 6 # ! # $% $ # "C 9 7 % % # !$ # "C 9 ! # 9 -.. % # % # # # ! # ! # $% ! % "C 9 % # % # % " # $ # # , ... !$ # % ! % ! % # 2% # % % ! % # $ * $ % # % ! # 6, ...O 6 2& Q , 977 2& % # ! ! % $% !
& "# "&" " %# % $ # ! # % ! $ # ' $ ' 6# - " " 7 G # $ $ ! 2 % $ # ' * ! % 2 # " " * ! $ ' ! % $ !$ 2% % 2 * !' % A* 'B ! % 8 ' # # $ # % '# 2 % # % $ $ # ' $ $$ $' F 2 % $ # ! "&" " %# ! # % $$ ! 2 $ ! % % ' !! % ! % $ # 2 % F % 2 & 69 Q ,. ! 7 %# $% ! % & E % # 3 ! "&" %# F % # 3 % % ! #
24 % %# ' % '2 % $' # % ! " ! !
%$ 8
!
"
%#
,.
!!
!
# " (
$34
) 5
$3
6 $ 7"$
.E
.9
,.
-.
E.
C.
9.
D9
@ .@
9 D9
& '(
& !!
&!
& '
& !!
9 D9
'!
9 //
@ .,
9 @,
9 //
9 C/
-9 CD
!(
)(
++
(
*(
) ((
) (!
) (
-: @/
* '
+)
*
))
(
+
+
('
E @.
E 9.
E @C
E @.
E D/
E DC
E @.
( -, .9 -. 9,
) )& -. ::
E, ,:
E. ED E. 9/ E. E@
E @C
E 9:
!
E :@
E /D
E D/
&
,..
,-9
,9.
-..
& )
&
& '
&!
& *
9 C/
9 EC
9 EC
9 C/
9 @,
+
*&
!)
-E 9/ -C .E * +!
) +
E @:
E 9,
&
%*
8
( *!
-. @@
-. ED
-, ,C
-. DE
5
$$
-. .,
)(
)!
) &'
)*
) !&
* +*
) (*
) )&
*+
*&
( +
. /.
. D/
( +!
. D9
. DE
. D9
(+
. D9
. D9
(+
. DC
. DC
5* "
-. D/ -. DD
"*
3%
,E :/
,- :C ,- @D ,, @C
,- EE
,- ,/
,, CE
,, :/
,, 9D
,, D, ,, -: ,, @C
.//
00
. 9.
. 9.
. 9D
. 9.
. 9@
. 9C
. C/
. 9-
. 9.
!
"&"
8
. 9@
%#
,.
!!
. C9
!
. 9.
#
"&" (
$34
) 5
$3
6
.E
.9
-.
E.
C.
9.
D9
,..
,-9
,9.
-..
& ++
& ''
9 @E 9 9-
9 C:
9 @.
9 @E
9 @.
9 9/
9 @.
9 @.
9 9/
&'
9 D9
& !* ! '*
! &!
!!
! *
! !
! *
! !
!(
! *
&!
-C C: -E DD -- /9
-- :-
-C .-
-E D9
-E 99
-E C-
-E E@
'
!*
( & ) )!
E. --
E. ,E
)'
-: CE
-: /9
E. ,@
E. .@
E. ..
E 9C E 9@
E 9C
E 9@
E 9:
E EE
E CC
E 9.
E C:
E 9D
!
!
!
'
'
'
'
) '&
))
( ('
( *
( *
( )
) $
) &
7"$
!
%*
8
5
$$
-, EC
5* " "*
3%
.//
00
-, ,E
,.
&(
'
) '+ ) )
(
' ( )
) !)
-, 99 -. :: -, ,,
-. :D
-, ./
-, -9
-. E,
-. 9/
-, -9
-. :9
-. D.
(+
(+
(+
(+
(+
(+
( +!
( +!
(+
(+
( **
( '+
( '+
!( ( !+
*! (!
( +! ( + *! (!
) ( !!
+ (!
( ( !*
( !)
(!
( !!
( '* ( !+
( ** ( !&
( +! ( !'
!2 $ # % ! % 2 $ % % $' ' # % ' # &% !! $ % ! ! % ,-. $ # 6/. # ! ,E- "&" % % ! % $ " % 7 % # # # ! % ! ! % 2 % "&" %# ! % % % ! 2 % " ' ! ! $ ' !$ !! $ 6 < =E>7 2 % :9; $ ! $ % !! $ % ! &% % ! % ,. $ G # % 2 3 % # % $% 2 % "C 9 %# % $% 2 % $$
% ,. !
!
"&"
"
2%
6,,
9
7
G # % & - & E G - 2 $ % ! # % $$ $' ! 2 % % ! % %# "&" " # % $ $ ! % % 2 % $ $ ' 2 # % $ 2 2 # % $ # % ' ! % $ ! 2 # 4 < " # ' $ 2% # % 5 $ # ' # $ # % % $ < 0 $ ' $ # $% % $ ! % $ !$ ! $ % ! G E % 2 $ # ' 6,, Q9 Q ,. ! 7 2% # ! % %# "&" " &% $ # ' ! "&" %# ,E /@ &% # % % % $ !$ # 2 # ,E % % % $ # ' ! " $ ! EE :C % # % % ' " $ ! 2 EC 8 ' "& 2 # $ * $ # $ # % % " $ ! F $ ' % 9: - ; # &% ' ! % % $ !$ # F % # % ' ! % '# % $ ## $ ! % $ ! G C % 2 % 6,, Q9 Q ,. ! 7 !; " " 6 $ ! $ ## $ 7 2% # ! % %# "&" "
%
%
$ # ,. !
7
! ,. !
7
; "
'
"
!
"&"
"
2%
6,,
9
!
"&"
"
2%
6,,
9
&% $ G C % 2 % % % $ ## $ !" $ ! $ 2% " $ ! % 2 $ ' % % ' % % '" $ ! % 2 ! # $ ! " ? % # ! # "& " $ ! $ 2 3 G # % $$ $' ! 2 ! % %# 2% % #
$ ## $ ! "& % "& % C9 ,.; ! % ' -- 9C; ) % # # '" & ' 9.; # ! $ * $ % $ # % 2% "&" %# % 2% # ! #
!
! %
!$ !
$ # #
6 7 $ # ! # %
#
5
E. G #
%
$ # % %# ' # $ $ !! # * ! "
'
!
2 2 $ ' % % % ! "&" H E. 2% ! " %# % $ $ # ' $ 2% $ 2 2 3 =/>=,,> 2 E. 9. # 2 ' ! $ # $ ! "&" %# !
' ) # $% %
% 2
! % ! "&" ' # !
, -
#
$ ! $ ! $ # % 2% 2 # 2 % $ # % 2 3 % %# 2 % % " # 6" 7 %# =9> ! # % ! 24 $$ $' $ # ' ! % ' % ' %' $ $
$ ' G # % # 2 $ $ $ % $ ## % ! "&" % % % !" $ ! ! # % $$ $' ! 2 % % ! % %# "&" " # ! ' % $ # ' ! % %# 2 $ ' % "& 2 # $ * $ # $ # % % " $ ! F $ ' % 9: - ; # 3 % 2 ' % $ ! % # 2 $ ' % % '" & ' 9.; # ' % % ' " $ ! $ * $ % $ # % ! % 2 ! # $ ! "&" %# % " ? % # ! # # ! $ ! "& " $ ! $ ! # % 2 E. 9. # 2 !! # * ' ! $ # $ ! "&" %# ! " &% # ' % % $ % ! % 2 3 G ' % # $ # % % % % !! $ ! % # ! $ % ' % 2 % ! % ! # ! % # ! !! $ "&" " ? % # ! ' % $ # $ ! # 3 $$ % ! 2 !! % $ ! % # ' # % $% G ' % %# $ 2 % % $ !$ # 2 % $ $ ' $% $
&% 2 3 $ % 2 ' % ( ' ! ) * " ' 6( RN8S(7 1 $ 4 ,N( R ..,E: --@
