Probabilistic Part-of-Speech Tagging Using Decision Trees * Helmut ...


 



 
!"#%$'&( )*)*

+)-,./

+)102"3

 +4&
/##65 798;:=%@BACEDF%@ZYE>F[ \SFT%dFe f9TFG=b8;\UVG=@g]h[ @BA/@W>@@Wd]\V@;e iBj 8;Tc38;\VdUV@\;k9lmeonBPpq%lphrHA@W>%@V@Wd]\N@seutv8;\V



K Z

H

IH

-





i;



?

D

(D










-

"



'(-2 )














"

'(--5()







*





*

r

6

-;











…

1



½

µCY









(





&5

µ;





D





µCY

V







?



6

-;

–

C





?

C

-;

!!

C

"



1



1



–

C



1

=

?





nAA

C

&%

(D

! 

½=

 –9

$#

µC



–





('

('

N

-

/.

'

K Z -

/.

!5

'

)!*,+

C

0'

/.



1-

/.

23 wmtSy~—j*grg'wj*knzngn›Es*v ›}gnwmqmydlj*krm’znd!sugnm½x€dfhyd…j*knm½wsugrgrfh™~hm½wj*knzngn›Es*v ›}gnwmqmydSs*vµt!m
xe~ ˜SyqknmqjAzrmpŸxsukrp!g j*p* myznf om “

+



'

µCY1'

' m“ ‡!“

t!suˆt‹!omkr™‹

e n u e l

s d

l e

#

c v n

g

o n a t

y

ies ons ous sed old ble lle nce ive ing ion son ton man ity

i o o s o b l n i i i s t m i

%á®è¤Ôҕ٠Õzؤ÷SÓä£ÙÕzÔ 9à•ÒzÙVÙѤå%ä®ÙNé²è àzæ ¯Õzá£é²èvàzæáâÕ*á®égå~Ñ_Òz÷ØEà•á£Ñ_é?÷¨ÙؤÕzÔҕ٤Þà•æÙ9ÕzÔ !à•ÒzÙVÙæ²Ø¤Õ*×hÙVÙNé ÓҕÔéÙÚê ѤÒËÙVؤãƒæ?ä®ÙVØ å‹Þ/à•æÙZü"ÙNá®è¤æ;àzÙÚ %&0 e!# ÿ % 0 j#1%&0 ø uú"ü±Ø¤ÕÂãVØ äâãÔäâØEà•ÙVÚ ø uú 2 ø uú±4ø ø 3ú  ø uúzúe ø _ú üÂæÙVÒzÙ áâÕËà•æÙ|ÕœÔ Ñ¤å´àzæÙӲؤÒzÙVé_àSéÑgÚgÙ_Þ á®Õ¬à•æÙvÕœÔ Ñ¤åÂàzæÙvãÔ²ÒzҕÙNé;à¬é²ÑsÚÙؤé²Ú 2 ø 3ú*áâÕ¬àzæÙ å~ҕ٠;ÔÙNéhã ZѤåFÕzÔ ±ê šåÂàzæÙBá£éå~Ѥҕ÷SØ àzá®Ñ¤é è;Ø á®é ØEà¬ÕzѤ÷SÙZä®ÙVØ å´Ñ å±àzæÙÕœÔ ?à•ÒzÙVÙZá®Õ¬×ÙNä®ÑEü Ø`è¤á ¤ÙNé?à•æҕÙVÕzæѤäâÚ
 ÞFà•æÙ9ä®ÙVØ å±áâÕ Ò•ÙN÷SÑ ¤ÙÚê"ç±æ²Ù*à•Ø¤èå~ҕ٠;ÔÙNéhãá®ÙVÕÂѤå3Ø ä®äÚgÙVä£ÙNàzÙVÚvÕzÔ×é²ÑsÚÙVÕ Ñ åuØӲؤÒzÙVé_à´é²ÑsÚ٬ؠҕÙ*ãÑ_ä£ä®ÙVãàzÙÚvØEà´à•æ"Ù - #' * ÿ 0 - Ñ å3à•æÙSӲؠҕÙNé;à¥éÑgÚgÙ¤ê šå3à•æÙÚgÙåXؤÔä}àéÑgÚgÙSáâÕàzæÙSÑ_éä vҕÙN÷ؤá£éá®éè|՜Բ×éÑgÚgÙ¤Þá£à*áâÕÚÙNä®ÙàzÙÚ`à•ÑsÑ²ê ¡é àzæ²á®Õ´ãVؤÕzÙ¤Þ;àzæ²ÙӲؠҕÙNé;àÂéÑgÚgÙ×ÙVãÑ_÷SÙVÕÂبä£ÙØEåoØ é²ÚBáâÕ´Ø äâ՜ÑSãƒæÙã ¤ÙVÚBüÂæÙNàzæÙVÒÂá}à´áâÕ´ÚgÙVä£ÙNà•Ø ×²ä£Ù_ê ç/Ñ|á®ä£ä®Ô²Õœàz҃ØEà•Ù¬à•æáâÕÓҕÑsãNÙVՕեãѤéh՜áâÚgÙNÒ¥à•æÙ¨å~Ѥä®ä£ÑEüÂá®éè|Ù ؤ÷¨Ó²ä£Ù_ÞüÂæÙNҕ٠ýƒý¯áâÕ¥à•æÙÕœÔ öÑ å3à•æÙӲؤÒzÙVé_à éÑgÚgÙ_Þ * ýƒý"áâÕ±àzæ²ÙËÕœÔ |Ñ åoÑ_éÙ*ãƒæá®ä®Ú|éÑgÚgÙ*ؤé²Ú 0 ýƒý#áâÕÂà•æÙËÕzÔ Ѥåà•æÙ*Ñ à•æÙNÒ ãƒæá£äâÚ|éÑgÚgÙ_ê±ßgؤ÷SÓä£Ù*à•Ø è å~ҕ٠;ÔÙNéhãá®ÙVձѠåàzæÙé²ÑsÚÙVմؤÒzÙè¤á ¤ÙVéBá®éà•Ø ×²ä£Ù hê à•Ø è ÕzÔ ýƒý ÕzÔ J0 ýƒý ÕœÔ * ýƒý  , Û¯Û Û¯Ý , ( àzÑ àƒØ ä , çؤ×ä®Ù ußgØ ÷SÓä®Ù¥à•Ø¤è¨å~ÒzÙ _Ô²ÙNé²ãNá£ÙÕÂØEà´Ø¬àzҕÙNÙéÑgÚgÙØ éhÚBá£à•Õ"à‹ü"Ñãƒæá®ä®ÚéÑgÚgÙÕNê ç±æÙ¥á®égå~Ѥҕ÷ØEàzá®Ñ¤é÷SÙVØ_՜ÔҕÙå~Ѥұà•æÙӲؠҕÙNé;àÂéÑgÚgÙ¥áâÕ ø  Wú  4  4     ø ;ú ç±æÙvãÑ_ÒzҕÙVÕzÓѤé²Úgá®éè EØ ä®ÔÙVÕ¨å~Ñ_ÒSàzæÙ`ãƒæá®äâÚ^é²ÑsÚÙVÕؠҕ٠ å~ѤÒ 0 ýƒý¬Ø¤é²Ú   !å~Ñ¤Ò * ýƒýƒê Û¯ÑEüÞ3ü"Ù`ãNؤé ÚgÙNàzÙNҕ÷Sá£é²Ù à•æÙü"ÙNá®è¤æ;àzÙÚ9á®égå~Ѥҕ÷ØEà•á£Ñ_éBè;Ø á®éØ à´ÙVؤãƒæBÑ å%àzæÙ*ãƒæ²á£äâÚéÑgÚgÙVÕVêFõ!Ùè_Ùà  ø  ú hø    ;ú  ø ¤ú 5  ?

9

C

7.

C

! 

 



J '



J ' iN

C

'

(D



79



J '

J '


'

iJ '

.

C

nJ '

C&J '



µCY





(D

[ 

-

+



3

*;





µCY

#

[

(D



C

C

a=

CV

C



C

42



(>

4

5

=

4

=

%@,

–



>

5

>

(=-.

=4

5



D



. .

4-2

N

(=-.

K Z

42

>

 =.

 =.



7>

K Z

(>

 =-.

.





.-5

>

2

(=



(





œ+m ˆgrmp…jG‡j*fhtSzrdkrmgrd!su~hpŸs*v'Œ “

. . {N

=-4 

.5

V>

.

N

==

2=



ø4  Wú ²ø     _ú  ø _ú "Ñ à•æ EØ ä®ÔÙÕÂؠҕÙü"ÙNä®äØ ×Ñ ¤Ùجàzæ²ÒzÙ՜æÑ_ä®ÚBÑ å ²ÞØ é²ÚBàzæ²ÙNҕÙå~ѤҕÙéѤéÙѤå/à•æÙN÷6՜æÑ_ÔäâÚB×Ù*ÚgÙVä£ÙNàzÙVÚê Õ"Ù gÓäâØ á®éÙÚ×hÙNå~Ѥҕ٤Þ;àzæ²Ù ÕzÔ àzҕÙNÙ¯áâÕ"՜Ùؠ҃ãƒæÙVÚÚgÔ²Òzá®éè¬ØËä£ÑsÑ ;Ô²Ó9Ø ä®Ñ¤éè*àzæÙÓ²ØEà•æÞsüÂæÙNҕٴà•æÙ¯é²ÑsÚÙVÕ Ø Ò•ÙËؤééÑ àƒØEà•ÙVÚvüÂá£àzæàzæÙ¨ä£ÙNàœà•ÙNÒƒÕ Ñ¤åoàzæÙ¨ü"Ѥ҃Ú`ÕœÔ vá®éҕ٠_ÙN҃՜ÙÚ|Ѥ҃ÚgÙNÒê šå#Ø9ä£ÙØEå3áâÕ ÒzÙؤãƒæÙÚ`ØEà àzæÙ¨ÙNé²Ú Ñ åoà•æÙSÓ²ØEà•æÞàzæÙSãÑ_ÒzҕÙVÕzÓѤé²Úgá®éèàƒØ èBÓÒzÑ_ײؠײá£ä®á}à _ÙVã à•Ñ¤Ò á®ÕҕÙàzÔ²ÒzéÙÚê šå3éÑB÷SØ à•ãƒæá®éè|՜Բ×éÑgÚgÙ¬ãVØ é!×hÙ å~ѤԲé²Ú|ØEà¯ÕzѤ÷SÙéÑgÚgÙѤéà•æÙÓ²ØEà•æÞgà•æÙËÚgÙNåXØ Ôä£à´éÑgÚgÙáâÕ±å~Ѥä®ä£ÑEü"ÙVÚBá£åFá£à¯Ù sáâ՜à•ÕVê šå%é²ÑZÚgÙåXؤÔä}à´é²ÑsÚÙÙ gá®Õœà•ÕVÞ àzæ²Ù*՜Ùؠ҃ãƒæ9á®éBà•æÙ*ÕzÔ 9ä£Ù gá®ãNѤéBåXØ á®ä®Õ´Ø¤é²Ú9àzæÙ*ÚgÙNåXØ Ôä£à´ÙNé;à•Ò ZáâÕÂҕÙà•ÔÒzé²ÙVÚê ç±æÙ - #1' * ÿ 0²ÿ eAá®Õ¥ãÑ_é²ÕœàzҕԲã à•ÙVÚv× v՜Բ×gàz҃ؤãàzá®éèZà•æÙËàƒØ è9å~ÒzÙ _Ô²ÙNé²ãNá£ÙÕØ àؤä£ä%ä£ÙØ ¤ÙÕ´Ñ å3àzæÙ¨ÓҕÔéÙVÚ ÕzÔ HàzҕÙNÙå~ҕѤ÷ àzæÙ|àƒØ èöå~ÒzÙ ;ÔÙNé²ãNá£ÙÕØEàà•æÙvÒzÑsѤàSé²ÑsÚÙ`Ø é²ÚwéÑ_Òz÷Ø ä®á Ná®éèà•æÙvҕÙVÕzÔä}à•á£é²è?å~ÒzÙ _Ô²ÙNé²ãNá£ÙÕNê ç±æÙVÒzÙV× _ÞgÒzÙVä®Ø àzá ¤Ù å~ÒzÙ ;ÔÙNé²ãNá£ÙÕÂؠҕ٥Ѥ×gàƒØ á®éÙVÚBüÂæáâãƒæ|ÕzÔ÷.à•ÑѤéÙ_ê  8 4î ç±æÙSÓÙNÒzå~Ѥҕ÷Sؤé²ãÙSѤå3àzæ²ÙZç/ҕÙNÙçؤè¤è¤ÙVÒ ü±Ø¤Õ à•ÙV՜àzÙVÚöÑ_éöÚØ à•ØBå~ҕѤ÷ à•æÙZÝFÙNéé֚çÒzÙVÙNײؤé `ãÑ_ÒzÓ²Ô²ÕNêßsÑ_÷¨Ù ÷Sá£ä®ä®á£Ñ_é9ü"Ѥ҃ÚÕ"ü#ÙVÒz٠Բ՜ÙÚå~Ñ_Ò#à•Ò•Ø¤á£é²á£éèSØ éhÚ Þ ü#Ñ_ҕڲÕuå~ҕѤ÷ بÚgá ÙVÒzÙVé_àÂӲؤҜà±Ñ å/àzæÙÝFÙNé²ég֚çҕÙNÙN×hØ é ãÑ_ÒzÓ²Ô²Õ#å~ѤұàzÙՋà•á£é²è²ê ç±æÙ¥ç/ҕÙNÙçؤè¤è¤ÙVÒ3ü±Ø¤Õ#ãѤ÷SӲؤÒzÙÚSàzÑSØà•Òzá®è¤ÒƒØ ÷ àƒØ è¤è_ÙNÒ ¥ÙV÷¨ÓÙ¤Þ üÂæá®ãƒæBü"Ø_Õuà•Ò•Ø¤á£é²ÙVÚZؤé²Úà•ÙV՜àzÙVÚ Ñ¤éà•æ٬Օؠ÷SÙ*ÚØ à•Øê ¡éãNѤé;àz҃ؤ՜à±àzÑà•æÙËçÒzÙVÙVç%Ø è¤è_ÙNÒÞsàzæÙ*àzҕá£è_ҕؤ÷ à•Ø¤è¤è_ÙNÒ´ÚgÑsÙVÕ¯éÑ à´Ôh՜ÙËØ9ÕœÔ |ä£Ù gá®ãNѤéê ¡é²ÕœàzÙؤÚÞ;á}àƒÕ#å~Ôä£ä£å~Ѥҕ÷ ä£Ù gá®ãNѤéZü±Ø¤Õ#Ø Ôè_÷¨ÙVé;àzÙVÚS× Ø ×ѤÔà Þ ؤÚÚgá£àzá®Ñ¤éhØ ä²ÙVé;àzҕá£ÙÕ3üÂæáâãƒæZü"ÙNҕٯãҕÙVØ àzÙÚ å~ҕѤ÷ بü"Ѥ҃Úgä£áâ՜à±üÂá£àzævب÷SѤҕÓæÑ_ä£Ñ_è¤áâãNØ äØ éhØ ä VÙNÒê ç±ü#Ñ ¤ÙVҕÕzá£Ñ_é²Õ´Ñ¤åuàzæ²Ù¨çÒzÙVÙVç%Ø è_è¤ÙNÒ¯ü#ÙVÒzÙà•ÙV՜àzÙÚê ¡évàzæ²Ù hҕ՜à _ÙN҃՜á®Ñ¤éÞ NÙVÒzÑZå~ÒzÙ _Ô²ÙNé²ãNá£ÙÕ Ø¤ÒzÙ¬ÒzÙVÓä®Ø_ãÙÚ × ê Ë×Ùå~Ñ_ÒzÙ¬àzæÙ¬à•Ø¤èBÓ²ÒzÑ_ײؠ×á®ä®á}à•á£ÙÕ Ø à à•æÙSä£ÙØ ¤ÙVկѠå#àzæÙSÚgÙVãNá®Õzá®Ñ¤é`à•ÒzÙV٨ؤÒzÙ¨ãNؤä®ãNÔä®Ø àzÙÚê ¡é`à•æÙ՜ÙãѤéhÚ ¤ÙVҕÕzá®Ñ¤éÞ NÙVÒzѯå~ÒzÙ ;ÔÙNé²ãNá£ÙÕ/ü"ÙNҕÙ3ҕÙNÓ²ä®Ø_ãÙVÚ*× *Ø ¤ÙVÒ Õz÷Sؤä£ä EØ ä®ÔÙ¥ø ú 3à•ÑÕzÙNÙ#æÑEüH՜àzҕѤéè´àzæÙ±á®é ²ÔÙVé²ãÙ Ñ åàzæÙ*ãƒæ²Ñ¤áâã٥Ѡå%àzæáâÕÂӲؤҕؤ÷SÙàzÙVұѤéBàzæÙ¥àƒØ è¤è_á£é²è¨Ø_ãNãԲҕØ_ã áâÕNê ¡é^ؤéÑ à•æÙNÒËàzÙV՜àVÞoá£àSü"Ø_Õ*Ù ؤ÷¨á®éÙÚ æÑEü.÷ËÔhãƒæ àzæÙ9à•Ø¤è¤è¤á®éèØ_ãNãNÔҕØ_ã ?ÚgÙNÓÙNéhÚÕËÑ_é àzæ²ÙÕzá VÙ9ѤåÂàzæÙ àz҃ؠá®éá®éè?ãѤҕÓÔ²ÕVê ×á£è_ҕؤ÷ ¤ÙVҕÕzá£Ñ_é^ؤé²Ú^Ø ;ԲؠàzҕѤè¤ÒƒØ ÷ ¤ÙVҕÕzá®Ñ¤éHѤå¯à•æÙ`ç/ҕÙNÙçؤè¤è_ÙNÒ¨æ²Ø ¤Ù|Ø äâ՜Ñö×ÙNÙNé àzÙՋà•ÙVÚæÙVÒzÙ_ê %á£é²Ø¤ä£ä ¤ÞàzæÙ¨á£é ²ÔÙNéhãÙSÑ åuà•æÙSÓҕÔéá®éèZà•æÒzÙ՜æ²Ñ¤äâÚ`ѤéàzæÙØ_ãNãԲҕØ_ã Ñ åuà•æÙ¨àzҕá£è_ҕؤ÷ _ÙN҃՜á®Ñ¤é!Ø é²Ú`àzæÙ ;Ô²ØEà•ÒzÑ_è¤ÒƒØ ÷ ¤ÙVҕÕzá®Ñ¤é9Ѥåà•æÙ*çÒzÙVÙVç%Ø è¤è_ÙNÒ"æ²Ø¤Õ±×ÙNÙVéàzÙV՜àzÙÚê ¯Ô²ÙÂàzÑ*ؤé¬Ù ãNá£ÙVé;àuá£÷SÓä®ÙN÷SÙNé;àƒØEàzá®Ñ¤éѤå²à•æÙÂà•Ø¤è¤è_ÙNÒÞWàz҃ؠá®éá£é²èüÂá£àzæSà•Òzá®è¤ÒƒØ ÷Õ%Ѥé ÷Sá£ä®ä®á£Ñ_éSàzÑ _ÙNé²Õ%à•ÑsÑ Ñ¤é²ä öØ ×ѤÔgà |÷Sá®é;ÔàzÙVÕ*Ѥé Ø`ßgÝ ´Ð Bü"Ñ¤Ò gՋàƒØEà•á£Ñ_é!Ø éhÚöؤ×hÑ_Ôgà Þ 9ü#Ñ_ҕڲեæ²Ø ¤ÙS×ÙNÙNé?àƒØ è_è¤ÙVÚ!ÓÙNÒ ÕzÙVãÑ_é²Úê 8; o ò î Õ3à•Ø¤×ä®Ù Ë՜æÑEü´ÕVÞ à•æÙ àzҕá£è_ҕؤ÷ _ÙN҃՜á®Ñ¤éѤåàzæÙç/ҕÙNÙçؤè¤è_ÙNÒ3Ø_ãƒæá£Ù ¤ÙÚØ é9Ø_ãNãԲҕØ_ã ¨üÂæá®ãƒæ9á®Õ±Ø ×ѤÔà ê ×Ùàœà•ÙNÒàzæ²Ø¤é¥àzæ²Ø àѤå;à•æÙ#՜à•Ø¤é²ÚؤҕÚà•Òzá®è¤ÒƒØ ÷à•Ø è_è¤ÙVÒVê šà%á®Õ%Ø äâ՜Ѵؤ×hÑ_Ôgà ²ê ×ÙàzàzÙNÒàzæhØ é¥àzæ²Ù3×á®è¤ÒƒØ ÷ ¤ÙVҕÕzá£Ñ_é Ñ åàzæÙ*çҕÙNÙVç%Ø è_è¤ÙVÒVê ¡é²ãҕÙVØ_՜á®éè*à•æÙ*ãÑ_é;àzÙ sà±àzÑ ;ԲؠàzҕѤè¤ÒƒØ ÷Õ#Ջà•á£ä®äҕÙVÕzÔä}àƒÕ"á£évØ ¤ÙVÒ ZÕz÷Ø ä®äá®÷SÓÒ•Ñ ¤ÙN÷SÙVé_à ÷¨ÙNàzæÑgÚ ãNѤé;àzÙ sà ؤãVãÔ҃ؤã àzҕá£è_ҕؤ÷ à•Ø è_è¤ÙVÒ à•Òzá®è¤ÒƒØ ÷ ²ê ç/ҕÙNÙçؤè¤è¤ÙVÒ ×²á£è_ҕؤ÷ ê ç/ҕÙNÙçؤè¤è¤ÙVÒø ê ú à•Òzá®è¤ÒƒØ ÷ ²ê ç/ҕÙNÙçؤè¤è¤ÙVÒ ;ԲؠàzҕѤè_ҕؤ÷ ²ê ç/ҕÙNÙçؤè¤è¤ÙVÒø ú à•Òzá®è¤ÒƒØ ÷ ²ê çؤ×ä£Ù #Ð#Ѥ÷SӲؠҕáâ՜Ñ_éZÑ åoؤãVãÔ҃ؤã

,

&

NQ

. .



?



.-5

V>

2

N

5

5>

2

G(>



C

-;

µCY



S



…



C




Ÿ



r



C





D

!

D







F

D

D




µ;

#(>->

B5

>>->

µ;

l" 8

e(-.)

G



C





Ÿ!>



>>->

F

&

a

#> 

+

Ÿ

[F



!

!F

D



S





>

D

a

LM 











?

9





VD

!





D

F









6

C





?

_5

?

32

%

Ÿ>

A;

B>

>>>

;

;

!



…5



(



€





Y



5µ

LM 





h4



q(>



>-2

2

D

.



–D

n> 

G>

2

€>

2

.=

2

.-2

2

.5



 c kj*t!gnf zrfhsut–w!knsu™j*™!fh~hf z}˜_j*knmlt!s*zSj*~h~hsqxmpzrs+™mlm(ˆ!j*~eznsmkrs!‹™myqj*ˆ!gnmlzrdfhg xsuˆ!~hp_žOmqj*tzrdjAzOznd!mlxed!su~hmSzj*‡u‡ufht‡ w!kns(ymgrge™!krmqj*• g€psxet‹!f v znd!fhgewj*knznfhyˆ!~—j*k'ysut znm (z½j*w!wmj*kng€fhtSzrdm fht!w!ˆzq“

on

Ñ å%àzæ²Ù*ؤãNãNÔ҃ؤã _ê%ç±æ²á®Õ´ÕzæÑEü´ÕVÞsàzæ²Ø àÂàzæÙ*çҕÙNÙVç%Ø è_è¤ÙVÒ#áâմؠײä£ÙàzÑSà•Òzá®÷.à•æÙËãÑ_é;àzÙ sàÂÙ ÙVãàzá ¤ÙVä _ÞüÂæÙNҕÙàzæáâÕ áâÕ±éÙVãNÙVՕÕzØ¤Ò Sà•Ñè¤ÙàÂҕÙNä®á®Ø¤×ä®ÙÙՋà•á£÷Ø àzÙVÕVê Ð#æ²Ø é²è¤á®éèàzæ²Ù¯Ò•ÙNÓäâؤãNÙN÷SÙNé;à Eؤä£ÔÙ´å~Ñ¤Ò NÙNҕѥå~ҕ٠;ÔÙNéhãá®ÙVÕ#á£éà•æÙ ÚÙVãáâÕzá£Ñ_éSàzҕÙNÙ´å~ҕѤ÷.Ø _ÙNÒ ¨Õz÷Ø ä®ä EØ ä®ÔÙ àzÑ ê
öüÂæáâãƒæ ü±Ø¤Õå~Ñ_Ôé²Ú?à•Ñ×Ù9Ñ_Ógàzá®÷Ø ä öÒzÙ՜Ôä£àzÙÚ á®éHØ`Õz÷Sؤä£ä"á®÷¨Ó²ÒzÑ _ÙN÷SÙNé;à*Ñ åÂà•æÙBØ_ãNãNÔҕØ_ã _êvßgÑ²Þ á®é ãѤé;à•Ò•Ø_Ջàà•Ñ ÷SѤҕÙ`ՋàƒØ é²ÚØ¤Ò•Ú `Ø¤Ò _Ñ vÑgÚgÙVä´à•Ø¤è¤è_ÙN҃ÕNÞ±Ø?ÓҕѤÓÙNÒ9ÕzÙàzàzá®éè Ñ å¥à•æá®ÕBӲؤҕؤ÷¨ÙNàzÙVÒá®Õ9éÑ à á®÷¨ÓѤÒzà•Ø¤é;àVê 







a

A



{

GF

(D

> 





0



;  „0

96

accuracy in %

94 92 90 88 86 Net-Tagger HMM-Tagger Trigram Tagger

84 82 80 10000

100000 1e+06 size of training corpus

á®è¤Ô²ÒzÙ ãNãNÔҕØ_ã å~Ñ_Ò EØ Ò ;á®éèS՜á NÙձѠå%àzæÙ¥à•Ò•Ø¤á£é²á£éèSãÑ_ÒzÓ²Ô²ÕNê %á£è_ÔÒzÙ SÕzæÑEü´Õ"àzæÙá®é ²Ô²ÙNé²ãNÙÑ å/à•æÙ*Õzá VÙѤåà•æÙ¥àz҃ؠá®éá®éèãÑ_ÒzÓÔhÕ#Ñ_éàzæÙ¥àƒØ è¤è_á£é²è ;Բؤä£á£à ¤ê3Ð#Ѥé;à•Ò•Ø¤Ò àzÑ*àzæÙ¯àzҕá£è_ҕؤ÷ àƒØ è¤è_ÙNÒÞEàzæ²Ù ؤãVãÔ҃ؤã ËѤåàzæÙç/ҕÙNÙçؤè¤è¤ÙVÒuÚgÙà•ÙNҕá£Ñ_ҕؠàzÙÕu՜ä®ÑEüÂä ¤Þ_Ø_Õoà•æÙ Õzá VÙ´Ñ åà•æÙ´à•Ò•Ø¤á£é²á£éè ãÑ_ÒzÓ²Ô²ÕZÕzæÒzá®é gÕVê ÔÒzàzæ²ÙNÒÞ±àzæÙöÚgá ÙNҕÙNéhãÙ×Ùà‹ü"ÙNÙVé àzæÙ!×á®è¤ÒƒØ ÷ ¤ÙN҃Õzá£Ñ_éwѤå¥àzæÙöç/ҕÙNÙçؤè¤è¤ÙVÒZØ é²ÚàzæÙ àzҕá®è¤ÒƒØ ÷ ¤ÙN҃Õzá£Ñ_éZá®Õ±Õz÷Ø ä®ä²å~Ñ_Ò _ÙNÒ SÕz÷Ø ä®ä՜á NÙÕ3ѤåàzæÙ àz҃ؠá®éá®éè¬ãNѤҕÓÔ²ÕVêoç±æá®Õ"ÕzæÑEü´Õuà•æ²ØEà"àzæ²Ù¥çҕÙNÙVç%Ø è_è¤ÙVÒ áâÕ±ÒzÑ_×Բ՜à±üÂá£àzæ|ҕÙNè;ؠ҃ÚàzÑSà•æÙ*Õzá VÙѤå/à•æÙ¥àz҃ؠá®éá®éèãѤҕÓÔ²Õ±á®évãÑ_é_à•Ò•Ø_Ջà"àzѨà•æÙ*ՋàƒØ é²Ú²Ø ÒƒÚZà•Òzá®è¤ÒƒØ ÷ àƒØ è¤è_ÙNÒê %á£è_ÔÒzÙ ZÕzæÑEü´Õ"à•æ²ØEàÂà•æÙ*á®é ²ÔÙVé²ãÙѤå%à•æÙÓҕÔéá®éèSàzæ²ÒzÙ՜æÑ_ä®ÚÑ_éBà•æÙ*ؤãVãÔ҃ؤã ZáâÕÂéÙNè_ä£á®è¤á®×ä®Ùø~×ÙNä®ÑEü ê å~Ñ_Ò±àzæÙ¥à•Òzá®è¤ÒƒØ ÷ ¤ÙVҕÕzá®Ñ¤éBؤé²ÚB×hÙVä£ÑEü ê  å~Ѥұà•æÙ ;Ô²ØEà•ÒzÑ_è¤ÒƒØ ÷ ¤ÙVҕÕzá£Ñ_éhú êFç±æÙ×ÙV՜àÂÒzÙ՜Ôä£à•ÕÂؤÒz٠Ѥ×à•Ø á®éÙÚ?üÂá}à•æ àzæҕÙVÕzæÑ_ä®ÚÕË×hÙNà‹ü#ÙVÙNé vØ é²Ú  ê ²ÔÒzàzæÙVÒVÞ%àzæ²ÙBÚgáâØ è_ҕؤ÷SÕË՜æÑEü´Õ*àzæ²Ø àËà•æÙ ;ԲؠàzҕѤè¤ÒƒØ ÷ ¤ÙVҕÕzá®Ñ¤é9Ѥå/à•æÙ*ç/ҕÙNÙçؤè¤è_ÙNÒ"á®Õ´ãNѤé²ÕzáâՋà•ÙNé;àzä Z×Ùàœà•ÙNÒÂà•æ²Ø éà•æÙ¥àzҕá£è_ҕؤ÷ ¤ÙVҕÕzá£Ñ_éZå~Ñ_Ò±àzæҕÙVÕzæѤäâÚÕÂؤ×hÑ _Ù gê ãNѤé;àzÙ sà ¬ãÑ_é_à•Ù sà•Õ Ëä£ÙØ ¤ÙVÕ ÚgÙNÓàzæ ײá£è_ҕؤ÷ à•Òzá®è¤ÒƒØ ÷ ;ԲؠàzҕѤè_ҕؤ÷  ç%ؠײä£Ù FÛ¯Ô÷Ë×ÙNүѠåé²è¤ÒƒØ ÷ÕNÞgä®ÙVØ åéÑgÚgÙÕ´Ø éhÚZà•æÙ*ÚgÙNÓàzæ|Ñ å%àzæÙ¥à•ÒzÙVÙ çؤ×ä®Ù HãNѤ÷SӲؤÒzÙÕàzæ²ÙésÔ÷Ë×ÙNÒÑ å¬ÓhÑ;ÕzÕzá£×²ä£Ù!éè¤ÒƒØ ÷ ãÑ_é_à•Ù sà•ÕZàzÑHàzæÙöésÔ÷Ë×ÙNÒÑ å*ä®ÙVØ å*éÑgÚgÙVÕØ é²Ú a.µ ?

9

9



O



a.

A

F

F

YD



µ;



9





F





{

A

F

F

9

>



a=

>-5





>

=>



>

aD



> #9

&D





D

#





!

#

= 

= 

=

55>

>

2-5

>.45.

55 µ

2

. 

.

 +



96.4

accuracy in %

96.38 96.36 96.34 96.32 96.3 96.28 96.26 0

10

á®è¤Ô²ÒzÙ

80

ãNãԲҕØ_ã å~Ñ_Ò´Úgá ÙNҕÙNé;à´ÓҕÔéá®éè¨àzæ²ÒzÙ՜æÑ_ä®Ú²Õ

…=  ?

9

20 30 40 50 60 70 information gain threshold 

àzæ²ÙNҕÙN× öàzæÙésÔ÷Ë×ÙNҨѠå ãNѤé;àzÙ sà•Õ¬üÂæá®ãƒæHàzæÙ|çÒzÙVÙVç%Ø è¤è_ÙNÒËÚá®Õœàzá®éè¤Ô²á®ÕzæÙVÕVê ¡é àzæ²Ù|ãVؤÕzÙZÑ å ×á£è_ҕؤ÷ÕNÞoØ ä®ä ÓÑ_Օ՜á®×ä®ÙãNѤé;àzÙ ;àƒÕ±Ø Ò•Ù¯Ô²ÕzÙVÚ9× ZàzæÙ¥ç/ҕÙNÙçؤè¤è_ÙNÒÞ_á®éZà•æÙãNؤÕzÙÑ åà•Òzá®è¤ÒƒØ ÷Õ3àzæÙ¥ésÔ÷Ë×ÙNұѤå/ä£ÙØ ¤ÙÕ3áâձؠ×ѤÔgà بàzæ²á£ÒƒÚ|Ñ åFàzæ²Ù*ésÔ÷Ë×ÙNҴѤåoÓhÑ;ÕzÕzá£×²ä£ÙËãNѤé;àzÙ sà•Õ´Ø¤é²Úá£é|à•æÙËãNØ_՜ÙѤå _ÔhØEàzҕѤè_ҕؤ÷Õ#Ñ_éä ؤ×hÑ_Ôgà SÓÙN҃ãÙNé;à´Ñ¤å Ø ä®äÓÑ_Օ՜á®×ä®Ù¥ãNѤé;àzÙ sà•ÕÂؠҕÙÚgáâՋà•á£éè_Ôáâ՜æÙÚê
 ò  Ëï  éÙNü2à•Ø¤è¤è_á£éèö÷SÙà•æÑgÚÞ3à•æÙ`çÒzÙVÙVç%Ø è¤è_ÙNÒÞoæ²Ø¤ÕS×ÙNÙVé^Ó²ÒzÙ՜ÙVé_à•ÙVÚê šàZÚgá ÙVҕըå~ҕѤ÷ Ñ àzæ²ÙNÒÓҕѤײؤ×á®ä£áâՋà•á®ã à•Ø¤è¤è_ÙN҃Õ/á®éËà•æÙÂü±Ø ¥àzæÙ"àz҃ؠéh՜á£àzá®Ñ¤é¬ÓÒzÑ_ײؠײá£ä®á}à•á£ÙÕoؠҕÙ#ÙՋà•á£÷Ø àzÙVÚÞ é²Ø ÷SÙVä *üÂá£àzæSØ¥ÚgÙVãNá®Õzá®Ñ¤é¬àzҕÙNÙ¤ê ÷SÙàzæ²ÑsÚ å~ѤÒ*àzæÙ9ãNѤé²ÕœàzҕԲãàzá®Ñ¤é?Ñ å´Ø`ÚgÙãáâ՜á®Ñ¤éöà•ÒzÙVÙü"Ø_ÕÓҕÙVÕzÙNé;àzÙÚöؤé²Ú?á£àËü"Ø_Õ*ÚgÙV÷¨Ñ_é²Õœàz҃ØEàzÙÚ!àzæ²Ø àËàzæ²ÙZÒzÙ՜Բä}à•á£éè à•Ø¤è¤è_ÙNÒ*ؤãƒæ²á£Ù ¤ÙVÕæá®è¤æ²ÙNÒËØ_ãNãԲҕØ_ã và•æ²Ø é Øv՜à•Ø¤é²Úؠ҃Úàzҕá£è_ҕؤ÷ à•Ø¤è¤è¤ÙVÒVê ÔÒzàzæÙVÒVÞ%á£àËü"Ø_Õ՜æ²ÑEüÂé!à•æ²ØEàËàzæÙ çÒzÙVÙVç%Ø è¤è_ÙNÒuáâÕ#ÒzÑ_×Բ՜à#üÂá£àzæ9ҕÙVÕzÓÙVã à"àzÑËàzæÙ¥Õzá VٯѠå/àzæÙ àz҃ؠá®éá®éè¬ãNѤҕÓÔ²ÕVêFßs÷ؤä£äàz҃ؠá®éá®éè¬ãNѤҕÓhÑ_ҕØÚá®Ú9éÑ à ҕÙVÕzÔä}à%á£é¬Ø¯Õzæ²Ø Ò•ÓËÚgÙVè¤ÒƒØ¤ÚØ àzá®Ñ¤é¥Ñ åà•æÙ#Ø_ãNãNÔҕØ_ã _ÞWØ_Õá£à%ü±Ø¤Õ/ѤײÕzÙNÒ ¤ÙÚå~ѤÒàzҕá£è_ҕؤ÷àƒØ è_è¤ÙN҃ÕVêç±æÙ"çҕÙNÙVç%Ø è_è¤ÙVÒ àzҕá®÷SÕuàzæÙ¥Õzá VÙ´Ñ åà•æÙ ãNѤé;àzÙ ;à#üÂæÙNҕٴà•æá®Õ#áâÕuéÙãÙVÕ•Õ•Ø Ò *àzѬѤ×gàƒØ á®éZҕÙNä®á®Ø¤×ä£Ù¯ÓÒzÑ_ײؠײá£ä®á}à ¬ÙV՜àzá®÷ØEàzÙÕNê ¯ÙNé²ãNÙ¤Þ á£à¥ü±Ø¤ÕÓÑ_Օ՜á®×ä®Ù¨àzÑ|á£÷SÓÒ•Ñ ¤Ù¬àzæ²ÙSØ_ãNãNÔҕØ_ã |Ñ å#àzæÙSàƒØ è_è¤ÙNÒ× `Ô²Õzá£é²è|Ø ;Ô²ØEà•ÒzÑ_è¤ÒƒØ ÷ ãÑ_é;àzÙ sàê ÔÙ¨àzÑvØ é Ù ZãNá£ÙVé_à á£÷SÓä®ÙN÷SÙNé;àƒØEàzá®Ñ¤é/Þhà•æÙ*àƒØ è_è¤ÙNÒÂáâÕØ ×ä®ÙàzÑ9à•Ø¤èZÔÓ|àzÑ ²Þ ¬àzÑ ¤ÙNéhÕ´ÓÙNÒ ÕzÙVãNѤé²Ú|Ñ_é`ØBßgÝ ´Ð EÖ ü"Ñ¤Ò s՜à•Ø àzá®Ñ¤éê`ç±æsÔ²ÕVÞ%àzæÙç/ҕÙNÙçؤè¤è_ÙNÒ*áâÕËØ`åXؤ՜à¨Ø éhÚ?æá£è_ægÖ _ÔhØ ä®á}à !àzÑsѤä#å~ѤÒËàzæÙØ éé²Ñ à•Ø àzá®Ñ¤é Ѥå¯ãѤҕÓÑ¤ÒƒØ üÂá£àzæ|ӲؠÒzàœÖšÑ åªÖ¡ÕzÓhÙVÙVãƒæ9á®égå~Ñ_Òz÷ØEà•á£Ñ_éê 8O8 :ï 8í`kó 8; "ؤæäØ éhÚ vÙVҕãNÙNÒÞ ±Ø æäJÞ#Ü3ê ê3ؤé²Ú `ÙN҃ãÙNÒÞ ê#Üuê´ø _ú êwÝoØ ÒzàœÖšÑ åªÖ¡ÕœÓÙNÙãƒæHؤՕÕzá£è_é÷SÙNé;à¨× HØ Õœà•Ø àzáâՋà•á®ãVØ ä¥ÚgÙVãNá®Õzá®Ñ¤é Ø ä®è¤Ñ_Òzá£àzæ²÷

ê  0²ÿ e0 #E.ÿ % 10 # * A1! Wýe%&')! 0 e0 e!/#E.ÿ % 10 , eAEÞ Ó²Ø è_ÙVÕ ê 





V



!



D



Ÿ5



?



!

?



(



&9

F



F

A





A







C

1D

(>

A;


D

>->>



Y6

?

-;

%

Ÿ(>





",

&0

(2)a,

%

0

i%




4-4 4



2







µ*

#ҕá®ä£äJÞ "Òzá®ä®ä=Þ/û¯êuø ;ú ê
 U'sý;#Wý -   # ,   #0 ' # # e0 %&0  êÝ3æ àzæ²ÙVÕzá®ÕVÞ ÙÖ ÓhØ Òzàz÷SÙNé;à´Ñ åuÐ#Ѥ÷SÓÔgà•ÙNүؤé²Ú ¡égå~Ѥҕ÷ØEàzá®Ñ¤évßgãNá£ÙVé²ãÙ_Þ ´éá ¤ÙVҕÕzá£à Ñ åoÝFÙNéé²Õ sä Eؤéá®Ø²ê ­Ð#æ;ԲҕãƒæÞ Ð#æsÔ҃ãƒæÞ Sê¤õ ê²ø ;ú ê Ջà•Ñsãƒæhؤ՜àzáâã#ÓhØ Òzà•ÕFÓҕѤè_ҕؤ÷–Ø é²Ú¬éѤԲé¨Ó²æҕØ_՜ٱӲؤҕÕzÙNÒ%å~Ñ_ÒuÔéҕÙÖ Õœàzҕáâã àzÙÚàzÙ ;àê ¡ é  -1%&0  ý Ë&ÿ ,  0U-  10 0 10   * % -=# ÿ ' # * #10 ' #  ýƒeý %&0 ¤Þ ÓhØ è¤ÙÕ ²ê ­Ð#Ôgàœà•á£éèÙNà¯Ø äJê£Þ ËÐ#Ôgàœà•á£éèhÞ Ëê®Þ ¥ÔÓá®ÙVã¤Þ hê®ÞsÝFÙÚgÙN҃ÕzÙNéÞ ²ê®ÞgØ é²Úßsá£×²ÔéÞÝFêø _ú ê ÓҕØ_ã à•á®ãVØ äӲؠÒzàœÖ ѤåªÖšÕzÓÙNÙVãƒæËà•Ø¤è¤è¤ÙVÒVê ¡é  -%&0  ý "&ÿ ,  ,Q% - 10 0 10   * % -=#E.ÿ ' # * #10 ' #  ýƒeý %&0 ¤Þ ÓhØ è¤ÙÕ ²ê ¯Ù ÂÑ_ÕzÙ¤Þ Ù ´Ñ_ÕzÙ¤Þ¤ßê hêø ;ú ê ҃ؠ÷S÷ØEàzáâãNؤä;ãVØEà•ÙNè¤Ñ_Ò ÚgáâՕؠ÷Ëײá£è_Ô²ØEà•á£Ñ_é*× ËՋàƒØEà•á®ÕœàzáâãNؤä;Ñ_Ógàzá®÷Sá ØEÖ à•á£Ñ_éê  1! U'goÿ #E.ÿ % 10 # * 4%&0 ')%âý ÿ % ý Þ ø Wú ê ÙVÚÙNҕá®ãNáØ é²Ú|Ýuá®Ò•ÒzÙVä£ä®á=Þ ²ÙVÚgÙVÒzáâãáJÞßêØ é²Ú?Ýuá®Ò•ÒzÙVä£ä®á=Þ ¬ê3ø ;ú êZÐ#Ѥé;à•Ù sàœÖ¡ÕœÙVé²Õzá}à•á sá£à Ø é²Ú!ä®á£éè_ÔáâՋà•á®ã ՜àzҕԲãàzÔҕÙá£évؤé²Ø ä®Ñ¤è _֚ײØ_՜ÙÚZӲؤҕؤä£ä®ÙNäéÙNà‹ü#Ñ_Ò gÕVê 4' 0hÿ ý•eý ' ý %&0B#Eÿ , !# ÿ % # * %&0 ')%âýƒ.ÿ % ýƒÞhӲؠè_ÙVÕ , gê ÒzÙVÙNéÙØ éhÚ ÂÔ²×á£é/Þ ҕÙNÙNé²Ù¤Þ ê;Ø é²Ú ÂÔײá£éÞ ¨êhø úê ÔgàzÑ_÷SØ àzáâãÂè¤ÒƒØ ÷S÷ØEà•á®ãVØ äsàƒØ è¤è_á£é²èѤåÙVégÖ è_ä£áâÕzæê%çÙVãƒæ²éá®ãVØ äҕÙNÓѤÒzàVÞ ¯ÙVӲؠÒzàz÷SÙVé_àÂѤåÜá®éè¤Ô²á®ÕœàzáâãNÕVÞ "ÒzÑEüÂé ¯éá ¤ÙN҃Õzá}à _ÞsÝ3ÒzÑ sáâÚgÙNéhãÙ¤Þ ÂæÑgÚgÙ ‹Õzä®Ø¤é²Úê ¥ÙN÷SÓhÙ_Þ ¥ÙN÷SÓÙ¤Þ ê;ø _úê ÓҕѤ×hØ ×á®ä£áâ՜àzáâãFà•Ø¤è¤è¤ÙVÒ/Ø éhÚ*Ø éËؤé²Ø ä g՜áâÕѤågà•Ø è_è¤á®éè´ÙVÒzҕѤ҃ÕNê çÙVãƒæ²éá®ãVØ ä ҕÙNÓѤÒzàVÞ ¡éhՋà•á}à•Ôgà´å Ô Ò´÷Ø_Õzãƒæá®éÙVä£ä®Ù*ßsÓ҃ؤãƒæ ¤ÙVҕؤÒz×ÙNá£àzÔé²è²Þ ¯éá ¤ÙN҃Õzá}à ØE à¯ß;àzÔàœàzè;Ø ÒzàVê Û¯Ø Eؤ÷ËÔ҃ØËÙNà¯Ø äJê£Þ Û¯Ø Eؤ÷ËÔ҃ØÞ ê®Þ `Ø Ò•Ô ;Ø ÷ØÞ Sê£Þ ØWü±Ø ×hØEà•Ø²Þ"ç¥ê®Þ´Ø éhÚ ßsæá WؤéÑ²Þ Sêø ;ú ê Û¯ÙNÔ҃ؠä±éÙNà‹ü#Ñ_Ò ?Ø Ó²ÓÒzÑ;ؤãƒæ?à•Ñ!ü"Ñ¤ÒƒÚ ãNØ àzÙVè¤Ñ¤Ò Ó²ÒzÙÚgá®ãàzá®Ñ¤éHå~ѤҨÙNéè_ä£áâ՜æHàzÙ ;àƒÕNê ¡é ؠҕä£è_ÒzÙVéÞ *ê®ÞuÙVÚgá£Ö à•Ñ¤ÒÞ  -1%&0 Eý S&ÿ , 0²ÿ e0 #E.ÿ % 10 # *  10 0 0 1! U'goÿ #E.ÿ % 10 # * 4%&0 ')%âý ÿ % ý ÞÓhØ è¤ÙÕ ²Þ ¯ÙNäâ՜á®é sá ¯éá _ÙN҃՜á£à ¤ê b Ôá£é²ä®Ø¤éÞ =b Ôá®éäâØ éÞ ²ê ê%ø _úêÂÜÙVؤÒzé²á£éèÙ Zãá®ÙNé;à ãäâؤՕÕzá hãVØEà•á£Ñ_éÓ²ÒzÑgãÙÚgÔҕÙVմؤé²Úàzæ²ÙNá®ÒؤÓÓä®á}Ö ãVØEà•á£Ñ_é!à•ÑvãƒæÙVՕեÙNé²Úöè;Ø ÷SÙVÕVê ¡é vá®ãƒæhØ äâÕ sáJÞ ê®ÞFÐ"ؠҕ×ѤéÙVä£äJÞ hê£Þ%Ø é²Ú vá£à•ãƒæÙVä£äJÞFç¥ê£ÞÙVÚgá£àzÑ_ҕÕVÞ B# ,Q%&0 # e0S%&0 ;0[# .ÿ %  %# * %&0²ÿ *&* % 0

"6

%

44)…6

(% 

44

µ$



' = 

"

"9



=)…9

=



-

;



u





F



µ





"



. . .25

"$

&%

e( )…$

-,

%

$

"8

?

'(-.)l8

µ,

->)

;

O0

@0

µ

"








[%



"






'(-=)

µ

"

 

'(-2!)

@8

l

;



A

q(-4.

–

"

%

A



V

"

@8

>

8

5 . 5µ(4





(-4.)

€ 

8

A

 &







;

!**







;

µ;



?

q(-.



"

?

q(

6

C

0

- 0*

q;

[



e%

0

’=-2-. =-4-5



0

=





?

Y0

A;

!   0*





q(-2





+

! 



GA!**

?

" +

…!5 [2 -8…





µ





38

q



A

O52> 52