Why is AI so scary? - Cogprints [PDF]

      !#"$&%('&)*,+.-0/1'  23'&-546746894.;:%()9?'&,!)A@B/1CED8946,+>FG4H8&)&7IJK'&7?1!+.-074MLN/=:OP+QL*='&) @B/17!R1;SO+0TVUPW XYGZ\[]X ^ _46/=`a!+cb!d*UaXY1YGe Of g=hi3jlk_mQi no_prqts5uwvwprxy{z#p|qts}uðBñHó±í IïlïlöIû³‡è 9˜î‰ïM5û >üïlû ÿ ïMé¨ó w!ý‰ôîÜðBëHôî ÿ õ‰ïló a+J Š3‰ïMó±íì±ñQè ý‰ó Iõ‰ñ6íVüƒ= è . ÿ û„û ÿ õ‰ù‡ñìtïlõIó÷û¦)ë  ÿ õIùšëHõƒèñHõ‰ï ‰üIýIí™üƒèòüï ÿ õ‰ù–íî‰ï ïMî ÿ ôMû„ïló í÷î‰ì÷ñýIùî ú£î ÿ ôî íî‰ï úañì±5û b9K ÿ ïMú ñHé“í÷î‰ï ÿ ìOüIý ÿ 7û ‰ïlì±óOíì ÿ ý‰ðòö‰î‰ó *ýIí±íïlì±û³ècôî ëHõIù ÿ õ‰ù ñýIìVõ‰ñHí ÿ ñõIóañHé‚ú£îIñëHõ  ú£î‰ë6í™úaï‡ëHì÷/ï *ø é‚íî ÿ ó ÿ óVì ÿ ùîƒítíî‰ïMõ>î,ýIð ëHõI
ó ‰ë6óaúaïžõ‰ñQú í÷î ÿ õ .BñHé]íî‰ïMr ð  ì±ï5ëHû³û³èòú ÿ û„ûôlïlëHó÷ï}íñ;ï # ÿ ó±)í t{(ë5è,ü‹ï "ø E5]Vó÷ô5ë6ì±_è Œ ‡ïlñì±ùï  ( ó  ÿ ó ÿ ñõ ú ÿ û„û£ôlïMì±íë ÿ õ‰û|èãó÷ïMïlð  ÿ ì÷ïëHõ  í÷î‰ì÷ïlë6íïMõ ÿ õ‰ù íñ½ðBëHõƒ è “ü‰ýIí öïlì±î ëHö‰ó ÿ í ÿ ó™þ±ý‰ó±íOíî‰ï ÿ  ÿ ñó±è,õ‰ôMìë6í ÿ | ô  ÿ ï3ú ñHé“ñõ‰ïBó÷ô ÿ ïlõƒí ÿ ó±
í *ëH'õ  õ‰ñHíOï Hïlõ½ñõ‰ï  ÿ ì÷ïMôMíû|è ÿ 0 õ Hñ7û H
ï  ÿ õ ü‰ý ÿ 5û  ÿ õ‰ù ÿ õƒí÷ïlû„û ÿ ùïMõƒí‡ð ë6ôî ÿ õ‰ïM
ó ø˜ó ÿ í}ì±ï5ëHû³û³è(í÷î‰ïô5ëHó±ïòí÷î ë6í ø*ó÷ô ÿ ïlõƒí ÿ ó±í÷ótí÷î ÿ ' õ . ÿ ïlì±ïlõƒíû|èé¨ì÷ñð ðBñóë  ÿ =ïMì÷ïMõ_í£úañì÷7û b9 ÿ ïMú í÷î ë6
í ‰úVïMì÷ï}íî ÿ 3 ó  ÿ ïMú í÷ñBüïlôMñðòï–ôMý‰û³í÷ý‰ìë6û„û³èBö‰ì±
ï ‰ñð ÿ õ‰ëHõƒ)í  í÷î‰ïôî ë6õ‰ùïló#úVñHý‰5û üï–ôlñõ‰ôMì÷ï3íï _6ëHó±
í 1ëHõ r‰ìë6ó±í ÿ ô e“î‰ïëHõ‰óó÷ñHðBï‡úVëQè,ó õI0ñ …;



—

ïMû„ðòì÷ï ÿ ôî ÿ ó&ë6õ ëHõƒí÷î‰ì÷ñöñû³ñù ÿ óëHó±ó÷ý‰ðòöIí ÿ ñõ‰ótëHõ' û ÿ ð ÿ íë.í ÿ ñHõ‰óëHì±ï(î‰ïM5û  ýIö é¨ñìBó±ôlì±ýIí ÿ õ_è  ÿ íBüïMôlñðòïlóêöñó±ó ÿ üIû„ïÜíñp ÿ ó÷ôlëHìh í÷î‰ïlð8 ïMõ_í÷ïlì ÿ õ‰ùý‰õ‰$ï #!ö‰û„ñì±
ï Ÿíïlì±ì ÿ íñì< è

e“î ÿ ó‡üï ÿ õ‰ù>ó÷ë ÿ íî‰ïMì÷ï ÿ óÃõ‰ï Hïlì±í÷î‰ïlû³ïló±óOõ‰s ñ Iñý‰üIí‡í÷î ë6í‡íîIïüñ, ñ .Üú ÿ û„û]ì÷bý §Bï é¨ïlë6íî‰ïMì÷ó }ÃõƒèñHõ‰ï#ú£îI‹ñ ‰ñ,ïlóõ‰ñ6íó÷ïlï#ó÷ýIôîòí÷î ÿ õ‰ùHóëHóùïlõ Iïlìì÷ñû³ïlóëH'õ òí÷î‰-ï  ÿ óôlû„ë ÿ ðòóOôMû„ïlëHì÷û|è ÿ 'õ ¢ ý‰ïMõ‰ôlï Æû³ïló±óü_è ïlðòö ÿ ì ÿ ôlëHû ôMñõ‰ó ÿ ‰ïlì÷ë6í ÿ ñõ‰ó‡ë6õ ;ðBñHì÷ïüƒè ÿ ‰ïlëHó‡ñH‹é ±õ ë.íý‰ì÷ëHû„õ‰ïMó÷ó >ñ2 ì ±õ‰ñHì÷ðBëHû ÿ í˜bè z%Nõ‰ñHí ÿ ñõIó í÷î ë6íÃëHì÷ïOî ÿ ùîIû³è>ôMý‰û³í÷ý‰ìëHû³û³è ÿ õIé¨ý‰ó±
ï Q% ó±íì±ñõ‰ùû|èŸëHì÷ùHý‰ïló#é¨ñìôlëHì÷ï3é¨ý‰û]ôlñõ‰ó ÿ ‰ïMìë6í ÿ ñõ ñHé]î ÿ ó™ñ ïMìëHû³û=íî‰ïMó ÿ
ó  ÿ ðBö‰û³ïÃ$ï #‰ë6ðBö‰û³ïló ÿ õ‰ôlû³ý ‰ïžö ë ÿ ì 9ú ÿ ó±ïÃôlì±ñó÷Aó 9˜ü‰ì±ïlï  ÿ õ‰ù ÿ õ>ù;ï 9 õ‰ï3í ÿ ôÃëHû³ùñì ÿ íîIðBó „Óú£î_èBõ‰ñHtí  ÿ =ïMì÷ïlõƒíVñìaðòñì±ï#ôMñðòö‰û„$ï #é¨ñì÷ðòóaùHïlõ‰ï3í ÿ ôð ÿ # ÿ õ‰0ù z…$ ëH'õ íî‰ïaíì÷ïlë6íðòïlõƒí9ñHé íî‰ïVï ñHû„ýIí ÿ ñõOñHté  ÿ ðòðòñì±íëH5û “ôMì÷ï5ë.íý‰ì±ïló&üƒèñHõ‰ïVó ÿ ðšý‰û„ë6í ÿ ñõ ëHóOëÜü‰ý‰ùKí÷ñ(ü+ ï b#Iï 9ì÷ë6íîIïlì}íî ëHõ ëHóOëHõ ÿ õ_í÷ïlì±ïló±í ÿ õ‰ùŸì÷ïMó÷ý‰û|s í „7ëKðòñì÷ïì±ïlû ÿ ù ÿ ñHý‰ó öïlì±ó÷ñõŸð ÿ ùîƒí“î )ë ï–î ë  4 ý ÿ í÷ï}+ ë  ÿ ïlì÷ïMõƒí£ì÷ï5ë6ôMí ÿ ñxõ …$

e]ñ ö‰ý!íòí÷î‰ï>ú£î‰ñû³ïÜëHì÷ùýIðBïMõ_íB@ ë  ÿ =ïMì÷ïlõƒíúVëQè aí÷î ÿ õ . ú£î ë6íòð ÿ ùîƒíî ëHöIöïMõ ñ Iïló ÿ ùõ íî‰| ï  ì±ó±í–ù ÿ ì±û ÿ étí÷î‰ïüñQè,ó–ñH,é |ø „7ëHõ  ÿ í ÿ ó‡ðBñóíî‰ïcì÷ïMó÷ý‰û|í>úVñHý‰5û áì÷;ï ¢ ïlô3í(õ‰ñ6íþ±ýIó±íÜíî‰ï í÷ïlôî‰õ ÿ ô5ëHûa;ï #!öïlì±í ÿ ó±ï>ëHõ  ó±ô ÿ ïlõƒí ÿ  ( ô ._õ‰ñQú£û„ï ‰ùïêñ6é ÿ í ó „7î‰ïM*ì …‰ïló ÿ ùõ‰ïMì÷ó &ü‰ýIíëHû³ó÷ñ í÷î‰ï ÿ wì 6ëHì ÿ ñýIó ÿ ‰ïlëHAó % ð ëHõƒèñ6é=íîIïlð ö‰ì±ïlì÷;ï ¢ ïlô3í ÿ ïžôMý‰û³í÷ý‰ìëHû ÿ õ‰î‰ïMì ÿ íëHõ‰ôMïlAó %NëHüñýIí ú£î ë.í ôMñõ‰ó±í ÿ í÷ýIíïMóòí÷î‰ïŸé¨ïMð ÿ õ ÿ õIï T ïlû³Kû èñýEô5ëHõ ÿ ðBëHù ÿ õ‰ï ú£î ë6íBð ÿ ùîƒíòì÷ïMó÷ý‰û|)í  ëH'õ Búaïó±î‰ñý‰7û  î ëHì ‰û³èšüï#ó÷ý‰ì±ö‰ì ÿ ó÷ï BíñOüï#ôlñHõIé¨ì÷ñõƒí÷
ï Bú ÿ íîòó÷ñðòï#ôlì÷ñHó÷óVüïMí˜úaïlïMõ o ñðòðBëH õ ‰ïM}ì «‡ë6íëžëHõ B˜GëHì÷ë o ì÷ñHéÓ
í  e“î‰ï“û ÿ õ‰ùïMì ÿ õ‰ù 4 ý‰ïMó±í ÿ ñõû„ï3éÓí*üƒ| è i#ïlû³ðBì±ï ÿ ôî  ó ñüIó÷ïlì 6ë6í ÿ ñõ‰ó ÿ ó£î‰ñQúPðBëHõƒè>ñHé íî‰ï–ôlñì±ïOôMñõ‰ôMïlöIí÷óÃñH é Âø %Nð ÿ 'õ ‰ì÷ïMö‰ì÷ïMó÷ïMõ_íë6í ÿ ñõ  ëHý!íñõ‰ñHð è aïlðòñHí ÿ ñõ ó÷ïMû³Aé ‰ïMó ÿ ì÷ï aì÷ï3ú™ëHì “ì÷ïMö‰ì÷Qñ ‰ý‰ô3í ÿ ñõ Vï3í/ô ¬%NëHì÷ïÜðòñì÷ïÜû ÿ .Hï í÷î‰ï‡í˜è!ö ÿ ô5ë6û‚ôlñðòö‰ýIí÷ïlì þ±ñ,*ô ._ ó ÿ ‰ïlëHó£ëHüñýIí£ù ÿ ì÷û„óaíî ëHõÜúaï (ö‰ì±ïMé¨ïlì“í÷ñB/ë ‰ð ÿ )í

çVïMó ÿ Iïló£íî‰ ï  ÿ ó÷ôMzñ HïlìñHé™ôlñõ‰õIïlôMí÷
ï ‰õIïló÷óòî ëHóOñHíîIïlì;ï =ïMôMí÷ó ëHóšúaïlû³Kû tëHõ ÆðBëQè ï HïlõÆïlõ‰î ë6õ‰ôlïÜíî‰ïÜü ë6ó ÿ ôêé¨ïlëHìšíî‰ë6ííî‰ïÜðBëHôî ÿ õ‰ïlóšú ÿ û„ûaíë .Hï ñ ïM
ì y ñ
ì  ÿ ð ëHù ÿ õ‰ï‡üï ÿ õ‰ùòí÷î‰ì÷ïlë6íïMõ‰
ï ;üƒèKëBóüƒèíîIï#é¨ì ÿ ïl' õ Q%Nó±ñðBïMñõ‰ï í÷ì÷ý‰óí÷ì÷ï5ë.í ÿ õIùcí÷î‰ïKó÷ëHðòïŸó±ý‰ü,þ±ïMôMíêðBë6í±íïlì ™ëHû³üï ÿ íï 4 ý ÿ ö‰öï
Æú ÿ íî ó±û ÿ ùHî_í÷û³‹è  ÿ ïlì±ïlõƒwí  ÿ ó÷ô ÿ ö‰û ÿ õ ëHìôMý‰û³í÷ý‰ìëHû³û³ècïlõIôlQñ ‰
ï ÆëHõ ãì±ïlû¦ë.í ÿ Hïêíñí÷î‰ïlñì±ïMí ÿ ô5ë6û™ó÷ôî‰ïMð ë6
ó ø B í ‰ñ,ïló ó±ïlïlð íì÷ýIïêíî ë6
í  ÿ é#ì÷ïMû ÿ ù ÿ ñõ ÿ ‡õ ñGû ïMóû ÿ í±íû³ï ðòñì÷ï í÷î ëHõãì÷ïMôlñùHõ 5ÿ ¦Mÿ õ‰ù;ë;ó±ý‰ö‰ì÷ïMðBï ëHõ ÿ ðBë6í ÿ õ‰ùé¨ñì÷ôMï ÿ õKíî‰ïšýIõ ÿ Hïlì÷ó±ï ‚ë6õ ó÷ô ÿ ïMõ‰ôlïšðBë .6ïlóžõ‰ñ ôlû¦ë ÿ ð íñ ïló±íëHü‰û ÿ ó÷î ÿ õ‰ù í÷î‰ï–í÷ì÷ýIí÷î(ë6üñý!í#í÷î‰ï–õ ë6íýIì÷ï–ëHõ Kñì ÿ ù ÿ õ‰ó“ñ6é í÷î ë6í#é¨ñì÷ôM( ï „¨ñì£ñHé9í÷î‰ï–ý‰õ ÿ Hïlì±ó÷ïOëHóÃë ú£î‰ñHû„ï …$ƒíî‰ïMõòí÷î‰ïlì±ï ÿ óaë‡ùñ,Qñ òöñó±ó ÿ ü ÿ û ÿ í˜èOí÷î ë6ííîIïló÷ï£úañì÷7û b9 ÿ ï3ú£ótëHì÷ï£ý‰û|í ÿ ðBë6í÷ïlû³è ôMñðBö‰ë6í ÿ ü‰û„/ï wiñQúV;ï ïM
ì  ÿ õKðOèOþ±ý ‰ùðòïlõƒí#ó÷ýIôî ÿ õƒíïMì÷ö‰ì±ïMíë6í ÿ ñõ‰ó£ëHìíî‰ï‡ôMñý‰ì±ó÷ï}ñHé]î‰ïlì“$ï #!ö‰û„ñì÷ë6í ÿ ñ¨ õ „Ùë6õ >ì÷$ï 9 ÿ õƒí÷ïlì÷öIì÷ïMíë6í ÿ ñxõ …añ6é]í÷î‰ï‡ôlñHðBöïMí ÿ õ‰ù úañì÷7û b9 ÿ ïMú£ótñHé‚ì÷ïMû ÿ ù ÿ ñõòëH'õ Ã*ø Qy ñ!ïMì÷ó