Umelá inteligencia, teda anglický akronym AI (artificial intelligence), je bezpochyby slovom storočia. Mohlo by sa ale zdať, že ide o oxymoron. Ako by mohla inteligencia (naša jedinečná schopnosť chápania a autonómneho rozmýšľania) byť skonštruovaná umelo? Je našou prirodzenou, či povedal by niekto, mystickou schopnosťou, ktorá sa vyvinula spolu s našim živočíšnym druhom a naše súčasné pochopenie tohto fenoménu sa javí byť ešte na úplnom začiatku. A chcieť ju umelo vyrobiť? – to je pre mnohých prisilná káva.

V tejto eseji sa pokúsime o hlbšiu analýzu konceptu ‘umelej inteligencie’ a v kantovskom zmysle slova ponúkneme jeho kritiku; t.j. kritiku ako snahu o objasnenie a lepšie pochopenie danej veci. Esej je zložená z dvoch častí, ktoré sú logicky previazané. Prvá časť predstaví dva argumenty amerického filozofa Johna Searla: prvý týkajúci sa samotného skonštruovania AI a druhý súvisiaci so snahou pochopiť našu vlastnú myseľ prostredníctvom AI. V druhej časti eseje bude táto filozofická perspektíva doplnená pohľadom cez prizmu fyziky a neurovedy.

Prvá a filozofická časť eseje sa konkrétne pozrie na Searlov argument čínskej izbe (Chinese room argument), ktorý pojednáva o možnosti vytvorenia chápajúceho (understanding) AI a následne na jeho argument o výpočte (computation) ako nefyzikálnej vlastnosti, ktorý sa stavia kriticky k analógii medzi mysľou a výpočtovým zariadením ako napríklad počítač. Táto prvá časť bude uzavretá diskusiou o platnosti asi najčastejšej a najsilnejšej námietke voči Searlovi, ktorá sa zvykne nazývať ako systémová odpoveď (the systems reply) a autori tejto eseje budú argumentovať v prospech konzistentnosti Searlovho východiska. Fyzikálny pohľad na AI následne špecificky doplní túto pozíciu predstavením konceptu panpsychizmu, ktorý je vnímaný ako stredná cesta medzi fyzikalizmom a dualizmom, ďalej sa cez prizmu fyziky ešte raz pozrieme na povahu výpočtu a nakoniec zhodnotíme dopad tzv. hypotézy kvantového mozgu na budúcnosť AI.

Ako autori tejto eseje veríme, že súčasný stav AI, po filozofickej ako i fyzikálnej stránke, nás vedie k skepticizmu a opatrnosti ohľadne tých najambicióznejších predikcií, ktoré zaznievajú od zástupcov AI priemyslu a to hlavne v kontexte tzv. silného AI. Naše celkové odporúčania bude preto v závere smerovať k zvýšeniu výskumného úsilia vo veci vzťahu medzi mysľou/mysľami a počítačmi, pretože platnosť tejto prima facie príťažlivej a jednoduchej analógie by mala byť záverom a nie východiskovou hypotézou pre AI priemysel.

I. Filozofická analýza

Príbeh vlny koncepčnej kritiky voči potenciálnym úspechom AI sa začal písať v 1980, keď Searle publikoval jeho známu esej „Minds, Brains, and Programs“, v ktorej predstavil svoj známy a v princípe stále platný argument proti silnému AI s názvom argument čínskej izby. Cieľom prvej časti tejto eseje je zmapovať najprv jeho pôvodné výhrady voči silnému AI a následnej jeho nuansované pochybnosti vzhľadom na slabé AI. Pre zjednodušenie bude toto mapovanie spravené cez pohľad na jeho dva argumenty: argument čínskej izbe a druhý, ktorý sme pracovane nazvali argument výpočtu ako nefyzikálnej vlastnosti.

Po prestavení Searlových východísk ich podrobíme testu, ktorý treba stanoviť strategicky, keďže nie je možné zobrať do úvahy všetky námietky, ktoré boli voči nemu vznesené. Testom Searlovej čínskej izby tam bude, mohli by sme povedať, skupinový protiargument tzv. systémovej odpovede. Prečo práve tento? Ide o najčastejšie sa opakujúci protiargument, ktorý je súčasne aj najsilnejší a jeho dôležitosť garantujú aj myslitelia, ktorí ho zastávajú: Ray Kurzweil, Daniel Dennett, Ned Block, George Rey, Jack Copeland, Jerry Fodor, John Haugeland, et al. I napriek jeho intuitívnej príťažlivosti a subtílnosti sa domnievame, že táto námietka nie je úspešná v popretí Searlovej základnej tézy, že počítače, ako výhradne syntaktické výpočtové zariadenia, nie sú schopné chápania (understanding) a tým pádom ani myslenia a inteligencie: AI je inteligentné iba metaforicky. Ak sa v našej domnienke nemýlime, Searlov argument proti silnému AI je po 40 rokoch stále relevantnom hodenou koncepčnou rukavicou a nemožno ho ignorovať.

Silné AI a argument čínskej izby

Pred tým, ako sa dostaneme k samotnej analýze tohto argumentu, je potrebné v krátkosti pripomenúť podstatu rozlíšenia medzi silným a slabým AI. Podľa tradičného rozdelenia má silné AI ontologické ciele, a teda jeho zástancovia tvrdia, že je (alebo bude) možné vyrobiť seba-vedomú chápajúcu myseľ, alebo zobrať ľudskú myseľ a uploadnuť ju na nejaký cloud za účelom predĺženia dĺžky života človeka (s potenciálnou vidinou nesmrteľnosti alebo prinajmenšom doteraz nepoznanej dlhovekosti). Silné AI a jeho poprední predstavitelia tak koncepčne rozmýšľajú vo svete ontológie, čo je tá časť filozofie, ktorá sa, nedokonale povedané, zaoberá skúmaním existencie ako takej: Čo to znamená, že niečo vôbec existuje? Čo znamená povedať, že niečo vzniká, mení sa alebo zaniká? A tým pádom, čo by to znamenala vytvoriť AI? Akým spôsobom by existovalo?

Na druhej strane, slabé AI sa pohybuje vo svete epistemológie. Ľudia, ktorí sa mu venujú, sa primárne nezaujímajú o to ako vyrobiť umelú inteligenciu, ale používajú dnes dostupnú umelú „inteligenciu“ s cieľom lepšie spoznať, ako funguje samotné ľudské chápanie, myseľ. Ich zámerom je tak s pomocou AI študovať mozog, rôzne mentálne stavy a procesy, viac ozrejmiť problém toho, ako mozog a myseľ interaguje, či je napríklad myseľ manifestáciou mozgu alebo naopak a či je viac platný pohľad epifenomenalizmu alebo emergentizmu. V tomto kontexte je dobre naprogramovaný počítať veľmi užitočným nástrojo na štúdium ľudskej mysle/mozgu, ale na rozdiel od silného AI tu nie je snaha takýto počítač nazýval mysľou/mozgom. Samozrejme, záujmy silného a slabého AI sa nepochybne prekrývajú, ale zatiaľ čo zámery toho prvého sú prakticko-inžinierske, toho druhého sú teoreticko-vedecké.

Vstúpme už teraz konečne do Searlovej čínskej izby. Ako už bolo povedané, cieľom argumentu čínskej izby (Searle, 1980) je uviesť na správnu mieru nadšenie a futuristické ambície inžinierov silného AI. Aká je jeho stratégia za týmto argumentom?

Existuje viacero stratégii na vyvrátenia nejakej teórie a jeden častý spôsob je nájsť jeden či viacero empirických dôkazov, ktoré budú falzifikovať závery danej teórie. Druhá možnosť je vojsť do jej vnútra, pomenovať premisy, na ktorých stojí a zhodnotiť, či sú závery z daných premís odvoditeľné a teória je konzistentná, alebo spochybniť pravdivosť samotných premís. Ak by sme prvú stratégiu mohli nazvať empirickou, o tej druhej môžeme hovoriť ako o racionálnej/logickej a je to práve táto druhá, ktorú si Searle pri kritike silného AI zvolil a to pre jej robustnosť. Zjednodušene povedané, ak je v hocijakej teórii možné nájsť protirečenie, táto kontradikcia existuje na logickej úrovni a teda, mohli by sme povedať, večne. Táto logická chyba, ak je vecou prvých premís, sa nedá odstrániť vylepšením danej teórie (a teda povedať, že overenie jej platnosti chce ešte veľa času a úsilia), ale zmenou teórie. Inými slovami, ak stojí praktické úsilie na koncepčnej chybe, čas ako korektívny faktor tu nehrá žiadnu rolu a povedať, že „dnes to síce ešte nevieme urobiť, ale s vývojom technológií toho budeme v budúcnosti schopní“ je nonsense. V prípade tohto druhy chyby je jediným riešením chybnú teóriu zanechať a začať od začiatku; a toto je stratégia za Searlovou čínskou izbou, cez ktorú chce vyvrátiť základné východisko silného AI, že myseľ/mozog je v princípe počítač a tým pádom je aj dobre naprogramovaný počítať schopný chápania a premýšľania, ergo inteligencie.
Jeho argument je najlepšie ilustrovať cez analógiu s fungovaním počítača. Existuje nejaký informačný input, potom prichádza jeho spracovanie a následne informačný output, a jedným slovom ide o výpočet (computation). Searle nás pozýva predstaviť si človeka, ktorý je zavretý v izbe, ktorá je plná krabíc s čínskymi znakmi/symbolmi a tento človek nemá ani len predstavu o tom, čo je to čínština. V tejto izbe je ale našťastie ak návod (rulebook), ktorý obsahuje „ak-potom“ pokyny; napríklad, ak tento znak, tak potom takýto znak a vizuálne si to môžeme predstaviť ako: ak 汉, potom 字.
Pokročme v argumente ďalej a predstavte si, že niekto vhodí popod dvere do tejto izby papier s nejakým čínskym znakom (napríklad opäť náš 汉); vy samozrejme neviete čo 汉 znamená (keďže predpokladám, že ste čínštinu neštudovali a 汉 je pre vás iba zaujímavý súbor čiar), a preto siahnete po návode. Vyhľadáte znak identický s tým, ktorý prišiel spopod dverí a nájdete tam pokyn: ak 汉, potom 字. Následne prezriete krabice s čínskymi znakmi, ktoré máte v izby, nájdete 字 a ako podveď ho posuniete von popod dvere, odkiaľ prišla prvotná otázka. Jednoduché: input, spracovanie, output.
Reálne sa ale teraz sami seba spýtajte: Máte čo i len najmenšiu predstavu o tom, čo tie znaky znamenali a čo ste spravili? Samozrejme, že nie. Mohli znamenať „ak jablko potom červené“ alebo „ak dvojklik myšou potom otvoriť súbor“ či „ak slon potom muffin“. „Ak slon potom muffin?“ — zarazíte sa. „Ale veď to je úplný nonsense, nedáva to žiadny zmysel. I keď po gramatickej, teda syntaktickej stránke je to v poriadku.“
Vyššie spomínaný príklad je zmysluplný, keďže 汉字 [hànzì] znamená „čínsky jazyk“. Pointou tohto príklade bolo dať čitateľovi priamu skúsenosť so záverom Searlovho argumentu, že i keď počítať vie dať, teda vyrátať, správnu odpoveď, v procese tohto výpočtu nejde o „chápanie“, ale iba o manipuláciu s bezobsažnými symbolmi. Áno, rýchlosť s ktorou je tento výpočet spravený je nadľudská, ale iba na základe toho, že vie počítač úspešne a rýchlo manipulovať so znakmi nemôžeme prísť k záveru, že chápe a premýšľa. Podľa Searlea je naprogramovaný počítať výlučne syntaktickým (ak-potom) zariadením a sémantiku (zmysel) jeho procesov garantuje jeho programátor s ľudskou mysľou, ktorá je sémantická. Povedané technickejšie, sémantika nie je vnútorne vlastná syntaxi.
Spojme teraz tento argument s požiadavkami silného AI a skúsme zodpovedať otázku, akým spôsobom Searle spochybňuje teóriu, podľa ktorej sme (či budeme) schopní skonštruovať umelú inteligenciu, a teda myseľ. Táto teória je vo svojich premisách ukotvená v reduktivistickej analógii, že myseľ je technicky povedané počítač. A keďže počítač je software naviazaný na hardware s cieľom spracovania informácií (t.j. input-spracovanie-output), zdá sa potom, že pre zástancov silného AI je pri tvorbe umelej mysle hlavou výzvou napísanie dostatočne dobrého programu (čím podobnejší až identický s „programom našej mysle“), a taktiež vyvinutie výkonného hardwaru s dostatočnou výpočtovou silou. Zdolanie týchto výziev je už len otázka času, zdá sa.
Searlov argument čínskej izby poukazuje na nekonzistentnosť tejto analógie. Počítače sú výlučne syntaktické zariadenia (čo je, mimochodom, ich najväčšou pridanou hodnotou), ktoré vedia podľa vopred daného návodu pracovať nadľudskou rýchlosťou s (pre nich) bezvýznamnými znakmi. Ich význam a zmysel (sémantika), ako uvidíme v nasledujúcej podkapitole, je tvorená práve ľudským vedomím programátora. Výpočtové zariadenie (kalkulačka či počítač) nevie o nič viac ako vy význam vyššie použitých čínskych znakov, ktoré ale vie správne vyhodnotiť a spracovať.
Ľudská myseľ, tvrdí Searle, je nevyhnutne a prirodzene sémantická, ale syntax sama o sebe sémantická nie je a je od nej nezávislá. Dôkazom je tu napríklad pozorovanie, že aj syntakticky nesprávna veta môže byť stále zmysluplná, pričom syntakticky správna veta môže úplne postrádať zmysel. Syntax negarantuje sémantiku. Z toho vyplýva, že my, na rozdiel od počítačov, vo svojom chápaní prirodzene spájame sémantiku a syntax, ktoré sú od seba nezávislé, ale počítače, na rozdiel od nás, spracúvajú informácie iba syntakticky bez sémantiky.
Argument čínskej izby môžeme sumarizovať takto:
Premisa 1: Ľudské mysle sú nevyhnutne sémantické.
Premisa 2: Počítače (a programy) sú výlučne syntaktické.
Záver: Analógia medzi ľudskou mysľou a počítačom je neplatná.
Túto podkapitolu je potrebné zakončiť záverečným pozorovaním, podľa ktorého, ak je niečo sémantické (a toto „niečo“ je konštrukčným cieľom silného AI), táto vlastnosť či schopnosť vyžaduje istý stupeň vedomia (consciousness). Z vyššie uvedeného argumentu tak vyplýva (a už to bolo spomenuté), že koniec koncov je to ľudská vedomá myseľ, ktorá garantuje sémantiku syntaktických procesov počítačov. Keby nebolo nášho vedomia, výpočet (computation)/spracovanie informácii by nemal kto pozorovať a tým pádom by ani neexistovalo. A toto pozorovanie nás posúva k druhému Searleovmu argumentu, ktorý si tentokrát berie na mušku slabé AI.

Slabé AI a argument výpočtu ako nefyzikálnej vlastnosti sveta
Prechádzajúca časť vo svojom závere poukázala na skutočnosť, že ak by mali počítače autonómne myslieť (t.j. mať sémantiku a teda potenciálne inteligenciu) musia byť do istej miery vedomé. Zástancovia silného AI by sa preto mali zamerať na staré filozofické problémy povahy vedomia, ktoré im môžu naznačiť cestu vpred v ich inžinierskych snahách.
Podľa Searle je povaha vedomia biochemická a hovorí, že v princípe je vedomie pre náš mozog to isté, čím je trávenie pre žalúdok. Čo nám v porovnaní s našim tráviacim traktom chýba je lepšie poznanie toho, ako to mozog robí — ako vytvára vedomie. A toto je cesta, ktorou by sa podľa neho mali vydať tí, ktorí sa seriózne zaujímajú o silné AI (Searle, 1998 a Searle, 2000).
Okrem doteraz spomínaných problémov, ktorým sa musia zástancovia silného AI postaviť čelom, Searle zdôrazňuje ešte jednu a možno ešte zásadnejšiu prekážku, ktorá bola už medzi riadkami obsiahnutá v argumente čínskej izby. Ako bolo povedané, syntax nielen že so sebou neprináša sémantiku, ale syntax dokonca ani len nie je súčasťou fyzikálneho sveta.
Zjednodušene si to môžete predstaviť takto. Ak sú počítače výlučne syntaktické zariadenia a ich hlavnou úlohou je tak výpočet, ak by ste sa išli von na prechádzku, môžete sa snažiť ako veľmi len chcete, ale ‘počítanie’ neuvidíte len tak niekde ležať na trávniku či visieť na stromoch. Inými slovami, existencia výpočtu/počítania nie je nezávislá od našej mysle, nie je to samostatná fyzikálna entita či vlastnosť vonkajšieho sveta. Naopak, tvrdí Searle, ide o niečo, čoho existencia je úplne závislá na pozorovateľovi a v tejto podkapitole bližšie predstavíme jeho argument výpočtu ako nefyzikálnej vlastnosti sveta (Searle, 1990), ktorý je jeho kritikou slabého AI. Predtým je ale potrebné uviesť ešte dve nevyhnutné filozofické rozlíšenia, ktoré sú potrebným pozadím k pochopeniu tohto argumentu: jedno epistemologické a jedno ontologické.
Pri ontologickom rozlíšení sa Searle odkazuje na írsku filozofku G.E.M. Anscombeovú (Anscombe, 1958), ktorá ako jedna z prvých poukázala na rozdiel medzi tvrdými faktami (brute facts), akými je napríklad tvrdenie „pred mojimi dverami je vrece zemiakov“ a tým, čo Searle nazval inštitucionálne fakty; napríklad: vzhľadom na to, že mám pred dverami vrece zemiakov, dlžím môjmu dodávateľovi peniaze za doručenie. Ďalším príkladom rozdielu týchto dvoch druhov faktov je tvrdenie „vo vrecku mám nejaké drobné“, čo je tvrdý fakt, ale skutočnosť, že sú tieto mince menou a že majú výmennú hodnotu je inštitucionálny fakt.
Ako bolo povedané, toto prvé rozlíšenie je ontologické a konkrétne sa týka tohto: niektoré veci (inštitucionálne fakty) existujú ontologicky subjektívnym spôsobom (ako napríklad naše sľuby, podlžnosti, peniaze, mena, inštitúcia manželstva, univerzity, atď., a tieto veci nenájdeme náhodne visieť v prírode zo stromov); na druhej strane sú veci (tvrdé fakty), ktoré existujú ontologicky objektívne (ako hory, oceány, stoličky, zemiaky pred dverami či drobné vo vrecku) a o ich existencii môžeme druhých pouvedomiť už len tým, že na ne fyzicky poukážeme: „Aha, niekto nám nechal pred dverami vrece zemiakov!“ Ale to pri inštitucionálnych faktoch neplatí. Môžeme nateraz uzavrieť, že prvá skupina vecí je závislá od vedomej mysle pozorovateľa, pričom druhá nie.
Searleove druhé rozlíšenie je epistemologické a je v niečom podobné prvému. Veci môžeme poznať buď subjektívne alebo objektívne. Napríklad, poznanie našej bolesti či pocit šteklenia je subjektívny, zatiaľ čo poznanie prítomnosti hôr alebo molekúl je objektívne. Inými slovami: ak poviem, že jahodová zmrzlina je najlepšia na svete, ide o subjektívne poznanie, ale to, že zmrzlina je substancia založená na zmrznutej vode alebo (ideálne) mlieku je vecou objektívneho poznania.
Položme si teraz otázku, na čo Searle potrebuje toto rozdelenie pri jeho odpovedi na slabé AI. Pozorujme krátku sériu ak-potom tvrdení. Ak je cieľom slabého AI uľahčiť štúdium ľudskej mysle prostredníctvom štúdia počítačov, potom je jeho primárnym záujmom povaha výpočtu, ktorý tie dva fenomény spája. Ak predpokladáme, že výpočet je prirodzene prítomný v mysliach, potom, ak ich chceme cez analógiu mysle a počítača študovať, výpočet by musel byť prirodzene prítomný aj v počítačoch (musel by byť fyzikálnou vlastnosťou). Je ale výpočet (ktorý, ako sme sa dozvedeli z čínskej izby, je definovaný výhradne syntakticky) fyzickou vlastnosťou? Ak áno, potom, podobne ako hory a molekuly by musel existovať nezávisle (objektívne) od jeho pozorovateľov. A záver, ku ktorému nás Searle vedie je ten, že výpočet nezávislí od pozorovateľa byť nemôže a tým pádom táto analógia neplatí.
Výpočet je relatívny na pozorovateľa a preto je ontologicky subjektívny. Jeho existencie je závislá na našich kognitívnych schopnostiach, ktoré ho aktualizujú. [Poznámka na okraj: pôvodný anglický význam slova počítať (computer) sa nevzťahoval na stroj vykonávajúci výpočty, ale na počítajúceho človeka. V tomto pôvodnom zmysle je existencia výpočtu (computation) úplne závislá na computer – na počítajúcom človeku.] Čo ale ontologicky subjektívna povaha výpočtu znamená? Vedie k tomu, že o ňom môžeme hovoriť a poznať ho tiež len subjektívne? Searle odpovedá záporne a táto skutočnosť sa často nazýva klamom nejednoznačnosti (the fallacy of ambiguity). Z toho, že je niečo ontologicky subjektívne nevyhnutne nevyplýva, že to môžeme poznať len subjektívne. Výpočet môžeme študovať a skúmať objektívne, čo ale neneguje jeho ontologickú subjektivitu.
Aby bol tento záver Searleovho druhého argumentu ešte jasnejší, zoberme si príklad manželstva a univerzity, ktoré existujú subjektívne, ale poznať ich môžeme objektívne. Manželstvo (t.j. inštitúcia manželstva) nie je vecou, ktorá existuje voľne v prírode, ale stále môžu existovať objektívne zákony na jeho reguláciu. Čo je to univerzita? Jej budovy, kampus, diplomy, online sylaby? Môžeme na tieto veci poukázať a povedať „Pozri, toto je moja univerzita!“? Zdá sa, že nie, keďže tieto veci nie sú pre jej existenciu nevyhnutné. Univerzita, ako inštitúcia, je ontologicky subjektívna. Ak by sa nevyvinul náš živočíšny druh, iné zvieratá by na univerzity nechodili, ale, naopak, aj bez našej vedomej prítomnosti by sa stále chodilo po stromoch. Podobne ako aj pri manželstve (ktoré vzniká sľubom – inštitucionálny fakt), aj nejakú univerzitu môžeme objektívne poznať, kritizovať ju, byť pri jej objektívnom vzniku či zániku.
Ak teda niečo existuje ontologicky subjektívne, nevyhnutne to neznamená, že o tejto veci nemôžeme mať objektívne poznanie. Opak je tiež pravdou: ak niečo poznáme objektívne, to nevyhnutne neznamená, že dané vec aj ontologicky objektívne existuje. A toto je v skratke Searlov argument výpočtu ako nefyzikálne vlastnosti sveta: výpočet je nefyzikálnou schopnosťou našej mysle (subjektívna existencia), čo ale neznamená, že s výpočtom nemôžeme všetky rovnako pracovať (objektívne poznanie).
Aké má toto implikácie pre možnosti slabého AI? Keďže výpočet je zo svojej povahy syntaktický a syntax nie je fyzikálnou vlasťou a je závislá od pozorovateľa, akékoľvek skúmanie ľudskej mysle cez prizmu fungovania počítačov nie je až tak jednoduché a analogické, pretože myseľ je kauzálnym vysvetleným počítačov, čoho opak nie je pravdou. Analógia mysle ako počítača je preto principiálne asymetrická.
Znamená to ale, že musíme opustiť od výpočtových úspechov a strestať sa snažiť robiť počítače ešte výkonnejšie? Samozrejme, že nie. Odporúčanie, ktoré pre AI zo Searleových dvoch argumentov plynie je, že (1) na umelé vytvorenie mysle musíme mať ešte oveľa hlbšie pochopenie toho, ako mozog spôsobuje vedomie, ktoré umožňuje sémantiku, a že (2) naše mysle nie sú len substanciálne odlišné od počítačov, ale sú nevyhnutným asymetrickým základom ich existencie.

Odpoveď na protiargument systémovej odpovede (the systems reply)
Nie je vonkoncom prekvapivé, že Searleov argument čínskej izby vyvolal veľkú vlnu nesúhlasných odpovedí a ich komprehensívny zoznam nájdete v článku Davida Coleho (Cole, 2015). Ich najbežnejšou formuláciou je tzv. argument systémovej odpovede, ktorý v tejto časti predstavíme a ponúkneme tiež Searleovu odpoveď.
V kocke vyzerá tento argument nasledovne:
Môže byť síce pravdou, že človek, ktorý je zamknutý v čínskej izbe a manipuluje s neznámymi symbolmi, nemá žiadne poznanie o tom, čo robí (sémantika). Avšak, tento človek je len súčasťou väčšieho systému, a zatiaľ čo on nerozumie, samotná izba ako celom áno. Systém so všetkými jeho časťami rozumie. Aké sú jeho časti? Ak je človek CPU, tak potom ďalšie časti počítačového systému budú pamäť a všetok hardware, celý software (z ktorého sme spomínali návod na manipuláciu), atď. Tieto časti ako celok, ako systém, sú následne určite schopné chápania (understanding) a následkom tohto protiargumentu je tvrdenie, že sémantika je vecou iného, a teda vyššieho stupňa analýzy. Sématika je tak otázkou komplexnosti.
Tento konkrétny argument proti Searleovej čínskej izbe bol formulovaní viacerými ľuďmi s malými obmenami. Napríklad, človek v izbe iba CPU (Rey, 1986); tento človek iba vykonáva rozhodnutia a z pohľadu systému je neutrálny (Kurzweil, 2002); tento človek je iba implemetátorom a celý zmätok ohľadne jeho činnosti vykonávanej bez chápania toho, čo robí, pramení z pohľadu na nesprávnu úroveň analýzy (Haugeland, 2002; Copeland 2002); atď.
Searleova odpoveď je neprekvapivo priama. Navrhovaná nesprávnosť úrovne analýzy si sama o sebe klam (fallacy) a Searle argumentuje, že medzi človek v izbe a izbou ako väčším systémom nie je žiadny substanciálny rozdiel. Tento človek sa môže naučiť návod na prácu so symbolmi naspamäť, všetky nevyhnutné výpočty môže spraviť on sám či dokonca môže túto činnosť robiť aj mimo izby. Ak si ho predstavíme ako miestnosť opúšťa, je to akoby celá miestnosť odchádzala s ním – v ňom. Z toho vyplýva, že i keď je tento človek stelesnenou izbou, systémom, stále nerozumie po čínsky a naďalej (úspešne!) manipuluje pre neho bezvýznamnými znakmi. Všetko je len syntax, žiadne sémantika.
V tomto bode ale diskusia nekončí a vidíme, že Searle svojich oponentov pozýva k stále hlbšiemu pohľadu na to, čo je to interpretácia, čo je to význam a, koniec koncov, k otázkam metafyziky. Je nad rámec tejto prvej filozofickej časti pokračovať v týchto otázkach, ale čo sa podarilo aspoň čiastočne úspešne ukázať je, že (1) Searleove argumenty sú stále kameňom úrazu a prekážkou ako pre zástancov silného, tak i slabého AI a nemôžu byť považované za dostatočne vyvrátené a tým zastarané, a že (2) snaha o umelé vytvorenie mysle je principiálne nevyriešenou filozofickou otázkou. Bez väčšieho konsenzu na jej odpovedi v rámci slabého AI (t.j. povaha mysle, mozog spôsobujúci vedomie, ontologicky subjektívny charakter výpočtu, atď.) bude každý, i keď dobre mienený krok zo strany inžinierov silného AI iba krokom po slepej uličke.

II. Vedecká analýza

Technologický vývoj a vyššia výpočtová kapacita posunuli stroje do bodu, keď dokážu výborne pracovať s fyzickou realitou. Pomocou systému kamier a iných detektorov môže stroj prijímať množstvo informácií z prostredia. Navyše strojové učenie umožňuje natrénovať softvér, aby získané informácie o vonkajšej fyzickej realite efektívne spracoval a na základe toho v nej dokázal vykonávať úkony alebo sa v nej pohybovať, ako napríklad autonómne autá. Znamená to teda, že s dostatočnou výpočtovou kapacitou a správnym softvérom dokážeme celé vyhodnocovanie fyzikálnej reality, aké robia ľudia, premeniť na výpočet? Prvým krokom musí byť preloženie ľudského myslenia do jazyku atómov a fyzikálnych interakcií. Súčasné poznanie z fyziky, neurovedy a filozofie nám však ukazuje, že toto nie je úplné možné.

Každá fyzikálna štruktúra totiž môže byť počítačom

Výpočtové stavy nie sú objavené vo fyzike, ale sú priradené k fyzike. Ako bolo uvedené vo filozofickej časti tejto kapitoly, slávny argument Čínskej izby ukázal, že sémantika nie je vnútornou vlastnosťou syntaxe. Ďalší Searlov argument zasa ukazuje, že syntax nevyplýva priamo z fyzikálnej štruktúry. Výpočtové stavy totiž možno priradiť takmer všetkým fyzikálnym javom, pohybu mačiek a myší, vodopádom, vzorcom molekulárnych pohybov v stene miestnosti, v ktorej teraz sedíte. V našich moderných počítačoch totiž neexistujú nuly a jednotky, existujú iba tranzistory s rôznymi úrovňami napätia, ktoré predstavujú nuly a jednotky. Podobne všetky vyššie uvedené príklady môžu predstavovať nuly a jednotky. Napríklad molekuly steny pohybujúce sa rýchlejšie ako priemerná rýchlosť označíme ako jednotky a tie pomalšie ako nuly a tým pádom sa v strene odohráva výpočet. Teda, počítač ako fyzikálny objekt nevykonáva ešte výpočty, ale jeho súčiastkami prechádza elektrický prúd a menia sa odpory a napätia. Prvý zásadný rozdiel prečo je ale počítač vhodný na výpočty a stena alebo vodopád nie spočíva v tom, že počítače sme vytvorili tak, že nuly a jednotky sú zastúpené dostatočne malými materiálovými štruktúrami, aby to bolo efektívne, ale zase dostatočne veľkými, aby do hry nevstúpila kvantová nevyspytateľnosť. Po druhé, počítače sú postavené univerzálne, tak, aby na nich mohol bežať takmer každý program napísaný v logickom jazyku núl a jednotiek. A po tretie, do počítača môžeme ľahko vložiť vstupy a čítať výstupy, ale z pohybu molekúl v stene nie. Toto sú niektoré z hlavných dôvodov, prečo na spracovanie informácií používame počítače a nie molekuly v stene alebo molekuly vody vo vodopáde.

Analogicky je možné na sedenie použiť aj plastovú stoličku aj peň v lese, ale stoličky, ktoré vyrábame, sa ľahšie pohybujú a ľahšie získajú, preto sme týmto objektom priradili označenie stoličky. Tento príklad ilustruje, že materiálna realita sama osebe neobsahuje žiadnu informačnú štruktúru. Informáciu musíme k fyzikálnej realite priradiť. Niektoré veci sme manipulovali, aby sme dostali stoličku, podobne sme manipulovali s kremíkom, železom, meďou a ďalšími prvkami, aby sme vytvorili tranzistory, a potom sme im priradili informačnú hodnotu. Preto v počítačoch nie sú obsiahnuté žiadne informácie (ako zmysluplné údaje nezávisle od ľudských pozorovateľov), sú tam iba dva fyzikálne odlišné stavy, ktorým sme priradili logické hodnoty. Analogicky na to, aby kniha obsahovala zmysluplné informácie, atrament na papieri nestačí, je potrebné rozumieť symbolom a jazyku.

Ak si myslíme, že by mohlo v počítačoch vzniknúť vedomie len ako dôsledok veľkého množstva odohrávajúcich sa logických operácií, potom by malo byť možné, aby boli vedomé aj steny a vodopády a v podstate každá veľká materiálna štruktúra, pretože je možné priradiť logické hodnoty fyzikálnym stavom ich častí a vývoj týchto stavov v čase môže predstavovať výpočet. Ako píše Searle: „Označenie fyzikálneho procesu ako výpočtového je charakterizácia fyzikálneho systému zvonka; a identifikácia procesu ako výpočtového neidentifikuje vnútornú fyzikálneho, je to v podstate relatívna charakterizácia pozorovateľa.“ A ak by sme každému atómu stola priradili, ktorý by mal väčšiu kinetickú energiu ako priemerná kinetická energia všetkých atómov stola jednotku a nulu všetkým ostatným atómom stola, potom by stôl obsahoval viac informačných procesov ako počítač, ktorý je na ňom položený. Pretože všetky tieto atómy navzájom interagujú a ich kinetická energia sa mení. Áno, znie to bizarne, ale keď o tom premýšľame, kinetická energia je rovnako fyzicky reálna ako hodnota napätia. Jediný rozdiel je v tom, že dokážeme jednoduchšie pracovať so vstupmi a výstupmi v počítači.

Takto nejako môžeme postaviť argument prečo materiálne postavenie výpočtového systému neznamená, že počítač skutočne myslí alebo sa približuje k vedomiu.
Predpoklad 1: Vo fyzike nie je prítomná žiadna logická syntax, všetky syntaxe a teda aj výpočtové stavy sú priradené k hmotným štruktúram. „Všetky výpočtové stavy sú príbuzné pre pozorovateľov: nie sú vlastnosťou fyziky systému.“
Predpoklad 2: Ku každej komplexnej materiálovej štruktúre je možné priradiť výpočtové stavy a pohyb jej častí môže predstavovať výpočtový program. Každý zložitý materiál je teda počítač.
Záver: Ak očakávame, že v počítačoch dôjde k vedomiu, pretože sa tu odohráva veľa procesov, ktorým by sa dali priradiť logické operácie, mali by sme očakávať, že všetky dostatočne veľké materiálne štruktúry sú pri vedomí, pretože dokonca by sa tam dalo priradiť ešte oveľa väčšie množstvo výpočtových procesov, napríklad kamene, kopce, vzduch v miestnosti, molekuly nápoja vo fľaši, jednoducho všade. Naša intuícia nesúhlasí s touto odpoveďou hlavne preto, že počítače, ktoré používame, používajú programy, ktoré sme pripravili, a preto vykonávajú operácie, ktoré chceme. Na druhej strane pohyby molekúl vo všetkých ostatných (dosť veľkých) objektoch by mohli predstavovať programy, ale my nad nimi nemáme kontrolu a výsledky týchto “programov” nepotrebujeme, pretože sa nám zdajú náhodné.

Analogicky platí, že voda je vždy priťahovaná gravitačnou silou Zeme, ale ak chceme využiť tento jav, musíme vybudovať vodný mlyn. Podobne elektróny priťahujú opačne nabité látky a aby sme ich mohli použiť na výpočet, skonštruovali sme počítače. Počítač ako zložitá materiálová štruktúra nespracováva informácie ani výpočty, iba pracuje s elektrinou takým spôsobom, kedy sa výstupy fyzikálnej interakcií vo vnútri môžu interpretovať ako výpočty.

Vedomie ako produkt hmoty

Dnes už máme priamy dôkaz o korelácii medzi mozgom ako fyzikálnou štruktúrou a niektorými duševnými stavmi človeka s týmto mozgom. Stimuláciou niektorých častí mozgu vieme vyvolať bolesť alebo radosť, zmierniť alebo zhoršiť úzkosť či depresiu, ale stále nevieme fyzikálne opísať zažívanie týchto duševných stavov, teda vedomie. Aká časť mozgu, ako a prečo vytvára vedomie, nejaké ucelené zažívanie reality okolo a vlastnej identity. Počítačmi a tomu, čo nesprávne označujeme ako umelá inteligencia sa snažíme napodobniť výpočtovú sieť mozgu, ale čo ak vedomie nie je dôsledkom výpočtov ale samotnej hmoty alebo interakcie hmoty na inom leveli ako sú elektrické signály medzi neurónmi.

Každopádne to, že vedomie existuje je fakt. Nevieme presne, čo to je, nakoľko skresľuje realitu a pochopenie samého seba, ale určite niečo ako vedomie je, lebo sme si vedomí, že existujeme a tiež si uvedomujem, že existuje nejaký svet, v ktorom sa nachádzame a ktorý cez naše zmysly detegujeme. A ak vychádzame z predpokladu, že náš svet je na najhlbšej základnej úrovni fyzikálny, potom veríme, že to, čo označujeme ako mentálne (myšlienky, pochopenie, vedomie) je dôsledkom nejakého usporiadania hmoty alebo interakcií hmoty. Teda, fyzikálna realita nejako, ešte nevieme ako, produkuje vedomie, ktoré je teda sekundárnym produktom fyzikálnej reality.

Lenže samotný výpočet nie je fyzikálne fundamentálna vec, ale pri zostavovaní počítačov a snahe dosiahnuť umelé myslenie a pochopenie používame len logickú – matematickú štruktúru ako návod na usporiadanie počítačovej hmoty. Preto je veľmi pravdepodobné, že vedomie a teda skutočné uvedomenie si sveta a seba počítače nedosiahnu, ak nepochopíme, ako mozog produkuje vedomie. Stále totiž môže byť kľúč k vedomiu aj v hmote samotnej a nie iba v tom, ako dobre dokáže reprezentovať logickú (pozorovateľom priradenú) hodnotu, čo je v ultimátne fyzikálnom vesmíre oveľa pravdepodobnejšie. Teda, možno je pre vedomie rozhodujúce aké atómy sú tam prítomné, možno kremík nedokáže v recepte nahradiť uhlík, alebo dokonca to môže byť iba tá správna kombinácia energetických hladín konkrétnych zložitých proteínov, alebo čokoľvek iné. Iba chcem povedať, že vo fyzikálnom svete, ktorý vedci pracovne používajú pri konštrukcii umelej inteligencii bude fyzikálna štruktúra pravdepodobne nadradené tej matematickej, lebo aj matematika a čísla v takom vesmíre sú “len” sekundárnym produktom hmoty.

Myslenie je viac ako len výpočty

Informácie spracované a uložené v ľudskej mysli sú integrované a tvoria jednotný a nedeliteľný celok. Na to, aby sa počítač stal vedomým a bol schopný tvorivého myslenia a dokázal formulovať svoje vlastné ciele a porozumel kauzalite, musí to byť viac než len množina miliónov informačných procesov. Musí existovať niečo, čo zjednocuje všetky tieto informačné procesy do jedného konzistentného obrazu vnímanej reality.

Nová vlna nadšenie z umelej inteligencie vznikla v posledných rokoch vďaka praktických úspechom strojového učenia aplikovaného na nespočetného problémy. Napriek nespornému úspechu strojového učenia musíme mať na pamäti, že stále ide o obrovské množstvo výpočtov a teda vlastne len o šikovne vyhodnocovanú a zlepšujúcu sa štatistiku. Navyše stále sa neprekonali tzv. kontradiktórne príklady(adversarial examples), ktoré nám znova a znova pripomínajú, že to, čo nazývame umelá inteligencia je len súbor mnohých matíc a zjednodušene možno povedať, že to je veľa štatistiky a aritmetiky, nič viac. Pri vyhodnocovaní obrazu stále je možné pomocou zmeny pár pixelov dosiahnuť úplne protichodné výstupy. Napríklad kôň na ceste môže byť autonómnym autom vyhodnotený ako kôň alebo živá prekážka v 99% prípadoch, ale nejaký kôň na ceste môže mať maličkú škvrnu na chrbte o veľkosti menej ako milimeter, čo by si človek ani nevšimol, a ak to budú “kľúčové” pixely, ktoré motýlim efektom naklonia výpočet k druhému výstupu, môže auto vyhodnotiť takéhoto koňa ako pokračovanie cesty. Takýchto príkladov je nespočetne veľa a všetko, čo zatiaľ vieme a aj to veľmi úspešne robíme je, že znižujeme pravdepodobnosť takýchto zlomových omylov na minimum, úplne sa ich však zbaviť nevieme, čo jasne dokazuje, že v prípade strojového učenie sa nepribližujeme k pochopeniu vecí, ale iba vylaďujeme štatistiku. Tieto kontradiktórne príklady sú dôkazom, že ani modernej umelej inteligencii využívajúcej strojové učenie a robiť miliardy operácií za sekundu chýba pochopenie (sémantika) predmetu týchto výpočtov.

Ľudské myslenie je hrozne v rátaní matematických operácii, vynásobiť dve štvorciferné čísla v hlave nám trvá celú večnosť, čo maličká kalkulačka dokáže za zlomok sekundy. Avšak na pochopenie toho čo je to kôň nepotrebujeme vidieť tisíce koní a potom sa pomýliť kvôli nejakej zanedbateľnej škvrne. Matematická štruktúra počítačov ich zvýhodňuje pri vykonávaní istého typu operácií, ale neumožňuje im mať skutočné porozumenie fyzikálnej reality, čo nás znova vracia k tomu, že nemôžeme dať rovná sa medzi výpočty a myslenie.

Nezabúdajme na kvantovú mechaniku

Najlepšou fyzikálnou teóriou, ktorú dnes máme, je kvantová mechanika. Vieme, že na tejto fundamentálnej kvantovej úrovni sa dejú procesy, ktorým zatiaľ úplne nerozumieme a naša experimentálna prax nám ich ani zatiaľ neumožňuje úplne pochopiť. Preto ešte nevieme zužitkovať kvantové procesy na stavbu umelej inteligencii, lebo ani nevieme, ako a či vôbec kvantová úroveň zohráva nejakú úlohu pri myslení v mozgu. Najnovšie výskumy v neurovede však naznačujú, že aj menším častiam ako jeden celý neurón je možné uznať vykonávanie nejakej logickej operácie. Čo samozrejme vôbec neznamená, že už potrebujeme nejako zohľadniť aj kvantovú nevyspytateľnosť pritom ako rozmýšľame o mozgu ako tvorcovi myslenia, ale nastavuje to trend, že treba ísť hlbšie a teda bližšie ku kvantovým procesom. Či už vieme alebo nevieme ako dôležité sú kvantové procesy pre samotné myslenie, je nespochybniteľné, že kvantová mechanika lepšie zodpovedá realite ako klasická mechanika. Lenže naše počítače staviame klasicky, teda na makroúrovni, lebo tranzistory napriek tomu, že pre naše oči sú dosť malé, stále obsahujú veľké množstvo atómov nato, aby ich bolo vnímať klasicky, “nie-kvantovo”. Dnešné tranzistory v moderných počítačoch majú stále niečo viac ako 10 nanometrov a očakávame, že ak budú mať už len 5 nanometrov alebo ešte menej kvantové efekty im znemožnia pracovať ako očakávame a teda bez nejakého pokroku v pochopení narazíme na limit zmenšovanie tranzistorov.

Ak teda, na skutočné myslenie a pochopenie je potrebná nejaká zmes klasickej makro-štruktúry a kvantovej mikro-štruktúry, čo sa javí ako veľmi pravdepodobné, nebude možné v klasických počítačoch urobiť zásadný posun k skutočnej umelej inteligencii ani keď neviem koľkokrát znásobíme množstvo výpočtov, alebo aj zmeníme samotnú hmotu použitú na výpočty, ak nezapojíme do hry aj kvantové efekty, ktoré ale najprv musíme pochopiť v súvislosti s myslením.

Záver
AI môže byť nebezpečné a zabiť nás. Autonómne autá by mohli byť naprogramované ako automatické vojenské zbrane, ktoré sa budú snažiť maximalizovať škodu, no a keďže sú už prítomné na cestách, sú pripravené k použitiu. Z tohto ale nevyplýva, že AI je nebezpečné preto, lebo jedného dňa si bude vedomé seba a schopné ľudskej inteligencie. Bude nebezpečné iba ak ho ako nebezpečné naprogramujeme alebo ak bude nešikovne naprogramované a nebezpečné konanie bude jeho predpísaná reakcia na súbor inputov z prostredia.
V tejto eseji sme predstavili niekoľko argumentov, prečo AI ako jednotka spracovania informácií nie je schopná myslieť s porozumením (understanding) a tým pádom rozumieť realite tak ako my. Súčasný stav nášho poznania taktiež napovedá tomu, že dnes nie sme v pozície, v ktorej by sme mali nevyhnutné odpovede na otázky pôvodu a povahy ľudského vedomia a „holistického“ myslenia. Podobne nedostatočne rozumieme aj tomu, ako sú kvantové procesy v mozgu spojené s fenoménom vedomia a myslenia a súčasné technológie nám nedovoľujú testovať či by samotný kvantový výpočet, alebo v kombinácii s klasickým výpočtom, viedol k lepšej imitácii ľudského mozgu.
Sme preto presvedčení, že v súčasnosti a dohľadnej budúcnosti nie je vhodné diskutovať o autonómnosti počítačoch a ich neiluzórnej schopnosti rozhodovania sa. Dokonca aj naše najlepšie počítače založené na strojovom učení nevykazujú žiadne autonómne rozhodovanie, pretože počítače nemajú zmysel pre význam a sémantiku vstupných dát z vonkajšieho prostredia. To, čo počítače robia nie je nič viac ako priradenie výstupu k prichádzajúcim dátam cez veľké množstvo výpočtov a to je všetko.
Kontradiktórne príklady jasne ukazujú, že je možné, že finálne matice, ktoré vzišli z procesu strojového učenia môžu byť efektívne, ale umelej inteligencii stále chýba akékoľvek skutočné poznanie sveta. Zvýšenie výpočtovej sily a pridanie množstva dát na tréning nie je dostatočné k tomu, aby v AI vzniklo vedomie schopné chápania a zjednocujúce sémantický element všetkých týchto informácii. Recept na postavenie vedomého stroja nemáme, keďže stále nevieme ako mozog vytvára našu holistickú skúsenosť identity a reality.
Chápanie znakov/symbolov a chápanie reality, na ktorú sa odkazujú – sémantika – nie je vnútorne vlastné pre syntax, ako už bolo vysvetlené; a čo je obzvlášť dôležité je skutočnosť, že samotná syntax nie je vnútorne vlastné pre fyziku. Ak niekto odmietne koncept sémantiky a príjemne, že každý mentálny stav je výsledkom výpočtov, dostáva sa následne do slepej uličky. Ako sme v tejto eseji argumentovali, výpočet nie je fyzikálnou vlastnosťou sveta, je závislý na pozorovateľovi a tým pádom nemá nezávislú objektívnu ontologickú povahu, na ktorej by sa dala postaviť mentálnosť AI. Ako to bolo opísané v druhej časti tejto eseje, tu vstupuje na scénu panpsychizmus, ktorý ukazuje, že vzhľadom na vedomie môže existovať zásadný rozdiel medzi materiálnou a logickou štruktúrou mozgu. Do istej miery je pravdepodobné, že logická štruktúra môže byť replikovaná v počítačoch, ale materiálna štruktúra nie, keďže sme ešte ďaleko od úplného poznanie ľudského mozgu.
Entuziazmus ohľadne vytvorenia autonómne mysliaceho a vedomého stroja v najbližších rokoch ešte nie je opodstatnený. Na základe našej analýzy faktov a konceptuálnej paradigmy, máme opodstatnený dôvod domnievať sa, že vzhľadom na vedecký a filozofický stav poznania je nevyhnutné vrátiť sa niekoľko krokov späť a zásadne prehodnotiť prvotné premisy, na ktorých stojí teória silnej umelej inteligencie.

Autori: Jaroslav Varchola, vysokoškolský učiteľ, vedec so zameraním na výskum mozgu, spoluzakladateľ podcastu Kvantum Ideí. Jakub Betinský, filozof, spolutvorca podcastov Pravidelná dávka a Kvantum ideí