Prichádza doba neľudská
Uhlíkovú, ľudskú inteligenciu nahrádza inteligencie kremíková. Máme sa báť?
Ste zástancom filozofického pesimizmu, podľa ktorého nikdy nebolo tak zle, aby nemohlo byť horšie? Samozrejme, nemyslím na výčiny súčasnej slovenskej vlády, ktorú môžeme vnímať ako nepodstatný a nepatrný dočasný otravný hmyz na hnijúcom ovocí celej planéty. Zdá sa však, že technológia umelej inteligencie je výstrelom zo štartovacej pištole pre civilizáciu kamikadze.
V Terminátorovi sme videli Skynet v deštruktívnej akcii, v Kubrickovom filme 2001: Vesmírna Odysea ovládol náš svet počítač HAL 9000. Podľa filmárov to vedie ku katastrofe, ale vlastne len z pohľadu ľudstva, život pôjde ďalej aj bez homo sapiens.
Slovo nexus znamená vzťah, spojitosť, súvislosť. Toto pôvodne latinské slovo použil na označenie svojho nového a po pravde neveľmi optimistického diela historik, filozof a profesor na Hebrejskej univerzite v Jeruzaleme Yuval Noah Harari. Kniha Nexus(prel. Z. Jánska, Aktuell 2025) nesie podtitul Stručná história informačných sietí od doby kamennej po umelú inteligenciu. V texte Harari skúma, ako informácie formovali ľudské spoločnosti, ako ovplyvňujú pravdu, moc, naše vnímanie reality a naše rozhodovanie. A hovorí aj a najmä o budúcnosti ľudstva v spojitosti s existenciálnymi hrozbami, ktoré prináša rýchly rozvoj AI.
Sme naivní?
Určite by sme nechceli, aby sa slovo naivní použilo práve na nás, ľudí, ktorí v 21. storočí predsa majú svet vo vrecku v podobe smart telefónu, cestujú po svete a rozlišujú medzi suši a bolonskými špagetami. Čo však znamená byť to, že sme naivní, z pohľadu informácií?
Práve tomu venuje úvod svojej najnovšej knihy Yuval Noah Harari. Náš ľudský omyl totiž vychádza z naivnej viery, že čím viac máme informácií, tým sa budeme viac a viac blížiť k pravde. Veď predsa tí v dávnoveku nemali informácie, a preto nevedeli, že Zem obieha okolo Slnka, nemali lietadlá, nenavštevovali Mesiac a neočkovali sa. Dnes máme k dispozícii viac informácií na dosah ruky, než bolo kníh v Alexandrijskej knižnici pred dvetisíc rokmi. A predsa máme množstvo ľudí, ktorí veria plochej zemi, chemtrails, sprisahaniu filmárov z Hollywoodu, ktorí nakrútili falošné pristátie na Mesiaci, a boja sa, že ich očkovanie premení na kukuricu.
Naivná, podľa Harariho, je naša predstava, že s množstvom informácií sa viac blížime k pravde. A zároveň upozorňuje, že druhou úspešnou teóriou je to, že moc si privlastňuje informácie tak, aby ich vydávala za neomylnú pravdu. Náboženskú (Biblia sa nemýli!) i politickú (Putin sa nemýli!). Súboj medzi mocou uzurpujúcou si pravdu a naivnou vierou, že pravda zvíťazí a preoseje sa cez to množstvo informácií, dokumentuje v prvej časti knihy Nexus na viacerých príkladoch, ktoré – ako sme už u Harariho zvyknutí aj z jeho predchádzajúcich kníh Sapiens, Homo Deus či 21 lekcií pre 21. storočie – sú neraz nápadité interpretácie známych historických faktov. A práve to je na Harariho diele zaujímavé: jeho schopnosť ukázať udalosti, dejiny, fakty v novom svetle, prerozprávať náš príbeh človeka nanovo. Odrazu tých stotisíc rokov našej premeny z prírodných lovcov a zberačov na osemmiliardovú masu civilizácie digitálneho sveta vyzerá trocha inak. A svetlo na konci tunela, ktorým sa rútime?
Harari je zástancom toho, čo sa nazýva samoopravné mechanizmy a je súčasťou našej ľudskej spoločnosti v prípade demokratických štátov. Ak sa vláda mýli, sú tu médiá, súdy, vedci, občania, ktorí na to upozorňujú. Ak sa počúvame a dáme prednosť možnosti opravovať chyby, moc sa nevychýli a neuzurpuje si pravdu. A spoločnosť napreduje. Ak si moc uzurpuje pravdu – história nás poučila opakovane – spoločnosť smeruje rýchlo k deštrukcii a úpadku, v ktorom poriadok sa vynucuje silou. Preto máme vzácne samoopravné mechanizmy, aby sme neskončili ako Severná Kórea. Neomylnosť je chyba.
Kremíková inteligencia
Harari vychádza z konceptu, ktorý predstavil už v predchádzajúcich knihách. História je príbeh, ktorý si rozprávame. Je to konštrukt, ktorý stojí na intersubjektívnej realite. Zjednodušene – existuje objektívna realita, ktorá tu je, či ju vnímame, alebo nie. Vesmír, dážď, materiálny svet ako taký. Existuje subjektívna realita, ktorú má každý svoju – môj boľavý zub bolí mňa, môj pocit lásky je môj. A potom je tu príbeh, intersubjektívna realita, ktorá vznikla ako civilizačná fikcia umožňujúca výmenu informácií, vytváranie súvislostí, spojení a vzťahov: náboženstvo, peniaze, národy a štáty, zákony, pravidlá cestnej premávky. Intersubjektívne entity stvorili ľudia a bez ľudí neexistujú, avšak sú určujúce pre nás ako členov spoločenstva, vysvetľujú nám naše miesto v spoločnosti, snažia sa uchopiť realitu.
Do vynálezu umelej inteligencie bola intersubjektívna realita vlastná len ľuďom. Bol to výsledok metaforicky povedané „uhlíkovej“ inteligencie, keďže uhlík je základným prvkom našej existencie, nášho mozgu, nášho myslenia.
Kým prvá časť knihy sa volá Ľudská sieť, druhá časť nesie názov Anorganická sieť a v nej sa Harari filozoficky špekulatívne zaoberá tým, čo všetko nám prináša „kremíková“ umelá inteligencia. Podľa neho AI je vlastne prvá anorganická forma života, ktorá významným spôsobom ovplyvňuje život na planéte iným spôsobom, než sú štandardné chemické, fyzikálne či biologické „nevedomé“ pravidlá. Umelá inteligencia pritom, podľa Harariho, nemusí mať vedomie, ako ho poznáme my ľudia, jej správanie je však diametrálne iné, než sme z akýchkoľvek doterajších technológií poznali.
Kým doteraz akákoľvek intersubjektívna realita vznikala ako konsenzus ľudskej spoločnosti, v prípade AI máme pred sebou množstvo nejasných informácií, ktoré pochádzajú zo samotného faktu, že sme umelú inteligenciu naučili učiť sa. Jej správanie je niekedy prekvapujúce, využívanie hoci aj prísne racionálnych pravidiel, ktoré má, môže viesť k výsledkom rozporujúcim ľudskú skúsenosť, etické či spoločenské pravidlá.
Informácie nemusia niesť pravdu, informácie môžu niesť aj atribúty napríklad zámernej popularity (dezinformácie sú vlastne šokujúce informácie, ktoré sa šíria virálne a dnes už vznikajú aj za pomoci umelej inteligencie), môžu byť veľmi účinné pri propagande (politici si vylepšujú svoju komunikáciu s nástrojmi AI), v ekonomickej oblasti ovplyvňovania spotrebiteľov (marketéri dnes využívajú AI pri navrhovaní reklamných kampaní).
AI nahrádza komunikáciu a učí sa každou konverzáciou stále lepšie pracovať s ľudským emočným potenciálom. Ale zároveň sa AI stáva jadrovou zbraňou súčasnosti, o ktorej však nevieme, kto a kedy ju spustí. A či ten „Kto“ bude ešte ľudský.
Sme najhlúpejší a najmúdrejší?
Harari v závere knihy varuje: sebadeštrukcia bude pokračovať, ak aj naďalej budeme uprednostňovať poriadok pred pravdou. Pretože „v dôsledku uprednostňovania poriadku pred pravdou ľudské informačné siete často vyprodukovali veľa moci, ale málo múdrosti“. A to nám hrozí v prípade, ak sa majster práce s informáciami, ich zhromažďovaním, spracúvaním a tvorivým využitím – teda umelá inteligencia – nestretne so samoopravnými mechanizmami.
Umelá inteligencia je v tejto chvíli prvou technológiou, ktorá dokáže samostatne rozhodovať. Marxov Manifest komunistickej strany nevytlačila tlačiareň preto, že to chcela tlačiareň ako technológia urobiť. Rádio nevysielalo Hitlerove prejavy preto, že sa to rádio rozhodlo urobiť. Vždy to urobil človek. A trvalo neraz desaťročia, kým si chyby uvedomil a opravil. Vieme byť veľmi hlúpi, podľahnúť omylom, a múdri, napraviť ich. Ale AI je v tejto chvíli cudzia inteligencia. Môže byť zneužitá človekom. A môže sa začať správať tak, že naše chyby, omyly, túžbu po moci či naivnú vieru v pravdu využije vo svoj prospech.
Harari je v závere miernym optimistom. Vesmír prežije aj bez ľudí. A ak chceme prežiť ešte pár storočí, mali by sme hľadať pravdu, a nie podliehať naivite či populistom. AI nám v tom môže pomôcť. Ale „ak s ňou budeme zaobchádzať zle, AI by mohla uhasiť nielen ľudskú nadvládu nad Zemi, ale aj svetlo samotného vedomia“.
Nie je to prvé varovanie pred silou džina, ktorého sme uväznili v kremíkovom svete. Ale je veľmi poučné. Nexus je knihou, ktorá je plná nepokoja a príbehu o možnom konci sveta.
Martin Kasarda