Stretli sme sa ako živí ľudia pri kaviarenskom stole. A rozprávali sme sa o novom nekonečnom vesmíre, ktorý nosíme aj vo vrecku – o umelej inteligencii. Tej, o ktorej budú naši nasledovníci – ak svet bude existovať ešte s ľuďmi – hovoriť ako o dramaticky revolučnom kognitívnom skoku. Vladimír Šucha pripravil sprievodcu novým svetom AI.
Vaša knižná novinka Keď stroje začnú myslieť má celkom zámerne didaktický rozmer. Prečo? Potrebujeme sa na umelú inteligenciu pripraviť?
Mojím zámerom bolo pozrieť sa na problematiku AI z viacerých uhlov. Ľudia obvykle vnímajú AI ako používatelia. Ale je to komplexnejší problém. AI vie byť užitočná, ale zároveň nás to niečo stojí. A to nehovorím o poplatku, teda o tom, že niečo zaplatíme za používanie. AI nám berie niečo z nášho vlastného vnútra, z našej vlastnej identity, zo schopností, z empatie, zo vzťahov. Musíme si teda prirodzene položiť otázku, či sme chceli práve to, aby sme svoj intelektuálny aj emocionálny svet prežívali v rozhovoroch s AI. Kniha je určená pre široké publikum, pre mladých ľudí, ktorí, dúfam, ešte čítajú knihy. Ale je aj pre rodičov, pre učiteľov, ale aj pre manažérov, lebo AI sa stáva súčasťou pracovného trhu, ktorý sa bude prudko meniť.
Vo vašej knižke vidieť aj obrovskú rozkolísanosť názorov na AI – od techno-optimistických až po katastrofické. Je AI v tejto chvíli niečo, čo sme síce objavili, ale ani nevieme, aký bude mať dosah v budúcnosti?
Často keď vyrábame inovácie a technológie, veľmi nerozmýšľame nad konzekvenciami. A o umelej inteligencii to platí mnohonásobne viac: dostali sme sa práve do špirály, že to uchopili do rúk veľmi bohaté korporácie, ktoré chcú ešte viac bohatnúť a chcú mať ešte väčší vplyv na chod sveta. A podľa všetkého umelá inteligencia má kapacitu zmeniť chod sveta a zmeniť aj nastavenie moci. Už dnes vidíme presun moci z rúk demokraticky zvolených vlád do rúk korporácií. Myslím v západnom svete. V Číne je to trošku inak. Tam je systém riadený štátom, takže čínska umelá inteligencia pomáha štátnej moci si moc upevniť. A treba dodať, že vývoj AI je exponenciálny. My vlastne ani nevieme, čo nám zajtra prinesie.
Nebojíte sa, že vaša knižka bude o rok už veľmi zastaraná oproti tomu, ako rýchlo sa AI vyvíja?
Nie o rok. Som si vedomý, že pri tom turbulentnom vývoji knižka do istej miery zastaráva každý týždeň. Hoci som sa snažil písať z takého pohľadu, ktorý skôr zahŕňa ľudské vlastnosti, ktoré sa až tak nemenia. Navyše, vydavateľstvo Mamaš knihu vydalo rýchlo, lebo od odovzdania rukopisu po knihu prešlo naozaj len niekoľko týždňov.
Spomenuli sme problém amerického korporativistického a čínskeho štátneho modelu na umelú inteligenciu. Neťaháme v Európe zasa za kratší koniec?
Trochu sme zaspali, áno. Svet sa zatiaľ geopoliticky uberá z pohľadu umelej inteligencie opäť do bipolárneho sveta. Teda bude to svet na jednej strane americký a svet čínsky. Práve Čína vlak nezmeškala, naskočili veľmi rýchlo, aj keď zaostávajú v niektorých aspektoch za USA, ale nie je to významné zaostávanie. A Európska únia zaostáva významne.
Je to jednoducho tým, že sme do AI neinvestovali peniaze. V Európe sme vývoj umelej inteligencie podcenili. Zatiaľ čo USA investujú ročne okolo 120 – 150 miliárd dolárov, v Európe to bolo desaťkrát menej.
To, že technológie menia a priamo narúšajú starú podobu demokratického sveta, sme mohli vidieť už od čias nástupu sociálnych sietí. Vinou sociálnych sietí môžeme sledovať nárast populizmu či autokracie valcujúcej demokratické princípy. Myslíte si, že umelá inteligencia bude mať tiež takýto priamy dosah na spoločenské a politické usporiadanie sveta?
Už dnes umelá inteligencia ovplyvňuje rozhodnutia občanov vo voľbách. Dnes môžeme hovoriť o troch spôsoboch, pri ktorých sa dostávame do kontaktu s umelou inteligenciou. Posledné roky sú to chatboty, ktoré ľudia vo veľkej miere využívajú, ako sú ChatGPT, Cloud, Perplexity a ďalšie. Ale máme dva skrytejšie systémy AI – jedným sú sociálne siete, kde už v roku 2009 facebook vložil do svojich algoritmov umelú inteligenciu.
Takže sme AI v masovej miere ovplyvňovaní cez sociálne siete. A potom sú to rôzne produkty, odporúčacie mechanizmy v rôznych Netflixoch alebo v nejakých videoplatformách, hudobných platformách, ale aj v bankovom systéme, kde každá operácia cez internetbanking je podporovaná umelou inteligenciou. AI ovplyvňuje naše rozhodovanie.
To znamená, že už nie sme slobodní? Rozhodujeme sa vlastne na základe algoritmov? A čo voľby?
Napríklad voľby v roku 2023 na Slovensku ovplyvnili tiež deepfake videá vytvorené umelou inteligenciou. A spoločnosť Meta, cez ktorú sa šírili, vôbec nezakročila. Deepfake video, v ktorom bol zneužitý líder Progresívneho Slovenska, malo 500-tisíc pozretí. Rozdiel medzi prvým a druhým vo voľbách bol 150-tisíc hlasov.
Kvantifikovať presný dosah videa je ťažké, ale dosah to určite malo. Teraz počúvame aj od americkej vlády, že Európa má zabezpečiť slobodu slova na sociálnych médiách, ale o akej slobode slova hovoríme? Vy, keď budete písať na facebook alebo na nejakú sociálnu sieť neutrálny komentár, nebude ho vidieť nikto. Ak budete písať niečo toxické, niečo extrémistické, algoritmus vás uchytí a uvidia vás tisíce ľudí, státisíce ľudí.
Algoritmus nie je nastavený na to, aby bola rovnoprávnosť, my tu nemáme rovnaké podmienky, čiže vy, keď píšete niečo neutrálne, vyvážené, nikto si vás nevšimne, algoritmus vás ešte potlačí, čiže nevidia to ani vaši priatelia. Ak napíšete extrém, algoritmy vás do sveta pretlačia.
Posúva nás teda digitálny svet do polarizovanej spoločnosti?
Každý politik hľadá niečo korenistejšie, niečo, aby zaujal a aby ho sociálne siete posunuli dopredu a videlo ho viac ľudí. Keď idete na youtube a začnete hľadať videá o zdravej výžive, začne vám ponúkať diéty a potom extrémne diéty či priam hladovky. Extrémnejší obsah z behaviorálneho a antropologického hľadiska človeka zaujíma. Nebezpečenstvo nám zvyšuje ostražitosť. Algoritmus chce maximalizovať pozornosť človeka zameranú na obsah, tak nás posúva do väčšieho extrému.
Vo svojej knižke máte niekoľko príbehov týkajúcich sa problémov, ktoré môže umelá inteligencia vyvolať. Závislosť, prehnaná reakcia na emocionálne ladený obsah, nabádanie na samovražednésprávanie. Je to asi prvý technologický nástroj, ktorý sa s nami rozpráva s emóciami, predstieranými, ale emóciami. Vnímate to ako ohrozenie komunikačnej situácie, že budeme ešte viac rozprávať s digitálnym prostredím ako s ľuďmi?
Už je to tu. V USA viac ako 40 percent mužov vo veku medzi 18 a 24 rokov ešte nemalo blízky vzťah so ženou. Majú vzťah s umelou inteligenciou. My sme diskutovali o dvoch pohlaviach v ústave. Mne to pripadá ako volanie 19. storočia. Riešime problém, ktorý neexistuje. Ale to, čo sa deje, že fyzické kontakty, vzťahy a rozhovory nahrádza umelá inteligencia, je až desivé z pohľadu ľudskej prirodzenosti a človeka.
Homosexualitu považujem za súčasť ľudskosti a toho, že takí sme. Jednoducho istá časť bola tak stvorená a je medzi nami. Ale neboli sme stvorení na to, aby sme emocionálne komunikovali s nejakými strojmi. Čiže ak stratíme schopnosť sociálnych kontaktov, myslím, že stratíme obrovskú časť našej ľudskej identity.
Je však lákavé mať partnera, ktorý je 24 hodín k dispozícii, ktorý vám odpovedá, súhlasí s vami. A nie partner alebo partnerka, ktorá nezdvihne telefón, neodpíše, niekedy nemá dobrú náladu a niekedy vám aj povie, čo si myslí a vám sa to nepáči, nie?
Ale to je súčasť našej ľudskosti. To je súčasť toho, že si zvykáme na to, že ľudia sú rôzni, nálady sú rôzne a nemôžeme žiť v nejakom skleníku. Ak vyrastáme v umelom vzťahovom skleníku a potom sa dostaneme na pracovisku do kontaktu s niekým, sme stratení. Vyhoríme. Nakoniec je výsledkom nárast psychických problémov, ktorý je v posledných rokoch obrovský.
K tej AI sme negatívni. Skúsme na záver povedať o umelej inteligencii niečo pozitívne. Čo nám môže priniesť? S čím nám môže pomôcť?
V knihe sú aj optimistické informácie. To, že sme mali vakcíny na covid tak skoro, je len vďaka tomu, že rôzne experimenty nahradila umelá inteligencia. AI ich vedela namodelovať. Už dnes v zdravotníctve, v bezpečnosti vidíme obrovské množstvo výhod. Samozrejme, v kreativite vytvára až nepredstaviteľné množstvo vecí už dnes. Umelá inteligencia je už dnes schopná napísať knihu, keď jej zadáme správne prompty.
Tá kniha asi nebude geniálna, ale dobre čitateľná bude. Tak ako vie vytvárať obrázky, videá, hudbu, ktoré spĺňajú technické podmienky. Hlboké učenie AI je úžasný vynález, pretože sa pri tvorbe programu prešlo od programovania k tvorbe umelých neurónov, ktoré istým spôsobom simulujú to, ako funguje ľudský mozog. Hlboké učenie je vlastne najväčšia zmena.
A čo zostane nám, ľuďom?
Veľmi zaujímavý moment. Kde vlastne je ľudská dimenzia? Otázne je, či dokážeme my ako ľudia odhaliť v texte, či je toto vytvorené umelo ako napodobenina niečoho. Pre zaujímavosť, Európska komisia robí vždy, keď je nová legislatíva, analýzu dosahov. Predtým, ako sa schvália zákony, študujeme, aké sú predpokladané dosahy. Kolegovia urobili experiment. Oslovili skúsených ľudí, ktorí dosahové štúdie robia dlhé roky, a zobrali analytikov juniorov, ktorí to ešte nikdy nerobili, ale dali im k dispozícii ChatGPT.
Na najnižšej úrovni zberu dát a prehľadu, aká je súčasná legislatíva, aké sú k tomu poznatky k dispozícii, nebolo vidieť rozdiel. Rozdiel bolo vidieť až potom, keď sa začali diskutovať otázky, ako by rôzne alternatívy danej verejnej politiky a jej dosahy mohli vyzerať. AI nebola schopná až tak dobre odhadnúť váhu a význam jednotlivých možností. Nevedela odhadnúť hodnotové systémy spoločnosti a priradiť im tú etickú váhu, ktorá robí spoločnosť spoločnosťou.
Martin Kasarda
Prof. RNDr. Vladimír Šucha, DrSc.
je slovenský vedec a pedagóg, ktorý dlhodobo pôsobí aj v európskych inštitúciách. V minulosti viedol Spoločné výskumné centrum Európskej komisie (JRC) a pôsobil aj v Generálnom riaditeľstve EK pre vzdelávanie a kultúru. Na Slovensku pôsobil aj ako vedúci Zastúpenia EK na Slovensku. Je autorom viac než stovky vedeckých publikácií a venuje sa témam transformácie spoločnosti, technológií a budúcnosti Európy. V súčasnosti je hosťujúcim profesorom na Európskom univerzitnom inštitúte vo Florencii. V slovenčine mu na sklonku roka 2025 vyšla vo vydavateľstve Mamaš kniha Keď stroje začnú myslieť.
