Slepá dôvera v umelú inteligenciu (AI) predstavuje čoraz väčší spoločenský problém. Ľudia majú prirodzenú tendenciu veriť technológiám, najmä keď ich výstupy znejú odborne, autoritatívne a súčasne pôsobia ako „objektívne pravdy“. Tento jav má svoje meno – automatizačná zaujatosť (automation bias) – a ide o psychologickú tendenciu spoliehať sa na odporúčania algoritmov aj vtedy, keď odporujú zdravému rozumu alebo odborným znalostiam.
Výskumy z posledných desaťročí, pôvodne z oblasti letectva a medicíny, ukazujú, že ľudia v stresových alebo komplexných situáciách radšej poslúchnu pokyn z počítača než vlastnú intuíciu. Príklady z civilného letectva hovoria o prípadoch, keď piloti nasledovali nesprávne pokyny autopilota, hoci mali vizuálny kontakt s dráhou či vedeli, že niečo nie je v poriadku. Podobne lekári niekedy dôverujú diagnostickému softvéru aj napriek zjavne chybným výstupom. Tento vzorec správania sa dnes presúva aj do interakcie s generatívnou AI.
Zrejmé je to najmä v právnickej sfére. V roku 2023 sa dvaja právnici z New Yorku dostali do problémov po tom, čo použili ChatGPT na vypracovanie podania pre súd – obsahovalo vymyslené prípady, ktoré nikdy neexistovali. Súd nielenže podanie odmietol, ale obom právnikom udelil pokuty. V podobnom duchu pokračovali prípady v Massachusetts a Missouri v roku 2024, kde sa ukázalo, že AI nástroje boli použité na tvorbu právnych argumentácií bez toho, aby boli následne odborne overené.
V Missouri dokonca podnikateľ predložil súdu dokument, ktorý obsahoval 22 falošných citácií z 24, za čo dostal pokutu 10-tisíc dolárov. Je zrejmé, že aj odborníci podliehajú pokušeniu rýchlej produktivity, ktorú AI ponúka, no často bez adekvátnej kontroly.
Znepokojujúce sú však aj prípady mimo súdnej siene. V máji 2025 bola zverejnená správa Bieleho domu s názvom MAHA Report, ktorá mala riešiť riziká pri používaní psychedelických látok v medicíne. Ukázalo sa, že správa obsahovala viac než 30 chybných alebo úplne vymyslených vedeckých citácií. Viacerí odborníci, ktorí do dokumentu nahliadli, usúdili, že na jeho zostavenie bol pravdepodobne použitý AI systém bez dôslednej redakcie a overenia. Ide pritom o oficiálny štátny dokument, ktorý by mohol ovplyvniť legislatívne procesy aj verejné zdravie.
Psychológovia a odborníci na technológiu sa zhodujú, že práve spôsob, akým AI generuje odpovede – sebaistý, súvislý, miestami až brilantný – vytvára v užívateľovi ilúziu presnosti. Výskumníčka z University of Southern California Kate Crawfordová a autorka knihy Atlas of AI upozorňuje, že generatívna AI má „auru nekonečnej expertízy“, a práve tá spôsobuje, že ľudia odpovede neoverujú. Meredith Broussard z New York University ide ešte ďalej, keď tvrdí, že generatívna AI je „v skutočnosti opakom inteligencie“ – hoci sa správa, akoby chápala svet, v skutočnosti nerozumie ničomu.
Programátor Simon Willison preto odporúča prístup „nedôveruj, ale overuj“. To je podstatný rozdiel oproti tomu, ako vnímame iné technológie. Napríklad predpoveď počasia alebo Google Maps nie sú stopercentné, ale dostatočne spoľahlivé na každodenné použitie. Generatívna AI však nie je len nepresná – je schopná presvedčivo fabulovať, vymýšľať si citácie či fakty, a to s takou dávkou presvedčenia, že ju používateľ ľahko prijme za pravdu.
Celý tento fenomén má aj sociálno-ekonomickú rovinu. Ako upozorňuje filozof technológií Evan Selinger z Rochester Institute of Technology, tlak na výkon a očakávania zamestnávateľov vedú mnohých k prehnanému spoliehaniu sa na AI. Ak sa od vás očakáva, že budete „efektívnejší“ alebo „produktívnejší“ vďaka novým nástrojom, ľahko sa môže stať, že si ich riziká prestanete všímať – nie preto, že by ste boli naivní, ale preto, že ide o prežitie v pracovnom prostredí.
Podľa prieskumu spoločnosti KPMG až 66 percent slovenských zamestnancov očakáva, že AI zvýši ich produktivitu, avšak 38 percent z nich má obavy, že to negatívne ovplyvní ich duševné zdravie. Tento paradox poukazuje na rastúci tlak na výkon, ktorý môže viesť k prehnanému spoliehaniu sa na AI nástroje bez dostatočného pochopenia ich obmedzení .
Partner KPMG na Slovensku Rudolf Sedmina zdôrazňuje, že umožnenie zamestnancom experimentovať s AI v rámci firemných pravidiel môže zmierniť ich znepokojenie a neistotu. Týmto spôsobom sa zamestnanci aktívne zapájajú do procesu zmeny, čo môže prispieť k lepšiemu prijatiu nových technológií.
Sociológ Michal Vašečka upozorňuje na širšie spoločenské dôsledky rozšírenia AI. Podľa neho môže AI prispieť k vytvoreniu „spoločnosti voľného času,“ kde ľudia budú mať viac voľného času než kedykoľvek predtým. Zároveň však varuje, že AI môže prehĺbiť existujúce duševné problémy v spoločnosti a zmeniť spôsob, akým skreslene budú ľudia vnímať štáty v rámci medzinárodných vzťahov.
Používanie AI v každodennom živote teda nevyhnutne vyžaduje nové mentálne nastavenie: predpokladať, že výstup je chybný, kým sa nepreukáže opak. Nie je to len otázka technického školenia, ale kultúrnej zmeny. Kým budete k AI pristupovať ako k neomylnému nástroju, budete náchylní robiť tie isté chyby znova – len sofistikovanejšie.
