Čo je halucinácia v AI a prečo halucinuje aj umelá inteligencia?

Halucinácia v AI je odpoveď jazykového modelu, ktorá znie sebaisto a správne, no obsahuje nepravdivé alebo vymyslené informácie, napríklad čísla, mená, citácie, súdne rozhodnutia či odkazy, ktoré neexistujú.

Model pritom nič nezamlčuje a nelže v ľudskom zmysle. Skladá najpravdepodobnejší text, a keď fakt nepozná, skladá ho aj tak. Preto sa halucinácia nedá poznať podľa tónu: vymyslený údaj znie rovnako istotne ako správny.

Článok vysvetľuje, čo halucinácia presne je, kde vzniká (v dátach, v tréningu, v hodnotení modelov alebo v zadaní) a či ide o chybu kódu, používateľa alebo promptu. Prináša čísla od tvorcov modelov a z nezávislých testov, porovnanie modelov a odpoveď, či sa to časom zlepšuje. Na príklade analýzy exportu z Google Search Console ukazuje, ako vyzerá slabé a ako komplexné zadanie. Čísla sú k 5. 11. 2026 a pri každom je uvedené, čo sa meralo.

Čo je halucinácia v AI?

Halucinácia je výstup jazykového modelu, ktorý je nepravdivý, no podaný ako pravdivý. OpenAI ju definuje ako hodnoverne znejúce, ale nepravdivé tvrdenia generované jazykovými modelmi (v origináli „plausible but false statements“, OpenAI). Formálna definícia z teoretickej práce Xu, Jain a Kankanhalli (2024) je širšia: halucinácia je každý prípad, keď sa výstup modelu líši od správneho výstupu pre daný vstup.

V praxi sa stretneme s tromi podobami, podľa toho, čo sa porovnáva so skutočnosťou. Každá má iný zdroj problému aj iný spôsob merania.

Čo halucinácia nie je?

Halucinácia nie je klamstvo, lebo model nemá úmysel ani vedomosť, že údaj je nepravdivý. Nie je to ani každá chyba. Zastaraný údaj z tréningu, chyba v zadaní alebo nesprávny výpočet sú príbuzné problémy, pri halucinácii však ide o vymyslený obsah podaný ako fakt.

Nie je to ani zriedkavý okrajový jav. Je to bežná vlastnosť všetkých veľkých jazykových modelov, ktorú tvorcovia otvorene priznávajú (viď kapitoly o číslach a o tom, či sa halucinácia dá odstrániť).

Prečo AI halucinuje a je to chyba kódu, používateľa, promptu alebo dát?

Halucinácia nie je chyba v programovom kóde. Vzniká štatisticky: z toho, ako sa modely učia a ako sa hodnotia. Podľa práce Kalai a kol. (OpenAI a Georgia Tech, 2025) ide o dve prepojené príčiny, štatistický princíp predtrénovania a spôsob, akým sa modely porovnávajú v testoch. Tabuľka ukazuje, ktoré príčiny majú oporu v použitých zdrojoch.

Prečo model hádá, keď fakt nepozná?

Model sa učí predpovedať ďalšie slovo v obrovskom množstve textu, v ktorom nie je označené, čo je pravda. Pravidelné vzory, napríklad pravopis alebo zátvorky, sa s veľkosťou modelu učia čoraz lepšie. Ľubovoľné zriedkavé fakty, napríklad dátum narodenia konkrétnej osoby, sa z textových vzorov odvodiť nedajú, a tak model doplní hodnoverne znejúcu odpoveď.

Kalai a kol. z toho odvodzujú, že pri takýchto faktoch je miera halucinácie aspoň taká vysoká, ako je podiel faktov, ktoré sa v tréningových dátach objavili len raz. Ďalšie príčiny, ktoré uvádzajú, sú slabá reprezentácia v modeli, zadania mimo tréningových dát, výpočtovo neriešiteľné otázky a chyby, ktoré už boli v dátach.

Prečo modely radšej hádajú, než by povedali „neviem“?

Väčšina benchmarkov, teda testov, podľa ktorých sa modely porovnávajú, hodnotí odpoveď binárne: správne alebo nesprávne. „Neviem“ dostane nula bodov, tipovanie má aspoň šancu na bod. Kalai a kol. preskúmali desať populárnych testov a zistili, že väčšina používa binárne hodnotenie bez bodov za priznanú neistotu. Model, ktorý tipuje, tak v rebríčku vyzerá lepšie než opatrnejší model.

Názorne to ukazuje tabuľka z OpenAI (test SimpleQA zo systémovej karty GPT-5).

OpenAI navrhuje hodnotiť sebaisté chyby prísnejšie než priznanú neistotu a dávať čiastočné body za primerané vyjadrenie neistoty.

Ako často AI halucinuje? Štatistiky od tvorcov modelov a z nezávislých testov

Jedno všeobecné číslo neexistuje, lebo každý test meria niečo iné. Preto je pri každom údaji uvedené, čo sa meralo a kedy.

Prečo sa čísla o halucináciách tak líšia?

Rozdiely vznikajú z niekoľkých dôvodov. Pri sumarizácii textu, ktorý model dostal, sú chyby v jednotkách percent. Pri otázkach z pamäte sa rátajú v desiatkach percent.

Ktoré AI modely halucinujú viac a ktoré menej?

Poradie závisí od testu, preto jednoznačný „najlepší“ model neexistuje. Tu sú tri nezávislé pohľady. Prvý je aktuálny k 5. 11. 2026, ďalšie dva pochádzajú z roku 2025 a ukazujú rozptyl výsledkov, nie dnešné poradie.

Ktorý model má podľa AA-Omniscience najnižšiu mieru halucinácie?

AA-Omniscience je test faktických znalostí, ktorý odmeňuje správnu odpoveď a trestá nesprávnu. Odmietnutie odpovede nemá trest. Miera halucinácie je podiel nepravdivých odpovedí zo všetkých nesprávnych pokusov, teda nie zo všetkých otázok. Aktuálna verzia 1.1 má 3 000 otázok v šiestich oblastiach a vyšla v októbri 2026.

Najpresnejší model nie je ten s najnižšou mierou halucinácie. Presnosť hovorí, koľko otázok model zodpovedal správne. Miera halucinácie hovorí, ako často sa pomýli, keď odpovie. Model, ktorý častejšie odmietne, môže mať nižšiu halucináciu pri nižšej presnosti. Pri modeloch Claude stránka mieru halucinácie nezobrazuje, preto ju nemožno porovnať.

Pre prvú verziu testu (november 2025, 6 000 otázok) sa uvádzalo napríklad pre Gemini 3 Pro presnosť 53 % a mieru halucinácie 88 %, pre GPT-5.1 (high) 39 % a 81 % a pre Grok 4 39 % a 64 % (The Decoder). Čísla verzie 1 a 1.1 nie sú priamo porovnateľné.

Čo ukazuje Vectara rebríček halucinácií pri sumarizácii?

Vectara meria, či zhrnutie verne zodpovedá článku. Zhrnutie sa považuje za halucináciu, ak ho detektor HHEM ohodnotí pod 0,5. Pôvodný rebríček mal 955 článkov, nový z novembra 2025 viac než 7 700 a texty až do 32 tisíc tokenov. Vectara uvádza, že pôvodná sada už modely nerozlišovala, lebo sa zhlukovali, a že nový test dáva všeobecne vyššie čísla.

Druhý pohľad prináša odborná práca o rebríčku (Vectara, 2025) s metódou FaithJudge. Ide o priemer cez sumarizáciu, odpovede na otázky a generovanie textu z dát. Je to výber z roku 2025, takže slúži ako ukážka rozptylu a nie ako aktuálne poradie.

Halucinujú viac reasoning modely, teda modely s „premýšľaním“?

Nie jednoznačne. V teste PersonQA, ktorý sa pýta na údaje o osobách, halucinoval podľa systémovej karty OpenAI model o3 v 33 % a o4-mini v 48 % prípadov, oproti 16 % pri o1 (systémová karta). OpenAI uviedla, že príčina nie je známa. Podľa karty o3 tvrdí celkovo viac vecí, takže vzniká viac správnych aj viac nesprávnych tvrdení. Premýšľanie teda halucinácie nezaručene zníži, výsledok závisí od modelu a úlohy.

Znižuje sa miera halucinácií v AI časom, alebo tu bude vždy?

Obe tvrdenia platia súčasne: čísla sa zlepšujú, no nulu nikto nesľubuje.

Zlepšenie je viditeľné pri novších modeloch. Claude Opus 4.5 sa v teste Simple-QA Verified zlepšil o 11 percentuálnych bodov oproti predchádzajúcim modelom Claude (systémová karta). V AA-Omniscience mal v novembri 2025 Gemini 3 Pro mieru halucinácie 88 % (verzia 1), dnes je najnižšia hodnota 4 % (Gemini 4 Argon, verzia 1.1). Verzie testu sa líšia počtom otázok aj obsahom, takže ide o smer a nie o presné porovnanie.

Dá sa halucinácia v AI úplne odstrániť?

Podľa dostupných zdrojov nie. OpenAI uvádza, že presnosť nikdy nedosiahne 100 %, lebo niektoré otázky sú zo svojej podstaty nezodpovedateľné. Halucinácie podľa nej nie sú nevyhnutné v tom zmysle, že model môže odmietnuť odpovedať, keď si nie je istý (OpenAI).

Anthropic píše, že jej techniky halucinácie výrazne znižujú, no úplne ich neodstránia, a odporúča overovať kritické informácie (dokumentácia). Teoretická práca Xu a kol. dokazuje, že pri modeloch používaných ako všeobecný riešič úloh sa halucinácia úplne odstrániť nedá, nech je architektúra, tréning či prompt akýkoľvek. Ide o teoretický výsledok, nie o meranie.

Praktický záver: počítajme s tým, že sa halucinácia vyskytne, a postavme na tom proces so zdrojmi, overením a kontrolou.

Aké sú reálne príklady halucinácie AI a aké škody spôsobila?

Čo sa stalo v prípade Mata v. Avianca s vymyslenými citáciami z ChatGPT?

V spore pred federálnym súdom v New Yorku (2023) použil právnik žalobcu ChatGPT na právny výskum a podanie odkazovalo na neexistujúce súdne rozhodnutia s vymyslenými citátmi. Pri overovaní sa opýtal samotného ChatGPT, ktoré tvrdilo, že rozhodnutia sú pravé. Sudca P. Kevin Castel konštatoval zlú vieru oboch právnikov a uložil im spolu s ich kanceláriou pokutu 5 000 USD (rozhodnutie súdu).

Čo sa stalo s analýzou Deloitte pre austrálsku vládu?

Deloitte pripravil pre austrálske ministerstvo zamestnanosti a pracovných vzťahov nezávislú analýzu systému sankcií za nesplnené povinnosti poberateľov dávok v hodnote 440 000 AUD. Obsahovala viac než desať vymyslených odkazov a poznámok pod čiarou, vymyslený úryvok súdneho rozsudku a vymyslený citát pripisovaný sudcovi. Deloitte priznal použitie generatívnej AI (Azure OpenAI GPT-4o) a vrátil poslednú splátku zmluvy. Chybu odhalil akademik z univerzity v Sydney a prípad sa objavil v októbri 2025 (The Register). Ministerstvo následne zverejnilo opravenú správu z 26. 9. 2025, ktorá nahradila pôvodnú zo 4. 7. 2025 a opravila citácie a zoznam literatúry (správa ministerstva).

Oba prípady majú rovnaký vzorec: vymyslená opora, teda citácia alebo rozsudok, a neoverenie ľudskou kontrolou.

Ako ovplyvňuje prompt mieru halucinácie?

Zadanie nemení, čo model vie, ale mení, koľko priestoru dostane na domýšľanie. Výskum to potvrdzuje, no s výhradami.

V štúdii Frontiers in Artificial Intelligence (Anh-Hoang a kol., 2025) porovnali päť typov promptov na piatich open-source modeloch a štyroch datasetoch.

Autori uvádzajú, že halucinácie majú prompt-závislú aj modelovú zložku, že Chain-of-Thought nefunguje všeobecne a pri modeli bez potrebných vedomostí môže urobiť nesprávnu odpoveď len podrobnejšou. Štúdia má aj vnútorné nezrovnalosti: tvrdí, že testovala len open-source modely, no uvádza aj výsledky GPT-4. Preto ju berieme ako orientačnú. Niektoré blogy pripisujú hodnotu 18,1 % „štruktúrovanému promptu“, v štúdii však patrí Chain-of-Thought.

Rawte a kol. (2023) testovali 15 modelov od GPT-2 po GPT-4 a zistili, že formálnejšie a konkrétnejšie prompty vedú k menej halucináciám, najmä pri číslach, skratkách, osobách a miestach. Pri čitateľnosti bol obraz zmiešaný. Presné hodnoty sú v štúdii len v grafoch.

Ako vyzerá slabý a ako komplexný prompt? Príklad analýzy exportu zo Search Console

Príklad je ilustračný a nejde o meranie. Zodpovedá úlohe, ktorú pri vývoji vlastných nástrojov na analýzu webov a textov riešime opakovane: dať AI export dopytov z Google Search Console a získať z neho závery. Zistili sme, že samotné zlepšenie zadania nestačí, preto pri analýzach, ako je porovnanie obsahu konkurencie, aj výstup kontrolujeme kódom, napríklad či kľúčové slová, ktoré AI vrátila, sa naozaj nachádzajú v texte stránky.

Prečo je vágne zadanie na analýzu exportu rizikové?

Takéto zadanie necháva modelu takmer všetko na domýšľanie. Výsledkom je plynulý text, v ktorom sa čísla a odporúčania nedajú skontrolovať.

Ako vyzerá komplexný prompt na analýzu exportu zo Search Console?

Model tu už nič neinterpretuje, len filtruje podľa pravidla. Rozdiel je v tom, že každé tvrdenie vo výstupe sa dá porovnať s tabuľkou.

Prečo ani dobrý prompt nedá nulovú chybu?

Aj pri dobrom zadaní môže model niečo pokaziť, napríklad vynechať riadok alebo prepísať číslo. Preto má zmysel výstup overovať kódom: či každé kľúčové slovo naozaj existuje v pôvodnej tabuľke a či sa čísla zhodujú. Dobrý prompt znižuje riziko halucinácie, overenie výstupu ju zachytí. Veľké dáta tiež radšej rozdeľujeme na menšie časti a výsledky spájame, namiesto vloženia všetkých riadkov naraz. Toto je naša prax, nie výsledok merania.

Prečo musí mať AI povolené odpovedať „neviem“ a ako to zadať?

Jedna z najúčinnejších ochrán proti halucinácii je výslovne povedať modelu, že smie priznať, že odpoveď nepozná. Bez takého pokynu sa model správa tak, ako ho vedie tréning a hodnotenie: odpoveď dostane viac bodov než „neviem“, a tak radšej odpovie, aj keď potrebnú informáciu nemá.

Anthropic uvádza povolenie „neviem“ ako prvú zo siedmich techník a píše, že výslovné dovolenie priznať neistotu môže výrazne znížiť množstvo nepravdivých informácií (dokumentácia). OpenAI zároveň uvádza, že halucinácie nie sú nevyhnutné, lebo model môže odmietnuť odpovedať, keď si nie je istý (OpenAI).

Ako vyzerá pravidlo „neviem“ v prompte?

Pravidlo má tri časti: kedy platí, čo má model napísať namiesto odpovede a čo nesmie urobiť. Ukážka je ilustračná.

Čo sa stane, keď model smie odpovedať „neviem“?

Najnázornejšie to ukazuje test SimpleQA zo systémovej karty GPT-5. Model gpt-5-thinking-mini odmietol odpovedať v 52 % prípadov a mal chybovosť 26 %, kým o4-mini odmietol len v 1 % prípadov a mal chybovosť 75 %. Presnosť pritom bola takmer rovnaká, 22 % a 24 % (OpenAI).

Model, ktorý častejšie priznal neistotu, mal teda výrazne menej nesprávnych odpovedí pri presnosti nižšej len o dva body. Ide však o porovnanie dvoch rôznych modelov, nie o ten istý model s pravidlom a bez neho. Odpoveď „neviem“ nie je zlyhanie. Je to správny výsledok, keď dáta na odpoveď nestačia.

Čo si pri pravidle „neviem“ strážiť?

Model môže začať odmietať aj to, čo by vedel, ak je pravidlo napísané príliš všeobecne. Preto ho podľa našej praxe píšeme konkrétne, teda aj s tým, z čoho má model čerpať a čo presne má napísať. Výsledok overujeme na vzorke, či model neodmieta zbytočne.

Odpoveď „neviem“ treba pripraviť aj na strane spracovania. Ak výstup číta kód, musí byť „neviem“ alebo „chýba v dátach“ povolená hodnota, aby sa nepovažovala za chybu. Toto je naša prax, nie výsledok merania.

Prečo AI pri dlhej práci zabúda zadanie a zdroje a ako tomu predísť?

Pri dlhej analýze, v projekte alebo v Claude Code sa stáva, že model po čase prestane dodržiavať pravidlá zo začiatku alebo pracuje bez dokumentu, ktorý dostal na úvod. Zabúdanie nie je to isté ako halucinácia. Súvisí s ňou tak, že ak podklad alebo pokyn vypadne z dosahu modelu, nemá sa o čo oprieť. Toto prepojenie je náš záver, zdroje nižšie opisujú zabúdanie a pokles presnosti.

Čo model „vidí“ a čo si pamätá?

Model nemá trvalú pamäť. Pri každej odpovedi pracuje len s kontextovým oknom, teda s textom, ktorý dostane na vstup: pokyny, konverzácia, nahrané súbory, výstupy nástrojov aj jeho vlastné predchádzajúce odpovede. Dokumentácia Anthropic ho prirovnáva k pracovnej pamäti (dokumentácia). Nový chat alebo nová relácia v Claude Code začína s prázdnym oknom a nesie len to, čo sa doň načíta zo súborov (Claude Code).

Prečo kvalita klesá, aj keď sa všetko ešte zmestí do okna?

Väčšie okno neznamená, že model využije všetko rovnako dobre. Anthropic píše, že s rastúcim počtom tokenov klesá presnosť aj schopnosť informáciu vybaviť, a nazýva to context rot. Preto záleží nielen na tom, koľko miesta v okne zostáva, ale aj na tom, čo v ňom je (dokumentácia). Novšie modely Claude majú okno až 1 milión tokenov, no väčšie okno samo osebe kvalitu nezaručuje.

Čo sa stane, keď sa okno naplní?

Nástroje preto staršiu časť konverzácie skracujú alebo zhrňujú. Claude Code pri blížiacom sa limite najprv maže staršie výstupy nástrojov a potom konverzáciu zhrnie. Požiadavky a dôležité úryvky kódu zostanú, no podrobné pokyny zo začiatku konverzácie sa môžu stratiť (Claude Code). V claude.ai Claude pri zapnutom spúšťaní kódu zhrnie staršie správy, keď sa chat blíži k limitu. Celá história ostáva uložená (Claude Help Center).

Do zhrnutia sa nemusí dostať práve to, na čom nám záleží: zoznam povolených zdrojov, pravidlo „neviem“ alebo formát výstupu. Je to náš príklad, dokumentácia hovorí všeobecne o podrobných pokynoch.

Ako zabrániť zabúdaniu pri dlhých analýzach, projektoch a v Claude Code?

Súbor CLAUDE.md je len kontext, nie vynútené pravidlo. Podľa dokumentácie platí, že čím konkrétnejšie a stručnejšie pokyny sú, tým dôslednejšie ich Claude dodržiava. Čo sa musí dodržať vždy, treba vynútiť technicky, pomocou hooku (Claude Code).

Ako znížiť halucinácie AI a čo skutočne pomáha?

Žiadna technika halucináciu neodstráni, no viaceré ju výrazne znižujú. Dokumentácia Anthropic uvádza sedem techník a výslovne píše, že halucinácie výrazne znižujú, no úplne ich neodstránia (Anthropic).

Pomáha vyhľadávanie na webe a RAG?

Pomáha, ale problém nerieši úplne. Pri RAG model pred odpoveďou vyhľadá zdroje a z nich vytvorí odpoveď. Stanford zistil, že právne nástroje s takým vyhľadávaním halucinujú menej než GPT-4, no stále v 17 až 33 % prípadov, hoci poskytovatelia sľubovali odstránenie halucinácií (Magesh a kol.). Odpoveď s odkazmi preto neznamená odpoveď bez chýb. Treba skontrolovať, či zdroj naozaj hovorí to, čo model tvrdí.

Čo je Chain-of-Verification?

Je to metóda od Meta (Dhuliawala a kol., 2023). Model napíše návrh odpovede, naplánuje overovacie otázky, zodpovie ich nezávisle od návrhu a vytvorí opravenú odpoveď. Autori uvádzajú zníženie halucinácií naprieč úlohami, konkrétne pri zoznamoch z Wikidata, uzavretých otázkach MultiSpanQA a dlhých textoch. Halucinácie nevylučuje.

Čo kontrolovať ako prvé, keď nemáme čas overiť všetko?

Dá sa halucináciám úplne vyhnúť?

Nie. Žiadna jednotlivá technika halucináciu nevylúči a podľa OpenAI, Anthropic aj teoretickej práce Xu a kol. sa nulová miera nedá zaručiť. Preto sa ochrany vrstvia, aby chybu zachytila aspoň jedna z nich.

Čo je na záver dôležité vedieť o halucináciách AI?

Halucinácia je vlastnosť jazykových modelov, nie chyba programu. Vzniká z toho, že model predpovedá pravdepodobný text, a z toho, že testy odmeňujú tipovanie viac než priznané „neviem“. Miera sa líši podľa úlohy od jednotiek percent pri sumarizácii po desiatky percent pri otázkach z pamäte a v odborných oblastiach. Novšie modely sú lepšie, no žiaden hodnotený model nepresiahol v teste FACTS 70 %.

Zadanie halucináciu zvyšuje alebo znižuje. Prompt s merateľným kritériom, obmedzeným vstupom, povolením „neviem“ a pevným formátom výstupu dáva modelu menej priestoru na domýšľanie, a overenie výstupu kódom alebo človekom zachytí zvyšok. Pri dlhých úlohách treba pravidlá a zdroje uložiť do súboru alebo projektu, lebo staršia časť konverzácie sa pri zaplnení okna skracuje.

Rovnaký princíp platí aj pre web. Podľa nášho výkladu dávajú jasné a overiteľné informácie na stránke AI menej priestoru domýšľať si o firme. O tom, ako sa web dostane do AI odpovedí, píšeme v článkoch GEO: ako byť citovaný v AI odpovediach a AEO: ako písať text, aby ho AI vybralo do odpovede. V rámci SEO a AI SEO na mieru preto pripravujeme obsah tak, aby bol faktický, overiteľný a zrozumiteľný aj pre AI.

Často kladené otázky o halucináciách v AI

Zdroje