Halucinácia AI je plynulá odpoveď generatívneho modelu, ktorá nie je podložená dátami alebo je nepravdivá. Znie presvedčivo, no obsah môže byť vymyslený. Znižovať ju má napríklad grounding.
Ako môže halucinácia vyzerať pri firme?
- AI uvedie službu, ktorú firma neponúka.
- AI uvedie nesprávnu cenu, adresu alebo kontakt.
- AI pripíše firme vlastnosť alebo výrok, ktorý nikdy neexistoval.
Ako sa znižuje?
Google Cloud uvádza, že grounding prepája výstup modelu s overiteľnými zdrojmi, napríklad cez RAG alebo vyhľadávanie, a tým znižuje halucinácie. Úplne ich však neodstráni. Pri dôležitých údajoch preto odporúčame odpovede AI overovať.
Čo môže urobiť majiteľ webu?
Dbať na to, aby boli kľúčové údaje o firme na webe jasné, aktuálne a rovnaké na všetkých miestach, pozri NAP a Organization schema. Pri AI SEO audite zisťujeme, čo o značke asistenti hovoria, a nesprávne tvrdenia zaznamenávame, pozri AI viditeľnosť. Ide o náš postup.
Čo si zapamätať o pojme halucinácia AI?
Halucinácie nevieme vypnúť, no vieme znížiť riziko, že AI o firme hovorí nesprávne, a to jasným a konzistentným obsahom.
Ako to rieši webstrankanamieru.sk: Viditeľnosť v AI odpovediach sa buduje systematicky. Súvislosti medzi SEO, GEO, AEO a AI SEO vysvetľuje SEO na mieru a článok SEO, GEO, AEO a AI SEO: aký je rozdiel. Ako si web stojí v AI, môžete zistiť cez kontakt.
Súvisiace pojmy: Grounding, RAG, LLM, Generatívna AI, AI viditeľnosť, Sentiment, AI chat, AI integrácia na webe, Grok, Obsah generovaný AI, Umelá inteligencia
Často kladené otázky o pojme halucinácia AI
Čo je halucinácia AI?
Ako sa znižuje?
Zmizne halucinácia úplne?
Môže AI o mojej firme tvrdiť nepravdu?
Čo môžem urobiť?
Zdroje
- Google Cloud: Grounding overviewGrounding a znižovanie halucinácií.
- Lewis a kol.: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (arXiv)Generovanie doplnené vyhľadávaním.
- Google for Developers: Machine Learning Crash Course – Large language modelsVeľké jazykové modely.