Halucinácie umelej inteligencie je situácia, keď model AI vytvorí odpoveď, ktorá je nepravdivá, nepresná alebo úplne vymyslená, hoci môže na prvý pohľad vyzerať ako dôveryhodná.
Jeden so sprievodných javov halucinácie je stav, kedy AI odpovedá dookola tak isto alebo veľmi podobne, a súčasne tieto odpovede nesú znaky popísané vyššie.
Pre používateľa je halucinácia ťažko pochopiteľná, pretože AI vo všeobecnosti vykazuje veľmi vysokú úroveň „chápania“ našich požiadaviek, ktoré veľmi často vie naplniť kvalitnými odpoveďami.
Jeden z dôvodov halucinácii AI je jeho „preťaženosť“.
Vysoké množstvo súčasne pripojených používateľov ku konkrétnemu modulu AI býva často spojené aj so zložitými promptami, kladie enormné požiadavky na hardvérovú infraštruktúru umelej inteligencie (servery, ich diskové polia, prepojenia sieťovými prostriedkami,…) ale i softvérové zabezpečenia– analýza požiadaviek používateľa, hľadanie relevantných dát, kreovania vhodných formulácií)…
Jeden z najjednoduchších spôsobov, ako môžeme na halucináciu zareagovať, je lepšie sformulovať svoj prompt alebo jednoducho zopakovať komunikáciu o 1-2 hodiny.
Halucinácie v AI sú prirodzenou súčasťou vývoja tejto technológie. Tento jav treba zobrať ako fakt a nájsť svoju reakciu ako používateľa tak, aby sme ich dopad v rámci svojich možností minimalizovali.
Dobrá správa – je veľmi siný predpoklad, že množstvo halucinácií sa bude vývojom AI zmenšovať.
(Tento pokles je pozorovateľný už aj zo obdobie posledných 2-3 mesiacov).