Zašto AI halucinacije nastaju?
Veliki jezični model sastavlja odgovor na temelju naučenih obrazaca i informacija koje su mu dostupne. Ta sposobnost omogućuje mu pisanje korisnog teksta, ali samo sastavljanje rečenice nije isto što i provjera njezine točnosti.
Kada nedostaje važan podatak, model može nastaviti odgovor uvjerljivom pretpostavkom umjesto da jasno kaže da podatak nema. Pogreške su moguće i kada dobije relevantne informacije: može ih pogrešno povezati ili dodati tvrdnju koju ne podržavaju.
Izraz „halucinacija” ne znači da model namjerno laže. Također, nije svako izmišljanje problem. Kada od generativnog AI-ja tražite izmišljenu priču, stvaranje novih detalja dio je zadatka. Problem nastaje kada se izmišljeni detalj pojavi u odgovoru koji treba prenijeti stvarne činjenice.
Zašto je važno u praksi?
Zamislite da nakon sastanka LLM alatu pošaljete bilješke i zatražite sažetak dogovora za tim. Razgovarali ste o novoj isporuci, ali rok još nije potvrđen jer čekate odgovor dobavljača.
U sažetku ipak piše: „Dogovorena je isporuka do 15. listopada.”
Rečenica zvuči kao obična stavka zapisnika. Datum je konkretan, a ostatak sažetka točno prenosi razgovor. Upravo zato dodatak lako promakne: jedan izmišljeni podatak nalazi se među nekoliko točnih.
Ako takav sažetak proslijedite kolegama, netko može početi planirati posao prema roku koji nije dogovoren. Problem više nije samo pogrešna rečenica, nego odluka donesena na njezinoj osnovi.
Kako prepoznati moguću AI halucinaciju?
U ovom primjeru prvo pitanje nije zvuči li datum realno, nego odakle dolazi. Postoji li u bilješkama? Je li naveden kao prijedlog ili kao potvrđen dogovor?
Dodatni detalji kojih nema u izvornom materijalu razlog su za provjeru. To mogu biti upravo datum isporuke, ime odgovorne osobe ili odluka koju sudionici nisu donijeli. Nisu automatski dokaz pogreške, ali ne treba ih prihvatiti samo zato što se uklapaju u tekst.
Halucinaciju ne možete pouzdano prepoznati po tonu. Netočna tvrdnja može biti napisana jednako mirno i precizno kao točna. Ako alat navede izvor, treba provjeriti postoji li taj izvor i potvrđuje li baš tu tvrdnju.
Najčešće zabune o AI halucinacijama
Je li svaki loš odgovor halucinacija?
Nije. Sažetak može biti predug, nespretno napisan ili u pogrešnom formatu, a da pritom ne izmišlja činjenice. Izmišljeni dogovoreni rok drukčiji je problem od previše formalnog tona.
Za širu procjenu problema sa zadatkom, podacima i načinom odgovaranja koristan je članak Zašto LLM daje loše odgovore.
Uklanja li dobar prompt mogućnost pogreške?
Jasan prompt može tražiti da alat izdvoji samo potvrđene dogovore i označi otvorena pitanja. Relevantan kontekst, poput cjelovitih bilježaka, daje mu bolju podlogu za taj zadatak.
To pomaže, ali ne jamči točnost. Ni uputa „nemoj izmišljati” ne zamjenjuje pregled rezultata. U našem primjeru datum treba usporediti s bilješkama čak i kada ste jasno zadali pravila.
Što provjeriti prije korištenja odgovora?
Za ovakav sažetak dovoljna su tri jednostavna koraka:
- Usporedite važne tvrdnje s bilješkama, osobito odluke, rokove i odgovorne osobe.
- Ako je naveden izvor, provjerite potvrđuje li tvrdnju, umjesto da sam navod izvora prihvatite kao dokaz.
- Nepotvrđeni datum izostavite ili jasno označite da rok još nije dogovoren, pa ga provjerite s odgovornom osobom.
Nije potrebno svaku rečenicu pretvoriti u istraživački zadatak. Najviše pozornosti zaslužuju podaci prema kojima će netko nešto poslati, obećati, platiti ili organizirati.
Ukratko
AI halucinacija može biti samo jedan izmišljeni detalj u inače korisnom odgovoru. Jasna uputa i dobra podloga pomažu, ali povjerenje u važnu tvrdnju treba temeljiti na provjeri, a ne na tome koliko je uvjerljivo napisana.