Een top 15 zomerlectuur in verschillende grote kranten, waarvan er meer dan de helft niet blijkt te bestaan. Hoe kan zoiets?
Naast laksheid van de auteur en eindreacties, zijn AI Hallucinations of AI hallucinaties hier een deel van het probleem. Als AI toepassingen zoals ChatGPT een antwoord op een vraag niet vinden, dan wordt het gefabriceerd met woorden en zinnen die correct klinken, maar niet altijd feitelijk juist zijn. Nog niet iedereen is zich hiervan bewust.
De 10 verzonnen boeken
“De 15 beste boeken om deze zomer te lezen” De titel van een leuk artikel dat in verschillende kranten in de V.S. verscheen. Meerdere lezers van deze kranten waren overtuigd door de mooie omschrijvingen en gingen op zoek naar deze boeken. Enige probleem: 10 van de 15 omschreven boeken bestaan niet of waren volledig verkeerd omschreven.
Gevolg: een groot schandaal in de media. De auteur van het artikel had toegegeven dat hij AI had gebruikt om het artikel te schrijven en het niet had nagelezen. De kranten die het artikel vervolgens publiceerden, hadden dat ook niet gedaan.
Een groter debat kwam op gang: Hoe betrouwbaar is AI en hoe groot en schadelijk is de impact van foute informatie die het genereert.
AI Hallucinaties: AI geeft het antwoord, ook al bestaat het niet
AI Hallucinaties is de term die gebruikt wordt als antwoorden van Large Language Models (LLMs) zoals ChatGPT correct lijken, maar fout, misleidend of volledig verzonnen zijn.
Het probleem begint bij wat we van AI verwachten: Een correct antwoord op al onze vragen. Alleen: AI “denkt” niet of zoekt geen oplossingen voor problemen. AI probeert aan de hand van data en statistiek te voorspellen welke woorden er achter elkaar horen te staan in een tekst.
Als een LLM zoals ChatGPT data gepresenteerd krijgt die onvolledig, twijfelachtig of onbestaand is, dan zal het de leegtes proberen opvullen met antwoorden die statistitsch gezien het meeste kans hebben om goed te zijn. Zelfs als deze informatie dan verzonnen of foutief is. Soms geven LLMs de voorkeur aan goed klinkende antwoorden boven feitelijk correcte informatie.
Als er onvoldoende data beschikbaar is om een antwoord te genereren op een vraag, dan zal het antwoord worden gegenereerd met tekst die logisch lijkt volgens de modellen waarmee de AI tool getraind is.
Vraag je bijvoorbeeld “Geef mij 5 studies die bewijzen dat ziekte X wordt veroorzaakt door voedingsmiddel Y.” Dan gaat het LLM er alles aan doen om jouw vraag te beantwoorden, zelfs al moeten daar antwoorden (en dus studies) voor verzonnen worden.
Daarom is het cruciaal om AI-antwoorden niet blind te vertrouwen. Het is ontworpen om overtuigend en vloeiend te klinken, soms ten koste van de feitelijke correctheid. Menselijke interpretatie, gezond verstand en controle blijven essentieel. AI is een krachtig hulpmiddel, maar geen vervanging voor kritisch denken. Gebruik het slim, maar doe steeds een factcheck van je resultaat .
Meer info
Wil je graag meer lezen over AI Hallucinations en de werking van LLMs zoals ChatGPT? Dan is dit artikel van Datacamp.com aan te bevelen: datacamp/ai-hallucination
Liever onder de vorm van een Instagram-post? Dan is deze van Dr. Ir. Nini Munoz een aanrader.