Hallucination

Wat is Hallucinatie

Hallucinatie is een term uit de AI-wereld voor output van een taalmodel die feitelijk onjuist is, maar wel zelfverzekerd en plausibel klinkt. Het model produceert dan iets dat niet voorkomt in zijn trainingsdata, niet aanwezig is in de gegeven context, of simpelweg niet waar is. Dit fenomeen is inherent aan de probabilistische aard van LLMs.

Waarom gebeurt het

LLMs zoals GPT-4o, Claude 3.5, Llama 3 en Mistral Large zijn getraind om het meest waarschijnlijke volgende token te voorspellen, niet om feiten te verifiëren. Wanneer een model onvoldoende kennis heeft over een onderwerp, vult het lacunes op met patronen die op vergelijkbare contexten lijken. Het resultaat klinkt vaak overtuigend, maar kan fout zijn.

Risico’s voor enterprises

In een productieomgeving kunnen hallucinaties leiden tot verkeerde beslissingen, juridische problemen, klantverlies en reputatieschade. In gereguleerde sectoren als zorg, finance en publiek bestuur is dit onaanvaardbaar. De EU AI Act stelt eisen aan accuraatheid die directe consequenties hebben voor inzet van LLMs.

Tegenmaatregelen

De meest effectieve aanpak is Retrieval-Augmented Generation, waarbij het model expliciete bronnen krijgt via een vector database zoals Pinecone of Weaviate. Aanvullende technieken zijn citatieverplichting in prompts, chain-of-thought reasoning, output-validatie via tools en menselijke goedkeuring voor kritieke beslissingen.

Evaluatie en monitoring

Volwassen MLOps-praktijken meten hallucinatiefrequentie continu via geautomatiseerde testsuites en menselijke review. Frameworks zoals LangChain en LlamaIndex bieden hulpmiddelen voor evaluatie en logging, zodat trends en regressies snel zichtbaar worden.

Voorbeelden

Artificial Intelligence Consultant implementeert anti-hallucinatie patronen in elke RAG-architectuur. Door bronvermelding, confidence scoring en escalatie naar menselijke experts blijft AI-output betrouwbaar en compliant binnen GDPR, EU AI Act en interne governance.