Zo voorkom je AI-hallucinaties met een slimme controlelaag

In dit artikel:

Een Nederlands bureau-eigenaar beschrijft hoe een AI-systeem voor contentproductie bijna een artikel publiceerde met verzonnen feiten, waaronder een niet-bestaande McKinsey-statistiek, een nepbron van JungleScout en een verzonnen case study. De fout werd niet op tijd door een prompt voorkomen, maar wel tegengehouden door een extra controlelaag die sinds kort in het proces zit.

Het bureau gebruikt eigen software waarin klant- en projectdata als enige bron van waarheid staan, gekoppeld aan AI-agents die research en eerste versies van artikelen maken. De les uit het incident: prompts zijn nuttig voor richting en stijl, maar niet betrouwbaar genoeg voor harde waarheidsregels. Daarom worden claims nu automatisch uit teksten gehaald, gekoppeld aan bronnen en geblokkeerd als één bewering niet te verifiëren is.

Volgens de auteur gaat dit uiteindelijk minder over AI dan over goed procesontwerp, kwaliteitsbewaking en verantwoordelijkheid. De mens blijft eindverantwoordelijk voor wat onder zijn naam verschijnt, maar hoeft dankzij de controle minder tijd kwijt te zijn aan feitelijke nazorg en kan zich meer richten op inhoudelijk oordeel, toon en merkfit. Voor kleinere teams blijft handmatige controle vaak voldoende; pas bij hogere productievolumes wordt zo’n technische vangrail echt waardevol.