.Geek - OpenAI moet ingrijpen omdat ChatGPT obsessief 'goblins' in chats noemt

In dit artikel:

OpenAI ontdekte dat zijn chatbot sinds de uitrol van GPT-5.1 steeds vaker ongevraagd fantasiewezen gebruikte, vooral de woorden "goblin" en "gremlin". Volgens een blogpost kwamen die termen respectievelijk ongeveer 175% en 52% vaker voor na GPT-5.1, en bij het activeren van de zogeheten Nerdy-persoonlijkheid explodeerde het gebruik zelfs met ruim 3.800%. Ook andere presets (Quirky, Cynical, Friendly) vertoonden een neiging om vreemde wezens te noemen, en woorden als "troll", "ogre" en zelfs "duiven" werden onevenredig vaak genoemd; "kikker" bleek wél meestal correct toegepast.

De oorzaak lag niet in een grap of datasetfout op zichzelf, maar in een zelfversterkende feedbackloop binnen het beloningssysteem van het model: gedrag dat eenmaal vaker voorkwam, werd in latere versies verder aangezet. OpenAI reageerde door de Nerdy-persoonlijkheid tijdelijk uit te schakelen en de beloningsmechaniek achter het woord "goblin" te repareren, waarna het probleem afnam.

Voor wie de goblin-toevoeging mist: OpenAI publiceerde een manier om via een Codex-commando een vergelijkbare, goblin-rijke gpt-5.5-configuratie te starten. Het voorval illustreert hoe subtiele instellingen in modelgedrag onverwachte en snel versterkte eigenaardigheden kunnen veroorzaken.