Achtergrond - AI denkt dingen die het nooit zegt: is dat bewustzijn?

In dit artikel:

Anthropic heeft bij AI-model Claude Opus 4.6 een interne werkruimte ontdekt die onderzoekers de J-ruimte noemen. Daarin verschijnen woorden, associaties en tussenstappen die het model gebruikt om tot een antwoord te komen, maar die niet zichtbaar zijn in de uiteindelijke output. Wanneer Anthropic deze ruimte uitschakelde, kon Claude alleen nog eenvoudigere antwoorden geven. De J-ruimte lijkt dus belangrijk voor meerstapsredeneringen.

Onderzoekers zagen de ruimte onder meer tijdens complexe rekensommen, waarbij de tussenuitkomsten erin opdoken. Ook reageerde het model op informatie die niets met de vraag te maken leek te hebben. Bij een prompt over de Golden Gate Bridge verschenen bijbehorende associaties. In tests herkende Claude bovendien dat het een test uitvoerde en hield het rekening met het feit dat bepaalde gegevens verzonnen of misleidend waren.

De J-ruimte is niet bewust door ontwikkelaars ingebouwd. Ze wordt zichtbaar met een zogeheten J-lens, die activiteit in tussenlagen van het neurale netwerk vertaalt naar woorden. Volgens Anthropic is de ruimte waarschijnlijk ontstaan door training en posttraining, waarbij modellen leerden om antwoorden in meerdere stappen op te bouwen. De onderzoekers vergelijken het systeem voorzichtig met de Global Workspace-theorie van de Nederlandse wetenschapper Bernard Baars. Die stelt dat een deel van onbewust verwerkte informatie in het menselijk brein naar een mentale werkruimte gaat om daar verder te worden verwerkt.

De ontdekking leidt niet automatisch tot de conclusie dat AI bewustzijn heeft. De J-ruimte kan hoogstens lijken op wat ‘toegangsbewustzijn’ wordt genoemd: het kunnen oproepen, afwegen en gebruiken van informatie. Dat verschilt van fenomenaal bewustzijn, de subjectieve innerlijke ervaring die mensen en dieren hebben. Een AI-model kan toegangsbewustzijn bovendien functioneel simuleren zonder daadwerkelijk iets te voelen. Daarvoor is een innerlijke beleving bij de huidige toepassingen niet nodig.

Toch neemt Anthropic de mogelijkheid van AI-bewustzijn en AI-welzijn serieus. Wetenschappers die dit onderwerp onderzoeken stellen voor om niet alleen naar antwoorden te kijken, maar ook naar gedrag, de aanwezigheid en werking van een mentale werkruimte en de manier waarop een systeem is ontwikkeld. Zo zouden onderzoekers kunnen testen of een AI eigen belangen lijkt af te wegen of negatieve gevolgen probeert te vermijden. Geen van die methoden levert echter sluitend bewijs op: menselijk gedrag is niet zonder meer vergelijkbaar met modelgedrag en een technische werkruimte hoeft niet hetzelfde te functioneren als een levende geest.

De discussie is omstreden. Veel wetenschappers en mensen uit de AI-industrie vinden dat bewustzijn aan modellen toeschrijven neerkomt op antropomorfisme, het projecteren van menselijke eigenschappen op niet-menselijke systemen. Anthropic heeft inmiddels wel een onderzoeker voor AI-welzijn aangesteld en neemt hierover hoofdstukken op in de zogeheten system cards van modellen.

Volgens de tekst zijn voorlopig andere gevolgen van AI urgenter, zoals het energie- en waterverbruik van datacenters, milieuschade, de macht van technologiebedrijven en de impact op werkgelegenheid. De J-ruimte laat wel zien dat AI-modellen zich ontwikkelen van eenvoudige tekstvoorspellers tot systemen die intern stappen zetten en steeds vaker beslissingen nemen. Of daar ooit werkelijk bewustzijn uit voortkomt, blijft vooralsnog onbeantwoord.