Wie grof is tegen Claude, wordt verbannen van de chatbot: kan AI zich echt gekwetst voelen? 

In dit artikel:

Anthropic, het bedrijf achter AI-chatbot Claude, gaat gebruikers verbannen die zich extreem grof of kwetsend tegenover de chatbot gedragen. Volgens AI-expert Tim Verheyden, die daarover sprak op Radio 1, mogen gebruikers nog altijd hun woede uiten, maar wordt grensoverschrijdend gedrag niet langer getolereerd.

De maatregel wakkert de discussie aan over de vraag of AI gevoelens of bewustzijn kan hebben. Claude wordt niet alleen getraind met grote hoeveelheden tekst, maar beschikt ook over een zogenoemde ‘soul-code’ van ongeveer tachtig pagina’s, waarin morele richtlijnen voor de chatbot staan. Anthropic beweert niet dat Claude bewust is, maar sluit die mogelijkheid evenmin volledig uit. Ook Anthropic-topman Chris Olah heeft hierover gesproken met religieuze leiders, onder wie de paus.

De meeste AI-experts achten bewustzijn bij chatbots echter zeer onwaarschijnlijk. Volgens hen kan een taalmodel pijn en emoties overtuigend beschrijven zonder zelf iets te ervaren. De discussie sluit aan bij bredere zorgen over superintelligentie en de mogelijkheid dat AI de mens uiteindelijk zou kunnen overstijgen of bedreigen.