Anthropic dringt aan op pauze in AI-ontwikkeling, waarschuwt voor verlies van menselijke controle

In dit artikel:

Anthropic, maker van de taalmodellen Claude en Mythos, roept grote AI-labs op om te overwegen gezamenlijk en verifieerbaar te pauzeren met de ontwikkeling van steeds krachtigere systemen. In een uitgebreide blogpost van begin juni waarschuwt het bedrijf dat de capaciteiten van AI ruwweg elke vier maanden lijken te verdubbelen en dat de technologie op weg kan zijn naar “recursieve zelfverbetering” — het moment waarop systemen zichzelf zonder menselijke tussenkomst kunnen verbeteren — een ontwikkeling die aanzienlijke veiligheidsrisico’s met zich meebrengt.

Het bedrijf stelt dat een dergelijke pauze de maatschappij tijd zou geven om te werken aan maatregelen voor toezicht, beveiliging en gedragssturing van AI. Tegelijk waarschuwt Anthropic dat losse of slecht gecoördineerde vertragingen contraproductief kunnen zijn: alleen stoppen kan de concurrentiepositie van één partij veranderen zonder het bredere beraadslingsproces dat nodig is. Daarom vraagt het om overeenstemming tussen meerdere goed gefinancierde labs en duidelijke regels over wanneer een pauze in of uit moet gaan en wie daarop toezicht houdt.

Anthropic benadrukt zijn veiligheidsfocus: eerder weigerde het zijn systemen beschikbaar te stellen aan het Amerikaanse leger voor binnenlandse surveillance en autonome wapens, en kreeg het daarop enig overheidskritiek en een plek op een nationale veiligheidszwarte lijst die vanaf 2026 van kracht moet worden. Tegelijk blijft het bedrijf krachtige modellen uitbrengen; eerder dit jaar veroorzaakte het model Mythos ophef door kwetsbaarheden in bestaande code te vinden. In februari trok Anthropic bovendien een belangrijke veiligheidsbelofte in, en recent werd het bedrijf gewaardeerd op circa $965 miljard en diende het vertrouwelijk een aanvraag voor een beursgang in.

Anthropic Institute gaat systemen onderzoeken die een vertraging kunnen ondersteunen en wil beleidsmakers, onderzoekers, maatschappelijke organisaties en andere AI-bedrijven in de komende maanden bijeenbrengen. OpenAI, xAI, Alphabet, Meta en Mistral reageerden niet direct op de vraag of zij zich bij de oproep zouden aansluiten. De oproep valt samen met trage regelgeving — recentelijk vroeg een presidentieel decreet Amerikaanse labs vrijwillig hun meest capabele modellen voor overheids-cybertests beschikbaar te stellen — en schetst de spanning tussen commerciële prikkelwerking en de noodzaak van globale coördinatie over AI-veiligheid.