Anthropic pleit voor 'pauzeknop' bij ontwikkeling van AI

In dit artikel:

Anthropic-root co-founder Jack Clark en onderzoekster Marina Favaro pleiten in een blogpost voor een internationaal af te spreken ‘pauzeknop’ bij de ontwikkeling van de meest geavanceerde AI-systemen. Zo’n mechanisme zou mensen de tijd geven om gevolgen, veiligheidsrisico’s en maatschappelijke effecten te onderzoeken voordat doorontwikkelde AI zelfstandig verdergaat — een risico dat groeit als systemen sneller zelfverbeterend worden dan mensen kunnen beoordelen. Clark en Favaro noemen geen specifieke autoriteit voor het besluit om te pauzeren, maar benadrukken dat wereldwijde coördinatie nodig is om te voorkomen dat landen of bedrijven door tijdsdruk onveilige keuzes maken; ze trekken expliciet een parallel met internationale afspraken over kernwapens. Anthropic zelf is een leidend AI‑bedrijf (bekend van assistent Claude) en stond eerder op het punt ontwikkeling te stoppen bij gevaarlijke modellen; die belofte uit 2023 is dit jaar echter versmald tot gevallen waarin het bedrijf duidelijk voorloopt. De oproep speelt in op bredere vragen rond governance, toetsing en handhaafbaarheid van AI‑snelheid.