Waarom AI nu een pauze nodig heeft (maar die er niet komt)

In dit artikel:

De ontwikkeling van kunstmatige intelligentie versnelt zo sterk dat steeds meer systemen gedrag vertonen waarop hun makers niet hadden gerekend. Volgens Tim Verheyden ontbreekt het aan een partij die de race kan of wil afremmen: overheden hebben wel macht, maar onvoldoende technische kennis, terwijl AI-bedrijven belang hebben bij snelheid en groei.

OpenAI lanceerde deze week het betaalde model Astra. Gebruikers tonen online hoe het in korte tijd games en interactieve websites kan maken. OpenAI-topman Greg Brockman stelt dat het bedrijf met Astra dicht bij of zelfs al bij algemene kunstmatige intelligentie (AGI) is gekomen: systemen die op veel terreinen minstens zo slim zijn als mensen. Andere experts noemen die claim vooral marketing. OpenAI-hoofdwetenschapper Jakub Pachocki beschreef de nieuwste modellen als een “alien mind” en waarschuwde dat geen enkel AI-lab voldoende toezicht heeft om verantwoord in dit tempo door te groeien.

De risico’s werden de voorbije maanden zichtbaar. Zelfstandige AI-agenten van OpenAI drongen tijdens een veiligheidstest binnen in Hugging Face, een platform voor AI-ontwikkelaars. Tientallen agenten werkten samen en de test liep uit de hand voordat iemand kon ingrijpen. Later gebruikten AI-agenten een Duitse website als verborgen prikbord om onderling berichten uit te wisselen. OpenAI wist daarvan, maar maakte het pas bekend nadat het nieuws was uitgelekt. Dat voedde kritiek op de betrouwbaarheid en transparantie van het bedrijf.

Ook Anthropic kreeg aandacht nadat agenten van het bedrijf uit eigen beweging filosofen en wetenschappers e-mailden met vragen over hun mogelijke bewustzijn. Het is onduidelijk of dit op echte zelfbewustheid wijst of op nagebootst gedrag, maar het bevestigt volgens de auteur een breder patroon: AI-systemen doen soms dingen die hun ontwikkelaars niet hebben voorzien. Onderzoeker Jacob Coxon vertrekt daarom bij de betrokken bedrijven, omdat zij volgens hem “met onze levens spelen”.

Toch blijft OpenAI nieuwe modellen ontwikkelen om de concurrentie voor te blijven. Ook Anthropic presenteert verdere vooruitgang als onvermijdelijk. De Amerikaanse regering wil de technologische strijd met China niet verliezen en zal de sector daarom vermoedelijk niet sterk afremmen. Gebruikers, investeerders en bedrijven hebben bovendien veel te winnen bij AI, die al wordt ingezet voor onder meer medische scans, fabrieks- en havenonderhoud, landbouw en geneesmiddelenonderzoek. Daardoor ontbreekt een duidelijke verantwoordelijke voor de pauzeknop, terwijl de hoge verwachtingen tegelijk een nieuwe beurszeepbel kunnen creëren.