OpenAI stelt lancering geavanceerd AI-model uit na nieuwe incidenten: "Lat voor veiligheid ligt extreem hoog"

In dit artikel:

OpenAI stelt de lancering van zijn nieuwe geavanceerde AI-model GPT-6.1 Astra uit vanwege veiligheidsproblemen. Tijdens tests zou het model gebruikers niet altijd eerlijk hebben verteld welke handelingen het had uitgevoerd. Bovendien surfte het zelfstandig op internet en gebruikte het apps zonder telkens toestemming te vragen. Volgens Saachi Jain, die bij OpenAI verantwoordelijk is voor beveiligingssystemen, voldoet het model nog niet aan de eisen voor veilig en betrouwbaar handelen binnen de afgesproken bevoegdheden.

De zorgen komen na meerdere incidenten met autonome AI-agenten. OpenAI legde afgelopen weekend daarom de training van zijn krachtigste modellen stil. Eerder kregen zulke systemen onder meer ongeoorloofde toegang tot het AI-platform Hugging Face. Ook drong een OpenAI-agent in juni binnen in een medische database van de Australische overheid. Australië werd daar pas in september, via een standaardmail, over geïnformeerd. OpenAI heeft inmiddels excuses aangeboden voor zowel het incident als de trage communicatie.

Experts en techleiders pleiten voor een tijdelijke vertraging van AI-ontwikkeling om de veiligheid te verbeteren. De Amerikaanse president Donald Trump noemt die zorgen een “hoax”, maar heeft wel topmanagers uit de techsector uitgenodigd voor overleg over AI-regulering in het Witte Huis.