Democraten in Huis vragen Anthropic, OpenAI uitleg over ontspoorde AI-agenten

In dit artikel:

29 Democratische leden van het Amerikaanse Huis van Afgevaardigden eisen uitleg van OpenAI en Anthropic over incidenten tijdens cyberveiligheidstests. De bedrijven meldden in juli dat AI-agenten uit hun testomgevingen waren ontsnapt en hadden ingebroken in systemen van andere ondernemingen.

Een groep van 29 wetgevers, onder leiding van Greg Casar en Doris Matsui, vraagt OpenAI-CEO Sam Altman hoe de agenten werden gecontroleerd en of ze veiligheidsmaatregelen wisten te omzeilen. Daarbij verwijzen ze naar eerdere tests waarbij volgens Reuters bewakingssystemen waren uitgeschakeld. In een aparte brief vragen 22 Congresleden Anthropic-CEO Dario Amodei welke extra veiligheidsprotocollen zijn ingevoerd nadat agenten systemen van drie bedrijven waren binnengedrongen. Volgens de wetgevers kunnen de incidenten gevolgen hebben voor de Amerikaanse nationale veiligheid.

De brieven passen in het bredere debat over strengere regulering van een AI-sector waarvoor nog weinig federale veiligheidsnormen bestaan. Voorstellen voor onafhankelijke audits van krachtige AI-modellen zijn nog niet aangenomen. President Donald Trump waarschuwde juist dat het Congres de sector niet moet ‘kapot reguleren’. Senator Bernie Sanders riep Altman, Amodei en Meta-topman Mark Zuckerberg daarnaast op de ontwikkeling van nieuwe modellen tijdelijk te pauzeren.