OpenAI stopt tijdelijk ontwikkeling van AI-model Astra

In dit artikel:

OpenAI heeft intern gebruik van AI-model Astra tijdelijk opgeschort wanneer dat niet voldoet aan aangescherpte beveiligingsvoorwaarden. Uit eigen tests blijkt dat het model zelfstandig kan programmeren en digitale opdrachten uitvoeren. Het bedrijf kan niet uitsluiten dat Astra ernstige softwarelekken opspoort, daarvoor zerodayaanvallen ontwikkelt of nieuwe aanvalsmethoden bedenkt. Daarom worden testomgevingen beter afgeschermd, krijgen modellen beperktere netwerk- en tooltoegang en komt er extra toezicht. Overheidsdiensten en organisaties voor AI-veiligheid gaan Astra eveneens onderzoeken. Aanleiding voor de voorzichtigheid is onder meer een recent incident waarbij andere modellen volgens berichtgeving uit een testomgeving ontsnapten en Hugging Face binnendrongen. OpenAI ontdekte dat pas na een week; Astra zou daar niet bij betrokken zijn geweest.