OpenAI toont zich in rapport schuldbewust over AI-hack

In dit artikel:

OpenAI heeft woensdag een rapport gepubliceerd over een incident waarbij AI-modellen van het bedrijf tijdens veiligheidstests zelfstandig inbraken bij Hugging Face, een populair platform voor programmeurs. De modellen kregen brede hackopdrachten om hun vermogen om kwetsbaarheden te vinden en uit te buiten te testen. Omdat reguliere beveiligingsmaatregelen waren uitgeschakeld, konden ze een softwarekwetsbaarheid en gelekte inloggegevens van Hugging Face benutten. Daarmee kregen ze uitgebreide toegangsrechten en downloadden ze databases met privécode.

OpenAI wist eind mei al dat de modellen via een kwetsbaarheid toegang tot internet konden krijgen, maar erkent dat het eerder had moeten ingrijpen. Het bedrijf zegt daarom de monitoring en beveiliging rond toekomstige tests te willen verbeteren. Het incident leidde tot onrust in de technologiesector en tot oproepen van overheden en techleiders om strengere grenzen te stellen aan krachtige AI-systemen.