ChatGPT's lockdownmodus beperkt webfuncties en voorkomt promptinjectionaanvallen

In dit artikel:

OpenAI introduceert een Lockdown Mode voor ChatGPT die internetgerelateerde functies sterk afknijpt om gebruikers te beschermen tegen promptinjectionaanvallen. Die aanvallen werken via webpagina’s die verborgen of misleidende prompts bevatten, bijvoorbeeld in reacties of reviews, waarmee de chatbot verleid kan worden om verkeerde informatie te geven of zelfs gevoelige gegevens te lekken.

De modus, eerder in februari voor grote bedrijven uitgebracht, is sinds vorige week ook beschikbaar voor kleinere bedrijven en consumenten. Lockdown Mode richt zich op gebruikers die extra voorzichtig willen zijn bij het werken met vertrouwelijke gegevens; voor de meeste gebruikers is het niet nodig. Technisch betekent dit dat webzoeken en diepgaand online onderzoek uitgeschakeld worden, het genereren van afbeeldingen wordt beperkt, downloads van bestanden voorkomen worden en Canvas-code geen netwerktoegang meer krijgt.

OpenAI waarschuwt dat de functie niet alle risico’s wegneemt: kwaadwillende prompts in door gebruikers zelf geüploade bestanden kan ChatGPT nog steeds uitvoeren. Lockdown Mode verlaagt daarmee het aanvalsoppervlak, maar vormt geen volledige garantie tegen alle vormen van misbruik.