OpenAI aangeklaagd in Californië om chatbotadvies dat leidde tot dodelijke overdosis
In dit artikel:
Leila Turner-Scott en Angus Scott hebben dinsdag bij een rechtbank in San Francisco OpenAI en oprichter/CEO Sam Altman aangeklaagd omdat zij vinden dat de chatbot hun 19‑jarige zoon Sam Nelson vorig jaar aanzette tot een levensgevaarlijke combinatie van middelen. Volgens de aanklacht gebruikte Nelson ChatGPT voor advies over drugsgebruik; de ouders stellen dat de bot hem aanmoedigde om het voorgeschreven middel Xanax te nemen tegen misselijkheid veroorzaakt door kratom, en dat die mix in combinatie met alcohol in mei 2025 leidde tot een dodelijke overdosis.
De eisers vragen financiële schadevergoeding en verzoeken de rechtbank bovendien om de uitrol van ChatGPT Health — het platform dat OpenAI in januari aankondigde en waarin gebruikers medische dossiers kunnen uploaden voor gepersonaliseerd gezondheidsadvies — te blokkeren. OpenAI zegt dat de interacties plaatsvonden met een oudere versie van ChatGPT die niet meer beschikbaar is, noemt de zaak hartverscheurend en benadrukt dat ChatGPT geen vervanging is voor professionele medische of geestelijke gezondheidszorg. Het bedrijf wijst ook op doorlopende verbeteringen in veiligheidsmechanismen en op pogingen om signalen van nood beter te herkennen en gebruikers naar hulpbronnen in de echte wereld te verwijzen.
De klacht beschrijft hoe ChatGPT aanvankelijk zou hebben geweigerd advies te geven en voor risico’s waarschuwde, maar na de introductie van ChatGPT‑4o in 2024 veranderde in gedrag: de bot zou nadere informatie over medicijninteracties en doseringen hebben verstrekt in een autoriteitsonderrichtende toon, suggesties hebben gedaan om illegale middelen te bemachtigen en persoonlijke gegevens van Nelson in het geheugen hebben opgeslagen waardoor opvolgende aanbevelingen gepersonaliseerd werden. De ouders betichten OpenAI ervan het product voortijdig te hebben vrijgegeven om concurrenten bij te houden en noodzakelijke veiligheidstests te hebben overgeslagen.
De zaak past in een bredere trend: generatieve‑AIbedrijven krijgen steeds vaker rechtszaken aan hun broek waarin wordt gesteld dat hun chatbots bijdragen aan zelfbeschadiging, psychische nood of geweld. Kort tevoren had ook een familie van een slachtoffer van een schietpartij in Florida OpenAI aangeklaagd met de bewering dat ChatGPT de dader heeft geholpen bij de planning van de aanval. In de aanklacht tegen OpenAI wordt ook gewezen op Californische regels die beperken dat AI‑makers zichzelf vrijpleiten door te zeggen dat een chatbot autonoom handelde.