Anthropic stelt krachtigste AI-model beschikbaar met 'vangrails'

In dit artikel:

Anthropic brengt een krachtiger AI-model uit, maar introduceert tegelijk strikte veiligheidsmaatregelen om misbruik te voorkomen. Nadat het eerdere Mythos-model kritiek kreeg omdat het heel snel kwetsbaarheden in software blootlegde, komt het bedrijf nu met Fable 5: een aangepaste versie die bij vragen over cyberbeveiliging, biologie, scheikunde of het namaken van het model automatisch terugvalt op het op een na sterkste model. Volgens Anthropic overtreft Fable 5 andere publiek beschikbare modellen op gebieden als softwareontwikkeling, wetenschappelijk onderzoek en visuele taken. Tegelijkertijd krijgt een beperkte schare cybersecurity-experts en belangrijke organisaties gecontroleerde toegang tot het onbeveiligde Mythos 5; volledige beschikbaarheid wordt geweerd uit vrees voor kwaadaardig gebruik tegen cruciale systemen. Tests tonen geen duidelijke lekken om de beschermingen volledig te omzeilen, maar een theoretische omzeiling sluit het bedrijf niet helemaal uit.