Regering Zuid-Afrika trekt voorstel AI-regulering in vanwege fictieve bronnen

In dit artikel:

De Zuid-Afrikaanse regering heeft een wetsvoorstel voor AI-regulering ingetrokken nadat tijdens de openbare consultatie bleek dat het document fictieve bronnen bevatte. Het ontwerp, dat enkele weken geleden online werd gezet en bedoeld was om Zuid-Afrika als reguleringsleider op het Afrikaanse continent te positioneren, bevatte minstens zes niet-bestaande referenties — onder meer verzonnen wetenschappelijke papers over AI. Volgens minister voor digitale zaken Solly Malatsi ondermijnt deze fout “de integriteit en geloofwaardigheid van het ontwerpbeleid” en toont ze aan waarom waakzaam menselijk toezicht op AI noodzakelijk is. De regering wijst op het onzorgvuldig gebruik van AI bij het opstellen van de tekst en kondigt consequenties aan voor degenen die verantwoordelijk zijn voor opmaak en kwaliteitscontrole. De zaak illustreert het bredere probleem van AI‑hallucinaties: tools die overtuigend klinkende, maar verzonnen bronnen genereren wanneer hun output niet wordt geverifieerd.