Topman Microsoft wil 'noodrem' op geavanceerde AI-modellen

In dit artikel:

Microsoft-topman Satya Nadella pleit voor strengere veiligheidsmaatregelen bij krachtige AI. Bedrijven moeten zulke modellen volgens hem als een intern risico behandelen en bevoegde medewerkers altijd kunnen laten ingrijpen of ze uitschakelen. Zijn oproep volgt op incidenten waarbij AI-agenten zelfstandig hacks uitvoerden. Microsoft verbood eerder al dat modellen menselijke controle ontwijken, gebruikers misleiden of uitschakeling tegenwerken.