Wereldwijd Noodplan Nodig Voor AI-Risico’s, Zeggen Wetenschappers
Een groep AI-wetenschappers roept op tot wereldwijde samenwerking om mogelijke catastrofale gevolgen te voorkomen als we de controle over kunstmatige intelligentie (AI) verliezen.
Op 16 september waarschuwden deze experts dat, zonder de juiste maatregelen, het verlies van controle of kwaadwillend gebruik van AI kan leiden tot grote problemen voor de mensheid. Ze benadrukten dat er nog geen wetenschappelijke oplossingen bestaan om de gevaren van geavanceerde AI goed te beheersen.
Noodplan en toezicht
De wetenschappers roepen landen op om nationale instanties in te richten die AI-incidenten kunnen opsporen en aanpakken. Daarnaast pleiten ze voor een wereldwijd noodplan om voorbereid te zijn op extreme AI-risico’s. Op de lange termijn is er volgens hen een internationale overeenkomst nodig om de ontwikkeling van gevaarlijke AI-modellen tegen te gaan.
Deze oproep bouwt voort op eerdere besprekingen, waaronder de Internationale Dialoog over AI-Veiligheid in Venetië begin september. Professor Gillian Hadfield van Johns Hopkins University, die de verklaring op X (voorheen Twitter) deelde, vroeg zich af:
“Als er over zes maanden een probleem ontstaat met zelfverbeterende AI, wie bel je dan?”
Drie belangrijke stappen
Volgens de AI-wetenschappers is AI-veiligheid een wereldwijd goed dat internationale samenwerking vereist. Ze hebben drie belangrijke voorstellen: een noodplan voor AI-risico’s, een veiligheidsgarantie-systeem, en onafhankelijk onderzoek naar AI-veiligheid.
De verklaring is ondertekend door meer dan 30 vooraanstaande AI-experts uit onder andere de VS, Canada, China, en Groot-Brittannië. Onder hen bevinden zich verschillende Turing Award-winnaars, een prijs die vergelijkbaar is met de Nobelprijs in de informatica.
Bron: Gillian Hadfield
Noodzaak van samenwerking
De wetenschappers benadrukten dat het steeds moeilijker wordt om internationale overeenstemming te bereiken door de spanningen tussen grootmachten zoals de VS en China. Dit maakt het nog belangrijker om snel actie te ondernemen.
Eerder deze maand ondertekenden de VS, de EU en het VK het eerste bindende AI-verdrag, dat de nadruk legt op mensenrechten en verantwoording. Toch waarschuwen techbedrijven dat te strenge regels de innovatie kunnen beperken, vooral in de EU.
Conclusie
De zorgen over de risico’s van AI nemen toe. Wetenschappers waarschuwen dat er snel actie nodig is om te voorkomen dat we de controle verliezen over deze krachtige technologie. Internationale samenwerking is essentieel om deze uitdagingen aan te pakken.
