VN bespreekt risico’s van AI met OpenAI en Anthropic
De VN-Veiligheidsraad bespreekt woensdag de groeiende invloed van kunstmatige intelligentie op de internationale veiligheid. Onder anderen Sam Altman van OpenAI en Dario Amodei van Anthropic nemen naar verwachting deel. De bijeenkomst onderstreept dat AI-veiligheid niet langer alleen een onderwerp is voor technologiebedrijven en toezichthouders.
Ook Clément Delangue, CEO van Hugging Face, en AI-wetenschapper Yoshua Bengio worden bij het overleg verwacht. Bengio is medevoorzitter van het onafhankelijke wetenschappelijke AI-panel van de Verenigde Naties.
AI-veiligheid komt op de internationale agenda
Frankrijk organiseert de bijeenkomst van de VN-Veiligheidsraad. De discussie richt zich vooral op de vraag welke risico’s ontstaan wanneer AI-systemen krachtiger en zelfstandiger worden.
De Veiligheidsraad besprak kunstmatige intelligentie voor het eerst formeel in 2023. Sindsdien is de technologie snel verder ontwikkeld. Moderne AI-modellen kunnen grote hoeveelheden informatie verwerken, softwarecode schrijven en complexe opdrachten uitvoeren.
Daarmee nemen ook de zorgen toe. Overheden kijken bijvoorbeeld naar het gebruik van AI voor cyberaanvallen, desinformatie en andere toepassingen die de internationale veiligheid kunnen raken.
Een belangrijk onderwerp is menselijke controle. Naarmate AI-systemen meer taken zelfstandig uitvoeren, wordt de vraag relevanter wie verantwoordelijk blijft voor beslissingen en hoe ongewenst gedrag kan worden gestopt.
Ook Chinese AI-bedrijven doen mee
Niet alleen Amerikaanse AI-bedrijven krijgen een plaats aan tafel. Volgens Reuters hebben ook de Chinese bedrijven DeepSeek en Moonshot een uitnodiging ontvangen om een verklaring af te leggen.
DeepSeek neemt naar verwachting deel aan het overleg. Oprichter Liang Wenfeng zou zelf niet aanwezig zijn.
De deelname van Amerikaanse en Chinese bedrijven maakt duidelijk waarom internationale samenwerking rond AI ingewikkeld is. Landen ontwikkelen hun eigen regels en hebben verschillende belangen op het gebied van technologie, economie en nationale veiligheid.
De VN kan een platform bieden om daar internationale afspraken over te bespreken. De bijeenkomst betekent echter niet dat er direct nieuwe wereldwijde AI-regels komen.
Wat betekent menselijke controle over AI?
Menselijke controle betekent dat belangrijke beslissingen van een AI-systeem uiteindelijk onder toezicht van mensen blijven staan. Dat kan bijvoorbeeld betekenen dat een persoon toestemming moet geven voordat software een gevoelige actie uitvoert.
Dat wordt belangrijker bij zogenoemde AI-agents. Dit zijn AI-systemen die niet alleen een vraag beantwoorden, maar zelfstandig verschillende stappen kunnen plannen en uitvoeren.
Een agent kan bijvoorbeeld informatie verzamelen, software gebruiken en op basis daarvan een volgende actie kiezen. Als zo’n systeem toegang krijgt tot financiële diensten of digitale bezittingen, nemen ook de mogelijke gevolgen van fouten of misbruik toe.
Waarom dit relevant is voor crypto
Voor crypto-investeerders lijkt een vergadering van de VN-Veiligheidsraad over AI misschien ver weg. Toch komen AI en blockchain steeds dichter bij elkaar.
Ontwikkelaars experimenteren bijvoorbeeld met AI-agents die blockchaininformatie analyseren, wallets gebruiken of digitale betalingen uitvoeren. Hierdoor kan software steeds zelfstandiger economische handelingen verrichten.
Juist daar ontstaat een nieuwe veiligheidsvraag. Een fout antwoord van een chatbot heeft meestal beperkte financiële gevolgen. Een AI-agent met toegang tot een wallet kan daarentegen daadwerkelijk geld versturen of een transactie uitvoeren.
Blockchaintransacties zijn bovendien vaak moeilijk of niet terug te draaien. Goede beveiliging, duidelijke toegangsrechten en menselijke controle worden daardoor extra belangrijk.
Internationale afspraken worden belangrijker
AI is bij uitstek een technologie die landsgrenzen overstijgt. Een model kan in het ene land worden ontwikkeld, vanuit een ander land worden aangeboden en wereldwijd worden gebruikt.
Nationale regelgeving alleen kan daardoor niet ieder risico afdekken. Tegelijkertijd blijft het lastig om internationale afspraken te maken, omdat landen verschillende ideeën hebben over innovatie, toezicht en veiligheid.
De bijeenkomst van woensdag kan daarom vooral belangrijk zijn als volgende stap in die discussie. Met bestuurders van grote AI-bedrijven en internationale wetenschappers aan tafel krijgt de VN rechtstreeks inzicht in de ontwikkeling van de technologie en de mogelijke risico’s.
Conclusie
AI-veiligheid groeit uit tot een internationaal veiligheidsvraagstuk. Dat Sam Altman, Dario Amodei en andere prominente namen uit de AI-sector met de VN-Veiligheidsraad in gesprek gaan, laat zien hoe snel het onderwerp hoger op de politieke agenda komt.
Voor de cryptosector is vooral de ontwikkeling van autonome AI-agents relevant. Zodra AI zelfstandig wallets, betalingen en blockchainapplicaties kan gebruiken, worden beveiliging en menselijke controle belangrijker. De discussie bij de VN gaat daarom niet direct over crypto, maar kan wel invloed krijgen op technologie die steeds sterker met de sector verweven raakt.
Veelgestelde vragen
Waarom bespreekt de VN-Veiligheidsraad AI?
De Veiligheidsraad onderzoekt welke gevolgen krachtige AI-systemen kunnen hebben voor de internationale veiligheid. Daarbij gaat het onder meer om cyberrisico’s, desinformatie en het behoud van menselijke controle.
Wat is een AI-agent?
Een AI-agent is software die met behulp van kunstmatige intelligentie zelfstandig meerdere stappen kan plannen en uitvoeren. Zo’n systeem kan bijvoorbeeld informatie verzamelen, andere software gebruiken en vervolgens een actie uitvoeren.
Wat heeft AI-veiligheid met crypto te maken?
AI en blockchain raken steeds meer met elkaar verbonden. AI-agents kunnen bijvoorbeeld blockchaingegevens analyseren of toegang krijgen tot wallets en digitale betalingen. Daardoor worden beveiliging en controle belangrijker zodra AI zelfstandig financiële handelingen kan uitvoeren.
