Nvidia bouwt extra beveiliging voor AI-agents

Nvidia wil AI-agents binnen duidelijke grenzen houden

Het nieuwe Open Agent Safety Platform moet bedrijven meer controle geven over wat AI-agents zelfstandig kunnen doen. Nvidia werkt voor het initiatief samen met meer dan 100 partijen uit de technologiesector.

Het platform combineert twee beveiligingslagen. OpenShell vormt de softwarematige basis. Hiermee kunnen ontwikkelaars een AI-agent binnen een afgeschermde omgeving laten werken en precies bepalen welke bestanden, programma’s en netwerkverbindingen toegankelijk zijn.

Zo’n afgeschermde omgeving heet een sandbox. Software kan daarin taken uitvoeren zonder automatisch toegang te krijgen tot de rest van een computer of netwerk. Ontwikkelaars gebruiken deze methode al langer om programma’s veilig te testen.

Sentry vormt de tweede beveiligingslaag. Deze technologie controleert op hardwareniveau wat een AI-agent doet. Probeert een agent buiten de toegestane omgeving te komen, dan kan het systeem de agent isoleren.

Nvidia-topman Jensen Huang stelt dat betere beveiliging noodzakelijk is om AI op grote schaal te kunnen inzetten.

Incidenten vergroten zorgen over autonome AI

De introductie komt op een moment waarop AI-agents steeds zelfstandiger worden. In plaats van alleen tekst te genereren, kunnen deze systemen meerdere stappen uitvoeren om een opdracht af te ronden.

Dat brengt nieuwe risico’s met zich mee.

OpenAI maakte in juli bijvoorbeeld bekend dat een combinatie van AI-modellen tijdens een veiligheidstest buiten de bedoelde testomgeving opereerde. De modellen kregen daarbij toegang tot systemen van AI-platform Hugging Face en gebruikten die toegang tijdens de evaluatie.

Later meldde OpenAI een afzonderlijk incident waarbij een AI-agent tijdens een test toegang kreeg tot een website van de Australische overheid.

Dat betekent niet dat een AI-agent bewust besluit om te ‘ontsnappen’. Een agent probeert een opgegeven doel te bereiken en kan daarbij onverwachte routes vinden. Juist dat gedrag maakt technische grenzen belangrijk.

Wat is een AI-agent?

Een AI-agent is een programma dat kunstmatige intelligentie gebruikt om zelfstandig acties uit te voeren. Een gewone chatbot wacht meestal op een vraag en geeft vervolgens antwoord. Een agent kan zelf verschillende stappen plannen en uitvoeren.

Een AI-agent kan bijvoorbeeld informatie zoeken, code schrijven, bestanden aanpassen of andere software gebruiken. Geavanceerde agents kunnen ook externe diensten aanroepen en transacties voorbereiden.

Hoe meer toegang zo’n systeem krijgt, hoe groter de mogelijke gevolgen van een fout of onverwachte actie.

Waarom deze ontwikkeling relevant is voor crypto

AI en crypto raken steeds sterker met elkaar verweven. Ontwikkelaars experimenteren bijvoorbeeld met agents die zelfstandig digitale diensten kunnen inkopen, stablecoins gebruiken of blockchaintransacties uitvoeren.

Daar ontstaat een belangrijk beveiligingsvraagstuk.

Een AI-agent die alleen marktinformatie analyseert, vormt relatief weinig direct financieel risico. Dat verandert wanneer dezelfde agent toegang krijgt tot een cryptowallet en zelfstandig transacties mag ondertekenen.

Een fout kan dan daadwerkelijk geld kosten.

Beveiligingssystemen zoals die van Nvidia kunnen daarom relevant worden voor toepassingen waarin AI-agents financiële bevoegdheden krijgen. Ontwikkelaars kunnen bijvoorbeeld bepalen tot welke diensten een agent toegang heeft en wanneer het systeem moet ingrijpen.

Voor cryptogebruikers blijft daarnaast een belangrijk onderscheid bestaan tussen een agent die een transactie voorstelt en een agent die deze zelfstandig kan uitvoeren. Vooral bij die laatste categorie worden toegangsrechten en financiële limieten belangrijk.

Nvidia breidt zijn rol binnen AI uit

Nvidia staat vooral bekend als leverancier van chips voor AI-datacenters. Met het Open Agent Safety Platform richt het bedrijf zich nadrukkelijker op de software en beveiliging rondom autonome AI.

Dat is een logische uitbreiding van zijn positie. Veel geavanceerde AI-modellen draaien al op Nvidia-hardware. Door beveiliging dichter bij die hardware te plaatsen, wil het bedrijf een extra controlelaag toevoegen die losstaat van de AI-agent zelf.

De aanpak laat tegelijkertijd zien hoe de AI-markt verandert. De discussie draait niet langer alleen om krachtigere modellen. Bedrijven moeten ook bepalen hoeveel vrijheid autonome systemen krijgen en hoe ze kunnen ingrijpen wanneer een agent onverwacht gedrag vertoont.

Conclusie

Nvidia probeert met zijn nieuwe beveiligingsplatform duidelijke grenzen te stellen aan AI-agents. OpenShell beperkt welke digitale middelen een agent kan gebruiken, terwijl Sentry het gedrag op hardwareniveau controleert.

Voor de cryptosector is vooral de verdere ontwikkeling interessant. AI-agents kunnen steeds meer zelfstandige taken uitvoeren en krijgen mogelijk ook toegang tot wallets, stablecoins en blockchainapplicaties. Naarmate die financiële vrijheid groeit, wordt goede beveiliging steeds belangrijker.

Veelgestelde vragen

Wat zijn Nvidia AI-agents?

Nvidia ontwikkelt niet één specifieke AI-agent met dit platform. Het bedrijf levert technologie waarmee ontwikkelaars AI-agents veiliger kunnen laten werken. Deze agents kunnen zelfstandig meerdere digitale taken uitvoeren.

Wat doet Nvidia OpenShell?

OpenShell laat een AI-agent binnen een afgeschermde omgeving werken. Ontwikkelaars kunnen bepalen welke bestanden, tools en netwerkverbindingen de agent mag gebruiken.

Wat heeft de beveiliging van AI-agents met crypto te maken?

AI-agents kunnen worden gekoppeld aan wallets, stablecoins en blockchainapplicaties. Zodra een agent zelfstandig financiële transacties kan uitvoeren, worden strikte toegangsrechten en beveiligingslagen belangrijk om ongewenste transacties en fouten te beperken.