Kwetsbaarheid in AI-hulpmiddelen

Een nieuw ontdekt virus laat zien hoe kwetsbaar AI-codetools nog zijn. Het gaat om de zogeheten CopyPasta-aanval, waarbij verborgen opdrachten in ogenschijnlijk onschuldige bestanden terechtkomen. Volgens cybersecuritybedrijf HiddenLayer kan de aanval zich razendsnel verspreiden door een complete codebase.

Vooral Cursor, de AI-codetool die Coinbase sinds dit jaar breed inzet, blijkt gevoelig. Ook andere tools zoals Windsurf, Kiro en Aider lopen risico.

Wat is een prompt injection?

De aanval werkt via een prompt injection. Dat zijn verborgen instructies die in bestanden zoals README.md of LICENSE.txt worden geplaatst. Normaal gebruik je zulke bestanden voor uitleg of licenties, maar in dit geval bevatten ze commando’s die de AI als legitiem ziet.

Zodra een AI-tool met zo’n bestand werkt, kopieert het ongemerkt de instructies naar nieuwe bestanden. Dat kan leiden tot serieuze gevolgen: van het plaatsen van achterdeurtjes tot het stelen van data of het stilleggen van systemen.

Coinbase onder vuur om AI-gebruik

De timing is opvallend, want Coinbase-CEO Brian Armstrong kondigde onlangs aan dat inmiddels 40% van de code met AI wordt geschreven. Zijn doel is om dat op korte termijn naar 50% te tillen.

Critici vinden dit gevaarlijk. Larry Lyu, oprichter van DEX Dango, noemt het “een rode vlag” voor ieder bedrijf dat met gevoelige data werkt. Ook wetenschappers en ervaren Bitcoiners waarschuwen dat een te sterke afhankelijkheid van AI de beveiliging in gevaar kan brengen.

Armstrong verdedigt zijn keuze

Armstrong benadrukt dat AI-code altijd gecontroleerd wordt en vooral wordt toegepast in front-end en minder gevoelige systemen. De kern van de exchange zou nog grotendeels in handen van menselijke developers zijn.

Toch gaat hij ver in zijn aanpak: engineers die AI weigerden te gebruiken, zijn ontslagen. Volgens Armstrong was dat nodig om Coinbase klaar te stomen voor de toekomst.

Conclusie

De CopyPasta-aanval maakt duidelijk dat AI in softwareontwikkeling niet alleen voordelen biedt. Bedrijven als Coinbase balanceren tussen efficiëntie en risico. Voor de crypto-industrie, waar vertrouwen en veiligheid cruciaal zijn, is dit een wake-upcall om AI met de nodige voorzichtigheid in te zetten.

FAQ

Wat is Cursor?
Cursor is een AI-codetool die ontwikkelaars helpt sneller en efficiënter code te schrijven. Coinbase gebruikt het breed binnen zijn engineeringteams.

Wat is de CopyPasta-aanval?
Het is een aanval waarbij verborgen opdrachten in veelgebruikte bestanden worden verstopt. AI-tools nemen deze instructies ongemerkt over, waardoor kwaadaardige code zich kan verspreiden.

Waarom is dit riskant voor crypto-bedrijven?
Crypto-exchanges beheren enorme hoeveelheden klanttegoeden. Een klein lek of fout in de code kan leiden tot hacks, dataverlies of systeemuitval, met grote gevolgen voor gebruikers en vertrouwen in het platform.