Google blokkeert hackers die AI willen misbruiken

Hackers proberen Gemini te misbruiken

AI opent nieuwe mogelijkheden, maar brengt ook risico’s met zich mee. Cybercriminelen en staatsgesteunde hackers zoeken manieren om AI-modellen zoals Gemini te gebruiken voor digitale aanvallen. Google’s afdeling voor dreigingsanalyse onderzocht dit en ontdekte dat verschillende hackgroepen probeerden om Gemini te “jailbreaken” – een methode om AI verboden taken te laten uitvoeren.

Gelukkig waren deze pogingen onsuccesvol. Hackers probeerden eenvoudige trucs zoals het anders formuleren van opdrachten of herhaaldelijk dezelfde vraag stellen, maar de ingebouwde veiligheidsmaatregelen hielden stand.

Hoe overheidsgerichte hackers AI inzetten

Hoewel het niet lukte om Gemini te kraken, probeerden staatsgesteunde hackers het AI-model op andere manieren te gebruiken:

• Informatieverzameling – Hackers onderzochten kwetsbaarheden in systemen en verzamelden gegevens over hun doelwitten.
• Schrijven van code – Ze probeerden Gemini te laten helpen bij het ontwikkelen van schadelijke software.
• Digitale spionage – AI werd gebruikt om dieper toegang te krijgen tot netwerken en om detectie te ontwijken.

Volgens Google richtten vooral hackers uit Iran, China en Noord-Korea zich op deze tactieken.

• Iran – Iraanse hackers gebruikten AI om phishingmails te verfijnen en cybersecurity-experts en defensieorganisaties in kaart te brengen.
• China – Chinese hackers lieten Gemini codes testen en onderzochten manieren om beter in netwerken in te breken.
• Noord-Korea – Hackers uit Noord-Korea zetten AI in om gevoelige informatie over de Zuid-Koreaanse defensie en de cryptosector te verzamelen.

Noord-Koreaanse hackers stalen miljarden aan crypto

Noord-Koreaanse cybercriminelen richten zich al langer op de cryptowereld. In 2024 wisten ze volgens blockchain-analysebedrijf Chainalysis maar liefst $1,3 miljard aan digitale activa te stelen. Dat laat zien hoe aantrekkelijk de cryptosector is voor hackers en waarom sterke beveiliging cruciaal blijft.

AI in handen van hackers: een blijvend risico

Google’s rapport benadrukt dat AI zowel kansen als bedreigingen biedt. Tot nu toe blijkt Gemini goed bestand tegen misbruik, maar cybercriminelen blijven nieuwe manieren zoeken om AI in hun voordeel te gebruiken. Dit maakt AI-beveiliging een blijvend aandachtspunt, vooral in de cryptowereld waar veiligheid essentieel is.