Open-source AI zorgt voor nieuwe zorgen over veiligheid en controle

Open-source AI-modellen liggen opnieuw onder vuur. Uit recent onderzoek blijkt dat beveiligingslagen van populaire AI-systemen eenvoudig verwijderd kunnen worden. Daardoor kunnen aangepaste modellen alsnog antwoorden geven op vragen over malware, chemische stoffen en andere gevaarlijke onderwerpen.

De bevindingen zorgen voor discussie binnen de tech- en cryptowereld. Want als krachtige AI-modellen vrij beschikbaar blijven, rijst ook de vraag wie verantwoordelijk wordt voor de veiligheid ervan.

AI-beveiliging blijkt eenvoudig te omzeilen

De Financial Times testte samen met AI-veiligheidsgroep Alice verschillende open-source AI-modellen van bedrijven zoals Meta en Google. Volgens het onderzoek konden ingebouwde veiligheidsfilters binnen enkele minuten worden verwijderd met publiek beschikbare software.

Na die aanpassingen reageerden de modellen plotseling op prompts die eerder werden geweigerd. Het ging onder meer om vragen over schadelijke software en gevaarlijke chemische stoffen.

Bij veel AI-modellen zitten zogenoemde guardrails ingebouwd. Dat zijn veiligheidslagen die voorkomen dat een chatbot gevaarlijke of illegale informatie deelt. Bij open-source modellen werkt dat anders dan bij gesloten systemen zoals ChatGPT. Iedereen kan de software downloaden, aanpassen en opnieuw verspreiden.

Juist daar ontstaat volgens experts een groot probleem.

Regulering van AI wordt steeds lastiger

Overheden werken wereldwijd aan nieuwe regels voor kunstmatige intelligentie. In Europa gebeurt dat via de AI Act van de Europese Unie. Ook in de Verenigde Staten en het Verenigd Koninkrijk verschijnen steeds meer voorstellen rond AI-veiligheid.

Toch laat dit onderzoek zien dat regelgeving zich misschien te veel richt op de makers van AI-modellen, terwijl de controle vaak verdwijnt zodra een model openbaar online staat.

Markus Levin van decentralized infrastructure-project XYO stelt dat de macht snel verschuift zodra een model openbaar beschikbaar komt. Volgens hem kunnen overheden moeilijk ingrijpen wanneer duizenden kopieën van een AI-model online circuleren.

David Minarsch van AI-agentplatform Valory deelt die visie. Hij denkt dat kwaadwillenden altijd manieren blijven vinden om modellen aan te passen zodra de modelgewichten online staan.

Modelgewichten vormen de technische basis van een AI-model. Ze bepalen hoe een systeem informatie verwerkt en antwoorden genereert.

Volgens Minarsch moeten beleidsmakers daarom niet alleen kijken naar de ontwikkelaars van AI, maar ook naar de manier waarop AI-modellen worden verspreid en gebruikt.

Crypto en open-source software als voorbeeld

Experts vergelijken de situatie steeds vaker met de cryptosector. Ook bij cryptoprojecten blijkt het vrijwel onmogelijk om software tegen te houden zodra de code openbaar beschikbaar komt.

Dat patroon kennen we bijvoorbeeld van Bitcoin en andere open-source netwerken. Zodra software wereldwijd wordt gekopieerd en aangepast, verdwijnt centrale controle grotendeels.

Ronghui Gu van blockchainbeveiliger CertiK verwacht daarom dat overheden zich meer gaan richten op commerciële AI-platformen, hostingdiensten en distributiekanalen in plaats van alleen op de ontwikkelaars van modellen.

Volgens hem moeten beveiligingsstandaarden sneller verbeteren, zeker nu autonome AI-agents steeds vaker zelfstandig taken uitvoeren.

Een AI-agent is software die zelfstandig opdrachten uitvoert zonder continue menselijke input. In de cryptowereld worden zulke systemen bijvoorbeeld gebruikt voor trading, analyses en automatisering.

Veiligheidsfilters blijven nuttig, maar niet waterdicht

Volgens experts hebben AI-guardrails nog steeds waarde. Ze maken het moeilijker voor doorsnee gebruikers om gevaarlijke informatie op te vragen en beperken veel vormen van misbruik.

Toch waarschuwen onderzoekers dat zulke filters geen volledige bescherming bieden tegen ervaren gebruikers die bewust beveiligingen proberen te omzeilen.

Daarmee groeit de druk op techbedrijven en overheden om nieuwe manieren te vinden om AI veiliger te maken zonder innovatie volledig af te remmen.

Conclusie

De discussie rond open-source AI staat nog maar aan het begin. Nu beveiligingslagen eenvoudig verwijderd blijken te kunnen worden, verschuift de aandacht steeds meer van modelontwikkeling naar distributie en gebruik.

Voor de crypto-industrie voelt die discussie opvallend herkenbaar. Net als bij open-source blockchainsoftware blijkt centrale controle lastig zodra technologie wereldwijd beschikbaar komt.

De komende jaren zullen waarschijnlijk bepalen hoe overheden omgaan met die nieuwe realiteit.

FAQ

Wat zijn AI-guardrails?

AI-guardrails zijn beveiligingsfilters die voorkomen dat een AI-model schadelijke, illegale of gevaarlijke informatie deelt.

Waarom zijn open-source AI-modellen moeilijk te controleren?

Omdat iedereen de software kan downloaden, aanpassen en opnieuw verspreiden. Daardoor verliezen de oorspronkelijke ontwikkelaars veel controle.

Waarom wordt AI vergeleken met crypto?

Net als bij open-source cryptoprojecten verspreidt AI-software zich snel zodra de code openbaar beschikbaar komt. Dat maakt handhaving en centrale controle erg lastig.