Anthropic waarschuwt: AI die zichzelf verbetert komt mogelijk sneller dan verwacht

De waarschuwing komt op een moment waarop AI steeds vaker wordt ingezet binnen de financiële wereld en de cryptosector. Tegelijkertijd groeit de discussie over de vraag hoeveel controle mensen straks nog hebben over steeds krachtigere AI-systemen.

AI schrijft steeds meer van zijn eigen software

Volgens Anthropic spelen mensen een steeds kleinere rol bij de ontwikkeling van nieuwe AI-modellen. Binnen het bedrijf schrijft AI-model Claude inmiddels ongeveer 80 procent van de code die uiteindelijk wordt toegevoegd aan de software van Anthropic.

Dat betekent niet dat AI volledig zelfstandig werkt, maar wel dat de technologie steeds meer taken overneemt die vroeger uitsluitend door programmeurs werden uitgevoerd.

Anthropic-onderzoekers Marina Favaro en Jack Clark zien daarin een duidelijke trend. AI-systemen kunnen inmiddels zelfstandig code schrijven, complexe opdrachten uitvoeren en andere AI-systemen aansturen om taken af te ronden. Daardoor versnelt de ontwikkeling van nieuwe modellen aanzienlijk.

Wat is zelfverbeterende AI?

Zelfverbeterende AI verwijst naar systemen die nieuwe versies van zichzelf kunnen ontwerpen en verbeteren zonder dat mensen iedere stap begeleiden.

In theorie kan een AI-model een betere opvolger ontwikkelen, waarna die opvolger opnieuw verbeteringen aanbrengt. Dat proces kan zich vervolgens blijven herhalen.

Onderzoekers noemen dit ook wel “recursive self-improvement”. Hoewel deze technologie nog niet volledig bestaat, denkt Anthropic dat de sector dichter bij dit punt staat dan veel beleidsmakers en bedrijven beseffen.

Volgens het bedrijf verdubbelt de vooruitgang van AI-modellen momenteel ongeveer iedere vier maanden. Dat ligt aanzienlijk hoger dan het tempo dat enkele jaren geleden gebruikelijk was.

Waarom maakt Anthropic zich zorgen?

De belangrijkste vraag draait niet om wat AI vandaag kan, maar om wat er gebeurt wanneer AI slimmer wordt dan de mensen die haar ontwikkelen.

Zolang programmeurs de output van AI kunnen controleren, blijft menselijke controle bestaan. Maar als AI sneller nieuwe software genereert dan mensen kunnen beoordelen, ontstaat volgens Anthropic een situatie waarin menselijke controle een knelpunt wordt.

Het bedrijf benadrukt dat dit scenario nog geen werkelijkheid is. Toch vindt Anthropic dat overheden, onderzoekers en bedrijven nu al moeten nadenken over de gevolgen.

Daarom pleiten Favaro en Clark voor meer aandacht voor AI-veiligheid en onderzoek naar manieren om geavanceerde systemen onder menselijke controle te houden.

Ook OpenAI onderzoekt de risico’s

Anthropic staat niet alleen in deze discussie. Ook OpenAI onderzoekt de risico’s van steeds krachtigere AI-modellen.

Het bedrijf werkt aan technieken die ervoor moeten zorgen dat toekomstige AI-systemen menselijke instructies blijven volgen, zelfs wanneer ze veel complexere taken kunnen uitvoeren dan vandaag.

Daarnaast verscheen deze week een open brief van verschillende AI-experts en technologieleiders. Zij riepen beleidsmakers op om strengere veiligheidsregels voor geavanceerde AI te ontwikkelen.

Volgens de ondertekenaars kunnen toekomstige modellen kennis beschikbaar maken die nu nog moeilijk toegankelijk is, waardoor nieuwe veiligheidsrisico’s ontstaan.

Wat betekent dit voor crypto?

De ontwikkelingen zijn ook relevant voor de cryptomarkt. AI-agents spelen namelijk een steeds grotere rol binnen blockchainnetwerken en digitale betalingen.

Een AI-agent is een zelfstandig werkend AI-systeem dat taken uitvoert namens een gebruiker. Denk bijvoorbeeld aan het beheren van transacties, het uitvoeren van handelsopdrachten of het afwikkelen van betalingen.

Steeds meer bedrijven experimenteren met deze technologie. Volgens cryptobedrijf Keyrock hebben AI-agents in de afgelopen twaalf maanden al voor ongeveer 73 miljoen dollar aan betalingen verwerkt via meer dan 176 miljoen transacties.

Ook Circle-topman Jeremy Allaire verwacht dat binnen enkele jaren miljarden AI-agents actief zullen zijn die namens gebruikers financiële handelingen uitvoeren.

Voor blockchainnetwerken kan dat een belangrijke ontwikkeling worden. Waar mensen vandaag transacties versturen, zouden in de toekomst steeds vaker AI-systemen onderling waarde kunnen uitwisselen via crypto-infrastructuur.

Zelfverbeterende AI kan grote impact hebben

Anthropic verwacht niet dat zelfverbeterende AI morgen werkelijkheid wordt. Toch ziet het bedrijf voldoende signalen om nu al alarm te slaan.

De combinatie van steeds krachtigere modellen, meer automatisering en een afnemende rol van menselijke programmeurs zorgt ervoor dat de ontwikkeling van AI mogelijk sneller verloopt dan veel organisaties verwachten.

Voor crypto-investeerders is dit een trend om in de gaten te houden. AI en blockchain groeien steeds dichter naar elkaar toe, waardoor doorbraken in kunstmatige intelligentie ook gevolgen kunnen hebben voor de adoptie van digitale activa en blockchainnetwerken.

FAQ

Wat is zelfverbeterende AI?

Zelfverbeterende AI is een systeem dat nieuwe en betere versies van zichzelf kan ontwikkelen zonder dat mensen iedere stap van het proces begeleiden.

Wat is een AI-agent?

Een AI-agent is een zelfstandig werkend AI-systeem dat taken uitvoert namens een gebruiker, zoals het verwerken van betalingen, uitvoeren van transacties of beheren van digitale processen.

Waarom is dit belangrijk voor crypto?

Steeds meer bedrijven onderzoeken hoe AI-agents blockchainnetwerken kunnen gebruiken voor betalingen en transacties. Daardoor kunnen AI en crypto in de komende jaren steeds nauwer met elkaar verbonden raken.