Amerikaanse overheid zet rem op nieuwe AI-modellen van Anthropic

Anthropic heeft de toegang tot zijn nieuwste AI-modellen onverwacht stopgezet. Het bedrijf nam die beslissing nadat de Amerikaanse overheid een richtlijn uitvaardigde vanwege zorgen over de nationale veiligheid.

De maatregel raakt de modellen Fable 5 en Mythos 5, die pas kort geleden werden gelanceerd.

Waarom zijn de AI-modellen offline gehaald?

Volgens Anthropic ontving het bedrijf vrijdag een officieel verzoek om de toegang tot Fable 5 en Mythos 5 voor buitenlandse gebruikers te blokkeren. Dat gold ook voor buitenlandse medewerkers van het bedrijf.

Om direct aan de regels te voldoen, schakelde Anthropic de modellen volledig uit. Andere modellen, waaronder Opus 4.8, blijven gewoon beschikbaar.

Zorgen over mogelijke beveiligingslekken

De overheid gaf weinig details over de reden achter het besluit. Anthropic denkt dat de zorgen draaien om een mogelijke AI-jailbreak.

Een jailbreak is een techniek waarmee gebruikers de veiligheidsmaatregelen van een AI-model proberen te omzeilen. Daardoor kan een model opdrachten uitvoeren die normaal worden tegengehouden.

Volgens Anthropic gaat het om een zeer specifieke situatie en niet om een probleem dat breed toepasbaar is.

Anthropic is het niet eens met de beslissing

Het AI-bedrijf stelt dat er geen bewijs ligt voor een groot risico. Volgens Anthropic zou het terughalen van nieuwe modellen bij iedere mogelijke kwetsbaarheid de ontwikkeling van AI flink vertragen.

Daarom werkt het bedrijf momenteel samen met de autoriteiten om de situatie op te helderen en de toegang tot de modellen te herstellen.

Wat betekent dit voor de markt?

De zaak laat zien dat overheden steeds scherper kijken naar krachtige AI-systemen. Dat kan gevolgen hebben voor toekomstige lanceringen van nieuwe modellen, zeker wanneer ze sterke programmeer- of analysemogelijkheden bevatten.

Voor gebruikers betekent het voorlopig dat Fable 5 en Mythos 5 niet beschikbaar zijn.

Conclusie

De Amerikaanse overheid heeft Anthropic gevraagd om de toegang tot Fable 5 en Mythos 5 te stoppen vanwege veiligheidszorgen. Anthropic betwist de ernst van het probleem en probeert de modellen zo snel mogelijk weer online te krijgen. De gebeurtenis onderstreept hoe belangrijk regelgeving rond geavanceerde AI wordt.

FAQ

Wat zijn Fable 5 en Mythos 5?

Dit zijn de nieuwste AI-modellen van Anthropic, ontworpen voor geavanceerde taal- en programmeertaken.

Wat is een AI-jailbreak?

Een jailbreak is een methode waarmee iemand de ingebouwde veiligheidsregels van een AI-model probeert te omzeilen.

Zijn alle Anthropic-modellen getroffen?

Nee. Alleen Fable 5 en Mythos 5 zijn offline gehaald. Andere modellen blijven beschikbaar.