Pas ontdekte neurale kenmerken in kunstmatige intelligentie (AI) kunnen een oplossing bieden voor het probleem van AI-hallucinaties. Dit zijn fouten waarbij AI-modellen verkeerde informatie genereren die niet in hun dataset staat.

Dario Amodei, medeoprichter en CEO van Anthropic, legt uit dat deze nieuwe neurale kenmerken cruciaal kunnen zijn. Tijdens een toespraak op Viva Tech Paris 2024 zei hij:

“Moderne AI-systemen hebben honderden miljoenen neuronen… We hebben 30 miljoen kenmerken in ons model gevonden, waaronder beveiligingslekken en vooroordelen tegen bepaalde groepen… We kunnen nu ingrijpen en deze veranderen.”

Het probleem met AI-hallucinaties is dat de protocollen van AI-systemen niet doorhebben wanneer de output onjuist is. Volgens Amodei kunnen de nieuwe kenmerken dit probleem oplossen.

“Het verminderen van AI-hallucinaties is een van de belangrijkste voordelen van deze ontdekking.”

Anthropic onderzoekt al hoe het veranderen van interne kenmerken het gedrag van hun AI-assistent kan verbeteren. Een specifiek kenmerk liet de AI bijvoorbeeld intens focussen op de Golden Gate Bridge. In een X-post van 23 mei zei Anthropic:

“Het feit dat we deze kenmerken kunnen vinden en wijzigen binnen Claude, geeft ons meer vertrouwen dat we beginnen te begrijpen hoe grote taalmodellen echt werken.”

Anthropic, een toonaangevend AI-bedrijf, lanceerde zijn AI-chatbot Claude in mei in Europa. Sinds 14 mei is Claude beschikbaar in verschillende Europese talen, waaronder Frans, Duits, Spaans en Italiaans, via hun webapplicatie en iOS-app.

Toekomst van AI: Talent Belangrijker dan Data

Eerder werd het gebrek aan data gezien als de grootste uitdaging voor AI-ontwikkeling. Nu zijn het echter de ontwikkelaars die de belangrijkste factor vormen. Amodei verklaarde:

“Data zal geen bottleneck zijn, omdat bedrijven nu synthetische data creëren… De vooruitgang van AI hangt vooral af van talent…”

Hoewel synthetische data veelbelovend is voor de schaalbaarheid van AI, moet er een balans blijven met echte data. Te veel synthetische data kan namelijk leiden tot minder realistische resultaten.

Sinds begin 2024 is de interesse van investeerders in de AI-industrie sterk gegroeid. Op 27 mei haalde Elon Musk’s bedrijf $6 miljard op in een Series B-financieringsronde. Deze financiering is bedoeld om hun Grok-chatbot tegen eind 2024 als concurrent van ChatGPT te positioneren.

Deze nieuwe ontdekkingen in AI bieden spannende vooruitzichten voor de toekomst van technologie. Door neurale kenmerken te begrijpen en aan te passen, kunnen we AI-systemen betrouwbaarder en nauwkeuriger maken, wat zowel de technologie als de gebruikerservaring ten goede komt.