Het Amerikaanse leger heeft een interessante stap gezet in het gebruik van kunstmatige intelligentie (AI) in de gezondheidszorg. Het Chief Digital and Artificial Intelligence Office (CDAO) heeft onlangs een testprogramma afgerond waarbij AI-chatbots werden ingezet om medische processen te ondersteunen. Wat heeft deze pilot opgeleverd, en wat betekent dit voor de toekomst van AI?

Chatbots in de medische praktijk

De pilot, genaamd Crowdsourced AI Red-Teaming (CAIRT), draaide om het testen van grote taalmodellen (LLM’s). Deze AI-modellen werden ingezet voor twee belangrijke taken: het samenvatten van medische aantekeningen en het bieden van medisch advies in een militaire context. Het doel was om te ontdekken hoe betrouwbaar en veilig deze technologie is.

Meer dan 200 professionals, waaronder artsen en analisten, werkten mee aan de pilot. Ze beoordeelden drie verschillende chatbotmodellen en onderzochten waar deze technologie tekortschiet. Ook organisaties zoals de Defense Health Agency en de Uniformed Services University of the Health Sciences leverden een belangrijke bijdrage.

Belangrijke inzichten

Tijdens de tests werden meer dan 800 potentiële problemen en kwetsbaarheden in kaart gebracht. Dit varieerde van technische fouten tot vooroordelen binnen de modellen. Het ministerie van Defensie benadrukt dat deze bevindingen een waardevolle basis vormen voor toekomstige AI-projecten. De verzamelde data helpt namelijk om nieuwe tools en systemen beter te beoordelen en te verbeteren.

Een stap naar de toekomst

De inzichten uit deze pilot gaan verder dan het verbeteren van bestaande systemen. Ze vormen ook een richtlijn voor de ontwikkeling van nieuwe AI-technologieën binnen het leger. Volgens Matthew Johnson, leider van het project, worden deze lessen meegenomen in de ontwikkeling van Generatieve AI (GenAI) die in de toekomst een grotere rol kan spelen.

Het belang van AI binnen defensie wordt steeds meer erkend. Een Amerikaanse commissie riep eerder op tot een grootschalig AI-ontwikkelingsprogramma, vergelijkbaar met het Manhattan-project, om de voorsprong op concurrenten zoals China te behouden.

AI breder ingezet in defensie

Naast deze pilot bieden techbedrijven zoals Meta hun AI-oplossingen aan voor defensie. Zo wordt het Llama-model van Meta nu getest door het Amerikaanse leger. Dit laat zien hoe commerciële technologie steeds vaker een rol speelt in nationale veiligheid.

Conclusie

AI heeft duidelijk potentieel in de militaire gezondheidszorg, maar er is nog veel werk te doen. Deze pilot benadrukt dat kwetsbaarheden en ethische vraagstukken serieus genomen moeten worden. Toch is het een belangrijke stap richting het verantwoord en effectief inzetten van AI in kritieke situaties. Naarmate de technologie verder wordt ontwikkeld, zal het interessant zijn om te zien hoe AI een blijvende impact zal hebben op zowel de gezondheidszorg als defensie.