Op Reddit is een rel ontstaan rond een geheim onderzoek van de Universiteit van Zürich. Onderzoekers gebruikten maandenlang AI-accounts om meningen van gebruikers op het populaire forum r/changemyview te beïnvloeden — zonder dat iemand het wist.

De AI-gestuurde profielen deden zich voor als echte mensen, bijvoorbeeld als slachtoffer van seksueel geweld of als counselor voor trauma’s. De reacties werden slim afgestemd op de gebruikers, gebaseerd op hun eerdere Reddit-geschiedenis, zoals politieke voorkeur, leeftijd en geslacht.

In vier maanden tijd plaatsten deze AI-accounts 1.783 berichten, waarvan 137 keer iemand zijn of haar mening daadwerkelijk bijstelde (delta’s genoemd op het platform). Volgens de onderzoekers bewijst dit hoe overtuigend grote taalmodellen (LLM’s) inmiddels zijn — en dat ze zelfs ervaren internetgebruikers kunnen misleiden.

De moderators van r/changemyview reageren fel.

“Ons forum draait om eerlijke gesprekken tussen mensen. Dit onderzoek is tegen alles waar we voor staan.”

Reddit zelf heeft alle betrokken accounts inmiddels verbannen en overweegt juridische stappen tegen de Universiteit van Zürich.

Hoewel de universiteit toegeeft dat de communicatie beter had gemoeten, verdedigt ze de studie. De ethische commissie stelt dat de inzichten belangrijker zijn dan de geringe risico’s. Toch kreeg de hoofdonderzoeker een officiële waarschuwing.

Opvallend: ondanks 3,8 miljoen leden ontdekte niemand dat AI actief was op het forum. De onderzoekers waarschuwen dat deze onzichtbare invloed nu al makkelijk te misbruiken is — niet voor onschuldige studies, maar op grote schaal en met kwaadaardige bedoelingen.

De vraag die blijft hangen: hoe herken je straks nog wat echt is, als AI moeiteloos door de mazen glipt?