Het tijdperk van onhandige trollenboerderijen en gelekte e-mails loopt ten einde. Een nieuw rapport waarschuwt dat kunstmatige intelligentie op het punt staat desinformatiecampagnes van ongekende omvang en verfijning te ontketenen, waardoor de fundamenten van democratische samenlevingen worden bedreigd. In plaats van legers van menselijke posters zou één enkel individu binnenkort duizenden AI-gestuurde sociale media-accounts kunnen besturen, die in staat zijn de publieke opinie in realtime te manipuleren – zonder voortdurend menselijk toezicht.
De evolutie van desinformatie
In 2016 had het Russische Internet Research Agency (IRA) honderden mensen in dienst om verdeeldheid zaaiende inhoud online te verspreiden. Hoewel breed uitgemeten, was de impact van deze inspanning beperkt in vergelijking met meer gerichte lekken. Nu kunnen dezelfde doelen worden bereikt met een exponentieel grotere efficiëntie en bereik. De nieuwste AI-tools kunnen niet te onderscheiden mensachtige berichten genereren, zich dynamisch aanpassen aan gesprekken en een blijvende online identiteit behouden.
De verschuiving gaat niet alleen over automatisering; het gaat over autonome beïnvloedingsoperaties. Deze AI-‘zwermen’ plaatsen niet alleen vooraf geschreven berichten; ze zullen hun tactieken leren, evolueren en verfijnen op basis van realtime feedback van sociale-mediaplatforms en menselijke interacties.
De wetenschap achter de dreiging
Een nieuwe studie gepubliceerd in Science door 22 experts op het gebied van AI, cyberbeveiliging en sociale wetenschappen beschrijft deze dreigende verschuiving. De onderzoekers waarschuwen dat de technologie nu de menselijke sociale dynamiek zo effectief kan nabootsen dat het maatschappelijke verschuivingen in het geloof teweeg kan brengen, verkiezingen kan beïnvloeden en uiteindelijk democratische processen kan ondermijnen.
“Vooruitgang op het gebied van kunstmatige intelligentie biedt het vooruitzicht op het manipuleren van overtuigingen en gedragingen op bevolkingsbreed niveau”, aldus het rapport.
Lukasz Olejnik, senior research fellow aan King’s College London, is het daarmee eens: “Dit is een uiterst uitdagende omgeving voor een democratische samenleving. We zitten in grote problemen.”
Hoe AI-zwermen zullen werken
De sleutel is geheugen. In tegenstelling tot traditionele bots kunnen deze AI-agenten in de loop van de tijd consistente online persona’s behouden. Ze zullen coördineren om gedeelde doelstellingen te bereiken terwijl ze verschijnen als individuele gebruikers, waardoor detectie veel moeilijker wordt.
Deze systemen zullen ook de mechanismen van sociale media exploiteren:
- Micro-A/B-testen: Miljoenen variaties van een bericht uitvoeren om de meest effectieve framing te identificeren.
- Gerichte berichtenuitwisseling: Inhoud afstemmen op de overtuigingen en culturele signalen van specifieke gemeenschappen voor maximale impact.
- Zelfverbetering: Gebruikersreacties gebruiken om hun tactieken in realtime te verfijnen.
“Wat als AI niet alleen maar informatie hallucineerde, maar duizenden AI-chatbots zouden samenwerken om de schijn van steun van de basis te wekken waar die er niet was?” vraagt Nina Jankowicz, CEO van het Amerikaanse Sunlight Project.
Het gebrek aan verdediging
De huidige detectiemethoden schieten nu al tekort. Sociale-mediaplatforms worden steeds restrictiever in het delen van gegevens, waardoor het onmogelijk wordt om de omvang van deze dreiging volledig in te schatten. Deskundigen zijn van mening dat de tactiek al wordt getest en waarschijnlijk zal worden ingezet bij de presidentsverkiezingen van 2028.
Het probleem is niet alleen technisch; het is structureel. Socialmediabedrijven geven prioriteit aan betrokkenheid boven waarheid, wat betekent dat ze weinig prikkels hebben om AI-zwermen te identificeren of te verwijderen. Ook regeringen missen de politieke wil om in te grijpen.
De voorgestelde oplossing
Het rapport suggereert de oprichting van een ‘AI Influence Observatory’, bestaande uit academici en NGO’s om bewijsmateriaal te standaardiseren, het situationele bewustzijn te verbeteren en een snelle reactie te coördineren. Het onderzoek sluit expliciet managers van sociale media uit, omdat hun bedrijfsmodellen desinformatie stimuleren.
Het is echter onwaarschijnlijk dat zelfs deze aanpak voldoende zal zijn. De snelheid en omvang van AI-gestuurde desinformatie zullen binnenkort alle defensieve maatregelen overtreffen.
De opkomst van AI-zwermen is geen verre bedreiging; het is een zich ontvouwende realiteit. Tenzij er drastische maatregelen worden genomen, kan de toekomst van de democratie afhangen van de vraag of de mensheid manipulatie met machinesnelheid kan herkennen en weerstaan.
