17 juli 2024
AI en democratie
AI breekt door bij de brede bevolking. Vele mensen hebben er bewust of onbewust al gebruik van gemaakt en zijn terecht enthousiast. De meeste overheden proberen AI-onderzoek en applicaties te stimuleren. Maar hier moeten de juiste accenten gelegd worden zodat AI niet misbruikt kan worden om de democratie zelf te ondergraven. Die vrijwaren is, gelet op de politieke ontwikkelingen in Europa en ver daarbuiten, meer dan ooit van belang.
Een eerste voor de hand liggende gevaar is dat het gemakkelijker wordt om de publieke opinie te manipuleren. Geautomatiseerde trollenlegers kunnen door posts, commentaren, likes, emoji's en reposts op sociale media een perceptie van de realiteit creëren die aansluit bij hun doelstellingen. Door te beïnvloeden wat we denken dat anderen denken, zetten ze er ons toe aan onze gedachten te boetseren naar het door hen gewenste beeld. Wij zijn immers sociale dieren. We laten onze opinies afhangen van de ingeschatte opinie van anderen.
Tot voor kort deden autocratieën dat vooral in eigen land. Maar hun boodschappen op buitenlandse sociale media waren door de povere taalkwaliteit te gemakkelijk toewijsbaar aan malafide spelers om veel invloed te hebben. Die tijd is voorbij. Met generatieve AI is het poepsimpel om met een massale en overtuigende campagne op buitenlandse sociale media de gepercipieerde publieke opinie, en dus ook uw opinie, te laten verschuiven. Iran heeft 250.000 fake accounts op Twitter die continu verwijderd en opnieuw aangemaakt worden. Die zijn dankzij ChatGPT niet langer te herkennen aan het schabouwelijke Engels. Als democratische burgers feit en fictie niet meer van elkaar kunnen onderscheiden, dan daalt het wederzijdse vertrouwen, wordt de democratische coördinatie lastiger en wordt de democratie zelf zwakker.
Gezichts- en stemherkenning vormen een nog groter probleem. Omdat autocratieën zwaar investeren in digitaal toezicht, hebben ze steeds meer beeld- en geluidsfragmenten van hun burgers. Bovendien hebben ze weinig wettelijke barrières bij de ontwikkeling en het gebruik van AI. Door die vrijwel onbeperkte toegang tot rijke databestanden om hun modellen te trainen lopen Rusland en vooral China voor in de machinale herkenning van stemmen en gezichten. Ze aarzelen niet om deze technologieën te gebruiken tegen hun burgers, wat ook burgerverzet onder de waterlijn dreigt te fnuiken. Je maakt een kritische grap over de grote leider in een publiek domein, het digitale toezicht hoort wat je zegt en herkent je gezicht, en wat later klopt de politie aan de deur. Langs de nieuwe zijderoute wordt deze nieuwe technologie, en dus ook de technologische autocratie, vlot geëxporteerd.
Daar komt AI in militaire technologie in een rotvaart bovenop. Door de Russische oorlog in Oekraïne is het gebruik van AI voor oorlogsgeweld spectaculair toegenomen. AI beslist nu al mee over welke doelwitten het best aangevallen kunnen worden. Bovendien vliegen er nu al drones rond die, indien het signaal van hun piloot onderbroken wordt, zelfstandig verder vliegen, op zoek gaan naar een doelwit met slimme beeldherkenning, en dan zelfstandig overgaan tot het aanvallen van dit doelwit zonder verdere menselijke interventie. Killer robots zijn geen sciencefiction meer. Het is gewoon al de realiteit, de technologie is operationeel. Als autocratieën dit op termijn ook buiten de context van oorlog in gebruik nemen om hun eigen burgers in het gareel te houden, dan is de totale repressie niet veraf.
Tot slot is er ook de vrees dat AI tot fundamentele economische voordelen zou kunnen leiden. Als autocratieën door hun ongebreidelde toegang tot rijke data inderdaad een technologische voorsprong verwerven op dit vlak, dan zou dit ook kunnen leiden tot meer productiviteitsgroei en meer economische groei per se voor autocratieën, en dus de democratieën verder kunnen verzwakken. En daarom zitten we dus met een vervelende paradox. We willen voorzichtig te werk gaan met AI om niet in de val van de totale repressie te vallen, en we willen zo snel mogelijk vooruit gaan om autocratieën geen technologische voorsprong te geven. Een ingewikkelde evenwichtsoefening. Europa moet dringend een goed kader ontwikkelen waarbinnen de AI die we wensen kan gedijen, maar dat de uitwassen goed binnen de perken houdt. En het is ook duidelijk dat we op sociale media alleen opinies van individuele mensen mogen toelaten. De rest moet er genadeloos uit.
(Dit artikel verscheen eerder in de krant De Morgen, 9 juli 2024. Overgenomen met toestemming van de auteur.)
Meer van Koen Schoors