AI: De Beschermer van Democratie tegen Nepnieuws
Amsterdam, woensdag, 1 januari 2025.
In 2024 werden verkiezingen gehouden in maar liefst 70 landen, waarbij AI een cruciale rol speelde in het bestrijden van nepnieuws en het beschermen van de integriteit van de democratische processen. Hoewel er grote zorgen waren over AI-gegenereerde desinformatie, concludeerden onderzoekers dat er geen significante invloed was op de verkiezingsuitslagen. Het gebruik van AI-tools zorgde ervoor dat valse informatie effectief werd opgespoord en geneutraliseerd, wat essentieel was om politieke besluitvorming te beschermen. Ondanks de angst voor AI’s invloed op stemgedrag, bleken deze gevaren in 2024 ongegrond. Het onderzoek van CETaS en de UvA toonde aan dat AI’s impact op de verkiezingen minimaal was, hoewel het wel bijdroeg aan de politieke polarisatie. Met aankomende verkiezingen in 2025 en 2026 blijft de uitdaging bestaan om het vertrouwen in online informatie te behouden, temidden van de groeiende dreiging van deepfakes en AI-gedreven content.
De Realiteit van AI-Desinformatie in 2024
Het afgelopen jaar was een cruciale testperiode voor democratieën wereldwijd, met meer dan 3,7 miljard stemgerechtigden in 70 landen die naar de stembus gingen [1]. Ondanks de initiële bezorgdheid over AI-gegenereerde desinformatie, bleek de impact op verkiezingsuitslagen beperkt. Tom Dobber van de UvA en onderzoekers van het Centre of Emerging Technology and Security (CETaS) constateerden geen meetbaar effect op stemgedrag [1]. Wel zagen we innovatieve toepassingen, zoals in Pakistan waar Imran Khan deepfake-video’s gebruikte om zijn boodschap te verspreiden terwijl hij in de gevangenis zat [1].
Technologische Vooruitgang in Nepnieuwsdetectie
De strijd tegen nepnieuws heeft een belangrijke bondgenoot gevonden in nieuwe AI-systemen. Een baanbrekend voorbeeld hiervan is een meertalig AI-systeem dat is ontwikkeld voor het detecteren van nepnieuws in India, dat een indrukwekkende nauwkeurigheid van 99% behaalt met behulp van logistische regressie [2]. In India heeft de regering concrete stappen gezet door Standard Operating Procedures (SOPs) te ontwikkelen voor het aanpakken van nepnieuws [5], terwijl het Hooggerechtshof van Bombay eind 2024 IT-regels tegen nepnieuws op sociale media kritisch heeft herzien [5].
Uitdagingen voor de Toekomst
Met aanstaande verkiezingen in Australië en Canada in 2025, gevolgd door Schotland in 2026 [1], blijft waakzaamheid geboden. Zoals Sam Stockwell van CETaS waarschuwt: ‘Al die verkiezingen zijn kwetsbaar’ [1]. Een groeiende uitdaging is het onderscheid tussen legitieme en AI-gegenereerde politieke content, wat het vertrouwen in online informatie ondermijnt [1]. In Afrika heeft men hier al ervaring mee opgedaan, waar fact-checking initiatieven zoals Africa Check actief zijn in het bestrijden van desinformatie [3].