Nepbeelden op Sociale Media: De Verleiding van Kitschmatige AI
Leiden, zaterdag, 21 december 2024.
In de hedendaagse digitale wereld worden sociale media overspoeld met kitschmatige AI-gegenereerde beelden die als clickbait dienen. Recent onderzoek wijst uit dat deze beelden niet alleen de betrouwbaarheid van online informatie ondermijnen, maar ook het kritisch denkvermogen en de mediageletterdheid van gebruikers negatief beïnvloeden. Dit benadrukt de dringende noodzaak voor effectieve herkenningstools om de impact van deze manipulatieve content te beperken. De opkomst van dergelijke beelden roept vragen op over hoe gebruikers de echtheid van informatie kunnen onderscheiden en welke stappen genomen kunnen worden om de integriteit van sociale mediaplatforms te waarborgen. Het is een uitdaging voor zowel gebruikers als ontwikkelaars om een balans te vinden tussen technologische vooruitgang en de bescherming van authentieke informatie.
De Explosieve Groei van AI-Content
De impact van AI-gegenereerde content is in 2024 dramatisch toegenomen. Op het populaire blogplatform Medium is maar liefst 40% van de recent geplaatste content door of met behulp van chatbots geschreven [1]. Nog verontrustender is dat bij crypto-gerelateerde artikelen dit percentage oploopt tot 78%, volgens onderzoek van Pangram Labs die 274.466 Medium-posts analyseerde [1]. Deze ontwikkeling heeft geleid tot ingrijpende maatregelen: sinds mei 2024 worden posts met AI-gegenereerde tekst niet meer gepromoot en kunnen ze geen inkomsten meer genereren [1].
Het Risico van Informatie-Inteelt
Een zorgwekkende trend is de toenemende ‘informatie-inteelt’ in AI-systemen. Meer dan de helft van de AI-gegenereerde inhoud heeft kopieën in minstens drie talen, wat vooral kleinere taalgebieden schaadt [1]. Experts waarschuwen voor het risico van ‘model collapse’, waarbij AI-modellen die getraind worden met te veel AI-gegenereerde content uiteindelijk onzin gaan produceren [1]. Dit wordt treffend samengevat in het principe ‘garbage in, garbage out’ - de kwaliteit van AI-output is direct afhankelijk van de kwaliteit van het trainingsmateriaal [1].
Impact op Onderzoek en Wetenschap
De invloed van AI reikt verder dan sociale media. In 2023 werd geschat dat ongeveer 60.000 wetenschappelijke papers zijn geproduceerd door of met hulp van chatbots, wat neerkomt op 1% van het totale aantal publicaties [1]. Zweedse onderzoekers ontdekten 139 publicaties op Google Scholar die gebruik maken van chatbots, vooral bij beleidsrelevante onderwerpen zoals milieu en gezondheid [1]. Deze ontwikkeling roept vragen op over de integriteit van wetenschappelijke literatuur en de noodzaak van strengere controles.
Mediageletterdheid en Toekomstperspectief
Recent onderzoek toont aan dat de kloof tussen verschillende groepen in de samenleving groter wordt als het gaat om mediageletterdheid. Dit is vooral zichtbaar in de verschillen tussen kort- en langgeschoolden en tussen autochtonen en migranten [2]. Deze ontwikkeling onderstreept het belang van gerichte educatie en bewustwording. Het is cruciaal dat gebruikers leren omgaan met deze nieuwe realiteit, waarbij ze kritisch moeten kunnen beoordelen welke content authentiek is en welke door AI is gegenereerd [GPT].