Apple Onder Druk om AI-Functie te Verwijderen na Controverse over Valse Kop
Cupertino, dinsdag, 24 december 2024.
Apple staat onder druk van Reporters Without Borders (RSF) om een generatieve AI-functie te verwijderen nadat deze een onjuiste kop produceerde die een spraakmakende moordzaak ten onrechte aan BBC News toeschreef. Dit incident, dat plaatsvond op 20 december 2024, heeft geleid tot bezorgdheid over de betrouwbaarheid van AI in de journalistiek. De BBC diende een formele klacht in, en de kwestie benadrukt de ethische uitdagingen van AI-algoritmen die nog onrijp zijn om accurate informatie te leveren. Dit is niet het eerste voorval; de AI-functie veroorzaakte eerder verwarring met een incorrecte samenvatting van een New York Times-artikel. De roep om striktere reguleringen in AI-journalistiek groeit, terwijl het publieke vertrouwen in nieuws rapportages onder druk komt te staan door dergelijke fouten.
De Groeiende Impact van AI-Fouten in Journalistiek
Het recente incident met Apple’s AI-functie past in een breder patroon van uitdagingen die de journalistieke sector ervaart met AI-technologie. Vincent Berthier, hoofd van de technologie- en journalistiekafdeling bij RSF, waarschuwt dat generatieve AI-diensten nog te onvolwassen zijn voor betrouwbare informatievoorziening [1]. Dit wordt onderstreept door een recent onderzoek dat aantoont dat 73% van de iPhone-gebruikers Apple Intelligence als ‘niet erg waardevol’ beoordeelt [3].
Eerdere Incidenten en Systematische Problemen
Het huidige incident staat niet op zichzelf. Op 21 november 2024 veroorzaakte dezelfde AI-functie al verwarring door een artikel van de New York Times verkeerd samen te vatten over Benjamin Netanyahu [1]. Deze voorvallen hebben geleid tot kritiek van RSF op de Europese AI-wet, die informatiegenererende AI’s niet classificeert als systemen met een hoog risico [1]. Dit contrasteert sterk met de algemene trend in AI-ontwikkeling, waar Y Combinator meldt dat AI-startups gemiddeld 10% per maand groeien [3].
Toekomstperspectief en Noodzakelijke Veranderingen
Experts suggereren dat kwaliteitscontrole methoden vergelijkbaar met six-sigma nodig zijn om AI-foutmarges effectief te beheren [3]. De functie, die beschikbaar is op iPhones met iOS 18.1 en nieuwere modellen [1], illustreert de spanning tussen technologische vooruitgang en journalistieke integriteit. Deze ontwikkelingen vinden plaats in een context waarin de focus verschuift van algemene AI-modellen naar meer gerichte toepassingen [3], wat mogelijk een weg vooruit biedt voor veiligere implementatie van AI in journalistiek.