Apple onder druk om AI-functie te verwijderen na verspreiden van nepnieuws
Cupertino, vrijdag, 20 december 2024.
Apple’s AI-technologie, Apple Intelligence, heeft recentelijk voor opschudding gezorgd door het verspreiden van misleidende informatie, waaronder valse berichten over de zelfmoord van een verdachte in een moordzaak en de arrestatie van een wereldleider. Deze incidenten, die werden toegeschreven aan gerenommeerde nieuwsbronnen zoals de BBC en de New York Times, hebben geleid tot klachten en eisen van organisaties zoals Reporters Without Borders om de functie volledig te verwijderen. Volgens deze organisatie zijn generatieve AI-tools zoals die van Apple nog te onvolwassen om betrouwbare informatie te bieden. De kwestie werpt een kritisch licht op de uitdagingen waarmee techbedrijven worden geconfronteerd bij het beheer van AI-systemen en de noodzaak voor nauwkeurigheid en controle in technologieën die de publieke opinie beïnvloeden.
Chronologie van de Controverse
De problemen begonnen direct na de lancering van Apple Intelligence in het Verenigd Koninkrijk op 11 december 2024 [3]. Binnen 48 uur verspreidde het systeem al onjuiste informatie [5]. Een van de meest opvallende incidenten betrof een valse melding over Luigi Mangione, een verdachte in een moordzaak bij UnitedHealthcare, waarbij ten onrechte werd gemeld dat hij zelfmoord had gepleegd [1][3]. Op 21 november 2024 volgde nog een incident waarbij het systeem onterecht meldde dat de Israëlische premier Netanyahu was gearresteerd [3].
Reacties van Getroffen Media
De BBC heeft op 18 december 2024 een formele klacht ingediend bij Apple vanwege de schade aan hun reputatie [3]. Tot op heden heeft Apple nog niet gereageerd op deze klacht [1][3]. De situatie wordt extra zorgwekkend omdat Apple Intelligence momenteel beschikbaar is op alle recente iPhones en iPads met iOS 18.1 of hoger [1].
Oproep tot Actie
Reporters Without Borders (RSF) heeft een krachtig standpunt ingenomen en eist de volledige verwijdering van de functie [1][5]. Vincent Berthier, hoofd technologie en journalistiek bij RSF, waarschuwt dat ‘AI’s waarschijnlijkheidsmachines zijn, en feiten kunnen niet worden bepaald door een dobbelsteen te gooien’ [3][5]. RSF benadrukt dat generatieve AI-diensten nog te onvolwassen zijn om betrouwbare informatie te produceren voor het publiek [1][3].
Technische Implementatie en Privacy
Ondanks de controverses heeft Apple wel stappen gezet op het gebied van privacy en gebruikerscontrole. De recente update bevat bijvoorbeeld een ChatGPT-integratie via Siri, waarbij expliciet toestemming wordt gevraagd voordat verzoeken worden doorgestuurd en waarbij geen gegevens worden opgeslagen [1]. Gebruikers die problemen ervaren met de functie kunnen deze uitschakelen [2], hoewel sommigen melden dat ze moeite hebben met het verwijderen van de gerelateerde bestanden [2][4].