Waarschuwing voor Privacyrisico's van AI-agenten
Austin, zaterdag, 8 maart 2025.
Tijdens de SXSW-conferentie waarschuwde Meredith Whittaker, president van Signal, voor de aanzienlijke privacy- en veiligheidsrisico’s die verbonden zijn aan agentische AI. Deze geavanceerde systemen kunnen gebruikersinformatie verzamelen en verwerken met toegangsniveaus die diep in persoonlijke gegevens kunnen doordringen. Whittaker benadrukte de mogelijkheid dat dergelijke AI-agenten diepgaande toegang krijgen tot browsers, creditcardgegevens en meer, wat een bedreiging vormt voor de privacy. Het probleem ligt volgens Whittaker in de hype rond deze technologieën die de scheiding tussen verschillende diensten dreigt te vervagen en zo de privacy van gebruikers in gevaar brengt. De opmerking roept op tot heroverweging van de manier waarop AI-agenten in communicatie-apps worden geïntegreerd, om te voorkomen dat deze technologie onbedoeld de privacy en veiligheid van gebruikers ondermijnt.
Fundamentele Zorgen over AI-toegang
Tijdens haar toespraak op SXSW vergeleek Whittaker het gebruik van AI-agenten met ‘het plaatsen van je hersenen in een pot’, waarbij ze wees op de vergaande toegangsrechten die deze systemen nodig hebben [1]. Deze AI-agenten zouden rootrechten vereisen om taken zoals concertkaarten boeken, agenda’s beheren en berichten versturen te kunnen uitvoeren. Een cruciaal punt van zorg is dat deze gegevensverwerking waarschijnlijk niet lokaal plaatsvindt, maar via cloudservers moet worden uitgevoerd [1].
Groeiende Investeringen en Veiligheidsuitdagingen
De zorgen komen op een moment dat de uitgaven aan informatiebeveiliging naar verwachting zullen stijgen tot $212 miljard in 2025, een toename van 15% ten opzichte van vorig jaar [2]. Deze stijging weerspiegelt de toenemende bezorgdheid over dataveiligheid in een tijd waarin bedrijven gemiddeld meer dan 250 terabyte aan data per jaar genereren [2]. Recent onderzoek toont aan dat tot 60% van de door AI-systemen verwerkte gegevens mogelijk al wordt beïnvloed door desinformatie [4].
Concrete Risico’s voor Messaging Apps
Voor beveiligde berichtendiensten zoals Signal zou integratie met AI-agenten de privacy van berichten fundamenteel ondermijnen [1]. Deze bezorgdheid wordt versterkt door recente onthullingen over georganiseerde pogingen om AI-chatbots te manipuleren met desinformatie [5]. Minister van Justitie David van Weel bevestigde afgelopen woensdag in EénVandaag dat de invloed van desinformatie op AI-systemen een groeiend probleem vormt dat serieuze aandacht vereist [5].