Britse AI-bedrijf Faculty ontwikkelt militaire drones ondanks ethische zorgen
Londen, woensdag, 8 januari 2025.
Faculty AI, een Brits bedrijf, werkt samen met overheidsinstanties om AI-technologieën voor militaire drones te ontwikkelen. Ondanks de ethische bezwaren rond autonome wapens, benadrukt Faculty AI zijn inzet voor ethische ontwikkeling. Het bedrijf heeft nauwe banden met organisaties zoals het AI Safety Institute en werkt samen met de startup Hadean aan toepassingen zoals objectidentificatie en autonome zwermtechnologieën. Faculty AI heeft aanzienlijke overheidscontracten, waaronder met het NHS, en heeft een belangrijke rol in de AI-veiligheidsstrategie van het VK. De groeiende bezorgdheid over autonome wapensystemen heeft geleid tot oproepen van experts en politici voor regulering of een verbod. Faculty AI blijft echter benadrukken dat zijn werkzaamheden onder strikte ethische richtlijnen vallen.
Omvangrijke Overheidscontracten en Activiteiten
Faculty AI heeft een sterke positie in de Britse overheidssfeer met contracten ter waarde van minimaal £26,6 miljoen [4][7]. Het bedrijf, dat een jaarlijkse omzet van £32 miljoen rapporteert [7], is actief in verschillende sectoren waaronder gezondheidszorg en onderwijs. De samenwerking met Hadean richt zich specifiek op het ontwikkelen van AI-technologieën voor onbemande luchtvaartuigen (UAV’s), waarbij de focus ligt op objectidentificatie, bewegingstracking en autonome zwermoperaties [3][4].
Ethische Overwegingen en Veiligheidsmaatregelen
Als strategische partner van het in 2023 opgerichte AI Safety Institute (AISI) [3], benadrukt Faculty AI zijn toewijding aan ethische AI-ontwikkeling. Een woordvoerder van het bedrijf verklaart: ‘We helpen bij het ontwikkelen van nieuwe AI-modellen die onze defensiepartners helpen veiligere, robuustere oplossingen te creëren’ [3]. Hoewel het bedrijf bevestigt dat hun samenwerking met Hadean geen wapendoelstellingen omvat [4], blijven er vragen over de precieze aard van de militaire toepassingen vanwege vertrouwelijkheidsovereenkomsten [7].
Regelgeving en Internationale Context
De ontwikkelingen vinden plaats tegen de achtergrond van nieuwe regelgeving. De EU AI Act, die sinds begin 2025 van kracht is, vereist dat ook Britse bedrijven die in de EU opereren zich aan strikte AI-regels houden [4]. In 2023 heeft het House of Lords de Britse regering opgeroepen om te werken aan internationale overeenkomsten voor de regulering van dodelijke drones [3]. Deze oproep weerspiegelt de groeiende mondiale bezorgdheid over autonome wapensystemen en de noodzaak voor duidelijke ethische kaders [1].