TNO experimenteerde met omstreden leugendetector voor grenscontroles
Het Nederlandse kennisinstituut TNO heeft samen met techbedrijf Vicarvision de mogelijkheden voor leugendetectie bij grenscontroles onderzocht. Uit grootschalig wetenschappelijk onderzoek bleek al eerder dat leugendetectie geen betrouwbare methode is.
TNO ontwikkelde in samenwerking met tech-bedrijven, en onder meer de Koninklijke Marechaussee en de Griekse kustwacht, een systeem dat probeerde om grenscontroles efficiënter te maken. Het project, dat liep tussen 2018 en 2021, werd gefinancierd door de Europese Commissie. De leugendetector was onderdeel van dit systeem, en analyseerde “microbewegingen” zoals knipperen met de ogen, blijkt uit onderzoek van Investico voor Trouw, De Groene Amsterdammer en Argos. Hiermee zou een grenswacht beter kunnen bepalen of iemand de waarheid spreekt.
Wie is migrant, wie is crimineel? EU onderzoekt AI-toepassingen voor grenstechnologie
Leugendetectie met behulp van AI mag niet zomaar gebruikt worden op Europese burgers. Vanwege de kans op mensenrechtenschendingen is het in de meeste gevallen verboden. Maar voor het opsporen van criminelen, of als het gaat om migranten en reizigers die de grens naar Europa willen oversteken is een expliciete uitzondering gemaakt in de wet.
De AI-tool, die TNO en het Nederlandse AI-bedrijf Vicarvision samen ontwikkelden, moest helpen bij het achterhalen van leugens. Het zou bestemd zijn voor risicovolle reizigers, en zoeken naar non-verbale indicaties bij mensen die ondervraagd worden door de grenswacht.
TNO en Vicarvision ontkennen dat het gaat om een leugendetector. De machine detecteert “geen leugens”, schrijft de TNO-woordvoerder in een reactie aan Investico, maar “fysieke gedragingen”. Die zouden de grenswacht helpen bij het achterhalen “van waarheden, halve waarheden en leugens”. Vicarvision benadrukt in een reactie dat dit systeem slechts diende “ter ondersteuning” van de interviewende grenswacht. Ook de Europese Commissie ontkent dat er binnen dit project een leugendetector is ontwikkeld.
Volgens hoogleraar Bruno Verschuere van de Universiteit van Amsterdam blijkt uit alles dat het wel degelijk om een leugendetector gaat. “Een leugendetector is eigenlijk een psychologische test, die probeert aan de hand van een signaal, of een techniek of een meting, het onderscheid te maken tussen waarheid en liegen.” Verschuere is hoogleraar Forensische Psychologie en doet al jarenlang onderzoek naar leugendetectie.
In het onderzoek maakten TNO en Vicarvision een analyse van gezichtsuitdrukkingen van mensen die liegen tijdens een kaartspel. Sommige spelers moesten bluffen. Zo stelden de onderzoekers vast welke lichaamsbewegingen en gezichtsuitdrukkingen erop konden wijzen dat iemand liegt. Met de ogen knipperen, naar voren en achteren leunen en een geveinsde glimlach golden als verdachte signalen. Onder meer op basis van die inzichten ontwikkelden ze de Multi-Modal Communication Analysis Tool (MMCAT). De testresultaten die iets zeggen over de effectiviteit van het instrument zijn geheim.
Dat TNO samen met Vicarvision een leugendetector bouwde, is opmerkelijk omdat een voorloper van hun onderzoeksproject in 2018 voor veel ophef zorgde onder wetenschappers en politici. Hierbij ging het om een automatische leugendetector die in tegenstelling tot MMCAT automatisch signalen voor leugens detecteerde zonder tussenkomst van een grenswacht. “Pseudowetenschappelijk beveiligingsgedoe dat geen enkele terrorist zal opsporen”, vond de Duitse Europarlementariër Patrick Breyer destijds. “Voor mensen die gestrest, nerveus of moe zijn, kan zo’n apparaat dat verdachtmakingen opwekt al snel een nachtmerrie worden.”
Ook hoogleraar Verschuere was destijds kritisch. Hij vindt het dan ook problematisch dat er opnieuw een leugendetector wordt ontwikkeld aan de hand van dit soort non-verbale signalen. “We weten inmiddels uit honderden studies dat die link heel zwak is.” Desondanks ziet Verschuere zulk onderzoek steeds opnieuw opduiken. “Dit keer is het met AI, maar in feite doen ze steeds hetzelfde maar dan in een ander jasje.”
TNO en Vicarvision zeggen het systeem niet verder ontwikkeld te hebben. Het Amsterdamse techbedrijf heeft zelfs besloten dat zijn technologie niet gebruikt mag worden voor leugendetectie en wijzigde een paar jaar na het project de bedrijfsvoorwaarden. “Ik ben heel blij dat wij geen software maken voor grenssystemen en dat overal verkopen. Ik had het heel erg gevonden als bijvoorbeeld ICE in de Verenigde Staten onze technologie zou gebruiken om mensen onterecht uit te zetten”, zegt CEO Tim den Uyl.
Wat de andere projectdeelnemers met de onderzoeksresultaten doen heeft hij niet in de hand. “De techniek is van ons”, zegt Den Uyl. “Maar ik heb geen zicht op wat de anderen met de bevindingen doen.”
De Europese Commissie financiert nog steeds onderzoek en innovatie om grenscontroles met behulp van AI en risicoprofilering efficiënter te maken. Dit is het tweede onderzoek waarvan bekend is dat het leugendetectie heeft ontwikkeld, en was onderdeel van het project met de naam Tresspass. De Commissie heeft niet gereageerd op de vraag of er sindsdien nieuw, soortgelijk onderzoek is gefinancierd. De 25 deelnemende organisaties van Tresspass ontvingen totaal bijna acht miljoen euro van de Commissie.
Luister aanstaande zaterdag om 14.00 uur op NPO Radio 1 naar de uitzending 'AI aan de buitengrens: hoe ver wil Europa gaan?'.