Asielbeleid Sinds enige tijd blijkt de IND twee AI-systemen te gebruiken waarmee medewerkers asielaanvragen vlugger kunnen afhandelen. Dat kan inderdaad tijdswinst opleveren, maar ook risico’s, zeggen experts. „We weten dat AI geregeld de verkeerde conclusies trekt.”
De afdeling van het IND op het asielcomplex in Ter Apel.
Om asielaanvragen sneller te kunnen behandelen, gebruiken medewerkers van de Immigratie- en Naturalisatiedienst (IND) sinds kort twee nieuwe hulpjes: Robin en ChatIND. Deze AI-systemen moeten medewerkers een deel van het werk uit handen nemen. Zo’n 230 IND’ers blijken al driekwart jaar met beide te werken, zonder dat de dienst het bestaan van de chatbots heeft aangemeld bij het landelijk register voor AI-systemen. Iets wat de dienst volgens de eigen ‘AI-principes’ wel had moeten doen.
Dat blijkt uit interne stukken in bezit van NRC, waarin Robin wordt geïntroduceerd als een assistent „die je vragen kunt stellen of opdrachten geven, net zoals je dat bij een collega zou doen”. Je kunt ermee „brainstormen” en teksten laten „opstellen”. Zo’n AI-hulp levert niet alleen „gemak en tijdwinst op, maar ook kwaliteit”: door het programma kunnen IND’ers „consistenter” werken. De immigratiedienst bevestigt dat de AI-assistenten worden gebruikt, zonder dat hier ruchtbaarheid aan is gegeven.
IND’ers mogen de AI-assistenten niet gebruiken voor besluiten over asielaanvragen, zegt de woordvoerder. Wél kunnen ze worden ingezet bij een deel van het bijbehorende ‘voorwerk’. Zo mag Robin „jurisprudentie” uitpluizen, beleid „opzoeken” en mogen medewerkers Robin „vragen stellen” over dat beleid. ChatIND kan méér: lange documenten samenvatten, teksten vertalen of interviews en onderzoeksstukken „analyseren”.
AI-hulpjes kunnen aanzienlijk veel tijd besparen, zegt rechtspsycholoog Tanja van Veldhuizen van de VU Amsterdam, die promoveerde op het werk van de IND. „Hoor- en beslismedewerkers zijn veel tijd kwijt aan het toetsen van asielverhalen. Stel dat iemand zegt gevlucht te zijn na een specifieke aanslag op de markt, dan probeer je te controleren of die aanslag inderdaad toen heeft plaatsgevonden.” Zulke informatie is terug te vinden in dikke overheidsrapporten. „Maar het kan een tijd duren voordat je alle relevante informatie hebt gevonden. Met AI zal het sneller zoeken zijn.”
Wel is deze werkwijze niet zonder risico’s: „We weten dat AI geregeld verkeerde conclusies trekt uit rapporten”, zegt Van Veldhuizen.
IND-afdeling op het asielcomplex in Ter Apel.
IND’ers hebben al langer behoefte aan AI-hulpmiddelen, zo bleek begin dit jaar uit het rapport Ervaren besluitvaardigheid van de immigratiedienst. Van de vierhonderd ondervraagde hoor- en beslismedewerkers sprak „een groot aantal” de „wens uit voor een betere zoekfunctie of chatbot om makkelijker door alle informatiebronnen te zoeken”.
Vorig jaar werd Robin ontwikkeld door het ministerie van Justitie en Veiligheid om de eigen organisaties een ‘veilig’ alternatief te bieden voor generatieve AI-modellen als ChatGPT. De chatbot is vervolgens getest door de ‘Einstein Brigade’ van de IND, zoals een clubje van ‘innovatieve’ medewerkers zichzelf noemt. Daarna hebben stapsgewijs meer IND’ers toegang gekregen tot de AI-assistenten.
Het gebruik van artificiële intelligentie in het Nederlandse asielsysteem ligt gevoelig. Om te voorkomen dat asielzoekers de dupe worden van potentieel discriminerende of hardvochtige algoritmes, moeten besluiten áltijd door een mens worden genomen. Eerder bekritiseerden advocaten de IND voor het gebruik van Case Matcher, een interne zoekmachine om vergelijkbare asielzaken mee terug te vinden. Gezien die een zoekalgoritme hanteert dat mogelijk sturend werkt, vonden rechters dat de IND onvoldoende transparant was over de inzet van Case Matcher. Maar volgens een recente uitspraak valt de zoekmachine niet aan te merken als AI-systeem.
Robin en ChatGPT zijn duidelijk wél AI-systemen. Maar, anders dan Case Matcher, heeft de IND ze niet laten registreren in de Nederlandse database voor algoritmes. Ook werden ze niet gemeld aan het Europese register. Volgens de immigratiedienst is dat „niet nodig”, omdat uit een toets is gebleken dat de AI-assistenten „geen hoog risico” met zich mee zouden brengen.
Daarmee spreekt de dienst zijn eigen beleid tegen om transparant te zijn over al haar AI-gebruik. In een vrijgegeven beleidsstuk uit 2023 schrijft de IND dat het al haar algoritmesystemen, zowel met hoog als laag risico, zal publiceren. „Het is belangrijk dat we hier open over zijn, zodat burgers en media inzicht hebben in hoe wij werken”, geeft de dienst als reden. Ook op haar website schrijft de IND dat het haar AI-toepassingen registreert, „ook wanneer dat niet verplicht is”.
Ook andere Europese landen experimenteren met AI om de achterstanden in de asielketen weg te werken. Zo ligt in Duitsland een nieuwe wet over AI en migratieadministratie klaar, die onder meer bepaalt dat een medewerker een asielverhaal door AI mag laten checken aan de hand van openbare informatie op internet. En bij de Britse immigratiedienst mogen ambtenaren sinds vorig jaar een AI-assistent gebruiken om asielgehoren samen te vatten, zodat ze niet het hele dossier van een asielzoeker hoeven te lezen. Ook levert de AI-agent informatie aan uit beleidsstukken over landen, die gebruikt kan worden voor het besluit.
„We kunnen de tijd die mensen nodig hebben om beleidsnotities te doorzoeken bijna halveren”, zei de vorige Britse asielminister Angela Eagle over de AI-assistent. Volgens Britse media zou dit bij elkaar 44 jaar aan werktijd besparen. Alleen bleken de AI-samenvattingen in de pilotfase niet feilloos: zo’n één op de tien bevatte fouten, bleek uit een evaluatie.
De AI-assistenten van de IND werden nog niet geëvalueerd. Maar volgens ingewijden functioneren de robots nog niet goed: Robin geeft medewerkers die vragen stellen soms onvolledige of onjuiste antwoorden. Een woordvoerder van de IND bevestigt dat dit een probleem is. Eigenlijk is Robin „niet geschikt” voor de meeste taken, zoals het doorzoeken van beleidsdocumenten of jurisprudentie. Daarom is ChatIND ernaast ontwikkeld, zegt de woordvoerder. Met die extra beveiligde assistent mogen, in tegenstelling tot met Robin, ook vertrouwelijke gegevens van asielzoekers worden gedeeld.
„Op het eerste gezicht lijkt weinig mis met vragen stellen aan AI”, zegt Ola al Khatib, die aan de Universiteit Utrecht onderzoek doet naar het gebruik van algoritmes door overheidsorganisaties. „Ware het niet dat we uit onderzoek weten dat mensen te veel vertrouwen op wat een AI-agent tegen ze zegt. Daardoor kunnen de fouten van AI in het asielbesluit terechtkomen, ook als het besluit zelf niet door AI is geschreven.”
Dat is ook waar Wil Eikelboom, voorzitter van de Vereniging voor Asieladvocaten, bang voor is. „Ik maak me vooral zorgen over het gebruik van ChatIND. Het samenvatten en analyseren van zaakspecifieke documenten maakt allemaal deel uit van de besluitvorming, en zou dus kenbaar moeten zijn voor de betrokkenen. Maar omdat de IND niet transparant is hierover, kan de rechter het ook niet toetsen.” Eikelboom is „stomverbaasd” over dat de AI-assistenten al worden ingezet, zonder dat de advocatuur hiervan op de hoogte is gebracht. „We maken ons hier grote zorgen over.”
Hoe betrouwbaar de antwoorden van AI zijn hangt af van waarmee het model getraind is, zegt Jarik ten Cate, die aan de Universiteit Utrecht technologie in het migratierecht onderzoekt. „Bij AI is het: garbage in, garbage out. Als een systeem is getraind met een dataset met vooroordelen, komen die er ook weer uit. Daarom moet de IND exact kunnen uitleggen met welke data de systemen werden getraind, en hoe ze precies werken. Als je AI al inzet, moet het heel transparant gebeuren. Anders wordt het een black box.”
De IND zegt haar AI-agenten niet zelf te trainen. Wie dat wel doet, wordt niet vermeld. Wel dat ze worden getraind met „bestaande taalmodellen”. Om te voorkomen dat medewerkers Robin en ChatIND tóch gebruiken om asielbesluiten op te stellen, laat de IND ze „instemmen” met een set gebruiksvoorwaarden in een e-mail, zegt een woordvoerder. „Daarnaast krijgen ze het advies om de e-learning AI-geletterdheid te volgen.”
Bij Google kan je nu zelf aangeven welke nieuwsbronnen jij vaker wil zien in je zoekresultaten.Meer informatie