Category: Netherlands

Racist Technology in Action: How the municipality of Amsterdam tried to roll out a ‘fair’ fraud detection algorithm. Spoiler alert: it was a disaster

Amsterdam officials’ technosolutionist way of thinking struck once again: they believed they could build technology that would prevent fraud while protecting citizens’ rights through their “Smart Check” AI system.

Continue reading “Racist Technology in Action: How the municipality of Amsterdam tried to roll out a ‘fair’ fraud detection algorithm. Spoiler alert: it was a disaster” →

Navigeren in niemandsland

De Wetenschappelijke Adviesraad Politie (WARP) adviseert de korpschef van de politie over zeven urgente uitdagingen rondom digitalisering en AI in politiewerk.

From Wetenschappelijke Adviesraad Politie on June 5, 2025

Negen Nederlandse universiteiten doen gezamenlijk onderzoek met defensie-industrie van Israël

Nederlandse universiteiten werken met Europese subsidies aan ten minste 28 nieuwe technologieën en producten die ten goede kunnen komen aan het Israëlische leger. Volgens Europese regels is militaire inzet verboden, maar controle daarop is er niet. Voor individuele wetenschappers is het vrijwel onmogelijk uit lopende onderzoeken te stappen.

By Fernande van Tets, Leonie Coppes, and Zuza Nazaruk for Follow the Money on June 5, 2025

Amnesty report (yet again) exposes racist AI in UK police forces

Amnesty International UK’s report Automated Racism (from last February, PDF), reveals that almost three-quarters of UK police forces use discriminatory predictive policing systems that perpetuate racial profiling. At least 33 deploy AI tools that predict crime locations and profile individuals as future criminals based on biased historical data, perpetuating and entrenching racism and inequality.

Continue reading “Amnesty report (yet again) exposes racist AI in UK police forces” →

Join the (Dutch) Masterclass Net Politics!

To successfully govern our information society in the years to come, a solid understanding of technological developments is crucial. The Masterclass Net Politics is a series of meetings with speakers from Amnesty International, Bits of Freedom, Internet Society Netherlands, Open State Foundation, PublicSpaces, SetUp, Waag Futurelab, and yours truly: The Racism and Technology Center.

Continue reading “Join the (Dutch) Masterclass Net Politics!” →

Dutch Institute for Human Rights creates an evaluation framework for risk profiling and urges organisations to do more to prevent discrimination based on race and nationality

The Dutch Institute for Human Rights has published an evaluation framework for risk profiling intending to prevent discrimination based on race or nationality.

Continue reading “Dutch Institute for Human Rights creates an evaluation framework for risk profiling and urges organisations to do more to prevent discrimination based on race and nationality” →

Toetsingskader risicoprofilering – Normen tegen discriminatie op grond van ras en nationaliteit

Instanties die risicoprofilering gebruiken moeten meer doen om discriminatie op grond van ras en nationaliteit te voorkomen. Met die boodschap publiceert het College voor de Rechten van de Mens een nieuw Toetsingskader risicoprofilering. Overheidsinstanties, zoals de Belastingdienst en DUO maar ook private bedrijven zoals banken, zijn de laatste decennia steeds meer gebruik gaan maken van risicoprofilering. Risicoprofilering geeft echter grote risico’s op discriminatie. Het nieuwe Toetsingskader helpt instanties om deze discriminatie te voorkomen.

From Publicaties College voor de Rechten van de Mens on January 28, 2025

D66 wil opheldering over discriminerende antispieksoftware

D66 wil het fijne weten over Proctorio. De antispieksoftware herkende een studente niet vanwege haar donkere huidskleur. Daarop besloot ze om een klacht wegens discriminatie in te dienen bij het College voor de Rechten van de Mens. D66 wil weten hoe het kabinet ervoor gaat zorgen dat het hoger onderwijs in de toekomst geen discriminerende software of technologie gaat gebruiken. Dat blijkt uit schriftelijke vragen van Jeanet van der Laan (D66) aan de minister van Onderwijs, Cultuur en Wetenschap Robbert Dijkgraaf.

By Anton Mous for VPNGids.nl on July 19, 2022

Fragment: Zijn witwascontroles van de banken kleurenblind?

In de uitzending van 27 mei 2024 kijkt Radar naar banken die controleren op afkomst of Niet-Nederlandse achternamen. We weten uit de toeslagenaffaire dat er op die manier is geprofileerd door de Belastingdienst. Maar hoe zit dat bij financiële instellingen, zoals banken? En wat als je alleen vanwege je achternaam of je geboorteplaats geen gebruik kan maken van je betaalrekening, of zelfs je rekening wordt opgeheven?

From Radar on May 27, 2024

Gecontroleerde (oud-)studenten met uitwonendenbeurs krijgen geld terug

Het kabinet betaalt boetes en teruggevorderde studiefinanciering terug aan (oud-)studenten die de uitwonendenbeurs ontvingen. Dat doet het kabinet omdat in het selectieproces van de controles op de uitwonendenbeurs sprake was van indirecte discriminatie. Het bewijs dat bij deze controles is verkregen om te besluiten of iemand wel of niet uitwonend was, had niet gebruikt mogen worden. Dat maakt de besluiten onrechtmatig en deze worden daarom teruggedraaid, schrijft minister Bruins (Onderwijs, Cultuur en Wetenschap) aan de Tweede Kamer. Hij reserveert € 61 miljoen om de zaak recht te zetten.

From Dienst Uitvoering Onderwijs (DUO) on November 11, 2024

Fraudeaanpak DUO discriminerend en illegaal

Dienst Uitvoering Onderwijs (DUO) gebruikte een algoritme om te controleren of studenten misbruik maakten van de uitwonendenbeurs. De manier waarop DUO dat deed was discriminerend en daarom onrechtmatig, concludeert de Autoriteit Persoonsgegevens (AP) na onderzoek.

From Autoriteit Persoonsgegevens on November 11, 2024

Dutch government has to pay back 61 million euros to students who were discriminated against through DUO’s fraud profiling operation

The white and wavy offices of DUO in Groningen

We’ve written twice before about the racist impact of DUO’s student fraud detection efforts. The Dutch government has now decided to pay back all the fines and the study financing they held back for all students that were checked between 2012 and 2023.

Continue reading “Dutch government has to pay back 61 million euros to students who were discriminated against through DUO’s fraud profiling operation” →

Racist Technology in Action: Anti-money laundering efforts by Dutch banks disproportionately affect people with a non-Western migration background

A censored bank statement with a collage of eyes and magnifying glasses pasted over it.

Banks have a requirement to ‘know their customers’ and to look for money laundering and the financing of terrorism. Their vigilante efforts lead to racist outcomes.

Continue reading “Racist Technology in Action: Anti-money laundering efforts by Dutch banks disproportionately affect people with a non-Western migration background” →

Discriminatie door financiële instellingen veelvoorkomend probleem zonder gerichte maatregelen: wat gaat er mis en wat moet er gebeuren?

Eén op de elf Nederlanders (9%) vermoedt discriminatie te hebben ervaren door financiële instellingen in de afgelopen twee jaar. Onder mensen met een niet-westerse migratieachtergrond is dit met 32% drie keer zo hoog. Het bewustzijn van risico’s op discriminatie bij banken lijkt toe te nemen, maar structurele en gerichte maatregelen om discriminatie te voorkomen ontbreken. Bancaire uitsluiting is een ernstig en omvangrijk probleem maar er wordt nog te weinig tegen gedaan. Waar zit het probleem precies, en wat moet er gebeuren om risico’s op discriminatie en andere mensenrechtenschendingen effectief te verminderen?  

From College voor de Rechten van de Mens on May 27, 2024

Als je bank denkt dat je een fraudeur bent, mag je niet weten waarom

Bunq kende een klant een verhoogd frauderisico toe en bevroor zijn bankrekening. Maar de bank wil niet zeggen waarom hij werd gevlagd. Nu eist de klant in een rechtszaak dat Bunq hem tekst en uitleg geeft. Als Bunq dat mag weigeren, blijft geautomatiseerde fraudesignalering bij de banken een black box, waartegen je je niet kunt verweren. Krijgt de klant gelijk, dan moet die black box open: ‘Banken hebben nu te veel macht.’

By Jan-Hein Strop and Sebastiaan Brommersma for Follow the Money on July 27, 2024

How and why algorithms discriminate

Automated decision-making systems contain hidden discriminatory prejudices. We’ll explain the causes, possible consequences, and the reasons why existing laws do not provide sufficient protection against algorithmic discrimination.

By Pie Sombetzki for AlgorithmWatch on June 26, 2024

Students with a non-European migration background had a 3.0 times higher chance of receiving an unfounded home visit from the Dutch student grants fraud department

A schematic representation of two houses with civil servants coming to check whether students are living there.

Last year, Investico revealed how DUO, the Dutch organization for administering student grants, was using a racist algorithm to decide which students would get a home visit to check for fraudulent behaviour. The Minister of Education immediately stopped the use of the algorithm.

Continue reading “Students with a non-European migration background had a 3.0 times higher chance of receiving an unfounded home visit from the Dutch student grants fraud department” →

Dutch Ministry of Foreign Affairs dislikes the conclusions of a solid report that marks their visa process as discriminatory so buys a shoddy report saying the opposite

For more than a year now, the Dutch Ministry of Foreign Affairs has ignored advice from its experts and continued its use of discriminatory risk profiling of visa applicants.

Continue reading “Dutch Ministry of Foreign Affairs dislikes the conclusions of a solid report that marks their visa process as discriminatory so buys a shoddy report saying the opposite” →

Vervolgonderzoek bevestigt indirecte discriminatie controles uitwonendenbeurs

DUO heeft de onafhankelijke stichting Algorithm Audit vervolgonderzoek laten doen naar de manier waarop DUO tussen 2012 en 2023 controleerde of een student terecht studiefinanciering ontving voor uitwonende studenten of niet. De conclusies van het vervolgonderzoek bevestigen dat studenten met een migratieachtergrond hierbij indirect zijn gediscrimineerd.

From Dienst Uitvoering Onderwijs (DUO) on May 21, 2024

Fouten herstellen we later wel: hoe de gemeente een dubieus algoritme losliet op Rotterdammers

Het was te mooi om waar te zijn: een algoritme om fraude in de bijstand op te sporen. Ondanks waarschuwingen bleef de gemeente Rotterdam er bijna vier jaar lang in geloven. Een handjevol ambtenaren, zich onvoldoende bewust van ethische risico’s, kon jarenlang ongestoord experimenteren met de data van kwetsbare mensen.

By Romy van Dijk and Saskia Klaassen for Vers Beton on October 23, 2023

Nederlanders met algoritmes selecteren voor overheidscontrole is ‘hoogstwaarschijnlijk’ illegaal

Dat de overheid Nederlanders profileert met geheime algoritmes is ‘naar alle waarschijnlijkheid’ in strijd met de privacywet. Dat blijkt uit een advies van de landsadvocaat dat gisteren naar de Tweede Kamer is gestuurd. ‘Deze conclusies hebben in potentie vergaande impact,’ melden de staatssecretarissen van Financiën. Toch zegt de Belastingdienst niet te stoppen met de werkwijze.

By David Davidson and Jan-Hein Strop for Follow the Money on March 14, 2024

Proudly powered by WordPress | Theme: Baskerville 2 by Anders Noren.

Up ↑