Door haar donkere huidskleur werd ze niet herkend door gezichtsherkenningssoftware. Dit maakte haar de eerste persoon in Nederland die algoritmische discriminatie binnen het rechtssysteem kon bewijzen. Robin, nu zelf AI expert, geeft een scherpe lezing over digitale ethiek en onze maatschappelijke verantwoordelijkheid tegen de macht van big tech.
By Robin Pocornie for Noorderzon on August 16, 2028
In deze aflevering spreken we alumnus Robin Pocornie over het menselijk maken van algoritmes en bewustwording over hoe algoritmes mensen kunnen uitsluiten.
By Robin Pocornie for Spotify Creators on June 16, 2025
Amsterdam’s struggles with its welfare fraud algorithm show us the stakes of deploying AI in situations that directly affect human lives.
By Eileen Guo and Hans de Zwart for MIT Technology Review on June 17, 2025
Al vaker ging de overheid de mist in met algoritmes bedoeld om uitkeringsfraude te bestrijden. De gemeente Amsterdam wilde het allemaal anders doen, maar kwam erachter: een ethisch algoritme is een illusie.
By Hans de Zwart and Jeroen van Raalte for Trouw on June 6, 2025
This panel examines the shifting infrastructures of resistance and repression that define solidarity from Palestine to South Africa, focusing on legal and institutional frameworks, social and material infrastructures, and social justice archives.
By Jamil Fiorino-Habib, Jill Toh, Karl Moubarak, Miriyam Aouragh, and Omar Jabary Salamanca for SPUI25 on June 25, 2025
Drawing on her latest book Imagination for her keynote talk, she challenges the myth of neutral tech, introducing the notion of the “New Jim Code”—a term she coined to describe how technologies can replicate and deepen social biases in reference to the segregation-era laws and policies implemented in United States.
By Marietje Schaake, Robin Pocornie, and Ruha Benjamin for Rode Hoed on June 17, 2025
To successfully govern our information society in the years to come, a solid understanding of technological developments is crucial. The Masterclass Net Politics is a series of meetings with speakers from Amnesty International, Bits of Freedom, Internet Society Netherlands, Open State Foundation, PublicSpaces, SetUp, Waag Futurelab, and yours truly: The Racism and Technology Center.
Continue reading “Join the (Dutch) Masterclass Net Politics!”
In the last couple of months, Pakhuis de Zwijger introduced its new series Designing Technology for All (DTFA) inspired by its predecessor project Designing Cities for All, that started in 2021. In a world increasingly shaped by artificial intelligence and big data, questions of fairness, inclusivity, and ethical responsibility are more urgent than ever. Our new series, Designing Technology for All, seeks to explore these themes. We kicked off this series through a collaboration with Myrthe Blösser and Paulina von Stackelberg, co-founders of FemData, with whom we aimed to unpack the hidden biases in data, interrogate the power dynamics behind AI systems and explore policies that shape the future of technology.
By Faezeh Mohammadi and Giovanni Quak Matatula for Pakhuis de Zwijger on May 22, 2025
Welkom bij een nieuwe aflevering van AIToday Live! Vandaag hebben we Robin Pocornie als speciale gast. Robin deelt haar ervaringen met discriminatie in online examens en vertelt over haar strijd voor verandering.
From YouTube on July 10, 2024
We duiken in de wereld van kunst en technologie tijdens de Public Spaces Conference 2024. Randal spreekt met Hans de Zwart, voormalig directeur van Bits of Freedom, en visionair storyteller Karen Palmer. Samen verkennen ze de impact van AI op de maatschappij, de rol van kunst bij het belichten van technologische kwesties, en hoe mixed reality ervaringen ons bewust kunnen maken van de gevolgen van onze acties.
By Hans de Zwart, Karen Palmer, and Randal Peelen for Met Nerds om Tafel on June 12, 2024
Docenten moeten stoppen met het gebruik van antiplagiaatsoftware om het werk van studenten te controleren. Vooral studenten die de taal minder goed beheersen zijn daar de dupe van.
By Hans de Zwart for Volkskrant on April 4, 2024
Vorige week verwelkomde Dounia Maakor, AI-ethicus en data scientist Oumaima Hajri in Suhoor Stories. De uitzending stond in het teken van kunstmatige intelligentie (AI) en discriminatie, een onderwerp dat steeds urgenter wordt in onze samenleving. Hajri deelde inzichten over algoritmen en hun impact op racisme en discriminatie.
By Dounia Maakor and Oumaima Hajri for NPO Radio 1 on April 2, 2024
Hogescholen en universiteiten blijven tentamensoftware Proctorio gebruiken, ondanks zorgen over discriminatie. Dat blijkt uit een rondgang van RTL Nieuws langs onderwijsinstellingen die het programma hebben ingezet. Acht van de twaalf nemen er geen afstand van. Het College voor de Rechten van de Mens en een stichting die hun zorgen uitspraken over discriminatie, reageren teleurgesteld: “Onbegrijpelijk en roekeloos.”
By Naomi Appelman and Stan Hulsen for RTL Nieuws on February 2, 2024
Het registreren van etniciteit is in Nederland bij wet verboden. Maar het verzamelen van gerelateerde kenmerken, zoals land van herkomst, mag wel. Met als gevolg dat raciale data steeds weer een rol spelen in allerlei discriminatie-affaires, waaronder het toeslagenschandaal. Dit maakt het verleidelijk om tegen dataverzameling te zijn, maar zouden we het ook kunnen omkeren? Kunnen we raciale data ook inzetten om discriminatie en racisme te bestrijden? Lilith-onderzoeker Meike Schipper sprak met verschillende experts en zocht het uit.
By Gerwin van Schie, Jill Toh and Meike Schipper for Lilith on December 5, 2023
Vrije Universiteit Amsterdam student Robin Pocornie en Naomi Appelman, co-founder van non-profitorganisatie Racism and Technology Center, gaan met elkaar in gesprek over discriminatie binnen kunstmatige intelligentie (artificial intelligence). Wat zijn de voor- en nadelen van kunstmatige intelligentie en in hoeverre hebben we grip en hoe kunnen we discriminatie tegengaan in de snelle ontwikkelingen van technologie?
By Charisa Chotoe, Naomi Appelman and Robin Pocornie for YouTube on December 3, 2023
Dutch student complained that anti-cheating software did not work due to her skin colour, but university said problems were universal.
By Tom Williams for Times Higher Education on October 18, 2023
De VU heeft een zwarte student niet gediscrimineerd door de software van Proctorio te gebruiken bij online tentamens, oordeelt het College voor de Rechten van de Mens, maar wel bij de behandeling van haar klacht.
From Advalvas on October 18, 2023
De Vrije Universiteit heeft voldoende aangetoond dat de student niet meer problemen met inloggen had dan andere studenten.
From NOS.nl on October 17, 2023
De Vrije Universiteit Amsterdam heeft een zwarte studente niet gediscrimineerd door gebruik te maken van antispieksoftware van Proctorio.
By Anton Mous for VPNGids.nl on October 23, 2017
Student Robin Pocornie werd tijdens corona niet herkend door de anti-spieksoftware van de VU Amsterdam. Volgens Pocornie omdat de software discrimineert op huidskleur. Het College voor de Rechten van de Mens stelt nu dat daarvan geen sprake is.
By Leonie van Noort for EenVandaag on October 17, 2023
De Vrije Universiteit Amsterdam (VU) heeft een studente niet gediscrimineerd met de tentamensoftware Proctorio. Dat oordeelt het College voor de Rechten van de Mens vandaag. Toch sluit het college niet uit dat het gebruik van de software in andere gevallen wél tot discriminatie kan leiden.
By Stan Hulsen for RTL Nieuws on October 17, 2023
De Vrije Universiteit Amsterdam heeft met haar antispieksoftware een studente niet gediscrimineerd vanwege haar donkere huidskleur. Dat oordeelt het College voor de Rechten van de Mens na een klacht die de studente in juli 2022 bij het instituut had ingediend.
By Afran Groenewoud for NU.nl on October 17, 2023
Gezichten van mensen met een zwarte huidskleur worden veel minder goed herkend door tentamensoftware Proctorio, blijkt uit onderzoek van RTL Nieuws. De software, die fraude moet herkennen, zoekt bij online tentamens naar het gezicht van een student. Dat zwarte gezichten beduidend slechter worden herkend, leidt tot discriminatie, zeggen deskundigen die het onderzoek van RTL Nieuws beoordeelden.
By Stan Hulsen for RTL Nieuws on October 7, 2023
AI bias is not new. Rather it is a problem that is escalating as newer AI technologies are being deployed in various parts of our lives. Who does AI discriminate against and why? Dutch student Robin Pocornie tells us why she submitted a claim against her university using an AI exam supervision system. New York-based data reporter Lam Thuy Vo points out insufficient and inadequate datasets that AI is trained on, while Berlin-based tech expert Nakeema Stefflbauer talks about systemic biases entrenched into AI design. When talking about AI chatbots like ChatGPT, Vanderbilt University’s Jules White argues that bias is rather brought out by users themselves. And with the co-founder of Racism and Technology Center in Amsterdam, Naomi Appelman, we discuss the idea of technological objectivity that persists in our society.
By Jules White, Lam Thuy Vo, Nakeema Stefflbauer, Naomi Appelman, Robin Pocornie and Samantha Johnson for YouTube on September 26, 2023
Een opmerkelijke zaak in de Verenigde Staten: een vrouw wordt gearresteerd voor beroving en diefstal van een auto. Maar de vrouw is hoogzwanger en heeft het helemaal niet gedaan. Zij komt in beeld omdat een computer haar door gezichtsherkenning eruit pikt. Zij wordt in bijzijn van haar kinderen in de boeien geslagen. Later blijkt dus: zij was het niet.
By Naomi Appelman and Rob Trip for NPO Radio 1 on August 9, 2023
In this session, we explored how the EU Charter right to non-discrimination can be (and has been) used to fight back against discriminatory e-proctoring systems.
By Naomi Appelman and Robin Pocornie for Digital Freedom Fund on May 31, 2023
Hans de Zwart is onderzoeker en docent aan de Hogeschool van Amsterdam en is een van de oprichters van het ‘Racism and Technology Center’. Hij heeft ervaring met juridische strijd met de overheid en helpt anderen deze zo goed mogelijk te voeren. Bijvoorbeeld als een zwarte student moeite heeft examens af te leggen omdat de anti-spieksoftware niet herkent dat er een mens in beeld is.
By Hans de Zwart, Randal Peelen and Ruurd Sanders for Met Nerds om Tafel on April 26, 2023
“Het scannen van mijn studentenpas en bureau ging goed, maar bij mijn gezicht kreeg ik de melding dat de ruimte te donker was”, vertelt de 26-jarige Robin Pocornie over het maken van haar eerste examen in september 2020 met – door de Vrije Universiteit (VU) verplichte – online antispieksoftware Proctorio. Wanneer ze een lamp in haar gezicht schijnt, wordt ze wel herkend en toegelaten tot haar examens. Ze vermoedt daarom dat de software discrimineert, maar voelt zich door de VU niet gehoord als ze een klacht indient en klopt daarom aan bij Het College voor de Rechten van de Mens (CvRM). Dat gaf haar op 7 december 2022 in een tussenoordeel gelijk, waarna de VU weer met tegenbewijs kon komen. Deze zaak is een historische gebeurtenis, met alle gevolgen van dien.
By Ariela Slakhorst, Naomi Appelman and Robin Pocornie for Lilith on April 11, 2023
Mandatory face-recognition tools have repeatedly failed to identify people with darker skin tones. One Dutch student is fighting to end their use.
By Morgan Meaker and Robin Pocornie for WIRED on April 5, 2023
De Chinese overheid gebruikt de modernste technieken om burgers goed in de gaten te houden. Hier in Nederland omarmen we dezelfde technieken geheel vrijwillig. ‘Ik denk dat verschillen met China soms kleiner zijn dan we denken.’
By Hans de Zwart, Jialing Zhang and Nienke Schipper for Trouw on March 29, 2023
Het College voor de Rechten van de Mens roept burgers op om het te melden als zij last hebben van discriminerende algoritmes. Softwareprogramma’s waar belangrijke instanties gebruik van maken werken namelijk niet altijd bij mensen van kleur.
By Leonie van Noort and Robin Pocornie for EenVandaag on February 25, 2023
The current wave of reporting on the AI-bubble has one advantage: it also creates a bit of space in the media to write about how AI reflects the existing inequities in our society.
Continue reading “Work related to the Racism and Technology Center is getting media attention”
Robin Pocornie was featured in the Dutch current affairs programme EenVandaag. Professor Sennay Ghebreab and former Member of Parliament Kees Verhoeven provided expertise and commentary.
Continue reading “First Dutch citizen proves that an algorithm discriminated against her on the basis of her skin colour”
In een tijd waarin data en algoritmes ons gedrag sturen moeten we gezamenlijk op zoek naar een nieuwe rechtsopvatting, schrijft Maxim Februari.
By Maxim Februari for NRC on February 17, 2023
The secret services’ reign of confusion, rogue mayors and algorithm oversight (or not): a quick read through the most interesting developments at the intersection of human rights and technology from the Netherlands.
By Evelyn Austin for Bits of Freedom on February 2, 2023
Laat ik de vraag specificeren voor mijn vakgebied: zijn besluiten die door technologie worden genomen rechtvaardig? Verdien je de beslissing die uit de machine rolt?
Continue reading “Uit Vrij Nederland: Krijgen we wat we verdienen?”
In a roundtable on artificial intelligence in the Dutch Parliament, Quirine Eijkman spoke on behalf of the Netherlands Institute for Human Rights about Robin Pocornie’s case against the discriminatory use of Proctiorio at the VU university.
Continue reading “Dutch Institute for Human Rights speaks about Proctorio at Dutch Parliament”
Ophef: Software die aan gezichtsherkenning doet, kan discrimineren. Hoe zit dat bij de VU?
By Sjoerd de Jong for NRC on December 15, 2022
In deze aflevering gaat host Inge in gesprek met beleidsadviseur Lotje over de Digital Markets Act. Evelyn, vaste tafelgast en directeur van Bits of Freedom, dook in een lyric-site rabbit hole en vond er liedjes over wetgeving en fout gehoorde liedteksten. We bellen in met Robin Pocornie, die een klacht indiende bij het College voor de Rechten van de Mens, over racistische antispieksoftware die gebruikt wordt door haar universiteit.
By Evely Austin, Inge Wannet, Lotje Beek and Robin Pocornie for Bits of Freedom on December 16, 2022
Antispieksoftware checkt voorafgaand aan een tentamen of jij wel echt een mens bent. Maar wat als het systeem je niet herkent, omdat je een donkere huidskleur hebt? Dat overkwam student Robin Pocornie, zij stapte naar het College voor de Rechten van de Mens. Samen met Naomi Appelman van het Racism and Technology Centre, die Robin bijstond in haar zaak, vertelt ze erover.
By Naomi Appelman, Natasja Gibbs and Robin Pocornie for NPO Radio 1 on December 12, 2022
Proudly powered by WordPress | Theme: Baskerville 2 by Anders Noren.