Door haar donkere huidskleur werd ze niet herkend door gezichtsherkenningssoftware. Dit maakte haar de eerste persoon in Nederland die algoritmische discriminatie binnen het rechtssysteem kon bewijzen. Robin, nu zelf AI expert, geeft een scherpe lezing over digitale ethiek en onze maatschappelijke verantwoordelijkheid tegen de macht van big tech.  

By Robin Pocornie for Noorderzon on August 16, 2028

In deze aflevering spreken we alumnus Robin Pocornie over het menselijk maken van algoritmes en bewustwording over hoe algoritmes mensen kunnen uitsluiten.

By Robin Pocornie for Spotify Creators on June 16, 2025

This panel examines the shifting infrastructures of resistance and repression that define solidarity from Palestine to South Africa, focusing on legal and institutional frameworks, social and material infrastructures, and social justice archives. 

By Jamil Fiorino-Habib, Jill Toh, Karl Moubarak, Miriyam Aouragh, and Omar Jabary Salamanca for SPUI25 on June 25, 2025

Drawing on her latest book Imagination for her keynote talk, she challenges the myth of neutral tech, introducing the notion of the “New Jim Code”—a term she coined to describe how technologies can replicate and deepen social biases in reference to the segregation-era laws and policies implemented in United States.

By Marietje Schaake, Robin Pocornie, and Ruha Benjamin for Rode Hoed on June 17, 2025

In the last couple of months, Pakhuis de Zwijger introduced its new series Designing Technology for All (DTFA) inspired by its predecessor project Designing Cities for All, that started in 2021. In a world increasingly shaped by artificial intelligence and big data, questions of fairness, inclusivity, and ethical responsibility are more urgent than ever. Our new series, Designing Technology for All, seeks to explore these themes. We kicked off this series through a collaboration with Myrthe Blösser and Paulina von Stackelberg, co-founders of FemData, with whom we aimed to unpack the hidden biases in data, interrogate the power dynamics behind AI systems and explore policies that shape the future of technology.

By Faezeh Mohammadi and Giovanni Quak Matatula for Pakhuis de Zwijger on May 22, 2025

Welkom bij een nieuwe aflevering van AIToday Live! Vandaag hebben we Robin Pocornie als speciale gast. Robin deelt haar ervaringen met discriminatie in online examens en vertelt over haar strijd voor verandering.

From YouTube on July 10, 2024

We duiken in de wereld van kunst en technologie tijdens de Public Spaces Conference 2024. Randal spreekt met Hans de Zwart, voormalig directeur van Bits of Freedom, en visionair storyteller Karen Palmer. Samen verkennen ze de impact van AI op de maatschappij, de rol van kunst bij het belichten van technologische kwesties, en hoe mixed reality ervaringen ons bewust kunnen maken van de gevolgen van onze acties.

By Hans de Zwart, Karen Palmer, and Randal Peelen for Met Nerds om Tafel on June 12, 2024

Docenten moeten stoppen met het gebruik van antiplagiaatsoftware om het werk van studenten te controleren. Vooral studenten die de taal minder goed beheersen zijn daar de dupe van.

By Hans de Zwart for Volkskrant on April 4, 2024

Vorige week verwelkomde Dounia Maakor, AI-ethicus en data scientist Oumaima Hajri in Suhoor Stories. De uitzending stond in het teken van kunstmatige intelligentie (AI) en discriminatie, een onderwerp dat steeds urgenter wordt in onze samenleving. Hajri deelde inzichten over algoritmen en hun impact op racisme en discriminatie.

By Dounia Maakor and Oumaima Hajri for NPO Radio 1 on April 2, 2024

Hogescholen en universiteiten blijven tentamensoftware Proctorio gebruiken, ondanks zorgen over discriminatie. Dat blijkt uit een rondgang van RTL Nieuws langs onderwijsinstellingen die het programma hebben ingezet. Acht van de twaalf nemen er geen afstand van. Het College voor de Rechten van de Mens en een stichting die hun zorgen uitspraken over discriminatie, reageren teleurgesteld: “Onbegrijpelijk en roekeloos.”

By Naomi Appelman and Stan Hulsen for RTL Nieuws on February 2, 2024

Het registreren van etniciteit is in Nederland bij wet verboden. Maar het verzamelen van gerelateerde kenmerken, zoals land van herkomst, mag wel. Met als gevolg dat raciale data steeds weer een rol spelen in allerlei discriminatie-affaires, waaronder het toeslagenschandaal. Dit maakt het verleidelijk om tegen dataverzameling te zijn, maar zouden we het ook kunnen omkeren? Kunnen we raciale data ook inzetten om discriminatie en racisme te bestrijden? Lilith-onderzoeker Meike Schipper sprak met verschillende experts en zocht het uit.

By Gerwin van Schie, Jill Toh and Meike Schipper for Lilith on December 5, 2023

De VU heeft een zwarte student niet gediscrimineerd door de software van Proctorio te gebruiken bij online tentamens, oordeelt het College voor de Rechten van de Mens, maar wel bij de behandeling van haar klacht.

From Advalvas on October 18, 2023

Dutch student complained that anti-cheating software did not work due to her skin colour, but university said problems were universal.

By Tom Williams for Times Higher Education on October 18, 2023

De Vrije Universiteit Amsterdam (VU) heeft een studente niet gediscrimineerd met de tentamensoftware Proctorio. Dat oordeelt het College voor de Rechten van de Mens vandaag. Toch sluit het college niet uit dat het gebruik van de software in andere gevallen wél tot discriminatie kan leiden.

By Stan Hulsen for RTL Nieuws on October 17, 2023

AI bias is not new. Rather it is a problem that is escalating as newer AI technologies are being deployed in various parts of our lives. Who does AI discriminate against and why? Dutch student Robin Pocornie tells us why she submitted a claim against her university using an AI exam supervision system. New York-based data reporter Lam Thuy Vo points out insufficient and inadequate datasets that AI is trained on, while Berlin-based tech expert Nakeema Stefflbauer talks about systemic biases entrenched into AI design. When talking about AI chatbots like ChatGPT, Vanderbilt University’s Jules White argues that bias is rather brought out by users themselves. And with the co-founder of Racism and Technology Center in Amsterdam, Naomi Appelman, we discuss the idea of technological objectivity that persists in our society.

By Jules White, Lam Thuy Vo, Nakeema Stefflbauer, Naomi Appelman, Robin Pocornie and Samantha Johnson for YouTube on September 26, 2023

Een opmerkelijke zaak in de Verenigde Staten: een vrouw wordt gearresteerd voor beroving en diefstal van een auto. Maar de vrouw is hoogzwanger en heeft het helemaal niet gedaan. Zij komt in beeld omdat een computer haar door gezichtsherkenning eruit pikt. Zij wordt in bijzijn van haar kinderen in de boeien geslagen. Later blijkt dus: zij was het niet.

By Naomi Appelman and Rob Trip for NPO Radio 1 on August 9, 2023

Hans de Zwart is onderzoeker en docent aan de Hogeschool van Amsterdam en is een van de oprichters van het ‘Racism and Technology Center’. Hij heeft ervaring met juridische strijd met de overheid en helpt anderen deze zo goed mogelijk te voeren. Bijvoorbeeld als een zwarte student moeite heeft examens af te leggen omdat de anti-spieksoftware niet herkent dat er een mens in beeld is.

By Hans de Zwart, Randal Peelen and Ruurd Sanders for Met Nerds om Tafel on April 26, 2023

De Chinese overheid gebruikt de modernste technieken om burgers goed in de gaten te houden. Hier in Nederland omarmen we dezelfde technieken geheel vrijwillig. ‘Ik denk dat verschillen met China soms kleiner zijn dan we denken.’

By Hans de Zwart, Jialing Zhang and Nienke Schipper for Trouw on March 29, 2023

In een tijd waarin data en algoritmes ons gedrag sturen moeten we gezamenlijk op zoek naar een nieuwe rechtsopvatting, schrijft Maxim Februari.

By Maxim Februari for NRC on February 17, 2023

The secret services’ reign of confusion, rogue mayors and algorithm oversight (or not): a quick read through the most interesting developments at the intersection of human rights and technology from the Netherlands.

By Evelyn Austin for Bits of Freedom on February 2, 2023

Ophef: Software die aan gezichtsherkenning doet, kan discrimineren. Hoe zit dat bij de VU?

By Sjoerd de Jong for NRC on December 15, 2022