In the last couple of months, Pakhuis de Zwijger introduced its new series Designing Technology for All (DTFA) inspired by its predecessor project Designing Cities for All, that started in 2021. In a world increasingly shaped by artificial intelligence and big data, questions of fairness, inclusivity, and ethical responsibility are more urgent than ever. Our new series, Designing Technology for All, seeks to explore these themes. We kicked off this series through a collaboration with Myrthe Blösser and Paulina von Stackelberg, co-founders of FemData, with whom we aimed to unpack the hidden biases in data, interrogate the power dynamics behind AI systems and explore policies that shape the future of technology.

By Faezeh Mohammadi and Giovanni Quak Matatula for Pakhuis de Zwijger on May 22, 2025

Welkom bij een nieuwe aflevering van AIToday Live! Vandaag hebben we Robin Pocornie als speciale gast. Robin deelt haar ervaringen met discriminatie in online examens en vertelt over haar strijd voor verandering.

From YouTube on July 10, 2024

We duiken in de wereld van kunst en technologie tijdens de Public Spaces Conference 2024. Randal spreekt met Hans de Zwart, voormalig directeur van Bits of Freedom, en visionair storyteller Karen Palmer. Samen verkennen ze de impact van AI op de maatschappij, de rol van kunst bij het belichten van technologische kwesties, en hoe mixed reality ervaringen ons bewust kunnen maken van de gevolgen van onze acties.

By Hans de Zwart, Karen Palmer, and Randal Peelen for Met Nerds om Tafel on June 12, 2024

Docenten moeten stoppen met het gebruik van antiplagiaatsoftware om het werk van studenten te controleren. Vooral studenten die de taal minder goed beheersen zijn daar de dupe van.

By Hans de Zwart for Volkskrant on April 4, 2024

Vorige week verwelkomde Dounia Maakor, AI-ethicus en data scientist Oumaima Hajri in Suhoor Stories. De uitzending stond in het teken van kunstmatige intelligentie (AI) en discriminatie, een onderwerp dat steeds urgenter wordt in onze samenleving. Hajri deelde inzichten over algoritmen en hun impact op racisme en discriminatie.

By Dounia Maakor and Oumaima Hajri for NPO Radio 1 on April 2, 2024

Hogescholen en universiteiten blijven tentamensoftware Proctorio gebruiken, ondanks zorgen over discriminatie. Dat blijkt uit een rondgang van RTL Nieuws langs onderwijsinstellingen die het programma hebben ingezet. Acht van de twaalf nemen er geen afstand van. Het College voor de Rechten van de Mens en een stichting die hun zorgen uitspraken over discriminatie, reageren teleurgesteld: “Onbegrijpelijk en roekeloos.”

By Naomi Appelman and Stan Hulsen for RTL Nieuws on February 2, 2024

Het registreren van etniciteit is in Nederland bij wet verboden. Maar het verzamelen van gerelateerde kenmerken, zoals land van herkomst, mag wel. Met als gevolg dat raciale data steeds weer een rol spelen in allerlei discriminatie-affaires, waaronder het toeslagenschandaal. Dit maakt het verleidelijk om tegen dataverzameling te zijn, maar zouden we het ook kunnen omkeren? Kunnen we raciale data ook inzetten om discriminatie en racisme te bestrijden? Lilith-onderzoeker Meike Schipper sprak met verschillende experts en zocht het uit.

By Gerwin van Schie, Jill Toh and Meike Schipper for Lilith on December 5, 2023

De VU heeft een zwarte student niet gediscrimineerd door de software van Proctorio te gebruiken bij online tentamens, oordeelt het College voor de Rechten van de Mens, maar wel bij de behandeling van haar klacht.

From Advalvas on October 18, 2023

Dutch student complained that anti-cheating software did not work due to her skin colour, but university said problems were universal.

By Tom Williams for Times Higher Education on October 18, 2023

De Vrije Universiteit Amsterdam (VU) heeft een studente niet gediscrimineerd met de tentamensoftware Proctorio. Dat oordeelt het College voor de Rechten van de Mens vandaag. Toch sluit het college niet uit dat het gebruik van de software in andere gevallen wél tot discriminatie kan leiden.

By Stan Hulsen for RTL Nieuws on October 17, 2023

AI bias is not new. Rather it is a problem that is escalating as newer AI technologies are being deployed in various parts of our lives. Who does AI discriminate against and why? Dutch student Robin Pocornie tells us why she submitted a claim against her university using an AI exam supervision system. New York-based data reporter Lam Thuy Vo points out insufficient and inadequate datasets that AI is trained on, while Berlin-based tech expert Nakeema Stefflbauer talks about systemic biases entrenched into AI design. When talking about AI chatbots like ChatGPT, Vanderbilt University’s Jules White argues that bias is rather brought out by users themselves. And with the co-founder of Racism and Technology Center in Amsterdam, Naomi Appelman, we discuss the idea of technological objectivity that persists in our society.

By Jules White, Lam Thuy Vo, Nakeema Stefflbauer, Naomi Appelman, Robin Pocornie and Samantha Johnson for YouTube on September 26, 2023

Een opmerkelijke zaak in de Verenigde Staten: een vrouw wordt gearresteerd voor beroving en diefstal van een auto. Maar de vrouw is hoogzwanger en heeft het helemaal niet gedaan. Zij komt in beeld omdat een computer haar door gezichtsherkenning eruit pikt. Zij wordt in bijzijn van haar kinderen in de boeien geslagen. Later blijkt dus: zij was het niet.

By Naomi Appelman and Rob Trip for NPO Radio 1 on August 9, 2023

Hans de Zwart is onderzoeker en docent aan de Hogeschool van Amsterdam en is een van de oprichters van het ‘Racism and Technology Center’. Hij heeft ervaring met juridische strijd met de overheid en helpt anderen deze zo goed mogelijk te voeren. Bijvoorbeeld als een zwarte student moeite heeft examens af te leggen omdat de anti-spieksoftware niet herkent dat er een mens in beeld is.

By Hans de Zwart, Randal Peelen and Ruurd Sanders for Met Nerds om Tafel on April 26, 2023

De Chinese overheid gebruikt de modernste technieken om burgers goed in de gaten te houden. Hier in Nederland omarmen we dezelfde technieken geheel vrijwillig. ‘Ik denk dat verschillen met China soms kleiner zijn dan we denken.’

By Hans de Zwart, Jialing Zhang and Nienke Schipper for Trouw on March 29, 2023

In een tijd waarin data en algoritmes ons gedrag sturen moeten we gezamenlijk op zoek naar een nieuwe rechtsopvatting, schrijft Maxim Februari.

By Maxim Februari for NRC on February 17, 2023

The secret services’ reign of confusion, rogue mayors and algorithm oversight (or not): a quick read through the most interesting developments at the intersection of human rights and technology from the Netherlands.

By Evelyn Austin for Bits of Freedom on February 2, 2023

Ophef: Software die aan gezichtsherkenning doet, kan discrimineren. Hoe zit dat bij de VU?

By Sjoerd de Jong for NRC on December 15, 2022

50 years after the birth of the Internet, the existing battles in the legal field seeking to regulate this great global space are multiple and increasingly complex. Regulation and legal times always operate much slower than the speed of technological development, and even more so in aspects as complex as the development of artificial intelligence, automatic data processing, or the impact of social networks and large platforms on society as a whole. In this roundtable we will address from different perspectives, the legal battles that are taking place in Europe around digital technologies and the role of lobbies, the challenges and risks of regulation in the field of AI and discrimination, and the main lines of action for the defense of digital rights.

By Andrea G. Rodríguez, Jill Toh and Simona Levi for YouTube on October 13, 2022

Een gesprek met Naomi Appelman over online uitsluiting en hoe grote tech-platforms fundamenteel moeten veranderen. Alleen als we die zelf gaan ontwikkelen en modereren, zo betoogt ze, creëren we ruimte voor iedereen in de digitale publieke ruimte.

By Gijs Boerwinkel, Naomi Appelman and Tonya Sudiono for Waag on November 10, 2022