Workers in Africa have been exploited first by being paid a pittance to help make chatbots, then by having their own words become AI-ese. Plus, new AI gadgets are coming for your smartphones.
By Alex Hern for The Guardian on April 16, 2024
Workers in Africa have been exploited first by being paid a pittance to help make chatbots, then by having their own words become AI-ese. Plus, new AI gadgets are coming for your smartphones.
By Alex Hern for The Guardian on April 16, 2024
It may seem improbable at first glance to think that there might be connections between the pursuit of artificial general intelligence (AGI) and white supremacy. Yet the more you examine the question the clearer and more disturbing the links get.
By David Golumbia for David Golumbia on Medium on January 21, 2019
This is how these bosses get rich: by hiding underpaid, unrecognised human work behind the trappings of technology, says the writer and artist James Bridle.
By James Bridle for The Guardian on April 10, 2024
Docenten moeten stoppen met het gebruik van antiplagiaatsoftware om het werk van studenten te controleren. Vooral studenten die de taal minder goed beheersen zijn daar de dupe van.
By Hans de Zwart for Volkskrant on April 4, 2024
Vorige week verwelkomde Dounia Maakor, AI-ethicus en data scientist Oumaima Hajri in Suhoor Stories. De uitzending stond in het teken van kunstmatige intelligentie (AI) en discriminatie, een onderwerp dat steeds urgenter wordt in onze samenleving. Hajri deelde inzichten over algoritmen en hun impact op racisme en discriminatie.
By Dounia Maakor and Oumaima Hajri for NPO Radio 1 on April 2, 2024
Recruiters are eager to use generative AI, but a Bloomberg experiment found bias against job candidates based on their names alone.
By Davey Alba, Leon Yin, and Leonardo Nicoletti for Bloomberg on March 8, 2024
Wisconsin took down its dropout predictions after a Markup investigation. Here’s what two students we featured have to say.
By Maurice Newton and Mia Townsend for The Markup on December 21, 2023
So-called “smart” borders are just more sophisticated sites of racialized surveillance and violence. We need abolitionist tools to counter them.
By Ruha Benjamin for Inquest on February 13, 2024
Jalon Hall was featured on Google’s corporate social media accounts “for making #LifeAtGoogle more inclusive!” She says the company discriminated against her on the basis of her disability and race.
By Paresh Dave for WIRED on March 7, 2024
A loose coalition of 4,000+ founders, engineers, product marketers, community builders, investors, and other tech folks working towards Palestinian freedom. We aim to end the dehumanisation of Palestinians within the tech community, and to bring voice to those who speak up.
From Tech For Palestine
Policy not just as in the state but as a set of guidelines or how we plan for Black life.
By J. Khadijah Abdurahman and Safiya Noble for Logic on December 13, 2023
A conversation about the #PlayVicious Mastodon instance.
By Marcia X and Ra’il I’Nasah Kiam for Logic on December 13, 2023
A report on the Allegheny Family Screening Tool (pilot for predictive risk modeling in family policing) and its overestimation of utility and risk.
By Aaron Horowitz, Ana Gutierrez, Anjana Samant, Kath Xu, Marissa Gerchick, Noam Shemtov, Sophie Beiers, Tarak Shah, and Tobi Jegede for Logic on December 13, 2023
Tracing the history of Telangana’s police state and its Brahminical investments.
By Aditya Rawat, Mrinalini R, Nikita Sonavane, and Ramani Mohanakrishnan and Vikas Yadav for Logic on December 13, 2023
Opposing technology isn’t antithetical to progress.
By Tom Humberstone for MIT Technology Review on February 28, 2024
Researchers found that certain prejudices also worsened as models grew larger.
By James O’Donnell for MIT Technology Review on March 11, 2024
Black women whistleblowers not only jeopardize their professional prospects, experts say, but often face more intense backlash.
By Ese Olumhense for The Markup on March 13, 2024
You have probably heard that Google had to suspend it’s Gemini image feature after showing people black Nazis and female popes. Well I have a simple explanation for what happened here. Namely, the folks at Google wanted to avoid an embarrassment that they’d been involved with multiple times, and seen others get involved with, namely the “pale male” dataset problem, that happens especially at tech companies dominated by white men, and ironically, especially especially at tech companies dominated by white men who are careful about privacy, because then they only collect pictures of people who give consent, which is typically people who work there! See for example this webpage, or Safiya Noble’s entire book.
By Cathy O’Neil for mathbabe on March 12, 2024
Dat de overheid Nederlanders profileert met geheime algoritmes is ‘naar alle waarschijnlijkheid’ in strijd met de privacywet. Dat blijkt uit een advies van de landsadvocaat dat gisteren naar de Tweede Kamer is gestuurd. ‘Deze conclusies hebben in potentie vergaande impact,’ melden de staatssecretarissen van Financiën. Toch zegt de Belastingdienst niet te stoppen met de werkwijze.
By David Davidson and Jan-Hein Strop for Follow the Money on March 14, 2024
Banken controleren Nederlanders met een niet-westerse achtergrond vaker op mogelijk criminele geldstromen dan autochtone Nederlanders. Dat is het gevolg van wetgeving waar banken zich aan te houden hebben, zegt koepelorganisatie NVB.
By Dirk Waterval for Trouw on March 8, 2024
Bij de controles op fraude met de basisbeurs was inderdaad sprake van indirecte discriminatie, staat in een rapport over de praktijken van de Dienst Uitvoering Onderwijs. Het kabinet biedt excuses aan.
From Vox on March 4, 2024
An explanation of how the issues with Gemini’s image generation of people happened, and what we’re doing to fix it.
By Prabhakar Raghavan for The Keyword on February 23, 2024
It’s hard to keep a stereotyping machine out of trouble.
By Russell Brandom for Rest of World on February 29, 2024
Tijdens de Big Brother Awards was er dit jaar extra aandacht voor de positieve impact van voorvechters van onze internetvrijheid. De zogenoemde Felipe Rodriquez Award – naar één van de oprichters van XS4ALL en grondlegger van de digitale burgerrechtenbeweging in Nederland – ging dit jaar naar maar liefst vijf winnaars. Met deze prijs willen we anderen inspireren en motiveren om samen werk te maken van onze digitale rechten. We lichten dan ook graag de winnaars één voor één voor je uit in deze interviewreeks. Deze keer aan het woord: Robin Pocornie. Zij won de prijs voor het aankaarten van racistische anti-spieksoftware op de Vrije Universiteit van Amsterdam.
By Lotje Beek, Lotte Houwing, and Robin Pocornie for Bits of Freedom on March 5, 2024
Volgens bijzonder hoogleraar digitale surveillance Marc Schuilenburg hebben wij geen geheimen meer. Bij alles wat we doen kijkt er wel iets of iemand mee die onze gangen registreert. We weten het, maar doen er gewoon aan mee. Zo diep zit digitale surveillance in de haarvaten van onze samenleving: ‘We herkennen het vaak niet eens meer.’
By Marc Schuilenburg and Sebastiaan Brommersma for Follow the Money on February 4, 2024
A Markup investigation in 2022 found households in L.A.’s poorest neighborhoods were disproportionately asked to pay high prices for slow internet service.
By Aaron Sankin for The Markup on February 1, 2024
Ik zal er geen doekjes om winden: ik ben fan van deze vrouw. Daarom draagt deze blog dan ook haar naam. Hieronder gaat het vooral over een boek dat ze schreef: Unmasking AI, my mission to protect what is human in a world of machines. Ik bewonder haar vooral omdat ze zich, terwijl ze alle mogelijkheden had voor een grootse wetenschappelijke carrière, toch voortdurend ook bekommerde om slachtoffers van gezichtsherkenning: de door haar onderzochte digitale technologie.
By Roeland Smeets for Netwerk Mediawijsheid on January 30, 2024
Hogescholen en universiteiten blijven tentamensoftware Proctorio gebruiken, ondanks zorgen over discriminatie. Dat blijkt uit een rondgang van RTL Nieuws langs onderwijsinstellingen die het programma hebben ingezet. Acht van de twaalf nemen er geen afstand van. Het College voor de Rechten van de Mens en een stichting die hun zorgen uitspraken over discriminatie, reageren teleurgesteld: “Onbegrijpelijk en roekeloos.”
By Naomi Appelman and Stan Hulsen for RTL Nieuws on February 2, 2024
Ophef: Veel problemen ontstonden volgens de VU niet door de gezichtsherkenning, maar door een haperende verbinding.
By Sjoerd de Jong for NRC on January 10, 2024
Veel media en journalisten die de haat op X tegen Slimste mens-deelnemer Akwasi zo ferm veroordelen, spreken met dubbele tong, vindt OneWorld-hoofdredacteur Seada Nourhussen. Jarenlang droegen ze bij aan die haat, zonder het racisme te erkennen dat eraan ten grondslag ligt.
By Seada Nourhussen for OneWorld on January 12, 2024
Heb jij of iemand uit je omgeving wel eens met discriminatie te maken? Meld het wél. Jouw ervaring telt. Wij luisteren naar jouw verhaal en helpen je. Je staat er niet alleen voor!
From Landelijk meldpunt discriminatie
Board describes the two videos as important for ‘informing the world about human suffering on both sides’.
By Blake Montgomery for The Guardian on December 19, 2023
Na het toeslagenschandaal kreeg de Belastingdienst het advies om drie mogelijk discriminerende fraude-algoritmen onmiddellijk stop te zetten. Toch besloot de fiscus ermee door te gaan: het organisatiebelang woog zwaarder dan naleving van de wet en bescherming van grondrechten. Dat blijkt uit documenten die twee jaar nadat om openbaring was verzocht aan Follow the Money zijn vrijgegeven. ‘Onbegrijpelijk en verbijsterend.’
By David Davidson and Sebastiaan Brommersma for Follow the Money on December 14, 2023
Het registreren van etniciteit is in Nederland bij wet verboden. Maar het verzamelen van gerelateerde kenmerken, zoals land van herkomst, mag wel. Met als gevolg dat raciale data steeds weer een rol spelen in allerlei discriminatie-affaires, waaronder het toeslagenschandaal. Dit maakt het verleidelijk om tegen dataverzameling te zijn, maar zouden we het ook kunnen omkeren? Kunnen we raciale data ook inzetten om discriminatie en racisme te bestrijden? Lilith-onderzoeker Meike Schipper sprak met verschillende experts en zocht het uit.
By Gerwin van Schie, Jill Toh and Meike Schipper for Lilith on December 5, 2023
Machine learning is the process behind increasingly pervasive and often proprietary tools like ChatGPT, facial recognition, and predictive policing programs. But these artificial intelligence programs are only as good as their training data. When the data smuggle in a host of racial, gender, and other inequalities, biased outputs become the norm.
By Catherine Yeh and Sharla Alegria for SAGE Journals on November 15, 2023
Vrije Universiteit Amsterdam student Robin Pocornie en Naomi Appelman, co-founder van non-profitorganisatie Racism and Technology Center, gaan met elkaar in gesprek over discriminatie binnen kunstmatige intelligentie (artificial intelligence). Wat zijn de voor- en nadelen van kunstmatige intelligentie en in hoeverre hebben we grip en hoe kunnen we discriminatie tegengaan in de snelle ontwikkelingen van technologie?
By Charisa Chotoe, Naomi Appelman and Robin Pocornie for YouTube on December 3, 2023
The labour movement has a vital role to play and will grow in importance in 2024, says Timnit Gebru of the Distributed AI Research Institute.
By Timnit Gebru for The Economist on November 13, 2023
A conversation with Dr. Joy Buolamwini.
By Joy Buolamwini and Nabiha Syed for The Markup on November 18, 2023
Artificial intelligence image tools have a tendency to spin up disturbing clichés: Asian women are hypersexual. Africans are primitive. Europeans are worldly. Leaders are men. Prisoners are Black.
By Kevin Schaul, Nitasha Tiku and Szu Yu Chen for Washington Post on November 20, 2023
As Barbie-mania grips the world, the peppy cultural icon deserves thanks for helping to illustrate a darker side of artificial intelligence.
By Paige Collings and Rory Mir for Salon on August 17, 2023
Proudly powered by WordPress | Theme: Baskerville 2 by Anders Noren.