sharing is caring
ist wirklich so!
Vielen Dank fürs Teilen!
handverlesenswert
Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.
Du befindest dich im Kanal:
Algorithmen in Sozialsystemen: »[W]e’re okay doing unethical things to poor people.«
Ein mächtiger™ Kulturwissenschaftler! / A mighty™ Cultural Scientist!
Christian Huberts, Jahrgang 1982, studierte »Kulturwissenschaften und ästhetische Praxis« an der Universität Hildesheim und arbeitet seit 2009 als kultur- und medienwissenschaftlicher Publizist mit Sitz in Berlin. Sein inhaltlicher Fokus ist die digitale Spielkultur in allen Facetten.
Er tritt regelmäßig als Experte für digitale Spiele bei Kulturveranstaltungen sowie im Rundfunk und Fernsehen auf. Zuletzt hat er unter anderem den Game-Studies-Sammelband »Zwischen|Welten: Atmosphären im Computerspiel« im vwh-Verlag herausgegeben, das »Handbuch Gameskultur« des Deutschen Kulturrats und des Branchenverbands game redaktionell betreut sowie das Berliner Studio waza! Games als Associate Producer bei der Entwicklung der politischen Bildungs-App Konterbunt unterstützt. Für die Stiftung Digitale Spielekultur arbeitete er von März 2020 bis August 2024 unter anderem als Projektmanager für die Initiative »Erinnern mit Games« und als Projektleiter von »Let’s Remember!«. Daneben schreibt er für wissenschaftliche Publikationen, Kulturmagazine sowie Online-Zeitungen diverse Artikel über die Partizipation an virtuellen Welten und die Kultur von Computerspielen.
Immer wenn es um die zukünftigen Gefahren von »Citizen Scoring« geht, weise ich gerne auf die ganz gegenwärtigen Probleme von ALG2-Empfängern hin. Hier werden bereits im großen Stil persönliche Daten gesammelt und etwa zur Berechnung von Vermittlungschancen auf dem Arbeitsmarkt verwendet. Die Sozialsysteme sind Vorreiter im »Scoring« ihrer Bürger und der damit einhergehenden Ausblendung oder Verzerrung menschlicher Komplexität.
Wie sich die Verhältnisse in Deutschland konkret darstellen, darüber gibt es leider wenig zu lesen. Für Jacobin sprach Sam Adler-Bell jedoch mit der Politikwissenschaftlerin Virginia Eubanks (Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor), die sich seit Jahren mit der zunehmenden algorithmischen Automatisierung der US-amerikanischen Welfare Systeme beschäftigt hat.
[T]echnology became a way of smuggling politics into the system without having an actual political conversation.
Für Eubanks entziehen die automatisierten Entscheidungsprozesse den Armen noch mehr von ihrer knappen Selbstwirksamkeit. Gleichzeitig ersetzen sie den Versuch, Armut dauerhaft zu verringern, durch ein bloßes Management der Folgen. Eine Frage politischer Moral wird zur Frage der Effizienz.
We manage the poor so that we do not have to eradicate poverty.
Zudem leiden die Datengrundlagen der Werkzeuge unter erheblichen Schieflagen. So basiert ein Algorithmus, der die Wahrscheinlichkeit von Kindesmissbrauch vorhersagen soll, überproportional auf den Daten armer Familien. Dass dabei in vielen Fällen der »Missbrauch« in armutsbedingter Vernachlässigung besteht, etwa weil die Eltern in mehreren Jobs arbeiten müssen, verstärkt den Bias nur.
An die Designer dieser Systeme hat Eubanks daher zwei Fragen:
One is, does it increase self-determination of poor people? And two, if it was aimed at anyone but poor and working people, would you be able to do it? And if you answer “no” to either of those, don’t do it. You’re on the wrong side of history.
![Algorithmen in Sozialsystemen: »[W]e’re okay doing unethical things to poor people.«](https://cache.forum.eu/system/dragonfly/production/2019/03/21/224rs05okb_de98b34f_d7a5_40b6_b86b_c671212b25a0.jpg)
Quelle: Sam Adler-Bell Bild: Tony Fischer / Fl... EN jacobinmag.com
Kommentare
0
Bleib immer informiert! Hier gibt's den Kanal Volk und Wirtschaft als Newsletter.
AntennaPod
Podcast Addict
Downcast
Instacast
Apple Podcasts
PodGrasp
gPodder
Pocket Casts
