Aus dem Netzwerk TA

This is an article distributed under the terms of the Creative Commons Attribution License CCBY 4.0 (https://creativecommons.org/licenses/by/4.0/)

TATuP Bd. 30 Nr. 1 (2021), S. 85

Praxis

Ein Algorithmus für Arbeitslosigkeit?

Doris Allhutter, Institut für Technikfolgen-Abschätzung, Österreichische Akademie der Wissenschaften, Apostelgasse 23, 1030 Wien (dallhutt@oeaw.ac.at) https://orcid.org/0000-0002-0820-8186

Astrid Mager, Institut für Technikfolgen-Abschätzung, Österreichische Akademie der Wissenschaften (astrid.mager@oeaw.ac.at)

Das österreichische Arbeitsmarktservice (AMS) plant mit seinem „Arbeitsmarktchancen-Assistenz-System“ (AMAS) das semi-automatisierte Profiling von Arbeitssuchenden. Nach Protesten von Bürgerrechtsorganisationen und einem Stopp der Datenschutzbehörde liegt die Entscheidung über die Einführung nun beim Verwaltungsgerichtshof.

Gemeinsam mit der Technischen Universität Wien wurden am ITA die technischen Funktionsweisen und gesellschaftlichen Auswirkungen des Profiling-Systems analysiert (siehe auch TATuP 28 (1), S. 81). Demnach berechnet AMAS auf Basis von Statistiken vergangener Jahre die zukünftigen Chancen von Arbeitssuchenden am Arbeitsmarkt. Die Arbeitssuchenden werden anhand prognostizierter „Integrationschance“ in drei Gruppen eingeteilt, denen unterschiedliche Ressourcen für Weiterbildung zur Verfügung stehen. So sollen Effizienz und Effektivität von Beratungs- und Fördereinsatz gesteigert werden.

Der Algorithmus sucht Zusammenhänge zwischen Merkmalen Arbeitssuchender und erfolgreicher Erwerbstätigkeit. Die Merkmale umfassen Alter, Staatengruppe, Geschlecht, Ausbildung, Betreuungspflichten (nur bei Frauen) und gesundheitliche Beeinträchtigung sowie vergangene Beschäftigung, Kontakte mit dem AMS und das Arbeitsmarktgeschehen am Wohnort. Das Ziel ist, vorwiegend in jene Jobsuchende zu investieren, bei denen die Fördermaßnahmen am wahrscheinlichsten zu einer Wiedereingliederung in den Arbeitsmarkt führen. Die berechnete „Integrationschance“ stellt in der Beratungspraxis allerdings weit mehr dar als eine bloße Zusatzinformation: Der Fokus verschiebt sich vom momentanen persönlichen Förderbedarf einer Einzelperson hin zur Berechnung von Arbeitsmarktchancen auf Basis der Fortschreibung von in der Vergangenheit beobachteten Populationsmustern.

In der ohnehin knappen Beratungszeit gilt es nun, eine Reihe neuer Aufgaben abzuarbeiten. Die kritiklose Übernahme des errechneten Chancenwerts und der generierten Einstufung liegt nahe. Biographie und Fähigkeiten der Klient*innen werden auf einen nun scheinbar „objektiven“ Wert reduziert. Wie zahlreiche Beispiele diskriminierender Systeme in den letzten Jahren gezeigt haben, können Verzerrungen (Biases) in algorithmischen Systemen gesellschaftliche Ungleichheitslagen verstärken. Für AMAS konnte die ITA-Studie folgende Formen von Bias identifizieren:

  1. Die komplexe Realität der Arbeitssuche wird durch eine kleine Anzahl an unscharfen Variablen vereinfacht. Z. B. wird eine „gesundheitliche Beeinträchtigung“ durch bloßes „ja/nein“ erfasst, ohne die tatsächliche Auswirkung auf die Fähigkeit zur Berufsausübung in Betracht zu ziehen.
  2. Das auf historischen Daten basierende System kann nur unzureichend auf gesellschaftliche oder ökonomische Veränderungen reagieren. Die gegenwärtige Krise veranschaulicht diese Problematik.
  3. Bestehende Ungleichheiten am Arbeitsmarkt werden durch das System fortgeschrieben. So werden Frauen mit sogenanntem „Migrationshintergrund“ viel häufiger als Männer der Gruppe mit „niedrigen Chancen“ zugeordnet.

Werden bestimmte Personengruppen gehäuft etwa der Gruppe mit niedrigen Chancen zugeordnet und können daher keine berufsfördernden und qualifizierenden Maßnahmen in Anspruch nehmen, besteht systematische Ungleichbehandlung. Beim Einsatz algorithmischer Systeme in (semi-)staatlichen Einrichtungen wie dem AMS sind daher Anti-Diskriminierungsmaßnahmen sowie System- und Datentransparenz gefordert, um eine nachvollziehbare Evaluierung aus technischer und grundrechtlicher Sicht zu ermöglichen. In Europa verbreiten sich gerade im wohlfahrtsstaatlichen Bereich fehleranfällige Systeme. Um den wissenschaftlichen Austausch darüber voranzutreiben, planen die Expertinnen des ITA weiterführende Vernetzungsaktivitäten mit Forscher*innen aus Belgien, Dänemark, Deutschland, Schweden und Polen.

Weitere Informationen

Allhutter, Doris et al. (2020): Der AMS-Algorithmus. Eine Soziotechnische Analyse des Arbeitsmarktchancen-Assistenz-Systems (AMAS) (Projektbericht, 120 Seiten). Wien: Institut für Technikfolgen-Abschätzung. Online verfügbar unter http://epub.oeaw.ac.at/ita/ita-projektberichte/2020-02.pdf.

Allhutter, Doris et al. (2020): Algorithmic profiling of job seekers in Austria. How austerity politics are made effective. In: Frontiers in Big Data 3, S. 5. https://doi.org/10.3389/fdata.2020.00005