Rollenspiel-Workshop zu Social Explainable AI und Gesichtserkennung

Zusammenfassung

Einleitung und Kontext

Der Workshop fand im Rahmen des Sonderforschungsbereichs „Co-Constructing Explainability“ am Center for Critical Computational Studies statt. Ziel war es, im experimentellen Setting mit Teilnehmenden die soziale Dimension von Erklärbarkeit Künstlicher Intelligenz (KI) zu erforschen und zu diskutieren.

Social Explainable AI (Social XAI) wird als dialogischer, ko-konstruktiver Prozess verstanden, bei dem Erklärbarkeit nicht einseitig vermittelt, sondern gemeinsam mit Nutzer:innen und Technologie entwickelt wird.
Die Forscherinnen betonten, dass Erklärbarkeit in sozialen Kontexten entsteht und nicht als statisch betrachtet werden kann („Moving Target“).
Zentrale Herausforderungen sind Verzerrungen (Bias) und Umsetzungsschwierigkeiten, die als menschliche, nicht nur technische Probleme identifiziert werden.
Bezug auf internationale und nationale Forschungsinitiativen und Publikationen (z.B. Shoha-Meeting, Daction-Meeting, GI).

„Die Erklärungen sollen nicht von einer Seite zur anderen übertragen werden, sondern das soll ein Dialog sein.“
„Wir wollen Erklärbarkeit in die Systeme bringen und verstehen, wie Menschen über KI denken.“

Workshop-Design und Szenarien

Die Teilnehmenden wurden in Gruppen eingeteilt und erhielten einen Leitfaden für ca. 50–60 Minuten.
Fünf Szenarien standen zur Auswahl:
1. Verzerrte Bewerbung (Bias im Recruiting)
2. Online-Proctoring bei Prüfungen
3. Algorithmische Benotung
4. Kindergeldzuweisung (Fall Niederlande)
5. Gesichtserkennung im öffentlichen Raum (Bahnhof)
Die Gruppen wählten das Szenario „Gesichtserkennung am Bahnhof“.
Rollenspiel-Ansatz: Teilnehmende übernahmen zufällig verteilte Rollen (z.B. Politiker:innen, IT-Fachkraft, Sozialarbeiter, Netzaktivistin) und diskutierten aus deren Perspektive.
Zusätzliche Hintergrundinformationen (z.B. Zeitungsartikel) standen zur Verfügung.

Rollenspiel: Diskussion zur Gesichtserkennung

Rollen und Perspektiven

Politiker (konservativ): Fokussiert auf öffentliche Sicherheit, befürwortet Überwachung zur Kriminalitätsbekämpfung, persönliche Erfahrungen mit Kriminalität an Bahnhöfen.
Politikerin (datenschutzorientiert): Skeptisch gegenüber Überwachung, betont Datenschutz und Privatsphäre, verweist auf fehlende Evidenz für Wirksamkeit von Videoüberwachung.
IT-Fachkraft: Offen für technologische Lösungen, verweist auf Erfahrungen mit Social Credit System in China, sieht Potenzial für mehr Sicherheit.
Sozialarbeiter (Person of Color): Ambivalente Haltung, sieht sowohl Schutz- als auch Diskriminierungsrisiken, verweist auf eigene Betroffenheit durch Bias.
Netzaktivistin: Kritisch gegenüber Überwachung, verweist auf Datenschutzrisiken und Beispiele für technische Fehlfunktionen (z.B. E-Akte, Zero-Day-Exploits).

Zentrale Argumente und Kontroversen

Pro Gesichtserkennung:

Erhöhung der Sicherheit an Bahnhöfen, Abschreckung von Straftaten.
Möglichkeit, Straftäter:innen schneller zu identifizieren.
Technologischer Fortschritt durch Pilotprojekte und Investitionen.
„Ich glaube schon, dass es eine Veränderung herstellt, weil... Diese Person wird das nicht mehr tun.“

Contra Gesichtserkennung:

Verlagerung von Kriminalität in andere öffentliche Räume statt Lösung des Problems.
Gefahr von Diskriminierung und Fehlidentifikation, insbesondere für Minderheiten („People of Color“).
Datenschutzbedenken: Unklarheit über Datenspeicherung, Serverstandorte, Zugriffssicherheit.
Fehlende Transparenz und Kontrolle über KI-Modelle und deren Verzerrungen.
„Wenn Behörden dann sagen, wir glauben dich auf dem Bild erkannt zu haben, alles konjunktiv, weil das dann womöglich diskriminierende, falsche Feststellung ist.“
Risiko, dass eingeführte Technologien schwer wieder abzuschaffen sind.

Kompromissvorschläge und offene Fragen:

Alternative Maßnahmen wie mehr Sicherheitspersonal oder Zugangskontrollen (z.B. Zutritt nur mit Ticket).
Pilotprojekt mit späterer Evaluation der Bias-Problematik.
Konsens, dass zu viele technische und ethische Fragen ungeklärt sind, um eine fundierte Entscheidung zu treffen.

Entscheidungsfindung und Ergebnis

Abstimmung über die Einführung der Gesichtserkennung führte zu keiner klaren Entscheidung.
Konsens: Es fehlen entscheidende Informationen zu Technik, Datenschutz und Bias, um eine verantwortungsvolle Einführung zu rechtfertigen.
Entscheidung wurde vertagt.

„Also was ich gerade feststelle, egal wie stark ich für Sicherheit bin, mir fehlen die nötigen Informationen, weil ich weiß gar nicht, was hier an dieser Stelle Gesichtererkennung hat.“

Meta-Reflexion und Feedback

Teilnehmende berichteten, dass sie sich trotz persönlicher Gegenpositionen stark mit ihren Rollenspiel-Charakteren identifizieren konnten.
Vorschläge für methodische Verbesserungen:
- Mehr Zeit für Einarbeitung in Rollen und Hintergrundmaterial.
- Komplexere Rollenkarten mit „geheimer Agenda“ für differenziertere Diskussion.
- Möglichkeit, Kompromisslösungen statt nur Ja/Nein-Entscheidungen zu erarbeiten.
Positive Rückmeldungen zum Rollenspiel-Format, aber Wunsch nach mehr Zeit und Tiefe.

„Ich fand es super interessant, mich auf der Meta-Ebene selbst zu erleben, wie stark ich mich, obwohl ich eine meiner persönlichen Überzeugung konträre Meinung übernehmen musste, doch identifizieren konnte mit meiner Aufgabe.“

Abschluss und Ausblick

Workshop-Leitung kündigte an, alle Materialien und Links zu Hintergrundinformationen zur Verfügung zu stellen.
Ziel ist, die Methode weiterzuentwickeln und in zukünftigen Workshops zu verfeinern.
Keine abschließende Entscheidung zur Einführung der Gesichtserkennung; Diskussion wird vertagt.

Nicht genannte Informationen:

Feste Termine für nächste Schritte: (nicht genannt)
Konkrete Verantwortlichkeiten für die Weiterentwicklung: (nicht genannt)
Detaillierte technische Spezifikationen der diskutierten KI-Systeme: (nicht genannt)