Vortrag von Katharina Mosene: Is there a human in the Loop?

Abstract: In unserer digitalen Welt gewinnen automatisierte Entscheidungen und KI-Systeme zunehmend an Bedeutung. Ein bekanntes Beispiel ist die Kreditvergabe, bei der Banken technologische Systeme einsetzen, um die Kreditwürdigkeit von Antragsteller*innen automatisch zu bewerten. Ähnliche Entscheidungsprozesse finden sich auch in der Content-Moderation auf digitalen Plattformen wie Instagram, Facebook oder TikTok. Hier treffen Algorithmen unter anderem Entscheidungen darüber, welche Beiträge, Bilder und Videos von Nutzer*innen freigegeben oder als unangemessen gekennzeichnet werden. Solche automatisierten Entscheidungen sind häufig nicht fehlerfrei. Das liegt daran, dass sie unbeabsichtigte Vorurteile (Biases) aus Trainingsdaten beinhalten oder es fehlt das menschliches Kontextverständnis. So werden einzelne, maschinelle Entscheidungen den individuellen Situationen von Personen häufig nicht gerecht. Deshalb wird schon lange gefordert,  Menschen in solche Prozesse zu integrieren, damit sie eine bestimmte Rolle bei der Überwachung und Verbesserung von technologischen Systemen spielen. Das Forschungsprojekt Human in the Loop? Autonomie und Automation in sozio-technischen Systemen untersucht deshalb, wie eine aktive Einbindung des Menschen einen Unterschied in automatisierten Entscheidungsprozessen bewirken kann. Die zentralen Fragen lauten: Wie sollte eine sinnvolle Interaktion zwischen Mensch und Maschine gestaltet sein? Welche Rolle spielen menschliche Entscheidungen bei der Qualitätssicherung von automatisierten Entscheidungen? Wie können wir sicherstellen, dass diese Interaktion nicht nur rechtssicher, sondern auch transparent und nachvollziehbar ist? Und welche Anforderungen gelten für die Interaktion zwischen Mensch und Maschine, wenn man das technische System, die menschlichen Entscheidungsträger*innen, ihren Kontext und ihre Umwelt betrachtet?

Katharina Mosene setzt sich als Politikwissenschaftlerin dafür ein, intersektionale feministische Ansätze im Bereich der Internet Governance zu integrieren. Ihr Fokus liegt auf der Identifizierung von tradierten Vorurteilen (Biases) im Bereich der Künstlichen Intelligenz sowie auf ethischen Fragen beim Einsatz von Algorithmen in Wirtschaft und Gesellschaft. Zudem erforscht sie Lösungsansätze zur Bekämpfung von digitaler Gewalt, Hate Speech und Antifeminismus, mit dem Ziel, Chancengleichheit im digitalen Raum zu ermöglichen.  Am Alexander von Humboldt Institut für Internet und Gesellschaft ist sie Co-Projektkoordinatorin des Forschungsprojekts Human in the Loop. Am Leibniz-Institut für Medienforschung │Hans-Bredow-Institut ist sie zudem für strategische Forschungs- und Veranstaltungs-Kooperationen zuständig. Neben ihrem freiberuflichen Engagement im Bereich Cyber Security, Digitale Bildung und kritische Medienbildung ist sie Gründungsmitglied von netzforma* e.V. – Verein für feministische Netzpolitik und Teil des Sprecher:innenrates der DVPW-Sektion Politik und Geschlecht.

Veranstalter: Jun.-Prof. Dr. Michaela Kramer (UzK), Dr. Christina Vollmert (UzK) und Prof. Dr. Konstanze Schütze (PHKA).

Anmeldung: zum Livestream bei Jana Wodicka unter jana.wodicka(at)ph-karlsruhe.de. Gäste sind herzlich willkommen.