Wie können Hochschulen Verantwortung übernehmen, um Bias-Sensibilität im Umgang mit KI nicht nur punktuell, sondern strukturell, wirksam und nachhaltig zu verankern? Diese Frage ist Startpunkt eines aktuellen Diskussionspapiers, das nun einige Empfehlungen und Antworten gibt. Autorinnen sind Johanna Leifeld und Sarah Becker aus dem Hochschulforum Digitalisierung (HFD).
Der aktuelle Diskurs zu generativer KI konzentriert sich stark auf Prüfungsbetrug, Kontrolle und Effizienz. Fragen von Bias, Diskriminierung und epistemischer Gerechtigkeit bleiben dagegen zu oft im Hintergrund. Generative KI wirkt oft objektiv, sachlich, neutral. Sie reproduziert aber gesellschaftliche Ungleichheiten und Machtverhältnisse. Zahlreiche Studien zeigen, dass KI-Systeme systematische Verzerrungen aufweisen können – etwa entlang von Geschlecht, Herkunft, Sprache oder sozialem Status Solche Bias-Effekte sind dabei kein rein technisches Problem fehlerhafter Algorithmen, sie sind Ausdruck gesellschaftlicher Ungleichheiten, die in Daten, Modellen, Entwicklungs- und Nutzungskontexten eingeschrieben sind.
Hochschulen müssen deshalb lernen, KI nicht nur technisch, sondern gesellschaftlich und machtkritisch zu bewerten. Schließlich sind sie nicht nur Orte des Lernens und der Forschung, sondern zentrale gesellschaftliche Institutionen der Wissensproduktion und -legitimation.
Bias in KI ist ein strukturelles Problem, argumentieren die Autorinnen. Ihnen reicht es deshalb nicht, Studierende und Lehrende zur kritischen Prüfung einzelner KI-Outputs aufzufordern. Hochschulen brauchen Governance, Qualifizierung, Partizipation und klare institutionelle Verantwortung, damit sie nicht immer wieder in die Bias-Falle tappen.
Die Aspekte Ausbildung und Sensibilisierung sind für Becker und Leifeld besonders wichtig: Hochschulen bilden die Menschen aus, die KI künftig entwickeln, einsetzen, regulieren und bewerten. Wenn dort keine Bias-Sensibilität vermittelt wird, prägt das weit über die Hochschule hinaus die Gesellschaft von morgen. Entsprechend spielt der Titel der Publikation auf den Ausdruck „baby robots“ an: Wenn generative KI und Assistenzprodukte wie Siri oder Alexa immer besser, populärer, einflussreicher werden, dann sollte der Umgang mit Trainingsdaten, Systemarchitekturen und Prompts ähnlich verantwortungsvoll sein wie bei der Kindererziehung.
Vor diesem Hintergrund verfolgt das Diskussionspapier drei Ziele:
- Erstens eine Sensibilisierung für Bias als zentrales, bislang marginalisiertes Thema im hochschulischen KI-Diskurs.
- Zweitens soll der aktuelle Stand zu KI und Bias an deutschen Hochschulen sichtbar gemacht werden.
- Drittens richtet es den Blick nach vorn und fragt, was sich künftig ändern muss und wie.
Somit ist dieses Diskussionspapier keine reine Problembeschreibung, sondern auch ein Beitrag zur Frage, wie Hochschulen den Umgang mit KI verantwortungsvoll gestalten können und sollten.
On how to bring up baby robots – Ein Plädoyer für einen bias-sensiblen und machtkritischen Umgang mit generativer KI an Hochschulen 11. Juni 2026 0.00 KB 21 downloads
Becker, Sarah: Leifeld, Johanna: On how to bring up baby robots – Ein Plädoyer...