KI Lernsysteme und Bias
Mit KI individuelle Lernprozesse gestalten – was sind die Risiken?
Schüler und Schülerinnen arbeiten im eigenen Tempo an ihren Schreibkompetenzen oder üben Funktionsgleichungen, die ihrem individuellen Niveau entsprechen – welche Lehrperson sähe darin keinen Vorteil? Dem KI-unterstützten adaptiven Lernen wird zurzeit viel Zukunftspotential zugesprochen, aber auch mit Skepsis begegnet. In ihrem Aufsatz Learning Analytics und Diskriminierung (2023)[1], zeigen Rzepka, Simbeck und Pinkwart auf, wann dabei Diskriminierung oder sogenannte Bias-Effekte entstehen können.
Learning Analytics erweitern das digitale Lernen um das Sammeln, Analysieren und Interpretieren von Lerndaten mit dem Ziel, Lernprozesse transparent zu machen und diese für die Schülerinnen und Schüler zu optimieren. Beim adaptiven Lernen wird die Lernumgebung in Echtzeit dem individuellen Niveau angepasst und mittels algorithmischer Verarbeitung der Daten eine personale Lernerfahrung ermöglicht. Um dabei Bias-Effekte zu vermeiden, haben die Autor:innen verschiedene Problemfelder skizziert, die bis heute noch wenig erforscht sind.
Eine wesentliche Ursache für Bias-Effekte liegt gemäss Rzepka, Simbeck und Pinkwart darin, dass im Bildungskontext oft nur auf eine demografische Gruppe fokussiert wird (z.B. Geschlecht oder Ethnie). Haüfig wird aber erst in der Kombination von gruppenbezogenen Merkmalen (sozio-ökonomischer Status der Familie, Erstsprache der SuS, Vorliegen einer Behinderung, Lage der Schule usw.) der Schwellenwert zur Diskriminierung überschritten. Ein weiteres Problem wird in der marginalen Behandlung der Thematik gesehen.
Welche Daten meiner Schülerinnen und Schüler soll ich also erheben? Ist beispielsweise die Muttersprache von Bedeutung, wenn ich von der KI Grammatikübungen mit unterschiedlichem Schwierigkeitsgrad erzeugen lasse? Oder soll Legasthenie bei der maschinellen Erstellung und Bewertung von mathematischen Textaufgaben berücksichtigt werden? Diese und ähnliche Fragen spielen vor allem bei der Zusammenstellung von Trainingsdaten KI-basierter Lernumgebungen eine Rolle. Davon leiten die Autor:innen ihre Handlungsempfehlungen ab: So sollten u.a. bei der Zusammenstellung der Trainingsdaten möglichst verschiedene demografische Gruppen und gruppenbezogene Merkmale berücksichtigt werden. Zudem sei es von grosser Bedeutung, dass alle Stakeholder (auch z.B. Eltern oder Schulleitungen) transparent über Zweck und die Vorhersage-Variablen des verwendeten Systems informiert werden. Weiter wird eine differenzierte Evaluation vor, nach und während des Einsatzes des Learning Systems im Unterricht empfohlen. Nur so könne die Akzeptanz bei allen Stakeholdern gefördert und ein wichtiger Beitrag zur Nutzung von technischen Möglichkeiten im Bildungsbereich geleistet werden.
Den Originalartikel lesen Sie hier.
Rzepka, Nathalie, M.Sc., wissenschaftliche Mitarbeiterin an der Hochschule für Technik und Wirtschaft Berlin. Fachbereich: Informatik, Kommunikation und Wirtschaft und Wissenschaftsinformatik. Forschungsschwerpunkte: Adaptivesonline learning, Sprachen lernen, Learning Analytics und Diskriminierung.
E-Mail: nathalie.rzepka@htw-berlin.de
Simbeck, Katharina, Dr.’in rer. pol., Professorin für Wirtschaftsinformatik, Finance. Fachbereich: Informatik, Kommunikation und Wirtschaft und Wissenschaftsinformatik. Forschungsschwerpunkte: Digitalisierung, Learning Analytics, HR Analytics, Bias and Fairness in AI systems.
E-Mail: katharina.simbeck@htw-berlin.de
Pinkwart, Niels, Dr. rer. nat., Professor für Didaktik der Informatik/Informatik und Gesellschaft, Direktor der Forschungsgruppe Educational Technology Lab des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI) und Vizepräsident für Lehre und Studium an der Humboldt-Universität zu Berlin. Forschungsschwerpunkte: Digitalisierung, Bildungstechnologien und die Erweiterung schulischer, akademischer und beruflicher Aus-, Fort- und Weiterbildung durch Künstliche Intelligenz und innovative Softwaretechnologien in vernetzten, digitalisierten Welten.
E-Mail: niels.pinkwart@hu-berlin.de
Ausgewählte Literatur:
Ebner, M. (2019). Learning Analytics. Eine Einführung. Bildung und Beruf,2(2), S.46–49.
Ebner definiert in seinem Grundlagen-Artikel den Begriff Learning Analytics, indem er dessen Zweck beschreibt (gezielte Verbesserung individueller Lernprozesse) und ihn von verwandten Begriffen abgrenzt. Zudem stellt er einen Bezug zur berufsbildenden Schulpraxis her.
Kizilcec, R. F., & Lee, H. (2022). Algorithmic Fairness in Education. The Ethics of Artificial Intelligence in Education, 8(11). (zuletzt abgerufen am 5.4.2024).
Die Autoren untersuchen die Kernkomponenten algorithmischer Systeme (Messung, Modellernen und Handlung), um mögliche Quellen von Vorurteilen und Diskriminierungen zu identifizieren. Davon abgeleitet werden Handlungsempfehlungen für politische Entscheidungsträger:innen, aber auch Entwickler:innen und Anwender:innen von Bildungstechnologie abgegeben.
Meier, C. (2019). KI-basierte, adaptive Lernumgebungen. In K. Wilbers (Hg), Handbuch E-Learning
(S. 1–21). Deutscher Wirtschaftsdienst / Luchterhand / Wolters Kluwer. (zuletzt abgerufen am 5.4.2024)
Der schon etwas ältere Artikel von Christoph Meier, der an der Universität St. Gallen lehrt, erläutert die Unterschiede zwischen traditionellem E-Learning und KI-basierten adaptiven Lernumgebungen. Zudem werden praktische Tipps zur Entwicklung einer adaptiven Lerneinheit aufgelistet.
Weiterbildungshinweise:
PH Zürich
Am 21.8. und 11.9. 2024 findet an der PHZH ein kostenpflichtiger Weiterbildungskurs unter dem Titel "Künstliche Intelligenz(KI), Virtual Reality (VR) und Learning Analytics" statt.
https://phzh.ch/weiterbildung/alle-weiterbildungen/weiterbildungsanlass/?anlassId=144568141
KI-Campus
Der vom deutschen Bundesministerium geförderte KI-Campus bietet den kostenlosen Online-Kurs "Learning Analytics für Lehrkräfte" an. Dabei erhält man eine Einführung in LA-Systeme, deren Integration und die Begleitung von Lernverläufen in LA-Dashboards.