9.6.2.3 Reflektieren

Im dritten Kompetenzbereich steht die kritische Auseinandersetzung mit Künstlicher Intelligenz (KI) im Mittelpunkt. Ziel ist es, KI nicht nur als technologisches Werkzeug, sondern als gesellschaftlich relevante Technologie zu verstehen, deren Einsatz mit weitreichenden ethischen, rechtlichen und sozialen Fragestellungen verbunden ist.

Zentrale Inhalte:

Entscheidungsfindung und Bias: KI-Systeme basieren auf Trainingsdaten, was sie anfällig für Verzerrungen (Bias) macht, die zu diskriminierenden Ergebnissen führen können, etwa bei Gesichtserkennung oder Sprachmodellen.

Ethische Fragestellungen: Im Umgang mit KI müssen zentrale Werte wie Verantwortung, Datenschutz, Transparenz und Rechenschaftspflicht gewahrt bleiben. Lehrkräfte und Lernende müssen reflektieren, wer Entscheidungen trifft – Mensch oder Maschine.

Normative Perspektiven: Relevante Rahmenwerke wie der EU AI Act, ethische Richtlinien der EU-Kommission oder des Deutschen Ethikrats bieten Orientierung für einen verantwortungsvollen Umgang mit KI.

Gesellschaftliche Auswirkungen: KI beeinflusst zentrale Lebensbereiche: Bildung, Arbeit, Demokratie, Medien. Auch Fragen der sozialen Gerechtigkeit und digitalen Teilhabe sollten berücksichtigt werden.

(Alles et al. 2025)

Ergänzend zu den zentralen Reflexionsfeldern benennt der Deutsche Ethikrat sowie die EU-Kommission folgende ethische Leitlinien und Handlungsempfehlungen für den verantwortungsvollen Einsatz von KI in Bildungskontexten:

Mensch im Zentrum: Die Entscheidungsautonomie von Lehrkräften und Lernenden muss gewahrt bleiben. KI darf pädagogische Verantwortung nicht ersetzen, sondern nur unterstützen.

Fairness, Inklusion und Transparenz: KI-Systeme sollen barrierefrei, nachvollziehbar und diskriminierungsfrei sein. Prozesse zur Bewertung und Feedback durch KI müssen erklärbar und gerecht sein.

Datenschutz und Datensouveränität: Der Einsatz von KI erfordert einen sensiblen Umgang mit Bildungsdaten. Es gilt, Überwachung und Stigmatisierung zu vermeiden und zugleich Chancen für personalisierte Unterstützung verantwortungsvoll zu nutzen.

Empfehlungen für die Bildungspraxis:

Ethische Prüfung und eine Chancen-Risiko-Abwägung von KI-Systemen vor dem Einsatz
Beteiligung aller Bildungsakteur:innen (Lehrkräfte, Studierende)
Entwicklung von Richtlinien, Qualitätssicherung und Zertifizierung für vertrauenswürdige KI
Förderung von KI-Kompetenz auf allen Ebenen

(Europaeische Kommission 2022, Ethikrat 2023)

Abb. 9.5: KI-Kompetenzbereich 'Reflektieren'

Die drei Progressionsstufen der KI-Kompetenzbereiche nach Alles et al. 2025 des VK:KIWA. Susanne Alles, Jocha Falck, Manuel Flinck, Regina Schulz, Lizenz: CC BY 4.0

Vertiefung

Weitere Informationen sind in dem Bericht der Europäischen Kommission Ethische Leitlinien für Lehrkräfte über die Nutzung von KI und Daten für Lehr- und Lernzwecke sowie der Stellungnahme des Deutschen Ethikrats Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz zu finden.

Weiterführende Informationen finden Sie in den folgenden Videos:

Einführung in die KI-Ethik