EU AI Act

Der EU AI Act (KI-Gesetz) schafft erstmals einen umfassenden, europaweiten Rechtsrahmen für die Entwicklung und Nutzung von Künstlicher Intelligenz. Ziel ist es, den Einsatz von KI-Systemen sicher, ethisch und kompetenzorientiert zu gestalten, um sowohl die Chancen von KI zu fördern als auch Risiken wirksam zu begrenzen. Die Verordnung unterscheidet KI-Anwendungen nach ihrem Risiko: von minimal über begrenzt bis hin zu hoch und inakzeptabel. Besonders Hochrisiko-Anwendungen – etwa im Bereich der Bewertung von Studierenden oder bei automatisierten Verwaltungssystemen – unterliegen strengen Auflagen hinsichtlich Sicherheit, Transparenz, Datenschutz und Nachvollziehbarkeit.

Hochschulen sind von diesen Regelungen in mehreren Funktionen betroffen: als Ausbildungsstätten, Forschungsinstitutionen und teils auch als Anbieter oder Betreiber von KI-Systemen. Sie müssen Forschungsprojekte und Lehrmethoden kritisch prüfen und an die gesetzlichen Anforderungen, insbesondere bei Hochrisiko-Anwendungen, anpassen. Dies erfordert oft umfassende Risikoanalysen und die Sicherstellung der Einhaltung rechtlicher Rahmenbedingungen, wie der Datenschutz-Grundverordnung (DSGVO), insbesondere wenn personenbezogene Daten verarbeitet werden (siehe Rechtliche Rahmenbedingungen für generative KI in der Lehre) (Europaeische Kommission 2025, ZIM 2025).

Anforderungen an Anbieter und Betreiber von KI-Systemen gem. Artikel 4

Ein Teil des EU AI-Acts ist Artikel 4. Er enthält die Grundpflichten für Anbieter und Betreiber von KI-Systemen. Er formuliert allgemeine Anforderungen wie: Transparenz, Nachvollziehbarkeit, Menschenaufsicht („human oversight“), Sicherheit und Robustheit. Diese Grundprinzipien gelten für alle KI-Systeme, unabhängig davon, ob sie später als geringes, hohes oder unzulässiges Risiko eingestuft werden.

Artikel 4 verpflichtet auch Hochschulen als Anbieter oder Betreiber von KI-Systemen, dafür zu sorgen, dass alle beteiligten Personen über ausreichende KI-Kompetenzen verfügen. Dabei können die notwendigen Komptetenzen für die verschiedenen Zielgruppen je nach Rolle unterschiedlich sein.

Artikel 4 nennt nicht exakt, wie die Kompetenz vermittelt werden muss – aber umreißt die Themen. Darunter fallen: grundlegendes Funktionsverständnis KI-gestützter Systeme einschließlich Wissen über Grenzen und Fehlerrisiken, Risiko- und Datenschutzbewusstsein, insbesondere mit Blick auf sensible Daten, verantwortlicher Einsatz und menschliche Aufsicht sowie eine Sensibilität für den Kontext, in dem KI genutzt wird (z. B. Prüfungswesen, Verwaltung etc.).

Durch Artikel 4 stellt die KI-Verordnung sicher, dass Hochschulen KI verantwortungsbewusst und kompetent einsetzen – und Risiken für Studierende, Forschungsethik, Datenschutz, Fairness und Prüfungsintegrität minimieren.

Folgende Lernziele leiten Brück-Hübner et al. aus dem EU AI-Act ab:

Technologische Kompetenzen

• Alltägliche Technologien, die KI-gestützte Funktionen integriert haben, benennen.
• Grundlegende Begriffe und Funktionsweisen generativer KI beschreiben und Beispiele dazu nennen (z.B. Algorithmus, Training generativer KI, Bias, Sprachmodell, Prompt, Output und Token).
• Wesentliche Unterschiede zwischen "Mensch" und "KI-System" im Kontext von "Verständnis" und "Interaktion" nennen (z.B. fehlende Reflexivität, imitierte Empfindungsfähigkeit, simulierte Kompetenzen).
• In groben Zügen erläutern, wie Verzerrungen und Fehlinformationen in Outputs entstehen und mit welchen Mitteln diese Phänomene reduziert werden.
• Notwendige Anforderungen an KI-Tools für ihre Einsatzszenarien beschreiben und Tool-Übersichtsseiten und andere Quellen kennen.
• KI-Tools für spezifische Einsatzzwecke auswählen und situativ einsetzen.
• Grundlegende Kriterien für Prompting-Strategien kennen und diese anwenden, um passende Outputs zu erhalten.
• Die Plausibilität von KI-Output einschätzen und auf typische Phänomene überprüfen (z.B. Halluzinationen, lückenhafte Trainingsdaten, fehlender Kontext).

Rechtliche Kompetenzen

• Relevante rechtliche Rahmenbedingungen (z.B. Urheberrecht, Datenschutz, Datensicherheit und EU AI Act) benennen und in Grundzügen deren Bedeutung für die praktische Nutzung von KI erläutern.
• Rechtlichen Rahmenbedingungen an der eigenen Institution kennen und Konsequenzen für ihr eigenes Handeln ableiten (z.B. erlaubte KI-Tools, Nutzungsbedingungen, Kennzeichnungspflicht, Prüfungsrecht).

Ethische Kompetenzen

• Die Verantwortung für den eigenen KI-Einsatz tragen.
• Relevante ethische Dimensionen in Bezug auf KI benennen und erläutern (z. B. Bias, Fairness, Verantwortung, gute wissenschaftliche Praxis).
• Sich für den Ressourcenverbrauch und die Nachhaltigkeitsaspekte von KI-Nutzung sensibilisieren.
• Wissen, dass der KI-Output durch die Wiedergabe von Stereotypen aus Trainingsdaten, der Programmierung und weiteren Entwicklungsschritten beeinflusst wird und konkrete Beispiele benennen.
• Mögliche soziale und gesellschaftliche Auswirkungen durch KI-Technologien benennen (z. B. Veränderungen in Berufsbildern, Up-/Deskilling, soziale Ungleichheit, Inklusion, Einfluss und Abhängigkeiten von Technologiekonzernen, veränderte Kommunikations- und Sozialisationsprozesse).

(Brueck-Huebner 2025, etwas gekürzt wiedergegeben).

Anforderungen an Lehrende und Studierende

Ein zentrales Ziel des EU AI Acts ist die Förderung von KI-Kompetenz. Daraus ergeben sich neue Anforderungen auch für Lehrende und Studierende:

Lehrende tragen dabei eine doppelte Verantwortung: Einerseits sind sie verpflichtet, KI-Systeme selbst rechtskonform, transparent und sicher einzusetzen. Andererseits sollen sie Studierende dazu befähigen, kompetent und kritisch mit KI umzugehen.

Zitat

Der Bericht "Die KI-Verordnung der EU als Impuls für die Entwicklung von AI Literacy an Hochschulen" nennt folgende Leitfragen, anhand derer Lehrende die Förderung der KI-Kompetenzen ihrer Studierenden entwickeln können:

• Welche KI-Kompetenzen brauchen meine Studierenden in Bezug auf mein Lehrgebiet für eine zukunftsfähige Bildung?
• Welche weiteren Anlässe gibt es, aus denen ich KI in meiner Lehre thematisieren sollte (z.B. die verantwortungsvolle Nutzung für Lernen/Selbststudium und Prüfungsleistung)?
• Bei Betrachtung der Kompetenzen und weiteren Anlässe - Was sind meine konkreten Lernziele
• Welche Lehrmethoden/Lernaktivitäten sind geeignet und wie kann ich KI adäquat für Feedback- und Beratungsprozesse einsetzen?
• Wie kann ich im Zeitalter von KI kompetenzorientiert prüfen?
• Wo finde ich Praxisbeispiele und Use Cases? Mit welchen Kolleg*innen könnte ich in Austausch gehen, welche Netzwerkmöglichkeiten habe ich, um mich zu informieren?
• Was sagen meine Studierenden zu meinen Überlegungen? Wie ist ihre Perspektive und was möchten sie in meinem Fach zu KI lernen?

(Brueck-Huebner 2025).

Auch Studierende müssen über die reine Anwendung hinausgehen: Sie sollen die Funktionsweise, Potenziale und Risiken von KI verstehen, diese kritisch einordnen und verantwortungsvoll in unterschiedlichen Kontexten nutzen können (ZIM 2025).

Was "KI-Kompetenz" im Hochschulkontext bedeutet und wie sie gefördert werden kann, wird auf den folgenden Seiten erläutert.

Weitergehende Materialien zum Thema EU AI Act und Artikel 4 KI-Verordnung

Wer das Thema EU AI Act vertiefen möchte, der findet hier Materialien:

• Weitere Informationen der Europäischen Kommission zum KI-Gesetz mit Erklärungen der einzelnen Risikostufen finden Sie hier.

• Video: "Der EU AI Act und die Aus­wir­kung auf die Aus­bil­dung" (6:25 min) - Eine Einführung in das KI-Gesetz und in die Risikoklassen in der Lehre.

• Tool: AI Act Risk Navigator TÜV - Ein Klassifizierungstool zur Einordnung von KI-Systemen und KI-Modellen in die Risikoklassen der europäischen KI-Verordnung.

• Kompakt zu Nachlesen: Artikel KI-Komptenz von der Bundesnetzagentur - Was ist KI-Kompetenz, was sieht die KI-Veordnung vor und was ist nicht vorgeschrieben? Wie baut man KI-Kompetenzen auf?

• Interpretation des EU AI Acts für Hochschulen: Rechtsgutachten zur Bedeutung der europäischen KI-Verordnung für Hochschulen von Thomas Hoeren - Im Gutachten werden die rechtlichen Konsequenzen aus dem EU AI Acht für die Hochschulen geklärt, z. B. welche konkreten Inhalte vermittelt werden müssen, mit welchen Maßnahmen oder an welche Zielgruppen sich die Angebote für KI-Kompetenz richten sollten. Dabei wird deutlich, dass es viel Interpretationsspielraum gibt.

Vortrag: KI-Verordnung – was nun? Herausforderungen des AI Acts für Hochschulen (2 h)

Inhalt:

• Welchen Rechtsrahmen benötigen Hochschulen vor dem Hintergrund der KI-Verordnung für den Anwendungsbereich der Lehre?
• Welche Aspekte wären für den Geltungsbereich in der Forschung relevant?
• Wie muss das Prüfungsrecht im Umgang mit Hochrisikosystemen ausgestaltet werden?
• Welche Implikationen ergeben sich aus dem Urheberrecht und dem Datenschutz für Hochschulen in der Rolle als KI-Anbieter?
• Welche weiteren Anforderungen ergeben sich aus dem AI Act für Hochschulen?
• Und wie müssen die Angehörigen einer Hochschule ggf. dafür qualifiziert werden?

Kurs: EU AI Act Essentials

Inhalt:

• Einführung in den EU AI Act: Ziele, Struktur und Grundprinzipien
• Überblick über verwandte EU-Gesetze und deren Zusammenspiel mit dem AI Act
• Zeitplan und wichtige Meilensteine der Implementierung
• Praktische Beispiele und Use Cases für die verschiedenen Risikoklassen
• Überblick über die zentralen Akteure im AI Act (Provider, Deployer, National Authority)

Lernziele:
Nach Abschluss des Kurses...

• kannst du den EU AI Act einordnen und dessen Grundzüge sowie Zielsetzung beschreiben.
• bist du in der Lage, die vier Risikoklassen von KI-Systemen zu benennen und Beispiele zuzuordnen.
• bist du in der Lage, die nächsten Schritte zur Implementierung des AI Acts exemplarisch zu skizzieren.
• kannst du die wichtigsten verwandten EU-Gesetze identifizieren und deren Beziehung zum AI Act erläutern.
• kannst du die wesentlichen Rollen im AI Act (Provider, Deployer, National Authority) benennen und deren Verantwortlichkeiten beschreiben.
• kannst du die wichtigsten Fristen und Meilensteine für die Umsetzung des AI Acts aufzählen und in einen Zeitplan einordnen.

Dauer: 8 h

Anbieter: KI-Campus

Kurs: EU AI Act: Gesetzliche Regulierungen von KI und ihre Auswirkungen auf Hochschulen und Lehre

Inhalt:
In diesem Onlinekurs lernst du, was hinter dem EU AI Act steckt und wie er die Arbeit an Hochschulen und in der Lehre beeinflusst. Nach einer Einführung in die Grundlagen von KI und den Zielen der Verordnung erfährst du anhand anschaulicher Beispiele, welche Risikogruppen für KI-Systeme existieren und wie deren Regulierung konkret aussieht. Du lernst, wie der AI Act an Hochschulen umgesetzt wird, welche Maßnahmen notwendig sind und welche Herausforderungen dabei entstehen. Der Kurs bietet dir einen leicht zugänglichen Einstieg in die rechtlichen Rahmenbedingungen, damit du KI in Lehre und Forschung verantwortungsvoll und innovativ einsetzen kannst.

Lernziele:

• Was AI ist.
• Welche Ziele und Zielgruppen der AI Act beinhaltet.
• Warum KI-Systeme in Risikogruppen unterteilt werden.
• Welche Risikogruppen es gibt und wie KI Systeme der einzelnen Risikogruppen reguliert sind.
• Wann welche Verordnungen des AI Acts in Kraft treten.
• Was am AI Act kritisiert wird und warum.
• Welche Risikogruppen besonders relevant für Hochschulen sind.
• In welchen Bereichen KI-Systeme an Hochschulen eingesetzt werden können und in welche Risikogruppen diese KI-Systeme fallen.
• Welche Maßnahmen an Hochschulen umgesetzt werden müssen.
• Was mit "KI-Kompetenz" gemeint ist.
• Wie KI-Kompetenzen an Hochschulen vermittelt werden können.
• Welche Herausforderungen für die Lehre an Hochschulen durch die Benutzung von KI-Systemen entstehen und wie diesen begegnet werden kann.

Dauer: 1.5 h

Anbieter: Netzwerk Landeseinrichtungen für digitale Hochschullehre