9.6.1 EU AI Act

Der EU AI Act (KI-Gesetz) schafft erstmals einen umfassenden, europaweiten Rechtsrahmen für die Entwicklung und Nutzung von Künstlicher Intelligenz. Ziel ist es, den Einsatz von KI-Systemen sicher, ethisch und kompetenzorientiert zu gestalten, um sowohl die Chancen von KI zu fördern als auch Risiken wirksam zu begrenzen. Die Verordnung unterscheidet KI-Anwendungen nach ihrem Risiko: von minimal über begrenzt bis hin zu hoch und inakzeptabel. Besonders Hochrisiko-Anwendungen – etwa im Bereich der Bewertung von Studierenden oder bei automatisierten Verwaltungssystemen – unterliegen strengen Auflagen hinsichtlich Sicherheit, Transparenz, Datenschutz und Nachvollziehbarkeit.

Hochschulen sind von diesen Regelungen in mehreren Funktionen betroffen: als Ausbildungsstätten, Forschungsinstitutionen und teils auch als Anbieter oder Betreiber von KI-Systemen. Sie müssen Forschungsprojekte und Lehrmethoden kritisch prüfen und an die gesetzlichen Anforderungen, insbesondere bei Hochrisiko-Anwendungen, anpassen. Dies erfordert oft umfassende Risikoanalysen und die Sicherstellung der Einhaltung rechtlicher Rahmenbedingungen, wie der Datenschutz-Grundverordnung (DSGVO), insbesondere wenn personenbezogene Daten verarbeitet werden (siehe Rechtliche Rahmenbedingungen für generative KI in der Lehre) (Europaeische Kommission 2025, ZIM 2025, ZIM 2025 2).

Anforderungen an Lehrende und Studierende

Ein zentrales Ziel des EU AI Acts ist die Förderung von KI-Kompetenz. Daraus ergeben sich neue Anforderungen für Lehrende und Studierende:

Lehrende tragen dabei eine doppelte Verantwortung: Einerseits sind sie verpflichtet, KI-Systeme selbst rechtskonform, transparent und sicher einzusetzen. Andererseits sollen sie Studierende dazu befähigen, kompetent und kritisch mit KI umzugehen.

Auch Studierende müssen über die reine Anwendung hinausgehen: Sie sollen die Funktionsweise, Potenziale und Risiken von KI verstehen, diese kritisch einordnen und verantwortungsvoll in unterschiedlichen Kontexten nutzen können (ZIM 2025 2).

Was "KI-Kompetenz" im Hochschulkontext bedeutet und wie sie gefördert werden kann, wird auf den folgenden Seiten erläutert.

Weitergehende Materialien zum Thema EU AI Act

Wer das Thema EU AI Act vertiefen möchte, der findet hier Materialien:

  • Weitere Informationen der Europäischen Kommission zum KI-Gesetz mit Erklärungen der einzelnen Risikostufen finden Sie hier.
  • Tool: AI Act Risk Navigator TÜV - Ein Klassifizierungstool zur Einordnung von KI-Systemen und KI-Modellen in die Risikoklassen der europäischen KI-Verordnung.

Inhalt:

  • Welchen Rechtsrahmen benötigen Hochschulen vor dem Hintergrund der KI-Verordnung für den Anwendungsbereich der Lehre?
  • Welche Aspekte wären für den Geltungsbereich in der Forschung relevant?
  • Wie muss das Prüfungsrecht im Umgang mit Hochrisikosystemen ausgestaltet werden?
  • Welche Implikationen ergeben sich aus dem Urheberrecht und dem Datenschutz für Hochschulen in der Rolle als KI-Anbieter?
  • Welche weiteren Anforderungen ergeben sich aus dem AI Act für Hochschulen?
  • Und wie müssen die Angehörigen einer Hochschule ggf. dafür qualifiziert werden?

Inhalt:

  • Einführung in den EU AI Act: Ziele, Struktur und Grundprinzipien
  • Überblick über verwandte EU-Gesetze und deren Zusammenspiel mit dem AI Act
  • Zeitplan und wichtige Meilensteine der Implementierung
  • Praktische Beispiele und Use Cases für die verschiedenen Risikoklassen
  • Überblick über die zentralen Akteure im AI Act (Provider, Deployer, National Authority)

Lernziele:
Nach Abschluss des Kurses...

  • kannst du den EU AI Act einordnen und dessen Grundzüge sowie Zielsetzung beschreiben.
  • bist du in der Lage, die vier Risikoklassen von KI-Systemen zu benennen und Beispiele zuzuordnen.
  • bist du in der Lage, die nächsten Schritte zur Implementierung des AI Acts exemplarisch zu skizzieren.
  • kannst du die wichtigsten verwandten EU-Gesetze identifizieren und deren Beziehung zum AI Act erläutern.
  • kannst du die wesentlichen Rollen im AI Act (Provider, Deployer, National Authority) benennen und deren Verantwortlichkeiten beschreiben.
  • kannst du die wichtigsten Fristen und Meilensteine für die Umsetzung des AI Acts aufzählen und in einen Zeitplan einordnen.

Dauer: 8 h

Anbieter: KI-Campus

Inhalt:
In diesem Onlinekurs lernst du, was hinter dem EU AI Act steckt und wie er die Arbeit an Hochschulen und in der Lehre beeinflusst. Nach einer Einführung in die Grundlagen von KI und den Zielen der Verordnung erfährst du anhand anschaulicher Beispiele, welche Risikogruppen für KI-Systeme existieren und wie deren Regulierung konkret aussieht. Du lernst, wie der AI Act an Hochschulen umgesetzt wird, welche Maßnahmen notwendig sind und welche Herausforderungen dabei entstehen. Der Kurs bietet dir einen leicht zugänglichen Einstieg in die rechtlichen Rahmenbedingungen, damit du KI in Lehre und Forschung verantwortungsvoll und innovativ einsetzen kannst.

Lernziele:

  • Was AI ist.
  • Welche Ziele und Zielgruppen der AI Act beinhaltet.
  • Warum KI-Systeme in Risikogruppen unterteilt werden.
  • Welche Risikogruppen es gibt und wie KI Systeme der einzelnen Risikogruppen reguliert sind.
  • Wann welche Verordnungen des AI Acts in Kraft treten.
  • Was am AI Act kritisiert wird und warum.
  • Welche Risikogruppen besonders relevant für Hochschulen sind.
  • In welchen Bereichen KI-Systeme an Hochschulen eingesetzt werden können und in welche Risikogruppen diese KI-Systeme fallen.
  • Welche Maßnahmen an Hochschulen umgesetzt werden müssen.
  • Was mit "KI-Kompetenz" gemeint ist.
  • Wie KI-Kompetenzen an Hochschulen vermittelt werden können.
  • Welche Herausforderungen für die Lehre an Hochschulen durch die Benutzung von KI-Systemen entstehen und wie diesen begegnet werden kann.

Dauer: 1.5 h

Anbieter: Netzwerk Landeseinrichtungen für digitale Hochschullehre

Abgerufen von „https://thldl.eduloop.de/mediawiki/index.php?title=EU_AI_Act&oldid=6432“