Workshops: EU AI Act & Compliance

Risikoklassen & Hochrisiko-KI nach EU AI Act verstehen

In dieser Schulung lernen Sie, KI-Anwendungen sicher den Risikoklassen des EU AI Act zuzuordnen. Anhand vieler realer Fallbeispiele trainieren Sie die Einstufung – von verbotenen Praktiken über Hochrisiko-Systeme bis zu Anwendungen mit Transparenzpflichten oder minimalem Risiko – und kennen die Folgen jeder Einstufung.

Für wen ist der Workshop?

  • KI-Beauftragte und Governance-Teams
  • Compliance, Datenschutz und Risikomanagement
  • Produktmanagement und Einkauf von KI-Lösungen
  • Fachbereiche mit potenziell sensiblen Anwendungen wie HR, Kreditvergabe oder Bildung
  • Berater und interne Prüfer

Das nehmen Sie mit

  • Sie kennen die vier Risikostufen und die Sonderregeln für KI-Modelle mit allgemeinem Verwendungszweck.
  • Sie erkennen verbotene Praktiken wie bestimmte Formen von Social Scoring, Manipulation oder Emotionserkennung am Arbeitsplatz.
  • Sie ordnen Anwendungen den Hochrisiko-Bereichen nach Anhang III und den Produktregeln nach Anhang I zu.
  • Sie prüfen, ob die Ausnahme für Systeme ohne erhebliches Risiko greifen kann, und dokumentieren das Ergebnis.
  • Sie kennen die Pflichten, die aus einer Hochrisiko-Einstufung für Anbieter und Betreiber folgen.

Agenda

  1. Modul 1

    Die Risikopyramide

    • Unannehmbares, hohes, begrenztes und minimales Risiko
    • Wo KI-Modelle mit allgemeinem Verwendungszweck stehen
  2. Modul 2

    Verbotene Praktiken

    • Manipulation, Ausnutzung von Schwächen, Social Scoring
    • Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen
    • Biometrische Kategorisierung und Fernidentifizierung
  3. Modul 3

    Hochrisiko-KI im Detail

    • Anhang I: KI als Sicherheitsbauteil regulierter Produkte
    • Anhang III: Biometrie, kritische Infrastruktur, Bildung, Beschäftigung, wesentliche Dienste, Strafverfolgung, Migration, Justiz
    • Ausnahmen für vorbereitende oder eng begrenzte Aufgaben – und ihre Grenzen bei Profiling
  4. Modul 4

    Transparenz und minimales Risiko

    • Chatbots, Deepfakes, synthetische Inhalte
    • Was für die meisten Office-Anwendungen gilt
  5. Modul 5

    Fallwerkstatt

    • Übung: 15 Praxisfälle einstufen und begründen
    • Folgen der Einstufung und Dokumentation des Ergebnisses

Warum die Einstufung über alles entscheidet

Ob eine KI-Anwendung kaum Pflichten auslöst oder umfangreiche Anforderungen an Risikomanagement, Dokumentation und Aufsicht stellt, hängt an ihrer Einstufung. Fehler sind in beide Richtungen teuer: Eine zu niedrige Einstufung birgt Bußgeld- und Haftungsrisiken, eine zu hohe bindet unnötig Ressourcen.

Die Einstufung hängt dabei weniger an der Technologie als am Verwendungszweck. Dasselbe Sprachmodell, etwa ChatGPT, Claude, Gemini oder Mistral, kann im Marketing minimales Risiko bedeuten und in der Bewerberauswahl ein Hochrisiko-System sein.

Lernen am Fall

Der Kern der Schulung ist eine Fallwerkstatt mit Beispielen aus verschiedenen Branchen. Gern bringen Sie eigene Anwendungen mit, die wir anonymisiert gemeinsam einordnen.

  • KI-gestützte Vorauswahl von Bewerbungen
  • Bonitätsbewertung für Privatkunden
  • Chatbot im Kundenservice
  • Automatische Bewertung von Prüfungsleistungen
  • Microsoft 365 Copilot für interne Texte
  • Predictive Maintenance in einer Industrieanlage

Vorsicht bei Grenzfällen

Die Europäische Kommission konkretisiert die Einstufung durch Leitlinien und Beispiele, und die Auslegung entwickelt sich weiter. Wir zeigen den aktuellen Stand und eine nachvollziehbare Methode. Bei Grenzfällen mit erheblichen Folgen empfehlen wir die Abstimmung mit Ihrer Rechtsberatung.

Häufige Fragen

Ist ChatGPT ein Hochrisiko-System?

Nicht per se. Die zugrunde liegenden Modelle unterliegen eigenen Regeln für Modelle mit allgemeinem Verwendungszweck. Ob eine konkrete Anwendung hochriskant ist, hängt vom Verwendungszweck ab, etwa wenn sie zur Personalauswahl eingesetzt wird.

Wer entscheidet über die Einstufung?

Zunächst der Anbieter des Systems, der seine Einschätzung dokumentieren muss, wenn er sich auf eine Ausnahme beruft. Betreiber sollten die Einstufung ihrer eingesetzten Systeme dennoch prüfen, weil sich daraus eigene Pflichten ergeben.

Wie unterscheidet sich das von der Grundlagen-Schulung?

Die Grundlagen-Schulung gibt den Gesamtüberblick. Diese Schulung vertieft ausschließlich die Einstufung und trainiert sie intensiv an Fällen.

Workshop

Kontakt aufnehmen

Sollen wir Ihre eigenen KI-Anwendungen in der Fallwerkstatt einstufen?

Erzählen Sie uns kurz von Ihrem Team – wir melden uns innerhalb von 24 Stunden mit einem Vorschlag für Inhalte, Format und Termin.

Lieber direkt sprechen?

Wir verwenden Ihre Angaben nur zur Bearbeitung der Anfrage. Datenschutz.