Deutschland: Zum 2. August 2025 gelten weitere Regelungen aus der KI-Verordnung (AI-Act) – auch für Ihr Unternehmen?

Inhalt:

Der AI Act – Versuch der Regulierung von KI
Für wen gelten die Regelung aus der KI-Verordnung?
Welche Risikoklassen von KI-Systemen gibt es?
Gestaffelte zeitliche Geltung der KI-Verordnung
Handlungsempfehlung: frühzeitiges Befassen mit dem AI Act

Der AI Act – Versuch der Regulierung von KI

Viel Euphorie und Hoffnung einerseits, aber auch Ängste und Sorgen andererseits: Mit seinen unzähligen Einsatzmöglichkeiten und seinem disruptiven Potenzial ist künstliche Intelligenz weiterhin in aller Munde. In Gestalt der KI-Verordnung (AI Act) hat der europäische Gesetzgeber den weltweit ersten Regulierungsversuch unternommen. In Kraft getreten ist die KI-Verordnung bereits am 1. August 2024. Der Geltungsbeginn der einzelnen Regelungen ist hingegen zeitlich gestaffelt. In genau einem Monat, zum 2. August 2025, erwachsen weitere Regelungen aus der Verordnung in Geltung.

Mit der KI-Verordnung verfolgt der Gesetzgeber das Ziel des Grundrechtsschutzes und der Förderung von Innovationen. Das soll maßgeblich durch eine risikobasierte Regulierung geschehen. KI-Systeme werden in Risikoklassen unterteilt. Abhängig von der Einordnung in KI-Systeme für verbotene Praktiken, Hochrisiko KI-Systeme, KI-Systeme mit begrenztem Risiko und KI-Systeme mit minimalem Risiko werden bestimmte Pflichten oder auch Verbote aufgestellt.

Für wen gelten die Regelung aus der KI-Verordnung?

Adressat der Verordnung sind keineswegs allein Entwickler und Programmierer von KI-Modellen oder General-Purpose AI Models. Auch Unternehmen, die ein KI-System anbieten oder betreiben, fallen in den Anwendungsbereich der Verordnung. Das kann durch die Integration einer KI-Anwendung in das eigene Produkt geschehen, aber auch durch den bloßen Einsatz eines Chatbots im Kundenservice.

Welche Risikoklassen von KI-Systemen gibt es?

Verboten sind nach der KI-Verordnung bspw. unterschwellig manipulativ wirkende KI-Systeme oder KI-Systeme zum Social Scoring. Hochrisiko-KI-Systeme sind nach der gesetzgeberischen Wertung der Anhänge I und III der KI-Verordnung mit hohen Risiken für die Gesundheit und Sicherheit verbunden. Der Gesetzgeber begegnet dem mit einem Pflichtenkatalog, angefangen beim Risikomanagement, über Qualitätsanforderungen bis hin zu Informations- und Dokumentationspflichten. Niedrigrisiko KI-Systeme treffen Transparenzpflichten, wohingegen an Minimalrisiko KI-Systeme lediglich noch Empfehlungen zur Wahrung allgemeiner Grundsätze wie menschliche Aufsicht, Nichtdiskriminierung und Fairness adressiert sind.

Gestaffelte zeitliche Geltung der KI-Verordnung

Während die Regelungen für verbotene KI-Systeme bereits seit dem 2. Februar 2025 gelten, erfahren die Pflichten zu Hochrisiko KI-Systemen aus dem Anhang I der Verordnung erst zum 2. August 2027 Geltung. Regelungen zu Hochrisiko KI-System des Anhangs III, wie auch ein Großteil der weiteren Normen der KI-Verordnung, gelten ab dem 2. August 2026. Zum 2. August 2025 werden nun u.a. die Regelungen für KI-Modelle mit allgemeinem Verwendungszweck wirksam - quasi die Technik bzw. der Algorithmus hinter den konkreten Anwendungen in Gestalt der KI-Systeme. Auch die Regelungen zu Sanktionen erwachsen zum 2. August 2025 in Geltung, ebenso wie die Kapitel zu Governance sowie zu den notifizierenden Behörden und notifizierten Stellen.

Handlungsempfehlung: frühzeitiges Befassen mit dem AI Act

Unternehmen sind gut beraten, sich frühzeitig mit den Vorgaben der KI-Verordnung zu befassen. Die im Unternehmen verwendeten KI-Systemen sind zu identifizieren und in die von der KI-Verordnung vorgegebenen Risikoklassen einzugruppieren. Nachweise zur Erfüllung von Transparenz- und Dokumentationspflichten sollten zusammengestellt werden. Mitarbeitende, die mit KI-Systemen arbeiten, sind zu schulen und zu sensibilisieren. Auch diese allgemeine Pflicht zur Vermittlung von KI-Kompetenzen im Unternehmen gilt bereits seit dem 2. Februar 2025.

Wir begleiten Sie gern bei der Implementierung entsprechender Arbeitsabläufe in Ihrem Hause und beraten Sie zu allen Rechtsfragen im Zusammenhang mit dem Einsatz von KI im Unternehmen.

Autor: Dr. Henning Kohlmeier