Welche Regelungen gelten nun für den Einsatz von KI?
Nach dem Inkrafttreten der KI-Verordnung (AI Act) am 1. August 2024 folgten ab dem 2. August 2025 neue Pflichten und Sanktionen für Unternehmen – insbesondere hinsichtlich KI-Modellen mit allgemeinem Verwendungszweck (sog. „GPAI-Modelle“). Zudem nehmen die Aufsichtsbehörden ihre Tätigkeit auf und können erstmals Sanktionen für die bereits geltenden Bereiche des AI Acts verhängen. Wir erklären, worauf Unternehmen jetzt achten müssen.
Inhalt dieses Blogposts:
- Die wichtigsten Neuregelungen auf einen Blick
- Was ändert sich für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI)?
- Welche Sanktionen aus dem AI Act gelten ab 2. August 2025?
- Notifizierende Behörden und notifizierte Stellen – Aufbau der Struktur in Deutschland
- Was ist ab dem 2. August 2025 wichtig für Unternehmen?
Die wichtigsten Neuregelungen auf einen Blick
Hier finden Sie eine kurze Übersicht über die zentralen Neuerungen, die ab dem 2. August 2025 gemäß der KI-Verordnung gelten:
- Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (auch GPAI – General-Purpose AI) (Kapitel V KI-VO)
- Behördliche Governance (Kapitel VII KI-VO), einschließlich der zuständigen nationalen Aufsichtsbehörden
- Sanktionen (Kapitel XII KI-VO, ausgenommen Art. 101 KI-VO)
- Notifizierende Behörden und notifizierte Stellen (Kapitel III Abschnitt 4 KI-VO)
Praxis-Leitfaden
KI bedenkenlos nutzen in 9 Schritten:
9 einfache Schritte (+ Schnelltest-Checkliste), mit denen Sie KI rechtssicher und bedenkenlos im Einklang mit den Vorgaben der KI-Verordnung und anderen Rechtsvorschriften in Ihrem Unternehmen einsetzen können. Fordern Sie den Leitfaden jetzt kostenlos an.
Hier bestellen, es ist kostenfrei, nur hier: Whitepaper anfordern.
Was ist ab dem 2. August 2025 wichtig für Unternehmen?
Die neuen Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck werden wohl die wenigsten Unternehmen tatsächlich betreffen. Zu berücksichtigen ist jedoch, dass die Vorschriften über Sanktionen (Kapitel XII KI-VO, ausgenommen Art. 101 KI-VO) Gültigkeit erlangen. Offiziell ist mit einer Bußgeldbelegung allerdings erst ab dem 02.08.2026 zu rechnen.
Deswegen sollten insbesondere Anbieter von Hochrisiko-KI-Systemen, aber auch verschiedene andere Akteure, die Einhaltung ihrer Pflichten überprüfen.
Grundsätzlich empfehlen wir folgendes Vorgehen:
- Erfassen Sie alle eingesetzten KI-Assets und Use-Cases in einem KI-Verzeichnis.
- Definieren Sie Ihre Rolle und die Art Ihrer KI – insbesondere, ob Sie Anbieter einer GPAI sind.
- Führen Sie eine Risikoklassifizierung Ihrer KI-Systeme durch.
- Leiten Sie Ihre Pflichten und die nötigen Maßnahmen daraus ab.
- Führen Sie eine interne KI-Nutzungsrichtlinie ein.
- Als auf Technologie spezialisierte Kanzlei unterstützen wir Sie gerne beim rechtssicheren Einsatz von KI-Systemen und dem Aufbau einer wirksamen AI Governance.
Was ändert sich für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI)?
Ab dem 2. August kommen auf Anbieter von KI-Modellen mit allgemeinem Verwendungszweck zahlreiche Pflichten zu. Insbesondere sind sie dann zur weitreichenden Dokumentation und Transparenz verpflichtet. Daneben besteht eine Pflicht zur Zusammenarbeit mit den zuständigen Behörden.
Auch Handlungspflichten, die vor allem auf den Schutz von Urheberrechten ausgerichtet sind, finden nun Anwendung. Bei der Umsetzung helfen soll der am 10. Juli 2025 von der Europäischen Kommission veröffentlichte Verhaltenskodex für KI mit allgemeinem Verwendungszweck.
Was sind KI-Modelle mit allgemeinem Verwendungszweck?
KI-Modelle mit allgemeinem Verwendungszweck sind KI-Modelle, die eine erhebliche allgemeine Verwendbarkeit aufweisen, in der Lage sind, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen und in eine Vielzahl von nachgelagerten Systemen oder Anwendungen integriert werden können.
Abzugrenzen sind diese von KI-Systemen. KI-Modelle bilden den Kern eines KI-Systems, da sie die wesentlichen Funktionen – insbesondere Autonomie und Anpassungsfähigkeit – ermöglichen. Erst durch die Inbetriebnahme für einen konkreten Anwendungszweck wird daraus ein vollwertiges KI-System im Sinne einer konkreten Anwendung für Endnutzer. Ein KI-System ist somit das fertige, interaktive Produkt, während das KI-Modell die zugrunde liegende, funktionstragende Komponente darstellt.
In der Praxis dürften deshalb die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nur eine sehr begrenzte Anzahl von Unternehmen direkt treffen. Allerdings können sich insbesondere aus den Dokumentationspflichten mittelbar auch Auswirkungen für Unternehmen ergeben, die diese Modelle in konkreten KI-Systemen einsetzen.
Denn durch die Nutzung dieser Basismodelle entstehen Informationen und Erkenntnisse, von denen die Anbieter von KI-Systemen profitieren, wenn sie darauf aufbauende, fertige KI-Systeme betreiben. Daraus können wiederum eigene regulatorische Pflichten resultieren.
Dokumentationspflichten (Kapitel V, Artikel 53 KI-VO)
Jeder Anbieter eines KI-Modells mit allgemeinem Verwendungszweck hat eine technische Dokumentation seines Modells zu erstellen, aktuell zu halten und sie dem Büro für Künstliche Intelligenz und den zuständigen nationalen Behörden auf Anfrage zur Verfügung zu stellen. Das Büro für Künstliche Intelligenz dient als zentrale Anlaufstelle für KI innerhalb der Europäischen Kommission. Auf nationaler Ebene ist davon auszugehen, dass die Bundesnetzagentur die zuständige Behörde sein wird.
Transparenzpflichten (Kapitel V, Artikel 53 KI-VO)
Anbieter von KI-Modellen mit allgemeinem Verwendungszweck sollen nachgelagerten Anbietern Transparenzinformationen zur Verfügung stellen. Grund dafür ist, dass Anbieter ganz am Anfang der KI-Wertschöpfungskette stehen – und ihnen deshalb eine besondere Verantwortung übertragen wird. Diese Modelle stellen nämlich oft die Grundlage für nachgelagerte Systeme dar und können deshalb auch Auswirkungen auf Pflichten für nachgelagerte Anbieter haben.
Schutz von Urheberrechten (Kapitel V, Artikel 53 KI-VO)
Anbieter müssen ab August 2025 Strategien entwickeln, um sicherzustellen, dass das beim Training ihrer Modelle verwendete Datenmaterial keine Urheberrechte verletzt. Dazu gehören auch die Erstellung und Veröffentlichung der Zusammenfassung der Trainingsdaten.
Urheberrechte beim Umgang mit KI zu schützen, birgt immense Herausforderungen. Oft werden KI-Modelle mit umfassenden Datensätzen trainiert, die vor allem aus urheberrechtlich geschützten Daten bestehen. Die rechtliche Zulässigkeit der Nutzung dieser Trainingsdaten ist völlig ungeklärt. Die neuen Regelungen sollen nun der Nutzung von urheberrechtlich geschützten Datensätzen entgegenwirken.
Was ändert sich für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI)?
Ab dem 2. August kommen auf Anbieter von KI-Modellen mit allgemeinem Verwendungszweck zahlreiche Pflichten zu. Insbesondere sind sie dann zur weitreichenden Dokumentation und Transparenz verpflichtet. Daneben besteht eine Pflicht zur Zusammenarbeit mit den zuständigen Behörden.
Auch Handlungspflichten, die vor allem auf den Schutz von Urheberrechten ausgerichtet sind, finden nun Anwendung. Bei der Umsetzung helfen soll der am 10. Juli 2025 von der Europäischen Kommission veröffentlichte Verhaltenskodex für KI mit allgemeinem Verwendungszweck.
Was sind KI-Modelle mit allgemeinem Verwendungszweck?
KI-Modelle mit allgemeinem Verwendungszweck sind KI-Modelle, die eine erhebliche allgemeine Verwendbarkeit aufweisen, in der Lage sind, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen und in eine Vielzahl von nachgelagerten Systemen oder Anwendungen integriert werden können.
Abzugrenzen sind diese von KI-Systemen. KI-Modelle bilden den Kern eines KI-Systems, da sie die wesentlichen Funktionen – insbesondere Autonomie und Anpassungsfähigkeit – ermöglichen. Erst durch die Inbetriebnahme für einen konkreten Anwendungszweck wird daraus ein vollwertiges KI-System im Sinne einer konkreten Anwendung für Endnutzer. Ein KI-System ist somit das fertige, interaktive Produkt, während das KI-Modell die zugrunde liegende, funktionstragende Komponente darstellt.
In der Praxis dürften deshalb die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nur eine sehr begrenzte Anzahl von Unternehmen direkt treffen. Allerdings können sich insbesondere aus den Dokumentationspflichten mittelbar auch Auswirkungen für Unternehmen ergeben, die diese Modelle in konkreten KI-Systemen einsetzen.
Denn durch die Nutzung dieser Basismodelle entstehen Informationen und Erkenntnisse, von denen die Anbieter von KI-Systemen profitieren, wenn sie darauf aufbauende, fertige KI-Systeme betreiben. Daraus können wiederum eigene regulatorische Pflichten resultieren.
Dokumentationspflichten (Kapitel V, Artikel 53 KI-VO)
Jeder Anbieter eines KI-Modells mit allgemeinem Verwendungszweck hat eine technische Dokumentation seines Modells zu erstellen, aktuell zu halten und sie dem Büro für Künstliche Intelligenz und den zuständigen nationalen Behörden auf Anfrage zur Verfügung zu stellen. Das Büro für Künstliche Intelligenz dient als zentrale Anlaufstelle für KI innerhalb der Europäischen Kommission. Auf nationaler Ebene ist davon auszugehen, dass die Bundesnetzagentur die zuständige Behörde sein wird.
Transparenzpflichten (Kapitel V, Artikel 53 KI-VO)
Anbieter von KI-Modellen mit allgemeinem Verwendungszweck sollen nachgelagerten Anbietern Transparenzinformationen zur Verfügung stellen. Grund dafür ist, dass Anbieter ganz am Anfang der KI-Wertschöpfungskette stehen – und ihnen deshalb eine besondere Verantwortung übertragen wird. Diese Modelle stellen nämlich oft die Grundlage für nachgelagerte Systeme dar und können deshalb auch Auswirkungen auf Pflichten für nachgelagerte Anbieter haben.
Schutz von Urheberrechten (Kapitel V, Artikel 53 KI-VO)
Anbieter müssen ab August 2025 Strategien entwickeln, um sicherzustellen, dass das beim Training ihrer Modelle verwendete Datenmaterial keine Urheberrechte verletzt. Dazu gehören auch die Erstellung und Veröffentlichung der Zusammenfassung der Trainingsdaten.
Whitepaper hier bestellen:
