Die neuen Vorschriften der KI-Verordnung sollen gelten für Unternehmen, die:
- alle Anbieter von KI-Systemen, die ein KI-System entwickeln oder entwickeln lassen und
- dieses dann auch in Verkehr bringen oder in Betrieb nehmen;
- diejenigen, die KI-System in eigener Verantwortung verwenden;
- Händler außerhalb der EU und EU-Importeure;
- Anbieter und Nutzer von KI-Systemen, die in einem Drittland ansässig sind, wenn der von diesen Systemen erzeugte Output in der EU verwendet wird.
Näheres zum AIAct siehe https://blog.bimpress.de/der-data-act-2024-und-seine-chancen-fuer-unternehmen/ und https://blog.bimpress.de/konsequenzen-aus-dem-europaeischen-gesundheitsdatenraum-ehds-fuer-bayern-und-in-deutschland-inkl-der-epa-stand-dez-2023/ sowie https://blog.bimpress.de/ehealth-update-2401-ki-reguliert-erezept-startet-schwer/.
Einstufung von KI-Systemen nach einem risikobasierten Ansatz
Da der Einsatz von KI mit ihren spezifischen Merkmalen (wie z.B. Komplexität, Intransparenz, Datenabhängigkeit, autonomes Verhalten) die Grundrechte und die Sicherheit von Nutzern gefährden kann (aber nicht muss), wendet die KI-Verordnung einen risikobasierten Ansatz an. Die erforderliche gesetzliche Regulierungsstärke hängt von der Risikostufe ab:
- ein nicht akzeptables Risiko (unacceptable risk) => verbotene AI-Praktiken,
- ein hohes Risiko (high risk) => regulierte KI-Systeme mit hohem Risiko,
- ein begrenztes Risiko (limited risk) => Transparenz und
- ein geringes oder minimales Risiko (low an minimal risk) => Keine Verpflichtungen.
Medizinprodukte mit KI sind in jedem Fall Hochrisiko-KI-Systeme #MedTech
Wie man der Tabelle entnehmen kann, werden Medizinprodukte mit KI-Anwendung automatisch als Hochrisiko-Systeme eingestuft, da diese von den EU-Gesundheits- und Sicherheitsharmonisierungsvorschriften reguliert werden.
Näheres zum AIAct siehe auch „eHealth-Update 2401: KI reguliert“ (bimpress1-Blog)
Für weiteres nehmen Sie bitte mit uns Kontakt auf. Oder hierüber.
Bildquelle: www.seleon.de