Der AI-Act der Europäischen Union ist eine umfassende Verordnung, die erstmals einen rechtlichen Rahmen für Künstliche Intelligenz (KI) festlegt. Am 21. Mai 2024 wurde das Gesetz verabschiedet und am 1. August desselben Jahres ist es in Kraft getreten. Die Entwicklung, der Einsatz und die Nutzung von KIs wird darin geregelt. Ziel hierbei ist es, die Funktionsweise des europäischen Marktes zu verbessern und die Einführung von menschenzentrierter und vertrauenswürdiger KI zu fördern.

Dabei legt die Verordnung harmonisierte Regeln fest, um sicherzustellen, dass KI-Systeme sicher und transparent sind, während zugleich die Grundrechte der Bürger:innen geschützt werden. Dazu gehören Maßnahmen zur Risikobewertung und -minderung sowie Anforderungen an die Transparenz und Nachvollziehbarkeit von künstlichen Intelligenzen. Auch Vorschriften zur Überwachung und Durchsetzung der Regularie werden thematisiert. Auch in der Medizintechnik wird der Einsatz von KI immer wichtiger. Welche Ziele der AI-Act verfolgt, wie die Risikoklassen bestimmt werden und welche Einschnitte in der Medizintechnik-Branche zu erwarten sind, zeigt dieser Artikel.

Welche Ziele werden mit dem AI-Act verfolgt?

Die Geschwindigkeit, in welche sich künstliche Intelligenzen in den letzten Jahren weiterentwickelt haben, war für viele kaum abzusehen. Man hat das Gefühl, dass der AI-Act daher beinahe zu spät kommt. Viele Betreiberfirmen müssen die Funktionen ihrer KIs anpassen, um die Anforderungen einzuhalten. Mit der Verabschiedung der Regularien verfolgt die Europäische Union folgende Ziele:

• Sicherheit und Transparenz: Sicherstellen, dass KI-Systeme sicher, transparent und nachvollziehbar arbeiten.
• Schutz der Grundrechte: Gewährleisten, dass KI-Systeme die Grundrechte der Bürger schützen und nicht diskriminierend sind.
• Förderung von Innovation: Die Entwicklung und den Einsatz von KI-Technologien fördern, während gleichzeitig bestehende Risiken berücksichtigt werden.
• Risikobasierter Ansatz: Einführung eines risikobasierten Regelwerks, das spezifische Anforderungen für verschiedene Kategorien von KI-Systemen festlegt.
• Verbot bestimmter Praktiken: Verbot von KI-Anwendungen, die als unannehmbar riskant eingestuft werden, wie manipulative KI-Anwendungen und Echtzeit-Biometrie.

Diese Ziele sollen dazu beitragen, das Vertrauen in KI-Systeme zu stärken und ihre sichere und ethische Nutzung zu gewährleisten.

Risikobewertung im Zuge des AI-Acts

Einer der relevantesten Aspekte beim AI-Act ist für Hersteller von Medizintechnik die Risikobewertung. Dabei liegt das hauptaugenmerkt auf dem Mensch als Nutzer dieser Technologie. Auch Maßnahmen zur Risikominderung und für die Transparenz sind essenzielle Bestandteile. Hier sind die Hauptpunkte der Risikobewertung:

1. Kategorisierung nach Risiko: Künstliche Intelligenzen werden basierend auf ihrem potenziellen Risiko für die Sicherheit, Grundrechte und Gesundheit der Bürger:innen in verschiedene Kategorien eingeteilt. Diese Kategorien sind:
   1. Verbotene Praktiken: KIs, die als unannehmbar riskant eingestuft werden, wie manipulative Anwendungen und Echtzeit-Biometrie. Auch Systeme zur Bestimmung von Schwachstellen gesamter Personengruppen oder deren Klassifizierung aufgrund eines Sozialverhaltens sind verboten.
   1. Hochrisiko-Systeme: Systeme, die erhebliche Risiken bergen, wie z.B. KI in der medizinischen Diagnostik oder im autonomen Fahren.
   1. Systeme mit begrenztem Risiko: Systeme, die ein moderates Risiko darstellen und spezifische Transparenzanforderungen erfüllen müssen.
   1. Systeme mit minimalem oder keinem Risiko: Systeme, die nur minimale oder keine Risiken bergen und daher weniger strenge Anforderungen erfüllen müssen.
2. Risikominderung: Für Hochrisiko-Systeme müssen strenge Anforderungen an Sicherheit, Transparenz und Nichtdiskriminierung erfüllt werden. Dazu gehören umfassende Risikobewertungen, kontinuierliche Überwachung und regelmäßige Audits. So kam es beispielsweise in der Vergangenheit vor, dass People of Color durch künstliche Intelligenzen zur Gesichtserkennung benachteiligt waren.
3. Transparenzanforderungen: Alle KI-Systeme müssen transparent sein, sodass Nutzer verstehen können, wie die Systeme funktionieren und welche Entscheidungen sie treffen.

Anhand dieser Kriterien soll bestätigt werden, dass künstliche Intelligenzen sicher und vertrauenswürdig sind und gleichzeitig Innovation ermöglicht wird.

Auswirkung des AI-Acts auf die Medizintechnik

Der AI-Act der EU hat erhebliche Auswirkungen auf Medizinprodukte, da es sich bei den betreffenden KIs häufig um Hochrisiko-Systeme handelt. Demnach werden Produkte mit integrierter KI oder eigenständige KIs in der Regel in die MDR Risikoklasse IIa oder höher eingestuft. Bei ihnen wird nämlich meist direkt oder indirekt medizinische Diagnostik angewandt. In Bezug auf die MDR heißt es, für Produkte dieser Art muss eine Benannte Stelle hinzugezogen werden. Post-Market-Surveillance, ein Qualitäts-Management-System, technische Dokumentation und ein Plan zur Umsetzung des Risikomanagements fallen ebenfalls bei Medizingeräten mit Hochrisiko-Einstufung an.

Einige KI-Systeme lassen sich jedoch auch der Klasse I zuordnen, was die Anzahl der Anforderungen stark mindert. Jedoch bedeutet es nicht, dass ein Medizinprodukt, das unter dem AI-Act als hochriskant eingestuft wird, auch automatisch unter der MDR dieser Einstufung erhält. Das heißt, ein Gerät mit integrierter KI kann unter dem AI-Act als Hochrisikoprodukt eingeordnet werden, während es unter der MDR lediglich die niedrigste Risikoklasse I erhält. Hier wird im Einzelfall entschieden. Umgekehrt sind Medizinprodukte der Klasse IIa und aufwärts allerdings immer Hochrisiko-KI-Systeme.

Womit müssen Hersteller rechnen?

Eine Befürchtung vieler Medizinprodukthersteller ist eine Einstufung ihrer Medizinprodukte in eine höhere Risikoklasse. In diesem Fall kämen die bereits genannten Anforderungen auf die Firmen zu. Höhere Kosten und eine längere Zeit zum Inverkehrbringen gingen damit ebenfalls einher. Ein Medizinprodukt, welches KI nutzt, um Diagnosen zu stellen oder dabei unterstützt, könnte zum Beispiel hochgestuft werden. Auch Überwachungsgeräte, mit integrierter KI, um Patientendaten zu überwachen und Alarme auszulösen, könnte aufgrund des AI-Acts hochgestuft werden. Auch wenn diese Systeme auf dem ersten Blick keinen direkten Einfluss auf die Patient:innen haben, können Fehlfunktionen verheerende Auswirkungen haben. Es ist wichtig zu beachten, dass die spezifischen Umstände, unter denen ein Medizinprodukt hochgestuft werden könnte, von vielen Faktoren abhängen. Das schließt die spezifische Art des Produkts ein, sowie die Art und Weise, wie die KI in das Produkt integriert ist.

Ein weiterer Kritikpunkt ist die Auswirkung des AI-Acts auf die Wettbewerbsfähigkeit des europäischen Medizintechnik-Marktes. Kleine und mittelständische Unternehmen deren Produkte unerwartet hochgestuft werden, können sich die damit einhergehenden Zusatzkosten gegebenenfalls nicht leisten. Im Zweifel bedeutet es, dass diese Unternehmen kein Budget mehr für die Weiter- und Neuentwicklung zur Verfügung haben.

Es ist wichtig zu beachten, dass die genauen Auswirkungen des AI-Act auf die Medizintechnik von der konkreten Umsetzung in den einzelnen EU-Mitgliedstaaten abhängen. Es wird empfohlen, dass Hersteller von Medizinprodukten sich mit den Details des AI-Act vertraut machen und entsprechende Maßnahmen ergreifen, um die Einhaltung der neuen Vorschriften zu gewährleisten. Da der AI-Act erst vor kurzem in Kraft getreten ist bleibt es abzuwarten, wie sich die Medizintechnikbranche entwickeln wird, zumal er über eine zweijährige Übergangszeit verfügt.