Mit dem Start von ChatGPT am 30. November 2022 erlebte die künstliche Intelligenz (KI) weltweit einen riesigen Boom. Innerhalb von zwei Monaten registrierten sich für den Chatbot der Firma OpenAI 100 Millionen Menschen. Das ohnehin schon prominente Thema entwickelte sich in kurzer Zeit zu einem Megatrend. Dabei handelt es sich bei ChatGPT oder Konkurrenzprodukten wie Gemini von Google um generative KIs. Diese erschaffen neue Inhalte wie Texte, Bilder und Musik, indem sie aus den Mustern bestehender Daten lernen. Einen Teil der Faszination um KIs macht deren Auswirkung auf die Arbeits- und Berufswelt aus.

So hat KI auch in der MedTech-Industrie das Potenzial, einen großen Einfluss zu nehmen. Laut eines Artikels der Boston Consulting Group soll die Nutzung von künstlichen Intelligenzen nämlich in keiner Branche so sehr ansteigen wie im Gesundheitswesen. Die gebotenen Möglichkeiten sind so umfangreich, wie die künstliche Intelligenz komplex ist. Doch welche Anwendungsbereiche gibt es für die KI in der MedTech Branche? Welche Nachteile können dadurch entstehen? Und welche regulatorischen Anforderungen sind zu beachten? Dieser Artikel möchte diesen Fragen nachgehen.

Anwendung von KI in der MedTech-Branche

Arbeitsbereiche in den meisten Unternehmen können mit der Hilfe von KI optimiert werden. In der Softwareentwicklung können Codes generiert, überprüft und verbessert werden. Die Marketing-Sales-Abteilung hat die Möglichkeit, mit künstlicher Intelligenz, Wettbewerbsanalysen durchzuführen oder Medien und Textdokumente zu erstellen. Auch im Customer Support ist es realistisch, dass KI in Zukunft weitaus mehr Aufgaben übernimmt, als es jetzt der Fall ist. Mit Zugriff auf relevante Informationen und Machine-Learning sind künstliche Intelligenzen bald in der Lage, komplexe Kundenanfragen eigenständig zu beantworten. Viele Abteilungen könnten von einer erheblichen Arbeitserleichterung profitieren. Diese Ansätze sind jedoch nicht branchenexklusiv.

Anders ist es beim generativen Produktdesign. Die Idee dahinter ist ebenfalls nicht exklusiv für die MedTech-Industrie, die Anwendung jedoch besonders individualisierbar. Beispielsweise können neue Ideen für Produkte und Funktionen anhand bestehender Muster entwickelt werden. Hierbei entstehen unter anderem unkonventionelle Lösungsansätze, die als Impulsgeber für Designer*innen dienen. Auch personalisierte Produkte können mit KI im MedTech-Bereich erstellt werden. Bereits jetzt wird dieses Potenzial zur Herstellung von Knochenimplantaten genutzt. Ein weiterer denkbarer Anwendungsbereich ist die proaktive Post-Market-Surveillance. Eine künstliche Intelligenz hat die Möglichkeit, die Literaturrecherche und die anschließende Erstellung von Berichten schneller und mit weniger Fehlern durchzuführen.

Mit der Weiterentwicklung von KI wird auch die Anzahl der möglichen Anwendungsgebiete steigen. Es bleibt also spannend zu beobachten, wie sich der Markt diesen Änderungen anpassen wird.

Welche Nachteile entstehen?

Nachteile in Bezug auf künstliche Intelligenz klingen oft ähnlich. Oft geht es darum, dass sie bereits so ausgeklügelt sind, dass sie Menschen den Arbeitsplatz streitig machen. Teilweise mag das stimmen, zum großen Teil ist das für die Zukunft noch nicht absehbar. Anstatt Menschen bei der Arbeit zu ersetzen, können künstliche Intelligenzen ergänzend eingesetzt werden. Um sie effektiv anzuwenden, ist es für potenzielle Anwender*innen sinnvoll, entsprechende Trainings und Schulungen zu besuchen. Dies ist wiederum mit Zeit und Kosten verbunden.

Ein weiterer Nachteil für den Einsatz von KI in der MedTech-Branche sind die zum größten Teil noch fehlenden Gesetze. Auf den nationalen bzw. supra-nationalen Ebenen gibt es nur wenige diesbezügliche Regularien. Nach und nach werden diese jedoch weltweit implementiert. Das Fehlen von Gesetzen ist in dem Sinne ein Nachteil, da die letztendliche Durchsetzung den Gebrauch von künstlichen Intelligenzen stark verändern kann. Hersteller müssten sich in einem solchen Falle an die entstehenden Regularien anpassen und gegebenenfalls Rückschläge bei der Entwicklung hinnehmen.

Wie wird KI reguliert?

Die Regulierung von künstlicher Intelligenz in Bezug auf Medizinprodukte gestaltet sich bislang schwierig, da es noch keine Normen und Gesetze zu KIs gibt. Ausschlaggebender Punkte hier sind die Erfüllung von Anforderungen und der vorgesehene Anwendungszweck der Hersteller. Deutlich wird das bei der Debatte, ob es sich bei ChatGPT selbst um ein Medizinprodukt handelt. Laut Koordinierungsgruppe Medizinprodukte (MDCG) der EU überschreitet eine Software die Schwelle zum Medizinprodukt, da es mehr als eine bloße Speicher- und Wiedergabefunktion hat. Eine Suchmaschine ist demnach kein Medizinprodukt. ChatGPT hingegen schon, da dessen Funktionen eingesetzt werden können für Diagnose, Überwachung, Behandlung oder Prävention von Krankheiten. Eine reine Suchfunktion ist hier nicht mehr gegeben.

OpenAI hat seine künstliche Intelligenz nicht als Medizinprodukt registriert. Das liegt womöglich auch daran, dass es von ihnen nicht ausdrücklich als Medizinprodukt vermarktet, bezeichnet oder gesehen wird. Es ist also deutlich, dass sich die Regulierung von künstlicher Intelligenz kompliziert gestaltet.

KI-Verordnung der EU

Vor kurzem arbeitete die EU an einem branchenübergreifenden Gesetz zur Regulierung von künstlichen Intelligenzen. Der finale Entwurf dieser KI-Verordnung wurde bereits im Januar 2024 veröffentlicht und am 13. März 2024 bestätigt. Auch Medizinprodukte werden darin explizit angesprochen. Das bedeutet im Umkehrschluss, Medizinprodukte sowie IVDs werden sowohl die Anforderungen der MDR und IVDR als auch die der KI-Verordnung erfüllen müssen. Dazu gehören unter anderem die Post-Market-Surveillance, ein Qualitäts-Management-System, eine technische Dokumentation und ein Risikomanagement. Es ist bislang unklar, ob dadurch eine Doppelbelastung entsteht oder die Erfüllung einer der Verordnungen ausreicht.

Die Regel 11 im Kapitel VIII der MDR-Anhänge besagt:

Software, die dazu bestimmt ist, Informationen zu liefern, die zu Entscheidungen für diagnostische oder therapeutische Zwecke herangezogen werden, gehört zur Klasse IIa, es sei denn, diese Entscheidungen haben Auswirkungen, die Folgendes verursachen können:

• den Tod oder eine irreversible Verschlechterung des Gesundheitszustands einer Person; in diesem Fall wird sie der Klasse III zugeordnet, oder
• eine schwerwiegende Verschlechterung des Gesundheitszustands einer Person oder einen chirurgischen Eingriff; in diesem Fall wird sie der Klasse IIb zugeordnet.

Künstliche Intelligenzen gehören nach dieser Regel der Klasse IIa oder höher an und benötigen somit ein Konformitätsbewertungsverfahren. Unabhängig von der tatsächlichen Anwendung fallen sie in der KI-Verordnung dadurch meist unter die Hochrisikoprodukte. Damit steigen auch die Anforderungen an sie, womit hohe Kosten zum Inverkehrbringen einhergehen.

Was ist abschließend zu beachten?

Die KI-Verordnung enthält einige Dopplungen mit der MDR und IVDR. Es bleibt daher abzuwarten, ob Medizinprodukte mit künstlichen Intelligenzen sich einer doppelten Prüfung stellen müssen. Das Resultat wäre eine höhere Mehrbelastung für Hersteller und Behörden. Da sich die Industrie rund um künstliche Intelligenzen rapide weiterentwickelt, ist es jedoch möglich, dass es auch bei der KI-Verordnung in Zukunft Anpassungen und Erweiterungen gibt. Einige Diskrepanzen könnten so zum Wohle der Behörden, Hersteller und letztendlich Nutzer*innen beseitigt werden.

[Disclaimer]

Die vorliegenden Informationen sind nur eine mögliche Interpretation der Regularien. Diese befinden sich zudem im ständigen Wandel, sodass die Informationen in diesem Artikel möglicherweise unvollständig oder nicht mehr auf dem neusten Stand sind. Bei dem obigen Artikel handelt es sich ausdrücklich nicht um eine rechtliche Beratung. Bitte informieren Sie sich in den offiziellen Dokumenten, bevor Sie unternehmerische Entscheidungen treffen. (Stand der Informationen: März 2024)