Künstliche Intelligenz KI-Medizinprodukte: Jetzt zählt die Umsetzung

Anbieter zum Thema

PRECISIS AG

Prosmap · Medical Product Platform

Metecon GmbH

Codialist GmbH

Der EU AI Act ist längst beschlossen, doch für die Medizintechnik beginnt in Deutschland jetzt die entscheidende Phase: Hersteller müssen zeigen, wie sie KI so entwickeln, validieren und überwachen, dass aus neuen Möglichkeiten ein verlässlicher klinischer Nutzen entsteht. Joachim Schneider, Head of QM/RA bei Precisis, erklärt, warum der Wettbewerbsvorteil nicht in der Ankündigung von KI liegt, sondern in einem robusten Prozess zum Anforderungsmanagement.

Künstliche Intelligenz ist in der Medizintechnik kein Zukunftsthema mehr. Sie kann große Datenmengen auswerten, Muster erkennen und Ärztinnen und Ärzte bei Diagnose- oder Therapieentscheidungen unterstützen. Doch je näher KI an die Versorgung rückt, desto höher sind die Anforderungen. Denn anders als in vielen anderen Branchen können fehlerhafte oder verzerrte Ergebnisse direkte Folgen für die Gesundheit von Patientinnen und Patienten haben. Der EU AI Act schafft hierfür zusätzliche Anforderungen an die sichere, transparente und nachvollziehbare Entwicklung und Anwendung von KI-Systemen. Entscheidend wird nun, wie Unternehmen ihn in ihre Entwicklungsarbeit übersetzen.

Regulierung ist kein Zusatzmodul

Für Joachim Schneider beginnt die regulatorische Arbeit nicht bei der Zulassung, sondern bereits bei der Produktidee. „Bei Medizinprodukten müssen Zweckbestimmung, Systemanforderungen, Risikominimierung und bei KI-unterstützten Anwendungen vor allem die Daten-Governance von Anfang an zusammen gedacht werden“, ordnet der Head of Quality Management und Regulatory Affairs beim Heidelberger Medizintechnikhersteller Precisis ein. Der AI Act ist eine weitere horizontale Regulierungsebene neben der Medizinprodukte-Regulierung und ergänzt bestehende Anforderungen an Produktentwicklung, Risikomanagement, klinische Bewertung, Gebrauchstauglichkeit und der kontinuierlichen Überwachung der Produkte im Markt. Ob ein KI-System nach dem AI Act als hochriskant eingestuft wird, hängt maßgeblich von seiner Zweckbestimmung und somit seinem Einfluss auf Diagnose und Therapie ab, oder von den durch KI realisierten Sicherheitsfunktionen. Diese Risikoeinstufung entscheidet über den erforderlichen Umfang bzw. Transparenz in der Dokumentation der Qualität von Trainings-, Validierungs- und Testdaten und dem Gebrauchstauglichkeitskonzept zur menschlichen Aufsicht des Systems. Für Hersteller bedeutet das: Je früher in der Produktrealisierung die Anforderungen des AI Act (oder auch weiterer Anforderungen aus dem Themenkomplex Digitalisierung und Datenaustausch der EU Regulierung) integriert werden, desto früher wird der Marktzugang gelingen (Vermeidung von Schleifen in Verifizierung und Validierung).

Vertrauen entsteht durch nachvollziehbare Daten

Gerade in der Neurotechnologie können umfangreiche Datenmengen aus diversen Quellen wie klinischer Dokumentation, Bildgebung, EEG-Aufzeichnungen, Wearables oder Patient-Reported Outcomes und mehr zusammenkommen. KI kann helfen, diese Informationen besser einzuordnen und personalisierte Ansätze weiterzuentwickeln. Ihr Mehrwert entsteht jedoch nicht allein durch die Menge der Daten. Entscheidend sind nachvollziehbare Herkunft, belastbare Qualität und ein rechtskonformer Umgang mit den Informationen. Hier setzt auch der European Health Data Space (EHDS) an. Der neue europäische Rahmen soll die Möglichkeiten der kontrollierten Nutzung und Weiterverwendung elektronischer Gesundheitsdaten erweitern. Für die Medizintechnik eröffnet das langfristig die Chance, eine breitere Basis klinischer Daten für Forschung und Produktverbesserung zu nutzen. Schneider sieht darin v. a. eine praktische Aufgabe: „die Entwicklungsprozesse bezüglich der Nutzung dieser zusätzlichen klinischen Daten zu erweitern, um nachvollziehbar zu machen, woher die verwendeten Daten stammen, ob sie für den vorgesehenen Einsatzzweck verwendet werden dürfen sowie geeignet und ausreichend repräsentativ sind und, gerade für KI-Systeme, wie mögliche Verzerrungen erkannt und beherrscht werden.“

Warum Compliance zum Investitionsthema wird

Für Investoren, klinische Partner und zuständige Stellen ist sehr wichtig, wie belastbar ein KI-basierter Ansatz tatsächlich ist. Aber nicht allein die technische Leistungsfähigkeit bestimmt den langfristigen Wert einer Lösung, sondern entscheidend ist auch die Fähigkeit eines Unternehmens, Risiken zu beherrschen, klinische Evidenz aufzubauen und die Technologie über ihren gesamten Lebenszyklus hinweg zu überwachen. Wer die dafür notwendigen Prozesse früh etabliert, erhöht die Planungssicherheit und kann regulatorische Kompetenz in einen Wettbewerbsvorteil übersetzen. Hohe Anforderungen an Sicherheit und Transparenz gelten dabei mitunter als Innovationshemmnis. Schneider sieht darin jedoch auch einen Vorteil: Klare regulatorische Leitplanken können Interpretationsspielräume reduzieren und die Abstimmung mit Behörden, klinischen Partnern und weiteren Beteiligten erleichtern. Regulatorische Sandboxes bieten insbesondere kleinen und mittleren Unternehmen die Möglichkeit, neue KI-Lösungen frühzeitig unter fachlicher Begleitung zu erproben, Risiken zu identifizieren und ihre Produkte entsprechend anzupassen. „Entscheidend ist deshalb nicht, ob ein Unternehmen KI einsetzt, sondern ob es deren Nutzen und Sicherheit nachvollziehbar belegen kann. Wer die entsprechenden regulatorische Anforderungen von Beginn an in die Entwicklung integriert, schafft die Grundlage für Vertrauen, einen planbaren Marktzugang und nachhaltigen klinischen Nutzen“, fasst Schneider zusammen.