Mobile-Menu
France

Bolleiningers Befund KI und die Medizin: regulatorischer Albtraum?

Ein Gastkommentar von Stefan Bolleininger 3 min Lesedauer

Anbieter zum Thema

be-on-Quality GmbH
KUMAVISION AG
COSMO CONSULT Gruppe
Metecon GmbH

Der AI Act und neue Guidances: In seinem Befund fasst Devicemed-Kolumnist Stefan Bolleininger den aktuellen Regulatory-Affairs-Stand in der Medtech-Branche zusammen.

In seinem Befund nimmt Devicemed-Kolumnist Stefan Bolleininger den aktuellen Regulatory-Affairs-Stand in der Medtech-Branche unter die Lupe. (Bild: Die Storyfactory/Devicemed)
In seinem Befund nimmt Devicemed-Kolumnist Stefan Bolleininger den aktuellen Regulatory-Affairs-Stand in der Medtech-Branche unter die Lupe.
(Bild: Die Storyfactory/Devicemed)

Stell dir vor, du bist ein Roboter und hast gerade deinen ersten Job als Tumordiagnostiker bekommen. Du bist super aufgeregt, aber dann kommt die EU mit ihrem AI Act und sagt: „Halt, stopp! Nicht so schnell, mein Freund! Du darfst deinen Job zwar machen, aber nicht mehr alle deine Kollegen!“

Der AI Act ist die neue Verordnung der EU, die sicherstellen soll, dass künstliche Intelligenz (KI) uns Menschen nicht in den Wahnsinn treibt. Seit dem 2. Februar 2025 sind bestimmte KI-Anwendungen in der EU verboten:

  • KI-Systeme, die Menschen manipulieren, sodass sie Dinge tun, die sie sonst nie tun würden.
  • KI, die Schwachstellen von Menschen ausnutzt, um ihr Verhalten negativ zu beeinflussen.
  • KI, die Menschen aufgrund ihres Verhaltens oder ihrer Eigenschaften bewertet und einordnet, wie beim Social Scoring.
  • Automatisierte biometrische Identifizierung im öffentlichen Raum.

Was Unternehmen jetzt umsetzen müssen: Sicherheitsanforderungen. Unternehmen müssen sicherstellen, dass ihre KI-Systeme sicher und ethisch sind. Außerdem müssen Unternehmen genau dokumentieren, wie ihre KI-Systeme funktionieren und welche Daten sie verwenden.

Für eine sichere und reibungslose Zulassung Ihrer Medizinprodukte

Neue Herausforderungen bei der digitalen Transformation meistern

„Regulatory

Wie Sie die Zulassung Ihrer medizintechnischen Produkte sicher und reibungslos umsetzen können, erfahren Sie auf dem Forum „Regulatory Affairs Expert Talks“ in Würzburg. RA-Experten berichten über ihre Erfahrungen in der Umsetzung der MDR, erläutern was die Verordnung für regulatorische Änderungen mit sich bringt, und unterstützen Sie bei der rechtskonformen Zulassung Ihrer Geräte mit wertvollen Praxis-Tipps.

Die Veranstaltung richtet sich an Regulatory Affairs Manager, Qualitätsmanager und alle Regulatory-Interessierten aus Medizintechnik-Unternehmen.

Mehr erfahren und anmelden!

Doch nicht alles ist KI. Wenn eine Software durch ein Modell trainiert wurde und einen Algorithmus erzeugt, ist dieser statisch und vorhersagbar. Zu jeder Zeit und zu jeder Frage. Dies ist keine KI. Das Modell wurde zu einem linearen Programm, und dieses ist keine KI – das müssen wir uns merken, denn es ist ein häufiger Punkt. Ab dem 2. August 2025 müssen Unternehmen darüber hinaus sicherstellen, dass ihre Mitarbeiter im Umgang mit KI geschult sind. Dies muss dann auch belegt werden.

Neue Guidances

Alles KI, oder was läuft sonst noch in den Medizinprodukten? Wie üblich gibt es neue Guidances, in der letzten Zeit insbesondere für IVD und weniger MDR, aber auch ganz viel EMDN (European Medical Device Nomenclature) – für die meisten Hersteller sind diese Codes nur zum Registrieren und der Erstattung interessant, ansonsten unspannend –, aber offenbar gab es nichts Wichtigeres.

Was ist also besonders spannend?:

  • MDCG 2024-11: Erklärung, was ein IVD ist und ein Zubehör. Also dringend gebrauchte Statements.
  • MDCG 2024-12: CAPA für Benannte Stellen – Für Hersteller eine Wohltat, denn so werden die benannten Stellen gegängelt und das ist schön zu lesen. Allerdings auch hier ein kurzer Abstecher zu Ihrem eigenen CAPA kann nicht schaden.
  • Artikel 10a: Wann müssen Sie melden, wenn Sie Produkte vom Markt nehmen wollen? Dies ist für besondere Produkte eine sehr wichtige Vorgabe, wie Sie dem Markt mitteilen, wann Sie Produkte mit geringen Verkaufszahlen nicht mehr liefern – und auch, welche Möglichkeiten Sie und Ihre Behörde haben. Eigentlich ärgert es mich, dass wir das wegen der MDR brauchen, weil die Produkte entfallen, aber zumindest wird eine Lösung gefunden. Allerdings sollten wir jedes Produkt am Markt halten und dazu stehe ich auch in allen Gesprächen mit Behörden und generell allen Beteiligten.

Diese Vorgaben sind wichtig, um sicherzustellen, dass Produkte am Markt bleiben und korrekt gehandhabt werden.

Stefan Bolleininger live erleben? Am 2. April hält der Devicemed-Kolumnist die Keynote mit dem Titel „Wenn sich Regularien streiten – Der Step-Tanz des Herstellers“ bei den Regulatory Affairs Expert Talks in Würzburg. Es gibt noch freie Plätze.

Lesen Sie auch Bolleiningers bisherige Befunde

(ID:50327673)

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte