France

Künstliche Intelligenz BV-Med äußert sich zum „Artificial Intelligence Act“

Redakteur: Kristin Breunig

In seiner Stellungnahme zum Entwurf eines „Artificial Intelligence Act“ der EU-Kommission fordert der BV-Med, dass eine Überregulierung der KI-Anwendungen unbedingt vermieden werden sollte. Grundsätzlich begrüße man beim BV-Med jedoch die Bemühungen zur Harmonisierung von Regelungen zur künstlichen Intelligenz.

Firmen zum Thema

Im April hatte die EU-Kommission einen Entwurf eines „Artificial Intelligence Act“ (AIA) herausgegeben. Hierdurch soll ein Rechtsrahmen zur Regulierung von künstlicher Intelligenz geschaffen werden. (Symbolbild)
Im April hatte die EU-Kommission einen Entwurf eines „Artificial Intelligence Act“ (AIA) herausgegeben. Hierdurch soll ein Rechtsrahmen zur Regulierung von künstlicher Intelligenz geschaffen werden. (Symbolbild)
(Bild: gemeinfrei / Unsplash)

Die Medizinprodukte-Verordnung (MDR) bietet bereits ein hohes Maß an Sicherheit und Qualität für Patienten. Der Bundesverband Medizintechnologie, BV-Med, nimmt diesbezüglich Stellung zum Entwurf eines „Artificial Intelligence Act“ (AIA) der Europäischen Kommission. Dieser wurde im April 2021 herausgegeben und soll einen ersten Rechtsrahmen zur Regulierung von künstlicher Intelligenz (KI) bilden. Der Verband begrüß die Bemühungen zur Harmonisierung von Regelungen zur künstlichen Intelligenz. Jedoch warnt der BV-Med gleichzeitig vor einer Überregulierung der KI-Anwendungen. In seiner neunseitigen Stellungnahme fordert der Verband zudem einen besseren Zugang der Unternehmen zu Daten in der Medizin, um KI-Lösungen entwickeln zu können.

KI-Anwendungen und ihr Potenzial

Der AIA-Entwurf der EU-Kommission will künstliche Intelligenz horizontal regulieren, also branchenübergreifend in allen Einsatzgebieten. „In der Medizin haben KI-Technologien ein großes Potenzial, um die Patientenversorgung zu verbessern“, sagt BV-Med-Digitalexpertin Natalie Gladkov. „Insbesondere KI-Medizinprodukte können hier einen hochrelevanten Beitrag für die Entstehung von Innovationen leisten“, heißt es in der BV-Med-Stellungnahme. „Solche disruptiven Innovationen werden dringend benötigt, um die Herausforderungen einer alternden Gesellschaft zu bewältigen.“

Überregulierung vermeiden

Vor dem Hintergrund des sektorübergreifenden Ansatzes der EU-Kommission warnt der BV-Med allerdings vor einer Überregulierung des KI-Einsatzes in der Medizin: „Mehraufwände und Unsicherheiten in der Zulassung von KI-Medizinprodukten dürfen nicht zu Innovationshemmnissen führen. Zudem sollte in dem Verordnungsentwurf stärker berücksichtigt werden, dass digitale Medizinprodukte aufgrund der Anforderungen der MDR bereits ein sehr hohes Level an Sicherheit und Qualität für Patienten aufweisen.“ Für den deutschen Medtech-Verband ist beispielsweise die Einordnung des weit überwiegenden Teils der KI-Medizinprodukte in die Kategorie der „Hochrisikoprodukte“ zu pauschal und „sollte sich stärker am Kontext des konkreten Einsatzes orientieren“.

Der Medizinproduktebereich sei einer der am intensivsten regulierten und harmonisierten Produktsektoren in der EU. „Die Unternehmen sollten deshalb nicht zusätzlich verpflichtet werden, Aufwände für eine KI-Regulierung zu tätigen, wenn bereits im Rahmen der MDR die in einer KI-Verordnung geforderten Mindestanforderungen erfüllt oder überschritten werden“, gibt der BV-Med zu Bedenken. Zudem sollte bei Regulierungen stets mitgedacht werden, dass ein Zugang zu standardisierten Daten für Forschungszwecke für den technologischen Fortschritt und damit auch die Medtech-Branche essenziell ist. „Hier gilt es weitere Regelungen im Sinne der Datennutzung und Etablierung von KI-Systemen zu treffen“, fordert der deutsche Medizintechnik-Verband.

Forderung nach Änderungen

Im Einzelnen identifiziert der BV-Med in seiner Stellungnahme Änderungsbedarf im „Artificial Intelligence Act“ (AIA) in folgenden neun Punkten:

  • 1. Die Einstufung als „Hochrisiko-KI-Systeme“ erfolgt zu pauschal. Der Kontext der Anwendung muss stärker berücksichtigt werden.
  • 2. Die Definition von künstlicher Intelligenz in Art. 3 Nr. 1 AIA ist zu weit gefasst. Um Marktzugangshemmnisse für Medizinproduktehersteller zu verhindern, ist eine Nachschärfung der Definition dringend geboten.
  • 3. Durch einen hinreichenden Zugang zu medizinischen Daten können „Bias“ vermieden werden. Hierfür bedarf es einheitlicher Rechtsgrundlagen in der Datenverarbeitung.
  • 4. In der Verordnung sollten nur grundlegende Sicherheits- und Leistungsanforderungen geregelt werden. Konkrete für den Bereich der KI-Medizinprodukte angepasste Anforderungen sollten in den in Art. 40 AIA erwähnten harmonisierten Normen festgelegt werden.
  • 5. Im Kontext des räumlichen Anwendungsbereiches des AIA bedarf es einer Klarstellung, damit die Zweitverwendung der in einem Drittstaat gewonnenen Ergebnisse der KI nicht rückwirkend zur Anwendbarkeit des AIA führt.
  • 6. Aufgrund der Regelung in Art. 67 AIA droht bei KI-Medizinprodukten eine sachlich nicht gerechtfertigte „doppelte“ Nachmarktkontrolle AIA-konformer Produkte. Widersprüche zu den Vorgaben der MDR und Doppelaufwände für die Hersteller von Medizinprodukten müssen vermieden werden. Bestehende regulatorische Anforderungen können den mit KI assoziierten Risiken schon heute entgegenwirken.
  • 7. Umfang und Endpunkt der Händlerpflichten müssen klar definiert werden, damit keine Unklarheiten bei den Pflichten der Wirtschaftsakteure in der Lieferkette entstehen.
  • 8. Das Erfordernis einer gemeinsamen technischen Dokumentation nach Art. 11 (2) Artificial Intelligence Act kann die Kooperation zwischen Unternehmen erschweren. Hier bedarf es einer Klarstellung.
  • 9. Eine zusätzliche Überlastung der benannten Stellen durch erhöhte Anforderungen an Medizinprodukte gilt es zu vermeiden. Umfassende Nachprüfungen der Produkte müssen ausgeschlossen sein.

Weitere Artikel zu regulatorischen Angelegenheiten finden Sie in unserem Themenkanal Regulatory Affairs.

(ID:47554243)