Der Fragebogen konzentriert sich auf prozessbezogene Anforderungen anstelle von produktspezifischen Merkmalen. Ziel ist es:

  • alle Phasen des Lebenszyklus von KI abzudecken – von Entwicklung und Validierung bis zur Marktüberwachung,

  • die Bedeutung einer anwendungsbezogenen Konformitätsbewertung hervorzuheben.

Die MDR legt besonderen Wert auf die Einhaltung der Allgemeinen Sicherheits- und Leistungsanforderungen (GSPR) gemäß Anhang I. Der Fragebogen berücksichtigt das Lebenszyklusmanagement und gewährleistet die Konformität in iterativen Prozessen, etwa bei Aktualisierungen oder dem erneuten Training von KI-Modellen. Gemäß MDR Anhang II ist eine umfangreiche technische Dokumentation erforderlich – der Fragebogen spiegelt dies wider, indem er prozedurale Klarheit und dokumentarische Strenge betont.

Datenerhebung, -verarbeitung, -speicherung und Training für SaMD

Der Fragebogen definiert robuste Anforderungen an die Sammlung, Verarbeitung und Speicherung von Datensätzen für Training, Validierung und Tests, einschließlich:

  • Verfahren zur Anonymisierung und Pseudonymisierung sensibler Daten,

  • Begründung der Repräsentativität der Datensätze, unter Berücksichtigung potenzieller Verzerrungen und Ungleichheiten,

  • Dokumentation der technischen Ein- und Ausschlusskriterien.

Gemäß MDR Anhang I (Kapitel 1 und 3) ist ein verantwortungsvolles Datenmanagement vorgeschrieben – insbesondere im Hinblick auf Datenschutz und Leistungsgenauigkeit. Der Fragebogen steht in enger Übereinstimmung mit diesen Anforderungen und integriert die Grundsätze der DSGVO (Verordnung (EU) 2016/679).

Validierung von KI-Systemen in SaMD

Die Validierung von KI-Systemen sollte Folgendes umfassen:

  • die Validierung der Modelle vor dem Inverkehrbringen, um die Übereinstimmung mit der beabsichtigten Zweckbestimmung sicherzustellen,

  • die Bewertung von Risiken adaptiver oder selbstlernender Modelle, deren Zertifizierung nur bei implementierten Schutzmechanismen möglich ist.

MDR Anhang XIV verlangt eine klinische Bewertung, um zu bestätigen, dass das Produkt seinen Zweck erfüllt und der Nutzen das Risiko überwiegt. Der Fragebogen ergänzt diese Anforderungen, indem er auf modellbezogene Risiken wie Modell-Drift und die Notwendigkeit iterativer Revalidierung eingeht.

Risikobewertung bei KI-basierten Medizinprodukten

Der Fragebogen verlangt umfassende Risikobewertungen, einschließlich:

  • Risiken durch unausgewogene Datensätze, demografische Unterschiede oder algorithmische Verzerrungen,

  • Cybersicherheitsbedrohungen, insbesondere KI-spezifische Angriffsarten.

Das Risikomanagement gemäß MDR Anhang I, Abschnitt 3 verpflichtet Hersteller, Risiken so weit wie möglich zu minimieren. Der Fragebogen erweitert dies, indem er auf KI-spezifische Gefährdungen eingeht und Risikominderungspläne nach ISO 14971:2019 fordert.

Klinische Bewertung bei KI-basierten Medizinprodukten

Der Fragebogen umfasst die Begründung des Einsatzes von KI anstelle konventioneller Methoden, einschließlich dokumentierter klinischer Vorteile und Leistungsbewertungen über verschiedene demografische Gruppen hinweg.

Gemäß MDR Anhang XIV sind robuste klinische Nachweise erforderlich – insbesondere bei neuen Technologien. Der Fragebogen stärkt diese Anforderung, indem er Evidenz zur Übertragbarkeit von KI-Modellen zwischen Populationen fordert, um eine faire klinische Leistung sicherzustellen.

Änderungsmanagement und iterative Aktualisierungen

Da KI-Systeme sich nach der Markteinführung weiterentwickeln, betont der Fragebogen:

  • Anforderungen an das Management wesentlicher Änderungen, wie das erneute Training von Algorithmen oder das Aktualisieren von Datensätzen,

  • die Notwendigkeit, sicherzustellen, dass solche Änderungen die zuvor validierte Leistung nicht beeinträchtigen.

Gemäß Artikel 120(3) MDR erfordert jede wesentliche Änderung eine neue Konformitätsbewertung.

Sicherheit und Cybersicherheit in KI-basierten SaMD

Der Fragebogen beschreibt Maßnahmen zur Reduzierung KI-spezifischer Risiken, einschließlich der Identifizierung von Bedrohungen wie „Poisoning“- oder „Evasion“-Angriffen.

Marktüberwachung (PMS)

Hersteller müssen umfassende PMS-Pläne entwickeln und Real-World-Daten überwachen, um eine kontinuierliche Übereinstimmung mit den Anforderungen an Sicherheit und Leistung sicherzustellen.