Zentrale Transparenzprinzipien für ML-gestützte Medizinprodukte
Basierend auf den Good Machine Learning Practices (GMLP) und mit Fokus auf die Zusammenarbeit zwischen Mensch und KI sollen diese Transparenzprinzipien die Sicherheit, Wirksamkeit und das Vertrauen in KI-/ML-Medizinprodukte (MLMD) stärken. Sie fördern ein besseres Verständnis der Funktionsweise, Entscheidungslogik und Risiken solcher Systeme.
Was bedeutet Transparenz?
Transparenz bedeutet die klare und zugängliche Kommunikation über den Zweck, Entwicklungsprozess, Leistungsfähigkeit und Entscheidungslogik eines Medizinprodukts. Sie umfasst unter anderem:
- die Erklärung, wie Ergebnisse oder Entscheidungen zustande kommen,
- die verständliche Darstellung der Entscheidungsprozesse,
- die Bereitstellung von Informationen, die für Patientensicherheit und Behandlungsergebnisse relevant sind.
Effektive Transparenz bedeutet, dass Informationen zielgruppengerecht vermittelt werden – im richtigen Format, zur richtigen Zeit und über geeignete Kommunikationskanäle – und dass sie auf einem umfassenden Verständnis der Nutzer, ihrer Arbeitsumgebung und der klinischen Abläufe basieren.
Human-Centered Design – der Schlüssel zur Transparenz
Ein zentrales Prinzip ist das menschenzentrierte Design, ein iterativer Entwicklungsansatz, der alle relevanten Interessengruppen in jede Phase von Design und Entwicklung einbezieht. Dieses Vorgehen stellt sicher, dass ML-basierte Medizinprodukte verständlich, validiert und vertrauenswürdig sind und den Anwendern alle notwendigen Informationen liefern.
Leitlinien für Transparenz
Wer?
Transparenz muss gewährleistet sein gegenüber medizinischem Fachpersonal, Patienten, Pflegepersonen, Assistenzpersonal, Administratoren, Kostenträgern und Regulierungsbehörden.
Warum?
Transparenz ist entscheidend für patientenzentrierte Versorgung, Sicherheit und eine effektive Nutzung von MLMD. Sie unterstützt das Risikomanagement, fundierte Entscheidungsprozesse und fördert das Vertrauen in KI-gestützte Technologien.
Was?
Zu den offenzulegenden Informationen gehören:
- medizinischer Zweck, Funktionen und Zielanwender,
- Einsatzumgebung und Zielpopulation,
- Leistungsdaten, Nutzen, Risiken und Entwicklungsprozesse,
- Logik und Funktionsweise der Algorithmen, potenzielle Verzerrungen, Grenzen und Risikomanagementstrategien.
Wo?
Die Benutzeroberfläche sollte so gestaltet sein, dass sie adaptiv, personalisiert und leicht verständlich ist. Informationen können über verschiedene Kanäle bereitgestellt werden – etwa Audio, Video, On-Screen-Text, Warnmeldungen, Diagramme oder Dokumentbibliotheken.
Wann?
Transparente Kommunikation muss während des gesamten Produktlebenszyklus erfolgen – von der Markteinführung bis zu Updates. Wichtige Änderungen, neue Informationen oder sicherheitsrelevante Erkenntnisse müssen zeitnah kommuniziert werden. Kontextbezogene Hinweise oder Warnungen sollten während spezifischer Arbeitsschritte erscheinen.
Wie?
Durch Anwendung von Human-Centered Design und einer klaren Informationsstruktur sollen Inhalte verständlich und zugänglich sein. Der Detaillierungsgrad muss der Zielgruppe entsprechen, um eine fundierte Entscheidungsfindung zu ermöglichen.
Schlussfolgerung
Die Leitlinien für Transparenz in ML-gestützten Medizinprodukten sollen die Einführung und Weiterentwicklung guter Transparenzpraktiken fördern. Kontinuierliche Zusammenarbeit zwischen Entwicklern, Anwendern und Regulierungsbehörden ist entscheidend, um effektive und verlässliche Standards für den Einsatz von KI im Gesundheitswesen zu etablieren.
Weitere Informationen: Transparency for Machine Learning-Enabled Medical Devices – Guiding Principles