Dlaczego są potrzebne dodatkowe wytyczne do wyrobów opartych na ML?
Wyroby oparte na sztucznej inteligencji różnią się od klasycznych, „nie-AI” urządzeń medycznych w sposób, który dotychczasowe podejście do zarządzania ryzykiem nie zawsze w pełni wychwytywało. Dokument, powołując się na wcześniejszy raport AAMI-BSI, wskazuje trzy cechy odróżniające MLMD od tradycyjnych wyrobów: zdolność uczenia się na dużych zbiorach danych i poprawiania wyników w ramach przewidzianego zastosowania; poziom autonomii, obejmujący generowanie opcji terapeutycznych i wybór najlepszej z nich przy ograniczonym udziale człowieka; oraz explainability, czyli nieprzejrzystość działania złożonych algorytmów, która utrudnia zrozumienie sposobu wypracowania konkretnego wyniku, nawet dobrze wyszkolonym klinicystom.
Zakres i to, czego dokument nie obejmuje
ISO/TS 24971-2:2026 ma być stosowana łącznie z ISO 14971 oraz raportem technicznym ISO/TR 24971. Co istotne, wytyczne nie mają zastosowania do MLMD wykorzystujących duże modele językowe (LLM) ani generatywną AI – to wyraźne zawężenie zakresu, o którym producenci powinni pamiętać, planując dokumentację zgodności.
Dokument koncentruje się natomiast na ryzykach związanych z:
- zarządzaniem danymi treningowymi i testowymi,
- ekstrakcją cech (feature extraction),
- niepożądanym obciążeniem (bias) algorytmu,
- bezpieczeństwem informacji,
- procesem trenowania modelu przez algorytm ML,
- ewaluacją i testowaniem wytrenowanego modelu.
Czym różni się „ryzyko” w rozumieniu ISO 14971 od definicji stosowanych w dokumentach o AI ogólnie?
To rozróżnienie może umknąć zespołom, które przenoszą terminologię wprost z ogólnych norm dotyczących sztucznej inteligencji. ISO/IEC 22989 i ISO/IEC 23894 definiują ryzyko jako wpływ niepewności na cele – definicja przydatna w zarządzaniu ryzykiem organizacyjnym czy biznesowym, zgodna również z ISO 31000. Sektor medyczny posługuje się jednak inną definicją: zgodnie z ISO 14971:2019 ryzyko to kombinacja prawdopodobieństwa wystąpienia szkody oraz jej dotkliwości. Nowa specyfikacja techniczna jasno wskazuje, że to właśnie ta druga definicja obowiązuje przy ocenie MLMD – niezależnie od tego, jaką terminologię stosują inne, bardziej ogólne standardy AI.
Cykl życia modelu i „ciągłe uczenie się”
Dokument zwraca uwagę na modele, które mogą wymagać ponownego trenowania po okresie użytkowania, a niektóre modele uczą się w sposób ciągły na danych pacjentów, modyfikując swoje parametry. ISO/TS 24971-2:2026 konsekwentnie posługuje się terminem „continuous(ly) learning”, rezygnując z określenia „adaptive” używanego w innych dokumentach – warto ujednolicić nazewnictwo w wewnętrznych procedurach, aby uniknąć rozbieżności terminologicznych podczas audytów.
Powiązania z innymi dokumentami
Specyfikacja odsyła do dokumentów IMDRF (N67 i N88) oraz wytycznych FDA, Health Canada i MHRA dotyczących MLMD, a przy zagadnieniach cyberbezpieczeństwa i bezpieczeństwa systemów, do IEC 80001-1 oraz IEC/TR 80002-1. Cennym źródłem przy opracowywaniu dokumentu był również raport AAMI TIR34971. Dokument przygotował Komitet Techniczny ISO/TC 210 we współpracy z IEC/TC 62 (podkomitet SC 62A) oraz CEN/CLC/JTC 3, co zapewnia spójność z europejskim podejściem regulacyjnym do wyrobów medycznych.
Podsumowanie
Dla producentów rozwijających rozwiązania diagnostyczne, oprogramowanie wspomagające decyzje kliniczne czy inne funkcjonalności oparte na uczeniu maszynowym, publikacja ISO/TS 24971-2:2026 to sygnał do przeglądu procesów zarządzania ryzykiem AI, dokumentacji cyklu życia oprogramowania, strategii walidacji danych oraz planów nadzoru po wprowadzeniu do obrotu. Warto również zweryfikować spójność tych procesów z wymogami AI Act, MDR i IVDR, zwłaszcza że wyraźne wyłączenie LLM i generatywnej AI z zakresu dokumentu oznacza, że dla tej kategorii rozwiązań producenci wciąż muszą opierać się na ogólniejszych wytycznych.
Link do dokumentu:
ISO/TS 24971-2:2026 – strona ISO (Edition 1, 2026)