Punktuelle Anpassungen erfolgen außerdem in den QMS-Prozessen:
- Dokumentation zum Inverkehrbringen,
- Personalmanagement,
- Regulatorische Strategie,
- Infrastruktur,
- Einkauf und Lieferanten,
- Externe Prozesse sowie
- Informationssicherheit (Organisation) und Datenschutz.
Erweiterung der Software-Lebenszyklus-Prozesse um KI-Modell Entwicklung
Hersteller von KI-basierter Software wenden die Norm EN 62304 zum Software-Lebenszyklus an. Handelt es sich überdies um eine eigenständige Software kommt auch noch die Norm EN 82304-1 zur Anwendung. Hierzu implementiert der Hersteller in seinem QMS einen Entwicklungsprozess, einen Release-Prozess, einen Wartungs-Prozess und einen Prozess zur Außerbetriebnahme der Software. Ergänzt werden diese Prozesse durch Validierungs- und Post-Market-Aktivitäten des Herstellers.
BAIM führt für die KI-Komponente einen zusätzlichen KI-Entwicklungsprozess ein, der sich dem eigentlichen Software-Entwicklungsprozess der EN 62304 unterordnet. Dies beinhaltet die Sammlung und Analyse aller Nutzungs- und Systemanforderungen inkl. der KI-spezifischen im allgemeinen Entwicklungsprozess wohingegen das Datenmanagement und die Modellentwicklung im KI-Entwicklungsprozess stattfinden.
Anpassung weiterer zentraler QMS-Prozesse
Gemäß der MDR ist ein Risikomanagementsystem als Teil des QMS verpflichtend für jeden Medizinprodukte-Hersteller. Mit der Komplexität der KI-Technologie gehen auch besondere Gefährdungen wie verschiedene Bias-Formen einher, die im Risikomanagement betrachtet werden müssen. BAIM erweitert die nötige Risikoanalyse um KI-spezifische Risiken und trägt damit zu einer erhöhten Sicherheit dieser Produkte bei. Seit der Neuauflage der einschlägigen Norm EN ISO 14971 im Jahr 2019 müssen beim Risikomanagement die Safety (im Sinne der Betriebssicherheit) zusammen mit der (Cyber-)Security sowie deren Wechselwirkungen betrachtet werden. BAIM verwendet den Cybersecurity-Ansatz ARGOS des VDE, um auch KI-spezifische Assets, Interfaces und Methods of Attack zu analysieren und entsprechende Maßnahmen zu ergreifen.
Im Rahmen des QMS-Prozesses „Gebrauchstauglichkeit“ (Usability Engineering) finden formative Validierungen im Verlauf der Entwicklung (bzw. Wartung) sowie summative Validierungen am Ende der Entwicklung (bzw. Wartung) statt. In einer Prozess-integrierten Checkliste formuliert BAIM spezifische Anforderungen an die gebrauchstauglichkeits-orientierte Entwicklung von KI-basierter Software. Hierzu gehört zum Beispiel der Umgang mit Transparenz, Erklärbarkeit oder dem Automation Bias.
Die klinische Bewertung dient dazu, die Sicherheit und Leistungsfähigkeit sowie ein positives Nutzen-Risiko-Verhältnis für das jeweilige Medizinprodukt nachzuweisen. Neben der einschlägigen Guideline MEDDEV 2.7/1 für die klinische Bewertung von Medizinprodukten ist für Software auch die Guideline MDCG 2020-1 anzuwenden. BAIM unterstützt den Hersteller bei der klinischen Bewertung mit einer Checkliste, welche KI-spezifische Aspekte im entsprechenden QMS-Prozess adressiert. Dies bezieht sich auch auf die Nutzung KI-spezifischer Datenbanken zur Literatursuche
Der Software-Lebenszyklus schließt die Überwachung nach dem Inverkehrbringen und die Vigilanz durch den Hersteller ein. Gerade bei KI-basierter Software wird ein erhebliches Maß an Sicherheit und Leistung durch eine umfassende Überwachung in der Marktphase durch den Hersteller gewährleistet. BAIM erweitert den Plan zur Überwachung nach dem Inverkehrbringen um KI-spezifische Aspekte bspw. in Hinsicht auf die Qualität der Real-Life-Daten und Aktualität der Ground Truth bzw. des Goldstandards. Im Zuge dessen werden entsprechende Methoden und deren Frequenz in der Anwendung sowie zu berücksichtigende Parameter und Grenzwerte implementiert.
Praktische Umsetzung
Ein typisches BAIM-Projekt startet mit der Erstellung bzw. Überarbeitung der Zweckbestimmung der KI-basierten Software, welche das sog. Operating Principle der KI-Komponente ausreichend berücksichtigt. Im weiteren Verlauf wird der KI-Entwicklungs-Prozess im QMS verankert und das Risikomanagement inkl. der Cybersecurity gemäß ARGOS angewendet. Parallel dazu werden gebrauchstauglichkeits-orientierte Aktivitäten gestartet und die erste klinische Bewertung vorgenommen. Im Rahmen der Überwachung (inkl. des Post-Market Clinical Follow-Up) und der Vigilanz wird die Leistung der KI-basierten Software fortlaufend beobachtet und die gesammelten Daten werden der klinischen Bewertung erneut zugeführt.
Zusammenfassend erweitert BAIM entweder ein bestehendes QMS oder wird beim Errichten eines QMS angewendet und stellt so die Compliance des Herstellers mit den spezifischen Anforderungen für KI-basierte Software als Medizinprodukt sicher. Die Anwendung von BAIM sorgt zudem dafür, dass das QMS des Herstellers zukunftsorientiert aufgestellt und gegenüber neuen Herausforderungen wie dem EU AIA gewappnet ist.
