Systeme der künstlichen Intelligenz (KI-Systeme) bieten zum Nutzen von Patient*innen neue Möglichkeiten für die Diagnose und Therapie von Krankheiten. In den vergangenen Jahren erhielt eine wachsende Zahl von KI-Systemen als Medizinprodukt Zugang zu regulierten Märkten wie Europa und den USA. Es handelte es sich hierbei allerdings in der Regel um statische KI-Systeme, bei denen der Lernprozess vor der Inbetriebnahme abgeschlossen ist und sich das zugrundeliegende KI-Modell nicht mehr ändert. Hierdurch soll sichergestellt werden, dass sich die Verifizierung und Validierung auf einen bestimmten Entwicklungstand des KI-Systems beziehen. Durch diese Vorgehensweise werden kontinuierlich-lernende KI-Systeme vom Marktzugang ausgeschlossen und damit die Nutzung eines fortlaufenden Lernprozesses als wesentlicher technischer Vorteil von KI-Systemen verhindert.
Ziel dieser VDE DGBMT Empfehlung ist es, vor dem Hintergrund des zukünftigen europäischen Artificial Intelligence Act (AIA) und der gegenwärtigen Gesetzgebung zu Medizinprodukten eine Lösung für die bisherige innovationshemmende Vorgehensweise für kontinuierlich-lernende KI-Systeme im europäischen Markt aufzuzeigen. Das Kernstück bildet hierfür eine sogenannte „antizipierende CE-Konformitätsbewertung“, welche die Planung und Genehmigung von beabsichtigten Änderungen bereits vor der Inbetriebnahme vorsieht.
Die VDE DGBMT Empfehlung richtet sich primär an die nationalen zuständigen Behörden und Benannten Stellen sowie an den Europäischen Gesetzgeber.
Die englische Version ist auf dieser Seite verfügbar.
