Funktionale Sicherheit

Safety und Security sind also zwei unterschiedliche Konzepte und müssen folglich auch anders behandelt werden: Bei Security lässt sich – anders als bei Safety – keine Wahrscheinlichkeit oder Rate eines Angriffs abschätzen,  in der Security liegt der Fokus auf dem Angreifer, der die Schwachstelle eines Systems  ausnutzt. Sein Ziel ist es, die Vertraulichkeit, Integrität oder Verfügbarkeit zu verletzen. In der Safety hingegen lassen bestimmte Bedingungen in der Betriebsumgebung zum Beispiel einen Software-Fehler wirksam werden, was dann zu einem Systemversagen führt.

In der Safety gilt die allgemeine Regel, dass der erste Fehler nicht gefährlich sein darf. Erst ein zweiter, ähnlicher Fehler darf ein Versagen verursachen. Daher beruhen viele Sicherheitsdesigns darauf, den ersten Fehler zu erkennen und unschädlich zu machen. In der Security existiert ein ähnliches Konzept: Verteidigung in der Tiefe (Defense in Depth). Das bedeutet, dass eine einzelne Security-Maßnahme niemals als perfekt und ausreichend angesehen werden darf.

Das britische Verkehrsministerium bringt es auf den Punkt: „Wenn etwas nicht secure ist, ist es wahrscheinlich nicht safe.“ Das bedeutet: Die Security-Umgebung muss die essenziellen Funktionen schützen – vor allem die Sicherheitsfunktionen.

Eine Herausforderung für die Zukunft wird daher sein, die Themenfelder Safety und Security und deren Zusammenspiel genau zu erfassen, um keine unzureichend oder unangemessen hohe Anforderungen zu stellen. Unzureichende Anforderungen können die Funktionale Sicherheit beeinträchtigen, unangemessen hohe Anforderungen die Wirtschaftlichkeit.

Dies widerspricht auf den ersten Blick dem Grundprinzip autonomer Systeme: in ihnen werden keine konkreten Bereiche definiert. Deshalb gilt es, beim Zusammenspiel von Funktionaler Sicherheit und Autonomen Systemen diese unterschiedlichen Anforderungen zu berücksichtigen. Hier braucht es Lösungen, die Autonome Systeme auch für beliebige Individualität sicher machen.

Die Möglichkeiten für autonome Systeme werden durch Hinzufügen von Künstlicher Intelligenz massiv erweitert: So kann KI kritische Situationen beim autonomen Fahren vermeiden. Und auch in Sicherheitssystemen spielt KI eine wichtige Rolle.

Besonders weit entwickelt ist Maschinelles Lernen bei der Bilderkennung, die beim autonomen Fahren zum Einsatz kommt. Hierbei verstärkt Maschinelles Lernen die Fähigkeiten der Sensoren. Die eigentliche Regelung oder Steuerung übernehmen konventionelle Softwaremethoden.

Es zeigt sich, dass vor allem die Qualität der Trainingsdaten für den Erfolg entscheidend ist. Allerdings besteht hier noch Forschungsbedarf, inwiefern sich diese Qualität erreichen lässt, um Robustheit zu erlangen. So unterscheidet sich beispielsweise das deutsche Straßenbild von dem in Indien – mit unter Umständen verheerende Folgen: eine in Indien trainierte KI könnte eine deutsche Fußgängerzone für eine Straße halten.

Die IEC 61508 verbietet die Verwendung von KI nicht, allerdings wird diese auch nicht empfohlen. Experten raten deshalb auf KI zu verzichten, wenn sich eine Aufgabe auch mit konventionellen oder etablierten Software-Methoden bewältigen lässt. Auch beim Maschinellen Lernen lässt sich mit – einigem Aufwand – das Verhalten nachvollziehen. Es bietet sich deshalb an Verfahren zum Maschinellen Lernen als scheinbar-nicht-deterministisch zu bezeichnen.

Der Vorteil dabei: Externe Fachleute können bereits während der Entwicklungsphase eingebunden werden und die Sicherheit des Produktes am Ende der Entwicklung mit einem Zertifikat bestätigen. Diese Services und Dienstleistungen bietet Ihnen das VDE-Institut im Bereich Funktionale Sicherheit.