(Frankfurt a. M., 18.02.2025) Der Markt rund um Künstliche Intelligenz (KI) ist weltweit in Bewegung, gefühlt täglich werden neue Durchbrüche in puncto Anwendbarkeit, Effizienz oder Energieverbrauch verkündet. Umso wichtiger ist es, dass Forschungsprojekte wie KITQAR dabei helfen, einen Rahmen für die Entwicklung und Bewertung vertrauenswürdiger und sicherer KI-Lösungen abzustecken, der im AI Act auf europäischer Ebene gefordert wird. Mit Beendigung der Projektphase im Dezember 2024 hat das Projektkonsortium mehrere Werkzeuge veröffentlicht, die auf verschiedenen Ebenen ansetzen.
Andreas Hauschke, Projektmanager und Experte für vertrauenswürdige Künstliche Intelligenz beim VDE resümiert: „Die Qualität der Trainingsdaten ist der Schlüssel zur Qualität der KI. Daher stand zu Beginn die Frage im Mittelpunkt, wie sich Trainingsdaten interdisziplinär bewerten und verbessern lassen. Am Ende haben wir aber auch den Anwender in den Fokus gerückt. Dass unser Weiterbildungsangebot bereits intensiv genutzt wird, zeigt, wie hoch der Bedarf ist.“
Gute KI umsetzbar und bewertbar machen
Im ersten Schritt hat KITQAR ein Glossar erarbeitet, das aufzeigt, dass sich die Qualität der Trainingsdaten für eine KI nur über verschiedene Dimensionen einschätzen und optimieren lässt. Relevant können Dimensionen wie Verständlichkeit, Verlässlichkeit, Relevanz oder Aktualität sein, je nachdem, was die KI-Anwendung später leisten soll. „Jemand, der eine KI entwickelt, kann anhand unserer Systematik herausarbeiten, was für sein Produkt Priorität hat und was nicht,“ so Hauschke.
Im zweiten Schritt haben die Konsortialmitglieder KI-Publikationen zu den verschiedenen Dimensionen ermittelt und analysiert, welche Informationen zu Datenqualität (DQ) zur Verfügung stehen. Daraus haben sie 126 Anforderungen selektiert und im sogenannten DQ-Navigator mit den Dimensionen verknüpft. Wird eine Dimension ausgewählt, stellt der Navigator die damit verknüpften Anforderungen samt Quelle zur Verfügung. „Dieses Tool können Entwickler nutzen, um eine gute KI umzusetzen – aber auch Anwender, die die Vertrauenswürdigkeit einer KI bewerten wollen.“ Noch sind die europäischen Standards zu Datenqualität und sicherer KI nicht veröffentlicht, aber Glossar und Navigator wurden mit Aussicht auf diese entwickelt und können somit ein Baustein sein, um die kommenden Standards zu erfüllen.
Anwender von KI fit machen
Ein zweiter großer Baustein von KITQAR ist die Unterstützung von Anwendern im Umgang mit Künstlicher Intelligenz – ein Aspekt, der auf den Artikel 4 des AI Act KI-Kompetenz (AI Literacy) einzahlt. Immer mehr Unternehmen setzen KI ein und müssen Mitarbeitenden seit Anfang Februar ein Grundverständnis dafür vermitteln. KITQAR hat eine Learning Journey entwickelt, die vor Glossar und Navigator ansetzt. Hauschke dazu: „Unsere Online-Präsentation mit einem Anwendungsbeispiel ist das erste Element, in dem wir eine Grundlage vermitteln. Hinzu kommt ein Open HPI-Onlinekurs, den bereits vor Inkrafttreten von AI Literacy knapp 5.000 Menschen genutzt haben, um sich tiefer in das Thema einzudenken.“ Wer darüber hinaus Interesse an Informationen rund um das Thema Datenqualität hat, kann Glossar und Navigator nutzen, um sich tiefer einzuarbeiten.
„Es wird ein Lernprozess sein, der nie endet – für die KI ebenso wenig wie für Hersteller und Anwender. Aber wenn wir in Europa unser Know-how nutzen, können wir zeigen, wie sichere und vertrauenswürdige KI geht. Und das ist ein Konzept, das vielleicht langfristiger trägt als manch aktueller Hype.“
KITQAR
Das von der Abteilung Denkfabrik Digitale Arbeitsgesellschaft des Bundesministeriums für Arbeit und Soziales geförderte Forschungsprojekt KITQAR (KI-Test- und Trainingsdatenqualität in der digitalen Arbeitsgesellschaft) lief von Dezember 2021 bis Dezember 2024. Unter Konsortialführung des VDE gehörten die Universität zu Köln, das Internationale Zentrum für Ethik in den Wissenschaften (IZEW) der Universität Tübingen sowie das Hasso-Plattner-Institut (HPI) zum interdisziplinär ausgerichteten Projektkonsortium.
