Künstliche Intelligenz: Fortschritt sicher gestalten – AI Quality & Safety Summit in Frankfurt

(Frankfurt a. M., 22.10.2024) Im August ist der AI Act als weltweit erstes umfassendes Regelwerk für den Einsatz von Künstlicher Intelligenz (KI) in Kraft getreten. Ein Meilenstein in der Regulierung von KI. In einer Zeit, in der Innovation und technologischer Fortschritt eine nie da gewesene Dynamik entfalten, bringt der AI Quality & Safety Summit im Rahmen des diesjährigen Digitalgipfels der Bundesregierung internationale Expertinnen und Experten zusammen, um darüber zu diskutieren, wie die Qualität und Sicherheit von KI-Systemen verbessert werden können. Damit bietet der AI Quality & Testing Hub (AIQ) zum wiederholten Mal eine Plattform für eine europäische Debatte über KI-Qualität, die Orientierung bieten und Zukunftsperspektiven kritisch betrachten will.

„Die Gesellschaft kann von den Vorteilen Künstlicher Intelligenz immens profitieren – wenn die richtigen Sicherheitsstandards gesetzt werden“, betont Dr. Michael Rammensee, Geschäftsführer des AIQ. „Ziel muss sein, den Nutzerinnen und Nutzern einen vertrauensvollen Zugang zu intelligenten Anwendungen zu bieten.“ Der AIQ ist eine Initiative des VDE Verband der Elektrotechnik Elektronik Informationstechnik und des Landes Hessen, um die Qualität von KI-Systemen zu fördern und überprüfbar zu machen.

Sicherheit als zentrale Herausforderung

Rund 150 internationale Akteurinnen und Akteure aus Wirtschaft, Wissenschaft, Politik, Verwaltung und Gesellschaft sprechen beim AI Quality & Safety Summit in spannenden Keynotes und Podiumsdiskussionen darüber, wie technologische Innovationen sowie die Entwicklung und Nutzung von KI vorangetrieben werden können, während gleichzeitig Werte gewahrt, Transparenz hergestellt und regulatorische Maßstäbe gesetzt werden. 

Denn oft wirken bereits die Trainingsdaten für KI wie eine Black Box. Woher stammen die Daten? Ermöglichen sie eine diskriminierungsfreie Anwendung? Ist Datenschutz garantiert? Während des Summits thematisieren die Expertinnen und Experten u. a. Standards für die Regulierung von KI und die Bedeutung eines Rahmens für Datenqualität, der technische, rechtliche, ethische und soziale Aspekte enthält. Außerdem sprechen sie über die Forderung einer gemeinsamen europäischen Forschungsorganisation für KI und darüber, wie die Vorreiterrolle deutscher Unternehmen im internationalen Wettbewerb durch die Einhaltung freiwilliger KI-Qualitätsstandards gestärkt werden könnte.

Dr. Beate Mand, stellvertretende Vorstandsvorsitzende des VDE: „KI durchdringt unser Leben in einer Geschwindigkeit und Tiefe, die uns einerseits große Chancen bietet, aber andererseits auch vor enorme Herausforderungen stellt. Die Aufgabe, KI verantwortungsvoll, sicher und zugleich zukunftsweisend zu gestalten, ist eine der wesentlichen Herausforderungen, die wir als Gesellschaft bewältigen müssen. Der VDE hat es sich zur Aufgabe gemacht, eine Brücke zwischen Innovation und Sicherheit zu bauen, daher bringt er sich als neutrale Technologieorganisation mit seiner Expertise, Standards zu entwickeln, sowie bei der Prüfung und Zertifizierung in den Diskurs ein, um die Sicherheit und Qualität von KI-Systemen und -Produkten zu verbessern.“

Hessens Digitalministerin Prof. Dr. Kristina Sinemus: „Die verantwortungsvolle Nutzung von Künstlicher Intelligenz ist eine der zentralen Herausforderungen unserer Zeit. Mit unserer Zukunftsagenda ‚KI made in Hessen‘ gestalten wir KI zum Wohle der Menschen und haben nicht zuletzt mit dem AI Quality & Testing Hub ein europäisches Vorzeigeprojekt für den sicheren und verantwortungsvollen Einsatz von KI-Anwendungen in Zusammenarbeit mit dem VDE entwickelt. Gemeinsam wollen wir Unternehmen bestmöglich auf die europäische KI-Verordnung vorbereiten. Denn wir können das Potenzial von KI nur dann voll ausschöpfen, wenn wir die nötigen Kompetenzen vermitteln und Vertrauen in ihren Einsatz schaffen.“

AIQ stärkt Qualität von KI-Systemen weltweit

Die Qualität von KI-Systemen fördern und nachweisbar machen – so lautete der Auftrag, mit dem die AI Quality & Testing Hub GmbH im Dezember 2022 gegründet wurde. Seitdem haben Unternehmen im Hub die Möglichkeit, qualitätsgesicherte KI-Systeme zu entwickeln, Eigenschaften nachzuweisen und zu verbessern. Beispielsweise unterstützt der AIQ sie dabei, Anwendungen basierend auf Large Language Models (LLM) auf den Weg zu bringen. „Die Qualität solcher KI-basierten Applikationen muss von Anfang an sichergestellt werden. Daher stellen wir im AIQ entsprechende Entwicklungs- und Testwerkzeuge bereit, um etwa neue Medizinprodukte auf Basis von LLM sicher zu gestalten“, erklärt Rammensee. 

2023 wurden sowohl der AIQ als auch der VDE in ein Konsortium berufen, das im Rahmen der vom Bundesministerium für Digitales und Verkehr gestarteten MISSION KI ein freiwilliges KI-Gütesiegel entwickelt. Seit diesem Jahr ist der AIQ zudem Mitglied im neu gegründeten US AI Safety Institute Consortium. Ziel ist es, zusammen mit internationalen Partnern Risiken bei der KI-Entwicklung zu reduzieren und die Qualität von KI-Systemen zu verbessern.

Wie normt man Künstliche Intelligenz? VDE KI-Experte im Interview

Wie wollen wir als Gesellschaft Künstliche Intelligenz gestalten? Eine Frage, mit der sich aktuell 140 Expertinnen und Experten aus 24 Ländern mit teilweise weit auseinander liegenden Interessen intensiv beschäftigen. Der Grund: Gemeinsam entwickeln sie im Auftrag der EU-Kommission Standards für den AI Act. Mittendrin ist Dr. Sebastian Hallensleben. Der promovierte Physiker leitet das entsprechende Normungskomitee in CEN-CENELEC JTC 21 (JTC steht für Joint Technical Committee) und ist beim VDE für das Kompetenzfeld Digitalisierung & KI verantwortlich. Im Interview erzählt er, warum sich die Normungsexpertinnen und -experten gerade nicht mit ethischen Fragen rund um Künstliche Intelligenz beschäftigen, wie sichergestellt wird, dass technologische Entwicklungen nicht behindert werden und wo KI unseren Alltag verändern wird: Hier können Sie sich das Interview anhören.
 

Über den VDE

Der VDE, eine der größten Technologie-Organisationen Europas, steht seit mehr als 130 Jahren für Innovation und technologischen Fortschritt. Als einzige Organisation weltweit vereint der VDE dabei Wissenschaft, Standardisierung, Prüfung, Zertifizierung und Anwendungsberatung unter einem Dach. Das VDE Zeichen gilt seit mehr als 100 Jahren als Synonym für höchste Sicherheitsstandards und Verbraucherschutz. 

Wir setzen uns ein für die Forschungs- und Nachwuchsförderung und für das lebenslange Lernen mit Weiterbildungsangeboten „on the job“. Im VDE Netzwerk engagieren sich über 2.000 Mitarbeiter*innen an über 60 Standorten weltweit, mehr als 100.000 ehrenamtliche Expert*innen und rund 1.500 Unternehmen gestalten im Netzwerk VDE eine lebenswerte Zukunft: vernetzt, digital, elektrisch.  
Wir gestalten die e-diale Zukunft. 

Sitz des VDE (VDE Verband der Elektrotechnik Elektronik und Informationstechnik e.V.) ist Frankfurt am Main. Mehr Informationen unter www.vde.com