Vertrauen ist gut, KI-Kontrolle besser

05.04.2023

Das Fraunhofer IAIS ist mit zwei Exponaten rund um Künstliche Intelligenz (KI) auf der Hannover Messe 2023 vertreten: Hybride Graph-KI und Prüftools.

Vom 17. bis 21. April können Besucher der Hannover Messe 2023 am Fraunhofer-Gemeinschaftsstand in Halle 16 (Stand A12) verschiedene Tools und Anwendungen des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS live erleben. Hendrik Stange verantwortet den Bereich Auto Intelligence, der sich mit automatisierter KI in der Materialwirtschaft befasst. Die Stärke dieser KI basiert auf neuartigen Materialgraphen, die eine Ressourcenintelligenz von Unternehmen steigern, damit sie ökonomisch vorausschauende und ökologisch nachhaltigere Entscheidungen treffen können. Maximilian Poretschkin, Leiter KI-Absicherung und Zertifizierung, zeigt anhand unterschiedlicher Prüftools auf, wie man die Qualität von KI-Anwendungen testen kann und warum dies immer wichtiger wird.

Welche Auswirkungen hat es im schlimmsten Fall, wenn bestimmte Materialien nicht lieferbar sind? Was sind geeignete Substitute? Und kann ich den Materialeinsatz noch optimieren, damit so wenig wie möglich verschwendet wird? „An dieser Stelle kommt unser Materialgraph ins Spiel. Unsere KI lernt nicht nur aus Texten oder Bildern mehr über Material, Eigenschaften oder Zweck, sondern nutzt vernetztes Wissen und Know-how aus der Praxis, um Materialrisiken für die Produktion oder Dienstleistung zu erkennen und aufzuzeigen, Lieferketten zu steuern, Teilebedarfe optimal zu managen und Materialeinsatz sowie -einkauf zu rationalisieren“, erklärt Hendrik Stange, Geschäftsfeldleiter Auto Intelligence am Fraunhofer IAIS in Sankt Augustin. So hat die KI auch ein mögliches Verfallsdatum im Blick, damit ein Material rechtzeitig verbraucht werden kann und nicht entsorgt werden muss. Oder sie prognostiziert permanent die Bedarfsmengen, um Material kosteneffizient zu produzieren und Wege einzusparen.

Mit einem anderen Schwerpunkt ist Maximilian Poretschkin am Fraunhofer-Gemeinschaftsstand vertreten. Der Leiter KI-Absicherung und Zertifizierung am Fraunhofer IAIS stellt dort mehrere Prüftools und Verfahren vor, die Künstliche Intelligenzen in Bezug auf ihre Verlässlichkeit, Fairness, Robustheit und Transparenz untersuchen und bewerten. Die Prüfkriterien basieren auf dem KI-Prüfkatalog, einem Leitfaden zur Gestaltung vertrauenswürdiger Künstlicher Intelligenz, der von den Fraunhofer IAIS-Expert*innen 2021 veröffentlicht wurde. Seit Anfang 2023 ist er auch in englischer Übersetzung verfügbar.

Doch warum ist es wichtig, die Güte von KI-Anwendungen systematisch prüfen zu können? „Insbesondere in sensiblen Anwendungsfeldern, wie etwa der medizinischen Diagnostik, dem HR-Management, dem Finanzwesen, der Strafverfolgung oder in sicherheitskritischen Bereichen müssen KI-Systeme absolut zuverlässige Ergebnisse liefern. Der AI Act – der Europäische Entwurf zur Regulierung von KI-Systemen – stuft viele dieser Beispiele in die Hochrisiko-Kategorie ein und sieht für sie Prüfungen sogar verpflichtend vor", erklärt Poretschkin. „Unternehmen, die Hochrisiko-KI-Anwendungen entwickeln oder einsetzen, müssen sich spätestens jetzt dringend mit der Qualitätssicherung ihrer Anwendungen auseinandersetzen."