BMBF-Förderung für KI-Nachwuchsforschergruppe „White Box AI“

Entwicklung leicht verständlicher Machine-Learning-Modelle

Die KI-Nachwuchsforschergruppe „White Box AI“ unter Leitung von Prof. Dr. Patrick Zschech und Prof. Dr. Mathias Kraus des Fachbereichs Wirtschafts- und Sozialwissenschaften (WiSO) der FAU erhält eine Förderung des Bundesministeriums für Bildung und Forschung (BMBF), das KI-Nachwuchsforschende gezielt mit speziellen Maßnahmen unterstützt. Die Förderung startet zum 1. August 2022 und geht bis zum 31. Juli 2025 (36 Monate). Dabei umfasst die Förderung 746.000 Euro (exkl. Projektpauschale) und 895.000 Euro (inkl. Projektpauschale).

Die meisten Modelle der künstlichen Intelligenz basieren heutzutage auf komplexen Abbildungsvorschriften und bieten dadurch keine Möglichkeiten, die Funktionsweise der Modelle nachzuvollziehen oder externes Wissen durch Expertinnen und Experten zu integrieren. Aufgrund solcher Black-Box-Eigenschaften können diese Modelle nur schwer validiert werden und sind deshalb für viele kritische Anwendungsgebiete (zum Beispiel im Finanz- und Gesundheitswesen) ungeeignet.

Vor diesem Hintergrund beschäftigt sich die KI-Nachwuchsforschergruppe „White-Box-AI“ unter der Leitung der beiden Juniorprofessoren Patrick Zschech, Juniorprofessur für Intelligent Information Systems, und Mathias Kraus, Juniorprofessur für Data Analytics, mit der Entwicklung und Evaluation leicht verständlicher Machine-Learning-Modelle, in die bereits während der Modellentwicklung Expertenwissen einfließen kann. Durch diese Kombination aus methodischer Entwicklung und Evaluation der Anwendung, befindet sich das Projekt in der Schnittmenge von algorithmischer und sozio-technischer Forschung.