Was denkt die KI sich nur dabei?

Was passiert eigentlich, wenn die mittlerweile zahllosen Künstlichen Intelligenzen im Internet über die Frage eines Menschen nachdenken? Wie kommen Programme wie ChatGPT zu ihren Antworten? „Das Manko vieler KI-Modelle ist, dass die Ergebnisse nicht erklärbar sind. Sie sind eine wahre Blackbox“, sagt Dr. Jennifer Hannig. Sie forscht in Friedberg am Kompetenzzentrum für Informationstechnologie (KITE) schon seit Jahren an der Nutzung von KI für kardiologische Anwendungen. Die bekanntesten Projekte, durch die Digitalisierungs-Förderung Distr@l des Landes Hessen unterstützt, sind im hausärztlichen Kontext RisKa, das EKG-Daten interpretiert und den Medizinern erlaubt, verlässliche Verdachtsdiagnosen zur Überweisung an Fachärzte bereits vor den ersten spürbaren gesundheitlichen Einschränkungen zu stellen, sowie die notärztliche Weiterentwicklung HERMIQS. „Für uns ist es wichtig, dass solche sensiblen Ergebnisse nachvollziehbar sind“, sagt Hannig.

Deshalb leitet sie seit dem vergangenen Herbst eine Forschungsgruppe, die sich der Erklärbarkeit solcher Analysen annimmt. Erklärbare künstliche Intelligenz (engl.: Explainable Artificial Intelligence, XAI) werden solche Modelle genannt. „Gerade für Zeitreihen-Daten gibt es noch nicht viele erklärbare KIs“, sagt Hannig. Diese Forschungslücke soll das Projekt TimeXAI schließen, das über das Programm „Förderung von wissenschaftlichen Nachwuchsgruppen unter Leitung von Frauen im Bereich der KI“ (ExperTeam4KI) des Bundesministeriums für Forschung, Technologie und Raumfahrt mit knapp 1,1 Millionen Euro für drei Jahre gefördert wird. Unter anderem werden damit eine Post-Doc Stelle, zwei Promotionsstellen und eine studentische Hilfskraft finanziert. Projektträger ist das Deutsche Zentrum für Luft- und Raumfahrt (DLR), mit dem auch die Auftaktkundgebung in Friedberg stattfand.

In der Forschung stützt sich Hannigs Team vorerst auf zwei Bereiche: Herzgesundheit und das sogenannte Smart Home. Das erstere ist eine Kooperation mit dem Forschungsprojekt HERMIQS der THM und der Justus-Liebig-Universität Gießen. Für letzteres liefert mit Veli ein Startup der Universität Kassel Daten. Dort wird eine KI entwickelt, die aus den Verbrauchsdaten von Wasser und Strom typische Muster erstellt und damit auf Notfälle – etwa eine durch Sturz verursachte Hilflosigkeit älterer Menschen – reagieren kann. „Wir möchten eine neue XAI-Technik entwickeln“, sagt Jennifer Hannig, indem die Nachwuchsgruppe Stärken und Schwächen bestehender Methoden analysieren und die Stärken in einer neuen Methode kombinieren. Durch die Entwicklung eines offenen Datensatzes können die Projektarbeiten dann in einem experimentellen Setting evaluiert werden. In einem späteren Projektstadium sollen dabei Testpersonen eine aktive Rolle einnehmen.

Insgesamt gehe es ihr darum, Vertrauen in die neue Technologie zu schaffen, erklärt Hannig. Dazu sei es essenziell, dass Menschen verstehen, wie ein Ergebnis zustande kommt. Dass Fachpersonen wie etwa Kardiologen erkennen können, ob eine Verdachtsdiagnose auf validen Daten beruhe – oder eine fixe Idee der KI sind, wie es bei Sprachmodellen wie ChatGPT regelmäßig vorkommt. „Letztlich dient das auch der Verbesserung der Technologie“, sagt Hannig.

Für sie ist das Projekt zudem ein Schritt auf ihrem Weg zu einer möglichen Professur. Die Fördermaßnahme dient der Umsetzung der KI-Strategie der Bundesregierung, die als Zuwendungsvoraussetzung unter anderem „exzellente Veröffentlichungen in international hochrangigen Fachzeitschriften“ nennt. Internationale Forschungserfahrung ist ausdrücklich gewünscht, ebenso wie internationale Kooperation. „Wir werden hier mit unseren Partnern aus Indien zusammenarbeiten“, sagt die Forschungsgruppenleiterin. Die noch jungen Kontakte der THM nach Allahabad, wo intensiv an Künstlicher Intelligenz geforscht wird, seien wie geschaffen für das Projekt.