Zentrum für maschinelles Lernen der Hochschule Aalen publiziert neue Ergebnisse zur Erhöhung der Nachvollziehbarkeit von Künstlicher Intelligenz
Prof. Dr. Ricardo Büttner und sein Team forschen im Zentrum für Maschinelles Lernen zu Künstlicher Intelligenz.
Ob Gesichtserkennung im Smartphone, automatisch übersetzte Texte oder Empfehlungen zu neuen Serien – Künstliche Intelligenz (KI) trifft permanent Entscheidungen in unserem Alltag. Doch auf welcher Grundlage entscheidet KI? Mit dieser Frage beschäftigt sich eine Forschungsgruppe der Hochschule Aalen um Prof. Dr. Ricardo Büttner in einer neu veröffentlichten Arbeit.
In der Fachzeitschrift PLOS ONE werden aktuelle Forschungsergebnisse zum Thema „Explainable Artificial Intelligence“ (XAI / dt. erklärbare Künstliche Intelligenz) der Forschungsgruppe publiziert. In der Arbeit zeigt das Team rund um Prof. Büttner am Beispiel von EKG-Daten, wie die Entscheidungen der KI transparent gemacht werden können.
Dabei wird deutlich, dass die KI auch ohne vorab hinzugefügtes Expertenwissen anhand der gleichen Indikatoren wie ein Kardiologe entscheidet, welche Herzrhythmusstörungen beispielsweise bei einem Patienten vorliegen. Zusätzlich zur Bestätigung dieses bereits bekannten Expertenwissens konnten neue, bislang unbekannte, Einflussfaktoren identifiziert werden, deren Zusammenspiel in Zukunft weiter erforscht werden soll.
Die Publikation ist im Rahmen des von der Carl-Zeiss-Stiftung mit bis zu 2,7 Millionen Euro geförderten Zentrums für maschinelles Lernen und des BMBF-Projekts BEYOND entstanden. Die Publikation kann unter folgendem Link kostenfrei abgerufen werden:
https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0243615
T. Rieg, J. Frick, H. Baumgartl, R. Buettner, "Demonstration of the potential of white-box machine learning approaches to gain insights from cardiovascular disease electrocardiograms," PLOS ONE, e0243615, 2020.
Über die Carl-Zeiss-Stiftung
Die Carl-Zeiss-Stiftung hat sich zum Ziel gesetzt, Freiräume für wissenschaftliche Durchbrüche zu schaffen. Als Partner exzellenter Wissenschaft unterstützt sie sowohl Grundlagenforschung als auch anwendungsorientierte Forschung und Lehre in den MINT-Fachbereichen (Mathematik, Informatik, Naturwissenschaften und Technik). 1889 von dem Physiker und Mathematiker Ernst Abbe gegründet, ist die Carl-Zeiss-Stiftung eine der ältesten und größten privaten wissenschaftsfördernden Stiftungen in Deutschland. Sie ist alleinige Eigentümerin der Carl Zeiss AG und SCHOTT AG. Ihre Projekte werden aus den Dividendenausschüttungen der beiden Stiftungsunternehmen finanziert.