Erklärbare Künstliche Intelligenz (XAI) im Gesundheitswesen – Eine systematische Literaturrecherche zu Anforderungen, Methoden und Evaluation von medical XAI

Künstliche Intelligenz wird im Gesundheitswesen zunehmend zur Unterstützung diagnostischer und therapeutischer Entscheidungen eingesetzt. Beispiele hierfür sind KI-Systeme zur Erkennung von Tumoren in radiologischen Bilddaten oder zur Vorhersage von Krankheitsverläufen. Da solche Systeme potenziell weitreichende Auswirkungen auf Patientinnen und Patienten haben, ist ihre Nachvollziehbarkeit von besonderer Bedeutung. Ärztinnen und Ärzte müssen verstehen können, warum ein KI-System eine bestimmte Empfehlung ausspricht, um diese Empfehlung kritisch einordnen und verantwortungsvoll in den klinischen Entscheidungsprozess integrieren zu können.

Erklärbare Künstliche Intelligenz (XAI) bietet hierfür eine Vielzahl von Methoden und Techniken. Im medizinischen Bereich werden beispielsweise visuelle Erklärungen wie Heatmaps bei bildbasierten Diagnosen, Feature-Importance-Verfahren bei tabellarischen Patientendaten oder beispielbasierte Erklärungen zur Darstellung ähnlicher Patientenfälle eingesetzt. Gleichzeitig bestehen im Gesundheitswesen spezifische Anforderungen an XAI, die über allgemeine Anforderungen an Transparenz und Nachvollziehbarkeit hinausgehen. Erklärungen müssen nicht nur technisch korrekt, sondern auch für medizinisches Fachpersonal interpretierbar und vertrauenswürdig sein. Zudem stellt sich die Frage, wie XAI-Methoden im medizinischen Kontext sinnvoll evaluiert werden können: Eine Erklärung kann aus technischer Sicht plausibel erscheinen, aber dennoch für Ärztinnen und Ärzte wenig hilfreich oder sogar missverständlich sein.

Die Bachelorarbeit soll daher systematisch untersuchen, welche Rolle XAI im Gesundheitswesen spielt und wie aktuelle Forschungsarbeiten die Anforderungen, Methoden und Evaluationsansätze von medical XAI behandeln. Dafür sollen zunächst zentrale Begriffe und Konzepte zum Thema XAI sowie KI-gestützte medizinische Entscheidungsunterstützung herausgearbeitet, definiert und voneinander abgegrenzt werden. Anschließend erfolgt eine systematische Literaturrecherche, deren methodisches Vorgehen sowie die erzielten Ergebnisse nachvollziehbar dokumentiert und dargestellt werden. Die identifizierten Forschungsbeiträge sollen durch eine geeignete Konzeptmatrix strukturiert werden. Auf dieser Grundlage soll herausgearbeitet werden, in welchen Bereichen medical XAI bereits mit welchen Methoden eingesetzt und evaluiert wird und welche Anforderungen für den Einsatz bestehen. Ziel der Bachelorarbeit ist es folglich, einen strukturierten Überblick über den aktuellen Stand der Forschung zu medical XAI zu geben und daraus Implikationen für Forschung und Praxis im Bereich erklärbarer KI-Systeme im Gesundheitswesen abzuleiten.

Brasse, J., Broder, H. R., Förster, M., Klier, M., & Sigler, I. (2023). Explainable artificial intelligence in information systems: A review of the status quo and future research directions. Electronic Markets, 33(1), p. 26.

Pumplun, L., Peters, F., Gawlitza, J. F., & Buxmann, P. (2023). Bringing machine learning systems into clinical practice: a design science approach to explainable machine learning-based clinical decision support systems. Journal of the Association for Information Systems, 24(4), pp. 953-979.

Tjoa, E., & Guan, C. (2020). A survey on explainable artificial intelligence (xai): Toward medical xai. IEEE transactions on neural networks and learning systems, 32(11), pp. 4793-4813.

Mit der zunehmenden Verbreitung von KI-Systemen interagieren Nutzerinnen und Nutzer immer häufiger mit Technologien, deren Funktionsweise für sie nur eingeschränkt nachvollziehbar ist. Beispiele hierfür sind Empfehlungssysteme, Chatbots, KI-basierte Assistenzsysteme oder automatisierte Entscheidungssysteme. Um solche Systeme sinnvoll nutzen und bewerten zu können, entwickeln Menschen sogenannte mentale Modelle. Diese beschreiben das individuelle Verständnis darüber, wie ein System funktioniert. Mentale Modelle entstehen grundsätzlich bei jeder Technologie, mit der Menschen interagieren. Sie sind jedoch nicht zwangsläufig vollständig oder korrekt und können sich im Laufe der Nutzung verändern. Gerade bei KI-Systemen kann es zu Missverständnissen kommen, da deren Verhalten häufig datengetrieben, probabilistisch und schwer vorhersehbar ist. Nutzerinnen und Nutzer können die Fähigkeiten eines KI-Systems überschätzen, dessen Grenzen unterschätzen oder Entscheidungen des Systems falsch interpretieren. Ebenso können unvollständige mentale Modelle dazu führen, dass KI-Systeme nicht angemessen genutzt oder deren Empfehlungen unkritisch übernommen werden.

Für erfolgreiche Human-AI Interaktion ist es daher zentral zu verstehen, wie Nutzerinnen und Nutzer mentale Modelle von KI-Systemen entwickeln, überprüfen und anpassen. Gleichzeitig stellt sich die Frage, wie solche mentalen Modelle gezielt unterstützt oder korrigiert werden können. Hier bietet beispielsweise erklärbare Künstliche Intelligenz (XAI) einen wichtigen Ansatzpunkt, da XAI-Methoden darauf abzielen, die Funktionsweise und Entscheidungen von KI-Systemen verständlicher zu machen.

Die Bachelorarbeit soll daher systematisch untersuchen, wie sich mentale Modelle von KI-Systemen von mentalen Modellen klassischer, nicht KI-basierter Systeme unterscheiden und welche Auswirkungen sie auf die Interaktion mit KI-Systemen haben. Im ersten Schritt sollen zentrale Begriffe und Konzepte rund um das Thema mentale Modelle, Human-AI Interaktion und XAI herausgearbeitet, definiert und voneinander abgegrenzt werden. Anschließend erfolgt eine systematische Literaturrecherche, deren methodisches Vorgehen sowie die erzielten Ergebnisse nachvollziehbar dokumentiert und dargestellt werden. Die identifizierten Forschungsbeiträge sollen durch eine geeignete Konzeptmatrix strukturiert werden. Auf dieser Grundlage soll daraufhin untersucht werden, welche Strategien dazu beitragen können, die Genauigkeit mentaler Modelle zu verbessern. Ziel der Arbeit ist es folglich, systematisch darzustellen, welche Rolle mentale Modelle für die Nutzung von KI-Systemen spielen und wie XAI dazu beitragen kann, Nutzerinnen und Nutzer beim Aufbau eines angemessenen Verständnisses von KI-Systemen zu unterstützen.

Bauer, K., Von Zahn, M., & Hinz, O. (2023). Expl (AI) ned: The impact of explainable artificial intelligence on users’ information processing. Information systems research, 34(4), pp. 1582-1602.

Bos, N., Glasgow, K., Gersh, J., Harbison, I., & Lyn Paul, C. (2019). Mental models of AI-based systems: User predictions and explanations of image classification results. In Proceedings of the Human Factors and Ergonomics Society Annual Meeting, 63(1), pp. 184-188.

Miller, T. (2019). Explanation in artificial intelligence: Insights from the social sciences. Artificial intelligence, 267, pp. 1–38.

Mit der Veröffentlichung des Sprachmodells ChatGPT im November 2022 hat sich die öffentliche Wahrnehmung von Künstlicher Intelligenz (KI) verändert. Auch in der Wissenschaft zeigen sich messbare Auswirkungen von Sprachmodellen auf die Art und Weise der Kommunikation. Als Disziplin an der Schnittstelle von Technik und Gesellschaft spielt die Wirtschaftsinformatik eine besondere Rolle in der wissenschaftlichen Kommunikation des KI-Begriffs. Vor diesem Hintergrund stellt sich die Frage, inwiefern die Veröffentlichung von Sprachmodellen die Verwendung des KI-Begriffs innerhalb der Disziplin beeinflusst hat.

Ziel dieser Bachelorarbeit ist es, mögliche Veränderungen in der Verwendung des KI-Begriffs innerhalb der Wirtschaftsinformatik mittels einer computergestützten Literaturanalyse zu untersuchen. Hierzu soll die Nutzung des Begriffs in relevanten Konferenzen und Journalen vor und nach der Veröffentlichung von ChatGPT quantitativ verglichen werden. Dabei ist insbesondere der zeitliche Verzug zwischen Verfassung und Veröffentlichung wissenschaftlicher Beiträge zu berücksichtigen.

• Russell, S., & Norvig, P. (2020). Part I: Artificial intelligence. In: Artificial intelligence: A modern approach (4th ed.). Pearson.
• Wang, S., & Liang, Z. (2024). What does the public think about artificial intelligence? An investigation of technological frames in different technological context. Government Information Quarterly, 41(2), 101939. https://doi.org/10.1016/j.giq.2024.101939
• Gartenberg, C., Hasan, S., Murray, A., & Pierce, L. (2026). More versus better: Artificial intelligence, incentives, and the emerging crisis in peer review. Organization Science, published online April 27, 2026. https://doi.org/10.1287/orsc.2026.ed.v37.n3

Künstliche Intelligenz verändert Wissenschaft, Arbeitswelt und Gesellschaft grundlegend und gewinnt damit auch für die Hochschullehre zunehmend an Bedeutung. Universitäten stehen vor der Herausforderung, Studierende auf einen reflektierten, kompetenten und verantwortungsvollen Umgang mit KI vorzubereiten. Dabei stellt sich die Frage, welche Inhalte, didaktischen Ansätze und technischen Überlegungen für eine zeitgemäße KI-Lehre besonders relevant sind. Das TPACK-Rahmenwerk (Technological Pedagogical Content Knowledge) bietet einen theoretischen Ansatz, um das Zusammenspiel dieser drei Dimensionen zu analysieren. Dabei steht vor allem die Frage im Vordergrund, wie KI-Lehre an Hochschulen konkret gestaltet werden sollte.

Ziel dieser Bachelorarbeit ist es, mit Lehrenden und/oder Entscheidungsträgern an Universitäten (z. B. Professoren, wissenschaftlichen Mitarbeitenden, Doktoranden oder Mitarbeitenden zentraler Einrichtungen wie dem ZIM) in Kontakt zu treten und mittels einer Interviewstudie zu explorieren, welche Aspekte sie im Hinblick auf das TPACK-Rahmenwerk als zentral für eine moderne KI-Lehre betrachten.

• Mishra, P., & Koehler, M.J. (Eds.). (2016). Handbook of Technological Pedagogical Content Knowledge (TPACK) for Educators (2nd ed.). Routledge. https://doi.org/10.4324/9781315771328
• Long, D., & Magerko, B. (2020). What is AI literacy? Competencies and design considerations. In Proceedings of the 2020 CHI conference on human factors in computing systems, New York, USA, 1–16. https://doi.org/10.1145/3313831.3376727.
• Ng, D. T. K., Leung, J. K. L., Chu, S. K. W., & Qiao, M. S. (2021). Conceptualizing AI literacy: An exploratory review. Computers and Education: Artificial Intelligence, 2(100041), 1–11. https://doi.org/10.1016/j.caeai.2021.100041.

Taxonomien sind Artefakte, die bereits existierende oder zukünftige Objekte einer Domäne beschreiben sowie klassifizieren und so Forschern und Praktikern helfen, eine Domäne zu verstehen und zu analysieren. Für die Entwicklung von Taxonomien existieren etablierte methodische Ansätze. So haben Kundisch et al. (2022), aufbauend auf Nickerson et al. (2013), eine Methode zur strukturierten Entwicklung von Taxonomien ausgearbeitet. Während die Entwicklung von Taxonomien damit methodisch gut adressiert ist, bleibt die Frage ihrer Darstellung bislang weitgehend offen. Taxonomien werden in der Literatur auf sehr unterschiedliche Weise visualisiert, beispielsweise als morphologische Kästen (sogenannte „Facettentaxonomien“), Hierarchien oder mathematische Sets. Dabei ist gerade die Visualisierung relevant, da sie beeinflussen kann, wie gut eine Taxonomie verstanden, analysiert und angewendet werden kann. Genau auf diese Problematik weisen Szopinski et al. (2020) hin. Sie argumentieren, dass trotz des großen Interesses an Taxonomien bislang kaum Wissen darüber vorliegt, welche Visualisierungsform für welche Taxonomie-Aufgabe besonders geeignet ist.

Hier setzt die Bachelorarbeit an. Ziel der Arbeit ist es, einen strukturierten Überblick darüber zu geben, wie Facettentaxonomien in der Wirtschaftsinformatik dargestellt bzw. visualisiert werden. In einem ersten Schritt sollen dafür relevante Publikationen identifiziert werden, die dann in einem zweiten Schritt analysiert werden. Hierfür gilt es Kriterien zu entwickeln, die einen Vergleich der verschiedenen Visualisierungsansätze für Facettentaxonomien ermöglichen. In einem dritten Schritt sollen dann Gemeinsamkeiten und Unterschiede der Visualisierungsansätze für Facettentaxonomien untersucht, Möglichkeiten und Grenzen der Visualisierung aufgezeigt sowie aktuelle Entwicklungen diskutiert werden.

• Kundisch, D., Muntermann, J., Oberländer, A. M., Rau, D., Röglinger, M., Schoormann, T. & Szopinski, D. (2022). An Update for Taxonomy Designers: Methodological Guidance from Information Systems Research. Business & Information Systems Engineering, 64(4), 421-439. 
• Nickerson, R. C., Varshney, U., & Muntermann, J. (2013). A method for taxonomy development and its application in information systems. European Journal of Information Systems, 22(3), 336-359.
• Szopinski, D., Kundisch, D., & Schoormann, T. (2020). Visualize Different: Towards Researching the Fit Between Taxonomy Visualizations and Taxonomy Tasks. In Wirtschaftsinformatik (Zentrale Tracks) (pp. 1255-1261).
• Webster, J., Watson, R. T. (2002). Analyzing the Past to Prepare for the Future: Writing a Literature Review. In: MIS Quarterly 26(2), xiii–xxiii.

In der Forschung existieren mittlerweile zahlreiche Social Media-Taxonomien, die eine Strukturierung und Klassifizierung ermöglichen. Viele dieser Taxonomien wurden speziell für bestimmte Branchen oder Anwendungsbereiche entwickelt, was jedoch häufig zu Überschneidungen in den Dimensionen und Charakteristika führt.

Ziel dieser Bachelorarbeit ist es, eine umfassende Übersicht bestehender Social Media-Taxonomien zu erstellen, diese auf Gemeinsamkeiten und Unterschiede hin zu analysieren und potenzielle Überschneidungen in den verwendeten Dimensionen und Charakteristika zu identifizieren. Auf diese Weise soll eine Grundlage geschaffen werden, die dabei hilft, eine bessere Vergleichbarkeit und Verständlichkeit der verschiedenen Taxonomien zu erreichen und ggf. Potenziale für eine Harmonisierung aufzuzeigen.

• Nickerson, R. C., Varshney, U., & Muntermann, J. (2013). A method for taxonomy development and its application in information systems. European Journal of Information Systems, 22(3), 336-359.
• Kundisch, D., Muntermann, J., Oberländer, A. M., Rau, D., Röglinger, M., Schoormann, T., & Szopinski, D. (2021). An update for taxonomy designers: methodological guidance from information systems research. Business & Information Systems Engineering, 1-19.
• Koukaras, P., Tjortjis, C., & Rousidis, D. (2020). Social media types: introducing a data driven taxonomy. Computing, 102(1), 295-340.
• Webster, J., Watson, R. T. (2002). Analyzing the Past to Prepare for the Future: Writing a Literature Review. In: MIS Quarterly 26(2), xiii–xxiii.

Erste Eindrücke spielen eine zentrale Rolle in zwischenmenschlichen Interaktionen, da sie maßgeblich den weiteren Verlauf einer Begegnung prägen. Ähnlich gilt dies zunehmend auch für die Interaktion zwischen Menschen und Chatbots. Die erste Nutzereingabe beeinflusst den Verlauf einer Konversation mit einem Chatbot maßgeblich. Dieses Prinzip bildet unter anderem die Grundlage des Prompt Engineerings, das darauf abzielt, Dialoge mit Chatbots gezielt zu lenken. Gleichzeitig ist davon auszugehen, dass viele Nutzende über kein ausgeprägtes intuitives Verständnis darüber verfügen, wie sie eine Interaktion mit Chatbots initiieren sollten. Beispielsweise könnten unterschiedliche Vorstellungen von Künstlicher Intelligenz (z.B. AI Literacy) zu erheblichen Unterschieden im Umgang mit solchen Systemen führen.

Ziel dieser Masterarbeit ist es daher, explorativ zu untersuchen, wie Nutzende ihre Konversationen mit Chatbots initialisieren sowie erste Erklärungsansätze zu identifizieren. Zur Beantwortung dieser Fragestellung verfolgt die Arbeit einen Multi-Methoden Ansatz. Zum einen werden mithilfe von natural language processing Muster in öffentlich verfügbaren Datensätzen zu Mensch-KI-Dialogen identifiziert. Zum anderen werden eigene Daten mit initialen Nutzereingaben und Daten für mögliche Erklärungsansätze erhoben. Mittels dieser Daten sollen informative Interaktionsmuster identifiziert, wie: Initiieren Nutzende eine Chatbot Interaktion strategisch?, Lässt sich parasoziales erkennen?

Zhao, W., Ren, X., Hessel, J., Cardie, C., Choi, Y., & Deng, Y. (2024). Wildchat: 1m chatgpt interaction logs in the wild. arXiv preprint arXiv:2405.01470, 1-16. https://doi.org/10.48550/arXiv.2405.01470.

Long, D., & Magerko, B. (2020). What is AI literacy? Competencies and design considerations. In Proceedings of the 2020 CHI conference on human factors in computing systems, New York, USA, 1–16. https://doi.org/10.1145/3313831.3376727.

Ng, D. T. K., Leung, J. K. L., Chu, S. K. W., & Qiao, M. S. (2021). Conceptualizing AI literacy: An exploratory review. Computers and Education: Artificial Intelligence, 2(100041), 1–11. https://doi.org/10.1016/j.caeai.2021.100041.

Die Digitalisierung der Wertschöpfung und die zunehmende Bedeutung von Datenökosystemen, wie Catena-X, stellen kleine und mittlere Unternehmen (KMU) vor neue Herausforderungen. Datenökosysteme wie Catena-X versprechen Effizienzsteigerungen, neue Geschäftsmodelle und die Erfüllung regulatorischer Anforderungen. Für KMU stellt die Teilnahme jedoch auch Herausforderungen dar, die zu einer abwartenden Haltung führen können. Bisherige Forschungsarbeiten identifizieren zwar Motive und Barrieren, jedoch noch nicht zum Verständnis bei, warum KMU trotz des Drucks vonseiten der Regulierungsbehörden und Kunden zögern, aktiv an solchen Ökosyxstemen teilzunehmen.

Ziel dieser Masterarbeit ist es daher, die Ursachen für die Zurückhaltung von KMU bei der Adoption von Catena-X zu identifizieren. Konkret können folgende Fragen beantwortet werden:

1. Wie erleben KMU den Druck, sich an Catena-X anzuschließen? Wird dieser als Einladung zur Zusammenarbeit oder als Zwang empfunden?
2. Wie verstehen KMU die Komplexität des Datenökosystems Catena-X und seine zugrundeliegenden Prinzipien (z.B. Datensouveränität)?
3. Welchen Einfluss hat dieses Verständnis auf die Entscheidung, an Catena-X teilzunehmen, eine abwartende Haltung einzunehmen oder abzulehnen?

Die Datenerhebung wird primär durch qualitative Methoden erfolgen. Denkbar sind beispielsweise:

• Leitfadeninterviews: Mit Entscheidungsträgern aus KMU, die sich mit der Frage der Teilnahme an Catena-X auseinandersetzen.
• Dokumentenanalyse: Von öffentlich zugänglichen Materialien zu Catena-X und KMU-Strategien.

Brechtel, M. (2025). From hesitation to participation in industrial data ecosystems: Analysis of motives and incentives in the automotive industry. Electronic Markets 35, 73 (2025). 10.1007/s12525-025-00818-3

Gelhaar, Joshua & Müller, Paul & Bergmann, Nils & Dogan, Rojda. (2023). Motives and Incentives for Data Sharing in Industrial Data Ecosystems: An Explorative Single Case Study. 10.24251/HICSS.2023.454. 

Hutterer, Andreas & Krumay, Barbara. (2024). The adoption of data spaces: Drivers toward federated data sharing. 10.24251/HICSS.2024.542. 

Möller, Frederik & Jussen-Lengersdorf, Ilka & Springer, Virginia & Gieß, Anna & Schweihoff, Julia & Gelhaar, Joshua & Guggenberger, Tobias & Otto, Boris. (2024). Industrial data ecosystems and data spaces. Electronic Markets. 34. 1-17. 10.1007/s12525-024-00724-0.

In der aktuellen Forschung im Bereich der Informationssysteme (IS) wird kritisiert, dass bestehende Taxonomien häufig nicht die optimalen Clusteranalyse-Methoden verwenden. Heumann et al. (2024) hebt diese Problematik hervor und argumentiert, dass die Wahl ungeeigneter Methoden die Validität und Aussagekraft von Taxonomien beeinträchtigt. Um die Qualität und Genauigkeit von Klassifizierungen in der IS-Forschung zu erhöhen, ist es daher essentiell, die vorgeschlagenen verbesserten Methoden der Clusteranalyse anzuwenden und deren Auswirkungen zu untersuchen.

Das Ziel dieser Masterarbeit ist es, zwei bestehende Studien (1. Taxonomie zu Museumseintrittspreisen und 2. Taxonomie zu Geschäftsmodellen von Kultureventplattformen) zu replizieren. Dabei soll die Clusteranalyse jeweils mit der im kritischen Paper vorgeschlagenen Methodik neu durchgeführt werden. Durch die Replikation und den Vergleich mit den ursprünglichen Ergebnissen wird untersucht, inwiefern die verbesserte Clusteranalyse zu präziseren und aussagekräftigeren Taxonomien führt. Dies trägt dazu bei, methodische Lücken in der IS-Forschung zu schließen und liefert wertvolle Erkenntnisse für zukünftige Studien in diesem Bereich.

Gute Englischkenntnisse

Kenntnisse in statistische Analysetechniken und Python von Vorteil

Heumann, M., Kraschewski, T., Werth, O., & Breitner, M. H. (2024). Reassessing taxonomy-based data clustering: Unveiling insights and guidelines for application. Decision Support Systems, 114344.

Althaus, M., Mueller, S. J., & Kundisch, D. (2024). What price culture?–a taxonomy of the admission pricing policy at museums. International Journal of Cultural Policy, 30(3), 392-407.