Erklärbare Künstliche Intelligenz (XAI) im Gesundheitswesen – Eine systematische Literaturrecherche zu Anforderungen, Methoden und Evaluation von medical XAI

Künstliche Intelligenz wird im Gesundheitswesen zunehmend zur Unterstützung diagnostischer und therapeutischer Entscheidungen eingesetzt. Beispiele hierfür sind KI-Systeme zur Erkennung von Tumoren in radiologischen Bilddaten oder zur Vorhersage von Krankheitsverläufen. Da solche Systeme potenziell weitreichende Auswirkungen auf Patientinnen und Patienten haben, ist ihre Nachvollziehbarkeit von besonderer Bedeutung. Ärztinnen und Ärzte müssen verstehen können, warum ein KI-System eine bestimmte Empfehlung ausspricht, um diese Empfehlung kritisch einordnen und verantwortungsvoll in den klinischen Entscheidungsprozess integrieren zu können.

Erklärbare Künstliche Intelligenz (XAI) bietet hierfür eine Vielzahl von Methoden und Techniken. Im medizinischen Bereich werden beispielsweise visuelle Erklärungen wie Heatmaps bei bildbasierten Diagnosen, Feature-Importance-Verfahren bei tabellarischen Patientendaten oder beispielbasierte Erklärungen zur Darstellung ähnlicher Patientenfälle eingesetzt. Gleichzeitig bestehen im Gesundheitswesen spezifische Anforderungen an XAI, die über allgemeine Anforderungen an Transparenz und Nachvollziehbarkeit hinausgehen. Erklärungen müssen nicht nur technisch korrekt, sondern auch für medizinisches Fachpersonal interpretierbar und vertrauenswürdig sein. Zudem stellt sich die Frage, wie XAI-Methoden im medizinischen Kontext sinnvoll evaluiert werden können: Eine Erklärung kann aus technischer Sicht plausibel erscheinen, aber dennoch für Ärztinnen und Ärzte wenig hilfreich oder sogar missverständlich sein.

Die Bachelorarbeit soll daher systematisch untersuchen, welche Rolle XAI im Gesundheitswesen spielt und wie aktuelle Forschungsarbeiten die Anforderungen, Methoden und Evaluationsansätze von medical XAI behandeln. Dafür sollen zunächst zentrale Begriffe und Konzepte zum Thema XAI sowie KI-gestützte medizinische Entscheidungsunterstützung herausgearbeitet, definiert und voneinander abgegrenzt werden. Anschließend erfolgt eine systematische Literaturrecherche, deren methodisches Vorgehen sowie die erzielten Ergebnisse nachvollziehbar dokumentiert und dargestellt werden. Die identifizierten Forschungsbeiträge sollen durch eine geeignete Konzeptmatrix strukturiert werden. Auf dieser Grundlage soll herausgearbeitet werden, in welchen Bereichen medical XAI bereits mit welchen Methoden eingesetzt und evaluiert wird und welche Anforderungen für den Einsatz bestehen. Ziel der Bachelorarbeit ist es folglich, einen strukturierten Überblick über den aktuellen Stand der Forschung zu medical XAI zu geben und daraus Implikationen für Forschung und Praxis im Bereich erklärbarer KI-Systeme im Gesundheitswesen abzuleiten.

Brasse, J., Broder, H. R., Förster, M., Klier, M., & Sigler, I. (2023). Explainable artificial intelligence in information systems: A review of the status quo and future research directions. Electronic Markets, 33(1), p. 26.

Pumplun, L., Peters, F., Gawlitza, J. F., & Buxmann, P. (2023). Bringing machine learning systems into clinical practice: a design science approach to explainable machine learning-based clinical decision support systems. Journal of the Association for Information Systems, 24(4), pp. 953-979.

Tjoa, E., & Guan, C. (2020). A survey on explainable artificial intelligence (xai): Toward medical xai. IEEE transactions on neural networks and learning systems, 32(11), pp. 4793-4813.

Mit der zunehmenden Verbreitung von KI-Systemen interagieren Nutzerinnen und Nutzer immer häufiger mit Technologien, deren Funktionsweise für sie nur eingeschränkt nachvollziehbar ist. Beispiele hierfür sind Empfehlungssysteme, Chatbots, KI-basierte Assistenzsysteme oder automatisierte Entscheidungssysteme. Um solche Systeme sinnvoll nutzen und bewerten zu können, entwickeln Menschen sogenannte mentale Modelle. Diese beschreiben das individuelle Verständnis darüber, wie ein System funktioniert. Mentale Modelle entstehen grundsätzlich bei jeder Technologie, mit der Menschen interagieren. Sie sind jedoch nicht zwangsläufig vollständig oder korrekt und können sich im Laufe der Nutzung verändern. Gerade bei KI-Systemen kann es zu Missverständnissen kommen, da deren Verhalten häufig datengetrieben, probabilistisch und schwer vorhersehbar ist. Nutzerinnen und Nutzer können die Fähigkeiten eines KI-Systems überschätzen, dessen Grenzen unterschätzen oder Entscheidungen des Systems falsch interpretieren. Ebenso können unvollständige mentale Modelle dazu führen, dass KI-Systeme nicht angemessen genutzt oder deren Empfehlungen unkritisch übernommen werden.

Für erfolgreiche Human-AI Interaktion ist es daher zentral zu verstehen, wie Nutzerinnen und Nutzer mentale Modelle von KI-Systemen entwickeln, überprüfen und anpassen. Gleichzeitig stellt sich die Frage, wie solche mentalen Modelle gezielt unterstützt oder korrigiert werden können. Hier bietet beispielsweise erklärbare Künstliche Intelligenz (XAI) einen wichtigen Ansatzpunkt, da XAI-Methoden darauf abzielen, die Funktionsweise und Entscheidungen von KI-Systemen verständlicher zu machen.

Die Bachelorarbeit soll daher systematisch untersuchen, wie sich mentale Modelle von KI-Systemen von mentalen Modellen klassischer, nicht KI-basierter Systeme unterscheiden und welche Auswirkungen sie auf die Interaktion mit KI-Systemen haben. Im ersten Schritt sollen zentrale Begriffe und Konzepte rund um das Thema mentale Modelle, Human-AI Interaktion und XAI herausgearbeitet, definiert und voneinander abgegrenzt werden. Anschließend erfolgt eine systematische Literaturrecherche, deren methodisches Vorgehen sowie die erzielten Ergebnisse nachvollziehbar dokumentiert und dargestellt werden. Die identifizierten Forschungsbeiträge sollen durch eine geeignete Konzeptmatrix strukturiert werden. Auf dieser Grundlage soll daraufhin untersucht werden, welche Strategien dazu beitragen können, die Genauigkeit mentaler Modelle zu verbessern. Ziel der Arbeit ist es folglich, systematisch darzustellen, welche Rolle mentale Modelle für die Nutzung von KI-Systemen spielen und wie XAI dazu beitragen kann, Nutzerinnen und Nutzer beim Aufbau eines angemessenen Verständnisses von KI-Systemen zu unterstützen.

Bauer, K., Von Zahn, M., & Hinz, O. (2023). Expl (AI) ned: The impact of explainable artificial intelligence on users’ information processing. Information systems research, 34(4), pp. 1582-1602.

Bos, N., Glasgow, K., Gersh, J., Harbison, I., & Lyn Paul, C. (2019). Mental models of AI-based systems: User predictions and explanations of image classification results. In Proceedings of the Human Factors and Ergonomics Society Annual Meeting, 63(1), pp. 184-188.

Miller, T. (2019). Explanation in artificial intelligence: Insights from the social sciences. Artificial intelligence, 267, pp. 1–38.

Mit der Veröffentlichung des Sprachmodells ChatGPT im November 2022 hat sich die öffentliche Wahrnehmung von Künstlicher Intelligenz (KI) verändert. Auch in der Wissenschaft zeigen sich messbare Auswirkungen von Sprachmodellen auf die Art und Weise der Kommunikation. Als Disziplin an der Schnittstelle von Technik und Gesellschaft spielt die Wirtschaftsinformatik eine besondere Rolle in der wissenschaftlichen Kommunikation des KI-Begriffs. Vor diesem Hintergrund stellt sich die Frage, inwiefern die Veröffentlichung von Sprachmodellen die Verwendung des KI-Begriffs innerhalb der Disziplin beeinflusst hat.

Ziel dieser Bachelorarbeit ist es, mögliche Veränderungen in der Verwendung des KI-Begriffs innerhalb der Wirtschaftsinformatik mittels einer computergestützten Literaturanalyse zu untersuchen. Hierzu soll die Nutzung des Begriffs in relevanten Konferenzen und Journalen vor und nach der Veröffentlichung von ChatGPT quantitativ verglichen werden. Dabei ist insbesondere der zeitliche Verzug zwischen Verfassung und Veröffentlichung wissenschaftlicher Beiträge zu berücksichtigen.

• Russell, S., & Norvig, P. (2020). Part I: Artificial intelligence. In: Artificial intelligence: A modern approach (4th ed.). Pearson.
• Wang, S., & Liang, Z. (2024). What does the public think about artificial intelligence? An investigation of technological frames in different technological context. Government Information Quarterly, 41(2), 101939. https://doi.org/10.1016/j.giq.2024.101939
• Gartenberg, C., Hasan, S., Murray, A., & Pierce, L. (2026). More versus better: Artificial intelligence, incentives, and the emerging crisis in peer review. Organization Science, published online April 27, 2026. https://doi.org/10.1287/orsc.2026.ed.v37.n3

Künstliche Intelligenz verändert Wissenschaft, Arbeitswelt und Gesellschaft grundlegend und gewinnt damit auch für die Hochschullehre zunehmend an Bedeutung. Universitäten stehen vor der Herausforderung, Studierende auf einen reflektierten, kompetenten und verantwortungsvollen Umgang mit KI vorzubereiten. Dabei stellt sich die Frage, welche Inhalte, didaktischen Ansätze und technischen Überlegungen für eine zeitgemäße KI-Lehre besonders relevant sind. Das TPACK-Rahmenwerk (Technological Pedagogical Content Knowledge) bietet einen theoretischen Ansatz, um das Zusammenspiel dieser drei Dimensionen zu analysieren. Dabei steht vor allem die Frage im Vordergrund, wie KI-Lehre an Hochschulen konkret gestaltet werden sollte.

Ziel dieser Bachelorarbeit ist es, mit Lehrenden und/oder Entscheidungsträgern an Universitäten (z. B. Professoren, wissenschaftlichen Mitarbeitenden, Doktoranden oder Mitarbeitenden zentraler Einrichtungen wie dem ZIM) in Kontakt zu treten und mittels einer Interviewstudie zu explorieren, welche Aspekte sie im Hinblick auf das TPACK-Rahmenwerk als zentral für eine moderne KI-Lehre betrachten.

• Mishra, P., & Koehler, M.J. (Eds.). (2016). Handbook of Technological Pedagogical Content Knowledge (TPACK) for Educators (2nd ed.). Routledge. https://doi.org/10.4324/9781315771328
• Long, D., & Magerko, B. (2020). What is AI literacy? Competencies and design considerations. In Proceedings of the 2020 CHI conference on human factors in computing systems, New York, USA, 1–16. https://doi.org/10.1145/3313831.3376727.
• Ng, D. T. K., Leung, J. K. L., Chu, S. K. W., & Qiao, M. S. (2021). Conceptualizing AI literacy: An exploratory review. Computers and Education: Artificial Intelligence, 2(100041), 1–11. https://doi.org/10.1016/j.caeai.2021.100041.

Taxonomien sind Artefakte, die bereits existierende oder zukünftige Objekte einer Domäne beschreiben sowie klassifizieren und so Forschern und Praktikern helfen, eine Domäne zu verstehen und zu analysieren. Für die Entwicklung von Taxonomien existieren etablierte methodische Ansätze. So haben Kundisch et al. (2022), aufbauend auf Nickerson et al. (2013), eine Methode zur strukturierten Entwicklung von Taxonomien ausgearbeitet. Während die Entwicklung von Taxonomien damit methodisch gut adressiert ist, bleibt die Frage ihrer Darstellung bislang weitgehend offen. Taxonomien werden in der Literatur auf sehr unterschiedliche Weise visualisiert, beispielsweise als morphologische Kästen (sogenannte „Facettentaxonomien“), Hierarchien oder mathematische Sets. Dabei ist gerade die Visualisierung relevant, da sie beeinflussen kann, wie gut eine Taxonomie verstanden, analysiert und angewendet werden kann. Genau auf diese Problematik weisen Szopinski et al. (2020) hin. Sie argumentieren, dass trotz des großen Interesses an Taxonomien bislang kaum Wissen darüber vorliegt, welche Visualisierungsform für welche Taxonomie-Aufgabe besonders geeignet ist.

Hier setzt die Bachelorarbeit an. Ziel der Arbeit ist es, einen strukturierten Überblick darüber zu geben, wie Facettentaxonomien in der Wirtschaftsinformatik dargestellt bzw. visualisiert werden. In einem ersten Schritt sollen dafür relevante Publikationen identifiziert werden, die dann in einem zweiten Schritt analysiert werden. Hierfür gilt es Kriterien zu entwickeln, die einen Vergleich der verschiedenen Visualisierungsansätze für Facettentaxonomien ermöglichen. In einem dritten Schritt sollen dann Gemeinsamkeiten und Unterschiede der Visualisierungsansätze für Facettentaxonomien untersucht, Möglichkeiten und Grenzen der Visualisierung aufgezeigt sowie aktuelle Entwicklungen diskutiert werden.

• Kundisch, D., Muntermann, J., Oberländer, A. M., Rau, D., Röglinger, M., Schoormann, T. & Szopinski, D. (2022). An Update for Taxonomy Designers: Methodological Guidance from Information Systems Research. Business & Information Systems Engineering, 64(4), 421-439. 
• Nickerson, R. C., Varshney, U., & Muntermann, J. (2013). A method for taxonomy development and its application in information systems. European Journal of Information Systems, 22(3), 336-359.
• Szopinski, D., Kundisch, D., & Schoormann, T. (2020). Visualize Different: Towards Researching the Fit Between Taxonomy Visualizations and Taxonomy Tasks. In Wirtschaftsinformatik (Zentrale Tracks) (pp. 1255-1261).
• Webster, J., Watson, R. T. (2002). Analyzing the Past to Prepare for the Future: Writing a Literature Review. In: MIS Quarterly 26(2), xiii–xxiii.

In der Forschung existieren mittlerweile zahlreiche Social Media-Taxonomien, die eine Strukturierung und Klassifizierung ermöglichen. Viele dieser Taxonomien wurden speziell für bestimmte Branchen oder Anwendungsbereiche entwickelt, was jedoch häufig zu Überschneidungen in den Dimensionen und Charakteristika führt.

Ziel dieser Bachelorarbeit ist es, eine umfassende Übersicht bestehender Social Media-Taxonomien zu erstellen, diese auf Gemeinsamkeiten und Unterschiede hin zu analysieren und potenzielle Überschneidungen in den verwendeten Dimensionen und Charakteristika zu identifizieren. Auf diese Weise soll eine Grundlage geschaffen werden, die dabei hilft, eine bessere Vergleichbarkeit und Verständlichkeit der verschiedenen Taxonomien zu erreichen und ggf. Potenziale für eine Harmonisierung aufzuzeigen.

• Nickerson, R. C., Varshney, U., & Muntermann, J. (2013). A method for taxonomy development and its application in information systems. European Journal of Information Systems, 22(3), 336-359.
• Kundisch, D., Muntermann, J., Oberländer, A. M., Rau, D., Röglinger, M., Schoormann, T., & Szopinski, D. (2021). An update for taxonomy designers: methodological guidance from information systems research. Business & Information Systems Engineering, 1-19.
• Koukaras, P., Tjortjis, C., & Rousidis, D. (2020). Social media types: introducing a data driven taxonomy. Computing, 102(1), 295-340.
• Webster, J., Watson, R. T. (2002). Analyzing the Past to Prepare for the Future: Writing a Literature Review. In: MIS Quarterly 26(2), xiii–xxiii.

Warum schreiben Menschen Online Bewertungen? – Ein systematischer Literaturüberblick zu den Motiven 

Zum Thema Online Bewertungen ist in den letzten Jahrzehnten ein umfangreiches Schrifttum entstanden. Kaum ein Einkauf findet heute mehr statt, ohne sich vorher mit Hilfe von Online Bewertungen zu informieren. Es ist in der Literatur etabliert, dass sich eine höhere Durchschnittsbewertung und eine höherer Anzahl an Bewertungen positiv auf die Nachfrage auswirkt. Dabei stellt sich die Frage, warum solche Bewertungen überhaupt geschrieben werden. Was sind Auslöser dafür, dass Menschen sich die Zeit nehmen, eine Bewertung abzugeben? Auch zu diesem Themenfeld besteht bereits ein umfangreiches und facettenreiches Schrifttum. Dabei werden unterschiedliche Motive in der Literatur genannt – teilweise werden dabei für dieselben Motive auch unterschiedliche Begriffe verwendet. 

Ziel der Bachelorarbeit ist es, den Stand der Literatur zum Thema Motive für das schreiben einer Online Bewertung systematisch aufzuarbeiten und zu synthetisieren. Diese Aufarbeitung soll zunächst separat für B2C und B2B Kontexte erstellt werden. Anschließend sollen die Ergebnisse noch vergleichend einander gegenübergestellt werden. 

Cheung, C. M., and Lee, M. K. 2012. “What drives consumers to spread electronic word of mouth in online consumer-opinion platforms,” Decision Support Systems (53:1), pp. 218-225 (doi: 10.1016/j.dss.2012.01.015).

Hennig-Thurau, T., Gwinner, K. P., Walsh, G., and Gremler, D. D. 2004. “Electronic word-of-mouth via consumer-opinion platforms: what motivates consumers to articulate themselves on the internet?” Journal of Interactive Marketing (18:1), pp. 38-52 (doi: 10.1002/dir.10073).

Yoo, K. H., and Gretzel, U. 2008. “What motivates consumers to write online travel reviews?” Information Technology & Tourism (10:4), pp. 283-295 (doi: 10.3727/109830508788403114).

Erste Eindrücke spielen eine zentrale Rolle in zwischenmenschlichen Interaktionen, da sie maßgeblich den weiteren Verlauf einer Begegnung prägen. Ähnlich gilt dies zunehmend auch für die Interaktion zwischen Menschen und Chatbots. Die erste Nutzereingabe beeinflusst den Verlauf einer Konversation mit einem Chatbot maßgeblich. Dieses Prinzip bildet unter anderem die Grundlage des Prompt Engineerings, das darauf abzielt, Dialoge mit Chatbots gezielt zu lenken. Gleichzeitig ist davon auszugehen, dass viele Nutzende über kein ausgeprägtes intuitives Verständnis darüber verfügen, wie sie eine Interaktion mit Chatbots initiieren sollten. Beispielsweise könnten unterschiedliche Vorstellungen von Künstlicher Intelligenz (z.B. AI Literacy) zu erheblichen Unterschieden im Umgang mit solchen Systemen führen.

Ziel dieser Masterarbeit ist es daher, explorativ zu untersuchen, wie Nutzende ihre Konversationen mit Chatbots initialisieren sowie erste Erklärungsansätze zu identifizieren. Zur Beantwortung dieser Fragestellung verfolgt die Arbeit einen Multi-Methoden Ansatz. Zum einen werden mithilfe von natural language processing Muster in öffentlich verfügbaren Datensätzen zu Mensch-KI-Dialogen identifiziert. Zum anderen werden eigene Daten mit initialen Nutzereingaben und Daten für mögliche Erklärungsansätze erhoben. Mittels dieser Daten sollen informative Interaktionsmuster identifiziert, wie: Initiieren Nutzende eine Chatbot Interaktion strategisch?, Lässt sich parasoziales erkennen?

Zhao, W., Ren, X., Hessel, J., Cardie, C., Choi, Y., & Deng, Y. (2024). Wildchat: 1m chatgpt interaction logs in the wild. arXiv preprint arXiv:2405.01470, 1-16. https://doi.org/10.48550/arXiv.2405.01470.

Long, D., & Magerko, B. (2020). What is AI literacy? Competencies and design considerations. In Proceedings of the 2020 CHI conference on human factors in computing systems, New York, USA, 1–16. https://doi.org/10.1145/3313831.3376727.

Ng, D. T. K., Leung, J. K. L., Chu, S. K. W., & Qiao, M. S. (2021). Conceptualizing AI literacy: An exploratory review. Computers and Education: Artificial Intelligence, 2(100041), 1–11. https://doi.org/10.1016/j.caeai.2021.100041.

The digitization of value creation and the increasing importance of data ecosystems such as Catena-X present new challenges for small and medium-sized enterprises (SMEs). Data ecosystems such as Catena-X promise efficiency gains, new business models, and compliance with regulatory requirements. For SMEs, however, participation also presents challenges that can lead to a wait-and-see attitude. Previous research has identified motives and barriers, but has not yet shed light on why SMEs are reluctant to actively participate in such ecosystems despite pressure from regulators and customers.

The aim of this master's thesis is therefore to identify the reasons for SMEs' reluctance to adopt Catena-X. Specifically, the following questions will be answered:

1. How do SMEs experience the pressure to join Catena-X? Is it perceived as an invitation to collaborate or as coercion?
2. How do SMEs understand the complexity of the Catena-X data ecosystem and its underlying principles (e.g., data sovereignty)?
3. How does this understanding influence the decision to participate in Catena-X, to adopt a wait-and-see attitude, or to reject it?

• Data collection will primarily be carried out using qualitative methods. Possible methods include, for example:
  Guided interviews: With decision-makers from SMEs who are considering participating in Catena-X.
• Document analysis: Of publicly available materials on Catena-X and SME strategies.

Brechtel, M. (2025). From hesitation to participation in industrial data ecosystems: Analysis of motives and incentives in the automotive industry. Electronic Markets 35, 73 (2025). 10.1007/s12525-025-00818-3

Gelhaar, Joshua & Müller, Paul & Bergmann, Nils & Dogan, Rojda. (2023). Motives and Incentives for Data Sharing in Industrial Data Ecosystems: An Explorative Single Case Study. 10.24251/HICSS.2023.454. 

Hutterer, Andreas & Krumay, Barbara. (2024). The adoption of data spaces: Drivers toward federated data sharing. 10.24251/HICSS.2024.542. 

Möller, Frederik & Jussen-Lengersdorf, Ilka & Springer, Virginia & Gieß, Anna & Schweihoff, Julia & Gelhaar, Joshua & Guggenberger, Tobias & Otto, Boris. (2024). Industrial data ecosystems and data spaces. Electronic Markets. 34. 1-17. 10.1007/s12525-024-00724-0.

Current research in the field of information systems (IS) criticises that existing taxonomies often do not use optimal cluster analysis methods. Heumann et al. (2024) emphasises this problem and argues that the choice of unsuitable methods impairs the validity and informative value of taxonomies. In order to increase the quality and accuracy of classifications in IS research, it is therefore essential to apply the proposed improved methods of cluster analysis and to investigate their effects.

The aim of this master's thesis is to replicate two existing studies (1. taxonomy on museum admission prices and 2. taxonomy on business models of cultural event platforms). In each case, the cluster analysis is to be carried out using the methodology proposed in the critical paper. The replication and comparison with the original results will analyse the extent to which the improved cluster analysis leads to more precise and meaningful taxonomies. This helps to fill methodological gaps in IS research and provides valuable insights for future studies in the field.

Good command of English

Knowledge of statistical analysis techniques and Python an advantage

Heumann, M., Kraschewski, T., Werth, O., & Breitner, M. H. (2024). Reassessing taxonomy-based data clustering: Unveiling insights and guidelines for application. Decision Support Systems, 114344.

Althaus, M., Mueller, S. J., & Kundisch, D. (2024). What price culture?-a taxonomy of the admission pricing policy at museums. International Journal of Cultural Policy, 30(3), 392-407.