Untersuchung des Zusammenhangs von Trainingsdaten und Entscheidungen Künstlicher Intelligenz und, wie sich Prognosen und Entscheidungen erklären lassen

Das Teilprojekt Künstliche Intelligenz und Organisationsprozesse untersucht den Zusammenhang von Trainingsdaten und Entscheidungen (Daten-Repräsentativität) Künstlicher Intelligenz. Außerdem beschäftigt sich das Teilprojekt damit, wie sich Prognosen und Entscheidungen der KI den Beschäftigten erklären lassen. Die Arbeitsweise Künstlicher Intelligenz ist oft nicht einfach erklärbar, was den Einsatz dieser Technologie im betrieblichen Umfeld erschwert. Es gilt explizit zu machen, wie intelligente Systeme ihre Entscheidungen treffen und welche Daten sie dafür verwenden. Mit einer iterativen Vorgehensweise, also Schritt für Schritt, werden informatische und algorithmische Lösungen erarbeitet, um sich diesem Problem zu nähern. Eine grundlegende Herausforderung besteht darin, dass eine allumfängliche Bereitstellung von Daten für jegliche eventuell auftretenden Situationen nicht gewährleistet werden kann. Das bedeutet, dass KI-Systeme unbekannte Situationen nicht aufgrund bereits gelernter Trainingsdaten lösen können. Darüber hinaus können KI-Systeme durch geringfügige Änderungen der Daten manipuliert werden; hier handelt es sich um die sogenannte Robustheit der Modelle. Diese Aspekte führen zu Unsicherheiten und Skepsis seitens der Belegschaft eines Unternehmens. Die Forschenden stehen also vor der Herausforderung, intelligente Systeme nachvollziehbarer zu machen. Außerdem besteht der Anspruch, bereits bei der Entwicklung der KI gesellschaftlich relevante Normen und Gesetze einzubeziehen, um die Technologie auch ethisch vertretbar zu machen und sie regulatorisch in Geschäftsprozesse einfügen zu können.

Darüber hinaus analysieren die Forschenden, in welchen Szenarien und Formen sich Künstliche Intelligenz in Organisationen einbetten lassen und wie sich ihre Präsenz auf die Mitarbeitenden auswirkt. Dabei geht es auch um die Frage, inwiefern Entscheidungen an die KI abgegeben werden und wer die Konsequenzen für die Aktionen der KI trägt. In einem weiteren Anwendungsfall, in Kooperation mit einem niedersächsischen Unternehmen, soll ein Prozess entwickelt werden, in dem intelligente Systeme Prognosen zum Wiederverkaufswert geleaster Fahrzeuge erstellen. Das beinhaltet auch die Interaktion der Mitarbeitenden mit der KI-Anwendung und eine Abschätzung möglicher Risiken durch die KI. Des Weiteren entwickeln die Forschenden verschiedene Szenarien, um die Interaktion von Mensch und Maschine zu untersuchen. Hier werden das Vertrauen in KI-Anwendungen, adaptive Verhaltensmuster bezüglich neuer Technologien sowie die menschliche Entscheidungsfindung und Kooperation mit intelligenten Systemen thematisiert. Empirische Fallstudien sollen außerdem die Auswirkungen der Digitalisierung auf Organisationsstrukturen beleuchten.

Folgende Wissenschaftler*innen beteiligen sich am Projekt „Organisationsprozesse und Datenrepräsentativität Künstlicher Intelligenz“:

• Prof. Dr. Andreas Bernard, Leuphana Universität Lüneburg, Institut für Kultur und Ästhetik digitaler Medien, Centre for Digital Cultures
• Prof. Dr. Kilian Bizer, Georg-August-Universität Göttingen, Lehrstuhl für Wirtschaftspolitik und Mittelstandforschung, Volkswirtschaftliches Institut für Mittelstand und Handwerk
• Prof. Dr. Wolfgang Nejdl, Leibniz Universität Hannover, Forschungszentrum L3S
• Prof. Dr. Dr. Lars Schmidt-Thieme, Stiftung Universität Hildesheim, Wirtschaftsinformatik und Maschinelles Lernen