AI to the Rescue: Life-and-Death Decision-Making under Conflicting Criteria

Bei großen Naturkatastrophen oder von Menschen verursachten Katastrophen können unzureichende Entscheidungen über die Versorgung mit Nahrungsmitteln, Wasser, Energie, Unterkünften, medizinischer und psychologischer Betreuung verheerende Auswirkungen haben. Bei solchen Ereignissen werden Entscheidungen über "Leben und Tod" unter Zeitdruck, dynamischen Bedingungen, widersprüchlichen Erwartungen, unvollständigen und unsicheren Informationen, Infrastrukturausfällen und unzureichenden Ressourcen getroffen, um alle dringenden
Bedürfnisse. Moderne Technologien ermöglichen die Entwicklung spezieller KI-gestützter Entscheidungsunterstützungssysteme (DSS) für solche anormalen Bedingungen. Die erforderlichen Entscheidungen beinhalten jedoch häufig widersprüchliche und unvergleichbare Kriterien (z. B. Kosten gegenüber dem Überleben und dem Wohlergehen der Menschen). Dies wirft Fragen hinsichtlich der Rationalisierbarkeit, Subjektivität und ethischen Erwägungen der betreffenden Entscheidungen auf. Darüber hinaus muss der Grad des Vertrauens in die Nutzung solcher KI-basierter Systeme untersucht werden. Um die wichtigsten soziotechnischen Aspekte von "AI to the Rescue" zu erforschen, wird sich dieses Projekt auf erfahrene Entscheidungsträger und Politiker stützen,
sowie Forscher aus den Ingenieur-, Sozial- und Medizinwissenschaften. Die geplante Forschung wird sich auf Entscheidungen über medizinische Notfalleinsätze bei großen Katastrophen konzentrieren. Das Konsortium wird neue Ideen für das erforderliche KI-basierte DSS unter Berücksichtigung der soziotechnischen Aspekte liefern.

During major natural or man-made disasters, inadequate decisions on the supply of food, water,energy, shelters, medical and mental care, could have devastating impacts. In such events, "life and-death" decisions are made under time constraints, dynamic conditions, conflicting expectations, incomplete and uncertain information, infrastructure failures and insufficient resources to meet all urgent
needs. Modern technologies enable the development of dedicated AI-based Decision-Support-Systems (DSS) for such abnormal conditions. Yet, the required decisions often involve conflicting and incomparable criteria (e.g. cost versus human survival and well-being). This raises questions concerning the rationalizability, subjectivity and ethical considerations of the involved decisions. Moreover, there is a need to investigate the levels-of trust in utilizing such AI-based systems. To explore the key socio-technical aspects of "AI to the Rescue", this project will rely on experienced decision- and policy- makers,
as-well-as researchers from engineering, social and medical sciences. The envisioned research will focus on decisions concerning emergent medical operations during major disasters. The consortium will provide fresh ideas on the required AI-based DSS, in view of the unveiled socio-technical aspects.