Trolley-Problem

Das Trolley-Problem ist ein klassisches Gedankenexperiment aus der Moralphilosophie, das von der britischen Philosophin Philippa Foot in den 1960er Jahren formuliert wurde. In der Grundvariante rollt eine fuehrerlose Strassenbahn auf fuenf Personen zu, die auf den Gleisen festgebunden sind. Durch das Umlegen einer Weiche koennte man die Bahn auf ein Nebengleis lenken, wo allerdings eine einzelne Person steht. Die Frage lautet: Ist es moralisch vertretbar, aktiv einzugreifen und damit den Tod eines Menschen in Kauf zu nehmen, um fuenf andere zu retten?

In der Diskussion um Kuenstliche Intelligenz hat das Trolley-Problem neue Aktualitaet gewonnen, weil autonome Systeme in seltenen Faellen tatsaechlich Entscheidungen mit moralischer Tragweite treffen muessen. Besonders in der Debatte um selbstfahrende Autos wird das Beispiel oft herangezogen: Wie soll ein Fahrzeug reagieren, wenn ein Unfall unvermeidbar ist und verschiedene Schadensoptionen bestehen? Die Schwierigkeit liegt nicht nur in der ethischen Bewertung, sondern auch darin, dass diese Entscheidungen vorab von Entwicklern, Herstellern und letztlich auch vom Gesetzgeber definiert werden muessen. In Deutschland hat die Ethik-Kommission fuer automatisiertes Fahren bereits 2017 Leitlinien dazu veroeffentlicht, die unter anderem eine Abwaegung von Menschenleben nach Merkmalen wie Alter oder Geschlecht ausdruecklich ausschliessen.

Fuer kleine und mittlere Unternehmen ist das Trolley-Problem selten direkt relevant, weil die wenigsten Betriebe Systeme entwickeln, die ueber Leben und Tod entscheiden. Mittelbar wird die Debatte jedoch wichtig, sobald KI-Systeme in heiklen Bereichen eingesetzt werden, etwa bei der Vorauswahl von Bewerbern, bei Kreditentscheidungen, in der medizinischen Diagnostik oder in der Logistik mit autonomen Fahrzeugen. Ueberall dort muessen Verantwortliche klaeren, nach welchen Kriterien ein System entscheidet, wer die Verantwortung traegt und wie sich Fehlentscheidungen nachvollziehen lassen. Wer KI im Unternehmen einsetzt, sollte sich daher fruehzeitig mit ethischen Leitlinien, Dokumentationspflichten und den Vorgaben des EU AI Acts beschaeftigen.

Das Trolley-Problem zeigt vor allem eines: Technik allein liefert keine Antworten auf moralische Fragen. Es bleibt eine gesellschaftliche und unternehmerische Aufgabe, die Regeln festzulegen, nach denen automatisierte Systeme handeln duerfen.