Zum Inhalt springen
Darstellung

Blog · Digital Sense – The Human Side of AI

KI in sicherheitskritischen Entscheidungen: Wer trägt den Fehler?

2 Min. Lesezeit

KI kann große Datenmengen schnell analysieren – doch in sicherheitskritischen Situationen reicht Analyse allein nicht. Entscheidend ist, welche Möglichkeiten ein System übersieht und wer Verantwortung übernimmt.

Schnelle Analyse ist nicht automatisch sichere Entscheidung

KI kann große Datenmengen schneller auswerten als Menschen. Daraus folgt aber nicht automatisch, dass sie Menschen in jeder Situation besser einschätzt oder sicherere Entscheidungen trifft. Dafür müssten körperliche Prozesse vollständig verstanden und genügend relevante Daten erfasst sein – eine Möglichkeit, die Dr. Lucien André Reuter im Gespräch als bedingte Zukunftsperspektive beschreibt, nicht als bereits gelöste Aufgabe.

Besonders deutlich wird die Grenze dort, wo Fehler Menschen gefährden können. In der Podcastfolge sprechen Lucien und Yvonne Faoual über selbstfahrende Autos und Operationsroboter. Luciens Sorge: Ein System kann nur Optionen berücksichtigen, für die es programmiert wurde. Eine Person könnte spontan eine weitere Möglichkeit erkennen, die im System nicht vorgesehen ist.

Auch Menschen sind nicht fehlerfrei

Das ist kein Argument dafür, menschliche Entscheidungen grundsätzlich für sicherer zu halten. Lucien weist auch auf Fehler von Menschen und körperliche Grenzen hin: Müdigkeit kann die Konzentration und Reaktion beeinträchtigen. Er kennt das aus eigener Erfahrung beim Autofahren und merkt inzwischen, wenn seine Aufmerksamkeit nachlässt.

Der Vergleich lautet also nicht „Mensch oder Maschine, wer ist besser?“. Die wichtigere Frage ist: Welche Fehler können auf beiden Seiten entstehen – und wie werden sie erkannt? Ein technisches System kann große Informationsmengen verarbeiten, aber eine nicht vorgesehene Option übersehen. Ein Mensch kann flexibel reagieren, aber ebenfalls unaufmerksam oder überfordert sein. Wer KI in sicherheitskritische Abläufe integriert, sollte beides in der konkreten Anwendung prüfen.

Vor dem Einsatz die Voraussetzungen klären

Für Unternehmen beginnt verantwortungsvoller KI-Einsatz nicht mit der Frage, welches Werkzeug gerade verfügbar ist. Lucien beschreibt, dass er zunächst Prozesse ansehen und prüfen möchte, ob KI für den konkreten Fall passt und ob ein Unternehmen dafür bereit ist. Seine Offenheit kann im Vertrieb auch bedeuten, einen Auftrag nicht anzunehmen, wenn der Einsatz aus seiner Sicht keinen Sinn ergibt.

Daraus lassen sich praktische Prüffragen ableiten:

  • Welches konkrete Problem soll KI lösen?
  • Welche Daten und Prozessbedingungen braucht die Anwendung dafür?
  • Welche Situationen oder Alternativen kann das System nicht abdecken?
  • Wer bemerkt Fehler, und wer darf oder muss eingreifen?
  • Was bleibt in der Verantwortung der Menschen, die den Prozess gestalten und betreiben?

Diese Fragen ersetzen keine fachliche Sicherheitsprüfung. Sie helfen aber, KI nicht mit der Annahme einzuführen, dass Automatisierung Verantwortung automatisch mitübernimmt.

Verantwortung gehört zur Gestaltung

Das Gespräch zeigt auch eine persönliche Seite dieser Haltung: Lucien erzählt von Aufgaben, bei denen er sich bewusst auf unbekanntes Terrain begab – etwa beim Entwickeln eines Tools nach längerer Programmierpause. Er beschreibt solche Erfahrungen als Lerngelegenheiten, nicht als Garantie, dass jedes Experiment gelingt. Für KI-Projekte gilt eine ähnliche Nüchternheit: ausprobieren kann Erkenntnisse bringen, aber Risiken müssen sichtbar und Zuständigkeiten geklärt sein.

In der Podcastfolge besprechen Yvonne Faoual und Lucien ausführlich, wie sie unterschiedliche Stärken in ihrer Zusammenarbeit verbinden und wie Lucien über KI, Fehler und Verantwortung nachdenkt. Eine zentrale Frage bleibt offen: Wann könnte ein System tatsächlich auch den menschlichen Fehleraspekt hinter sich lassen – und wer könnte das verlässlich beurteilen?