Zum Inhalt springen
Darstellung

Digital Sense – The Human Side of AI

Folge 34 · Teil 1

Der Algorithmus war’s nicht – wer haftet, wenn KI Fehler macht?

Zum Blogbeitrag

Wer trägt die Verantwortung, wenn ein KI-System Fehler macht? In Teil 1 sprechen Dr. Lucien André Reuter, Yvonne Faoual und Moritz Leder über rechtliche Verantwortung, die Grenzen klassischer Softwarevergleiche und konkrete Risiken für Unternehmen. Es geht um Urheberrecht, die EU-KI-Verordnung, Schattennutzung von KI, schwer nachvollziehbare Entscheidungen und die Frage, ob KI eigenständig Verträge schließen kann. Eine verständliche Orientierung für alle, die KI bewusst und verantwortungsvoll einsetzen wollen – ohne Rechtsberatung im Einzelfall. Im zweiten Teil wird das Gespräch konkreter und nimmt weitere Fälle aus der Unternehmenspraxis in den Blick.

Shownotes

Worum geht es in dieser Folge?

Wenn ein KI-System falsche Auskünfte gibt, Entscheidungen vorbereitet oder einen Vertragsschluss anstößt: Wer trägt dann die Verantwortung? Dr. Lucien André Reuter und Yvonne Faoual sprechen mit Moritz Leder über rechtliche Fragen rund um KI im Unternehmen. Im Mittelpunkt stehen unter anderem Urheberrecht, die EU-KI-Verordnung, Schattennutzung und die schwierige Nachvollziehbarkeit von KI-Entscheidungen. Außerdem geht es darum, warum KI nach der besprochenen rechtlichen Einordnung nicht selbst rechtsfähig ist und welche Fragen beim Einsatz von KI in Vertragsprozessen entstehen. Die Folge bietet Orientierung, aber keine Rechtsberatung im Einzelfall.

In dieser Folge erfährst du:

  • Warum KI rechtlich nicht einfach wie klassische, deterministische Software behandelt werden kann.
  • Weshalb Autonomie und die Blackbox-Eigenschaft von KI Haftungsfragen und den Nachweis von Ursachen erschweren.
  • Welche Risiken Moritz Leder bei KI-generierten Inhalten, der Umsetzung der EU-KI-Verordnung und der Nutzung durch Mitarbeitende sieht.
  • Warum KI nach der besprochenen Einordnung keine eigene Rechtspersönlichkeit hat und Verantwortung daher anderen Akteuren zugeordnet werden muss.
  • Welche rechtlichen Fragen entstehen, wenn KI in Vertragsprozessen eingesetzt wird und Ergebnisse nicht zuverlässig vorhersehbar sind.

Key Takeaways

  • KI ist nach der Einordnung im Gespräch nicht selbst rechtsfähig; Verantwortung muss anderen Beteiligten zugeordnet werden.
  • Bei KI-generierten Ergebnissen kann der fehlende Urheberrechtsschutz relevant werden, insbesondere wenn Inhalte veröffentlicht werden.
  • Unternehmen sollten KI-Nutzung nicht erst nach einem Schaden betrachten, sondern Zuständigkeiten, Dokumentation und Regeln frühzeitig klären.
  • Die Blackbox-Eigenschaft kann es erschweren, Ursachen und Verschulden nachzuweisen.
  • Bei KI in Vertragsprozessen sind Vorhersehbarkeit und menschliche Vorgaben wichtige Fragen; der Einsatz bringt Risiken mit sich.

Call-to-Action

Hör dir die Folge an und überlege: Wo wird KI in deinem Unternehmen bereits genutzt – und sind Zuständigkeiten, Regeln und menschliche Prüfungen dafür klar geregelt?

Über Digital Sense – The Human Side of AI

Digital Sense ist der Podcast von Dr. Lucien André Reuter und Yvonne Faoual. Die Hosts verbinden technologische und unternehmerische Perspektiven mit Fragen zu Führung, Verantwortung und den Auswirkungen digitaler Veränderung auf Menschen und Organisationen.

Website: https://digital-sense.org/

Zu Gast: Moritz Leder

Moritz Leder, LL.M. promoviert aktuell an der FAU Erlangen und widmet sich seit mehreren Jahren intensiv den rechtlichen und technischen Herausforderungen der künstlichen Intelligenz. Sein Studium der Rechtswissenschaften an der Hochschule Darmstadt sowie bisherige Ausarbeitungen und praktische Erfahrungen belegen seine ausgewiesene Expertise in diesem Bereich.

LinkedIn: https://www.linkedin.com/in/moritz-leder-ll-m-327b58153/

Ausblick auf Teil 2

Im zweiten Teil geht es weiter mit konkreten Anwendungsfällen und der Frage, was die rechtlichen Überlegungen für Unternehmen, Teams und den Arbeitsalltag bedeuten.

Weitere Folgen

Alle Folgen