Wer haftet, wenn ein KI-Agent falsche Erstattungen verspricht, Bestellungen auslöst oder gegenüber Kunden halluziniert?
In dieser Folge von 365 Checkpoint ist Rechtsanwältin Julia Dönch zu Gast. Wir sprechen darüber, warum KI-Agenten rechtlich keine eigene Persönlichkeit besitzen und ihre Handlungen trotzdem Folgen für Unternehmen haben.
Du erfährst:
• wann Aussagen eines Agents dem Unternehmen zugerechnet werden
• warum Logging und nachvollziehbare Entscheidungen entscheidend sind
• welche Rolle Verträge, Dienstleister und Softwareanbieter bei der Haftung spielen
• warum Human in the Loop, klare Grenzen und ein Agentenverzeichnis wichtig sind
• was sich durch die neue Produkthaftung für Software und KI verändern kann
Hinweis: Die Folge dient der allgemeinen Information und ist keine Rechtsberatung.
KAPITEL
00:00 – Wenn der Agent eine falsche Erstattung verspricht
03:20 – Vorstellung von Julia Dönch
05:02 – Vom Urheberrecht zur Haftung für Agents
05:57 – Warum ein KI-Agent rechtlich ein Nullum ist
07:37 – Wer haftet für falsche Kundenaussagen?
09:44 – Anfechtung und Verträge mit KI-Agenten
14:05 – Warum Logging zum Geschäftsschutz wird
16:22 – Agents bei Bestellungen und Transaktionen
26:42 – Arbeitnehmerhaftung bei menschlichen Fehlern
29:49 – Haftung von Dienstleistern und Vertragspartnern
33:26 – Neue Produkthaftung für Software und KI
36:33 – Manipulation, Prompt Injection und Nachweisbarkeit
40:20 – Kann der Technologieanbieter haftbar sein?
45:30 – Praxistipp: Agentenverzeichnis und Governance
46:38 – Unternehmen haften für Aussagen ihrer Chatbots