Gerichte nehmen Betreiber für KI-Lügen und Website-Chatbots in die Pflicht

Was ist passiert?

Zwei aktuelle Urteile verschärfen die Haftung für KI-generierte Falschaussagen (Halluzinationen) mit Außenwirkung.

LG München I

Das Landgericht München I hat Google im Wege einer einstweiligen Verfügung untersagt, geschäftsschädigende Falschaussagen über ein Münchner Verlagshaus zu verbreiten, die von Googles KI-Suchfunktion („Übersicht mit KI“) generiert wurden. Die KI hatte bei einer spezifischen Suchanfrage falsche Verknüpfungen zu dubiosen Drittfirmen hergestellt und dem Verlag fälschlicherweise „unseriöse Geschäftspraktiken“ sowie eine „Betrugsmasche“ unterstellt. Die Behauptungen der KI standen dabei überhaupt nicht in den  verlinkten Quellen.

Google argumentierte erfolglos, es handle sich nur um die automatisierte Zusammenfassung fremder Inhalte und Verlinkungen. Das Gericht stellte klar: Da die KI die Informationen eigenständig verarbeitet, komplett umstrukturiert und eine völlig neue Antwort formuliert, handelt es sich rechtlich um eine eigene Aussage von Google. Google haftet daher unmittelbar für die Verletzung des Unternehmenspersönlichkeitsrechts.

OLG Hamm (noch nicht rechtskräftig)

Eine Schönheitsklinik haftet lauterkeitsrechtlich für ihren Website-Chatbot, der für die Geschäftsführer falsche und erfundene Facharzttitel erfunden hatte. Das Gericht entschied: Der Chatbot ist kein eigenständiger Dritter, sondern ein technisches Werkzeug der Praxis – seine Antworten sind ihr voll als eigene geschäftliche Handlungen zuzurechnen. Das „Black-Box“-Argument, wonach KI-Halluzinationen unvorhersehbar seien, ließen die Richter nicht gelten. Besonders brisant: Das Gericht verwies auf den „Automation Bias“ – Verbraucher vertrauen computergenerierten Antworten blind, weil Maschinen als weniger fehleranfällig wahrgenommen werden.

Handlungsempfehlung:

• Haftungsprüfung für eigene Kunden-KI (Chatbots etc.): Wenn Ihr Unternehmen / Verein generative KI-Systeme mit Außenwirkung einsetzt (z. B. KI-Chatbots im Kundenservice, automatisierte Produktberater oder Content-Generatoren auf der Webseite), können Sie auch für KI-Falschaussagen („Halluzinationen“) haften. Diese Texte können nicht nur als „technisches Versehen“ oder „fremder Input“ gewertet werden, sondern als eigene geschäftliche Behauptungen Ihres Unternehmens/ Vereins.
• Überwachen Sie KI-generierte Suchergebnisse (wie Googles KI-Übersichten oder Microsoft Copilot) auf Ihren eigenen Unternehmensnamen hin. Sollten dort geschäftsschädigende KI-Lügen auftauchen, können Sie nun unmittelbar rechtlich (per Abmahnung und einstweiliger Verfügung) gegen die Plattformbetreiber vorgehen
• Technische Abhärtung von Chatbots (Guardrails): Setzen Sie Ihren Systemen durch restriktive Systemprompts klare thematische Grenzen. Implementieren Sie Keyword-Filter und harte Content-Filter, um die Ausgabe von rechtlich sensiblen Begriffen (z. B. Qualifikationen, Garantien, Preisen) automatisiert zu unterdrücken oder zu neutralisieren. Sämtliche Chat-Diskurse müssen lückenlos protokolliert und regelmäßig kontrolliert werden.

Quellen: LG München I, Urteil vom 28.05.2026 – Az. 26 O 869/26; OLG Hamm, Urteil vom 12.05.2026 – Az. 4 UKl 3/25

Rechtsanwalt Robert Harzewski