Leistungsgrenzen und Genauigkeit der KI

Die OmbuDesk-KI (basierend auf einem in Europa gehosteten Modell von ChatGPT) ist ein leistungsstarkes Sprachmodell zur Textverarbeitung, Zusammenfassung, Übersetzung und Formulierungshilfe. Dennoch unterliegt das System bestimmten technischen Leistungsgrenzen, die von den Anwender:innen bei der täglichen Arbeit stets berücksichtigt werden müssen:

• Mögliche Halluzinationen und Faktenfehler: Wie bei allen generativen Sprachmodellen kann es vorkommen, dass die KI plausibel klingende, aber inhaltlich falsche oder erfundene Informationen ausgibt (sogenannte „Halluzinationen“). Die KI „versteht“ juristische Sachverhalte nicht im menschlichen Sinne, sondern berechnet Wahrscheinlichkeiten von Wortfolgen.
• Abhängigkeit von der Datenqualität: Die Genauigkeit der KI-Ausgaben (wie beispielsweise bei der KI-Zusammenfassung einer Akte) hängt maßgeblich von der Qualität, Lesbarkeit und Vollständigkeit der Originaleingaben (z. B. Antragsformulare, E-Mails, hochgeladene PDF-Dokumente) ab. Widersprüchliche oder sehr komplexe Eingaben können zu ungenauen KI-Ergebnissen führen.
• Keine rechtliche oder fachliche Bewertung: Der Chatbot und die Zusammenfassungsfunktionen können Informationen strukturieren und als „Sparringpartner“ dienen, ersetzen jedoch unter keinen Umständen eine fachliche oder juristische Prüfung. Die KI ist nicht in der Lage, rechtsverbindliche Einschätzungen zur Schuldfrage, zu Vertragsinhalten oder zur rechtlichen Einordnung eines Schlichtungsantrags zu treffen.
• Fehleranfälligkeit bei spezifischen Daten: Besondere Sorgfalt ist bei der Übernahme von konkreten Zahlen, Fristen, Aktenzeichen, Geldbeträgen, Vertragsnummern oder Namen geboten. Diese Datenpunkte müssen vor der Verwendung in E-Mails oder Bescheiden zwingend durch den Menschen mit den Originaldokumenten abgeglichen werden.

Die KI fungiert somit ausschließlich als Assistenzsystem. Eine unreflektierte Übernahme von KI-generierten Inhalten ohne menschliche Prüfung ist nicht zulässig und liegt außerhalb des bestimmungsgemäßen Gebrauchs.