Zum Hauptinhalt springen

Datenquellen und Trainingsdaten

1. Menschliche Aufsicht und Eingriffspunkte​

Die in OmbuDesk integrierten KI-Funktionen – darunter KI-Zusammenfassungen, Übersetzungen, Textvereinfachungen, Korrekturen sowie der Chatbot – dienen ausschließlich als unterstützende Assistenzsysteme für die Sachbearbeiter:innen. Das KI-System trifft keine autonomen Entscheidungen über den Ausgang eines Schlichtungsverfahrens. Die Letztverantwortung für die Fallbearbeitung und die ausgehende Kommunikation liegt stets bei der bearbeitenden Person.

Um einen sicheren und bestimmungsgemäßen Einsatz der Software zu gewährleisten, sind folgende Eingriffspunkte (Human-in-the-Loop) im Arbeitsalltag zwingend von allen Anwender:innen zu beachten:

  • Überprüfung von KI-Zusammenfassungen: Die KI-Zusammenfassung bietet einen schnellen Überblick über den aktuellen Stand einer Akte. Bevor jedoch entscheidungsrelevante Schritte eingeleitet werden, muss der/die Sachbearbeiter:in die generierte Zusammenfassung stets kritisch würdigen und bei Bedarf anhand der zugrunde liegenden Originaldokumente (z. B. Antragsformulare, E-Mails der Parteien) auf inhaltliche Richtigkeit und Vollständigkeit überprüfen.
  • Freigabe in der Kommunikation: Werden KI-Features wie die Übersetzung, Textvereinfachung oder Korrekturfunktion beim Verfassen von E-Mails genutzt, darf der generierte Text niemals ungeprüft versendet werden. Der/die Anwender:in muss den E-Mail-Entwurf vor dem Klick auf "Senden" vollständig lesen, inhaltlich bewerten und gegebenenfalls manuell anpassen, bevor die Nachricht an Antragssteller:innen oder Antragsgegner:innen übermittelt wird.
  • Validierung von Chatbot-Auskünften: Antworten des OmbuDesk-Chatbots zu Falldetails oder als Ideengeber für nächste Schritte sind lediglich Empfehlungen. Der/die Sachbearbeiter:in muss diese Auskünfte fachlich validieren, bevor sie in die offizielle Fallbearbeitung übernommen werden.
  • Jederzeitige Eingriffsmöglichkeit: Alle Nutzer:innen haben bei jedem Arbeitsschritt die vollständige Kontrolle über die Software. Von der KI generierte Entwürfe oder Zusammenfassungen können jederzeit ignoriert, manuell überschrieben oder gelöscht werden.

2. Leistungsgrenzen und Genauigkeit der KI​

Die OmbuDesk-KI (basierend auf einem in Europa gehosteten Modell von ChatGPT) ist ein leistungsstarkes Sprachmodell zur Textverarbeitung, Zusammenfassung, Übersetzung und Formulierungshilfe. Dennoch unterliegt das System bestimmten technischen Leistungsgrenzen, die von den Anwender:innen bei der täglichen Arbeit stets berücksichtigt werden müssen:

  • Mögliche Halluzinationen und Faktenfehler: Wie bei allen generativen Sprachmodellen kann es vorkommen, dass die KI plausibel klingende, aber inhaltlich falsche oder erfundene Informationen ausgibt (sogenannte „Halluzinationen“). Die KI „versteht“ juristische Sachverhalte nicht im menschlichen Sinne, sondern berechnet Wahrscheinlichkeiten von Wortfolgen.
  • Abhängigkeit von der Datenqualität: Die Genauigkeit der KI-Ausgaben hängt maßgeblich von der Qualität, Lesbarkeit und Vollständigkeit der Originaleingaben ab. Widersprüchliche oder sehr komplexe Eingaben können zu ungenauen KI-Ergebnissen führen.
  • Keine rechtliche oder fachliche Bewertung: Der Chatbot und die Zusammenfassungsfunktionen ersetzen unter keinen Umständen eine fachliche oder juristische Prüfung. Die KI ist nicht in der Lage, rechtsverbindliche Einschätzungen zu treffen.
  • Fehleranfälligkeit bei spezifischen Daten: Besondere Sorgfalt ist bei der Übernahme von konkreten Zahlen, Fristen, Aktenzeichen oder Namen geboten. Diese Datenpunkte müssen zwingend durch den Menschen mit den Originaldokumenten abgeglichen werden.

3. Vermeidung von Bias und Diskriminierung​

Künstliche Intelligenz lernt aus riesigen Datenmengen und kann dadurch unbeabsichtigt menschliche Vorurteile (Bias) reproduzieren. Um eine faire und objektive Fallbearbeitung zu garantieren, sind folgende Grundsätze einzuhalten:

  • Prüfung auf Gleichbehandlung: Die von der KI generierten Ergebnisse müssen stets daraufhin überprüft werden, ob sie eine der Parteien unangemessen benachteiligen. Es darf zu keiner Diskriminierung aufgrund von Geschlecht, ethnischer Herkunft, Sprache, Religion, Alter oder sozialer Herkunft kommen.
  • Ausgewogene Zusammenfassungen: Bei der Nutzung der KI-Zusammenfassung ist darauf zu achten, dass die Argumente beider Seiten objektiv und gleichwertig wiedergegeben werden.
  • Neutrale Eingaben (Prompts): Achten Sie bei der manuellen Eingabe von Informationen auf eine sachliche und neutrale Sprache.
  • Menschliche Verantwortung: Die KI besitzt keine ethische oder moralische Instanz. Die alleinige Verantwortung trägt immer die bearbeitende Person.

4. Datenquellen und Trainingsdaten​

Für die vollumfängliche Transparenz gelten klare Richtlinien bezüglich der verwendeten Modelle und der Datenverarbeitung:

  • Eingesetzte KI-Modelle (Datenquellen): OmbuDesk nutzt eine speziell gesicherte Version von ChatGPT, die innerhalb Europas gehostet wird.
  • Kein Training mit Kundendaten: Sämtliche Daten, die im Rahmen der Fallbearbeitung in OmbuDesk eingegeben, hochgeladen oder durch die KI verarbeitet werden, werden ausdrücklich nicht für Trainingszwecke der eingesetzten KI-Modelle verwendet.
  • Ort der Datenverarbeitung: Die gesamte Datenverarbeitung für die KI-Funktionen findet ausschließlich auf Servern innerhalb des Europäischen Wirtschaftsraumes (EWR) statt.