KI-Plattform mit Support-Assistent für einen Industrie-Mittelständler

Eine Plattform für alle KI-Anwendungen und ein Assistent, der den Support entlastet

Womit wir angefangen haben

Ein mittelständischer Hersteller von Industrieausrüstung wollte KI breit im Unternehmen nutzbar machen, ohne dass jede Abteilung eigene Zugänge und Anbieter einkauft. Gleichzeitig stellten die Anwendungsfälle unterschiedliche Anforderungen an Datenschutz und Modellwahl. Im Kundensupport kostete es zudem viel Zeit, Antworten aus Handbüchern, Produktdatenbank und Wiki zusammenzusuchen. Gesucht war eine Lösung, die zentral steuerbar bleibt, europäische Vorgaben einhält und den Support spürbar entlastet.

Wie das Projekt gelaufen ist

  1. Anforderungen und Datenschutzkonzept

    3 Wochen

    Aufnahme der Use Cases, Klärung von Datenklassen und Vorgaben aus DSGVO und AI Act.

  2. Aufbau der KI-Plattform

    4 Wochen

    Einrichtung der Plattform mit zentraler Anmeldung, Rechtemanagement und Anbindung mehrerer Modellanbieter über ein einheitliches Gateway.

  3. Wissensbasis für den Support

    4 Wochen

    Aufbereitung von Handbüchern, Produktdaten und Wiki-Inhalten als durchsuchbare Wissensbasis.

  4. Entwicklung des Support-Assistenten

    5 Wochen

    Entwicklung und Test des Assistenten, der Supportmitarbeitende mit Antwortvorschlägen und Quellenangaben unterstützt.

  5. Schulung, Pilotbetrieb und Rollout

    6 Wochen

    Kurze Schulung, Pilot mit einem Supportteam und Auswertung der Nutzung über das Monitoring, anschließend Rollout im Support.

Was wir gebaut haben

Wir haben eine zentrale KI-Plattform auf Basis von Open WebUI aufgebaut, über die Mitarbeitende mit einheitlicher Anmeldung und klar geregelten Rechten auf KI-Funktionen zugreifen. Ein vorgeschaltetes Gateway bindet mehrere Modellanbieter an, sodass für jeden Anwendungsfall das passende Modell gewählt werden kann, abhängig von Sensibilität der Daten und Qualitätsanforderung. Darauf setzt ein Support-Assistent auf: Er durchsucht über Postgres und pgvector eine Wissensbasis aus Handbüchern, Produktdaten und Wiki und liefert den Supportmitarbeitenden Antwortvorschläge inklusive Quellenverweis. Die Entscheidung über die Antwort bleibt beim Menschen. Langfuse macht Nutzung, Antwortqualität und Kosten nachvollziehbar. Die Umsetzung erfolgte unter Berücksichtigung von DSGVO und AI Act.

Was dabei herausgekommen ist

Heute läuft KI im Unternehmen über eine einzige Plattform. Neue Anwendungsfälle brauchen keinen eigenen Anbieterzugang mehr und die IT sieht an einer Stelle, wer was nutzt und was es kostet. Im Support hat das Pilotteam pro Anfrage im Durchschnitt etwa 30 Prozent weniger Bearbeitungszeit gebraucht, weil das Zusammensuchen aus Handbüchern, Produktdatenbank und Wiki deutlich schneller geht. Nach dem Pilot haben rund 70 Prozent der Supportmitarbeitenden den Assistenten genutzt, das zeigt das Monitoring. Jeder Antwortvorschlag nennt seine Quellen und die Entscheidung über die Antwort bleibt bei den Mitarbeitenden. Als Nächstes prüft das Unternehmen, welche weiteren Abteilungen die Plattform nutzen sollen.