Wir sind gerade dabei, für unsere Kunden ein System zu entwickeln, mit dem sie ihre eigene KI aufbauen können – ohne Spezialwissen, ohne Cloud-Verpflichtung. Was wir dabei in unserer kleinen Forschung lernen, teilen wir hier.

Mit einfachen Mitteln zur eigenen KI

Selbst mit wenig Mitteln lassen sich eigene intelligente Assistenten entwickeln. Das ermöglicht also selbst Kleinstunternehmen mächtige KI-System zu nutzen, die auf ihre Usecases und Prozesse zugeschnitten sind. Also eine künstliche Intelligenz, wie sie auch in ChatGPT steckt. Ein sogenanntes LLM – Large Language Model. Es gibt offene Modelle, sie heißen LLaMA, Mistral (Mistral: Europas Antwort auf die KI-Frage?) oder Phi. Sie sind nur Nuancen anders als ChatGPT. Mit sogenannten „Retrieval-Technologien“ und einer sauber strukturierten Wissensdatenbank, lassen sich innerhalb weniger Wochen Assistenten realisieren, die verstehen, antworten, lernen – und das alles ohne Daten in unsichere Cloudsysteme zu laden. Keine Abhängigkeit zu Amazon, Google, Microsoft und Co. Keine Abhängigkeit zu Donald Trump und die USA. Auch nicht zu China. Direkt auf deutschen oder europäischen, heimischen Servern.

Ob auf eigenem Server, in europäischer Cloud oder eingebettet in bestehende Software: Es geht. Und es geht jetzt. Wir haben es ausprobiert: Wir können so ein offenes LLM mit einer speziell vorbereiteten Wissensdatenbank so weitertrainieren, dass es zum Experte für ganz bestimmte Wissensdomänen wird. Es weiß dann nicht, wie man einen A320 landet, aber wie man das Sortiment aus Sauerteigbroten des Bäcker Hansen backt als Beispiel und kann Rückfragen dazu beantworten. Der Bäckermeister muss seine geheimen Hausrezepte nicht rausgeben und trotzdem seinen Lehrlingen das Wissen vermitteln ohne es selbst zu tun. Wertvolle Fachkraftkapazität wird freigesetzt. Viele wissen das nur noch nicht. Wir forschen selbst daran und arbeiten mit Unternehmen zusammen, die es ausprobieren – oft schneller, als sie selbst geglaubt hätten.

DSGVO-konform vom ersten Byte an

Die Datenschutz-Grundverordnung (DSGVO) stellt klare Anforderungen an Systeme, die mit personenbezogenen Daten arbeiten – dazu gehören KI-Anwendungen genauso wie klassische Software. Insbesondere relevant sind: Nur die Daten verarbeiten, die unbedingt nötig sind (Datenminimierung). Daten dürfen nur für festgelegte Zwecke genutzt werden (Zweckbindung). Nutzende müssen wissen, wie ihre Daten verarbeitet werden (Transparenz). Es muss möglich sein, Auskunft zu erhalten und Daten löschen zu lassen (Zugriffs- und Löschrechte). Daten dürfen nicht ohne weiteres in Drittstaaten (z. B. USA oder China) übertragen werden (Speicherortkontrolle).

Mit einem sogenannten Retrieval-Augmented-Generation-System (RAG) lässt sich genau das umsetzen: Die zugrunde liegenden Sprachmodelle verarbeiten keine personenbezogenen Daten direkt, sondern greifen gezielt auf interne, strukturierte Wissensquellen zu. Dadurch bleibt die Kontrolle über die Daten beim Unternehmen. Es werden keine sensiblen Informationen dauerhaft in einem Modell gespeichert, sondern temporär „herangezogen“ – und zwar innerhalb klar definierter Systeme.

Das Ganze funktioniert – wie gesagt – ohne US- oder China-Clouds. Alle Komponenten können auf europäischen, auch deutschen Servern betrieben werden. Selbst eine Installation im eigenen Hausnetz (On-Premise-Installation) ist möglich und sogar sinnvoller als die Cloud. So behalten Unternehmen jederzeit die volle Kontrolle über ihre Informationen. Kein Datenabfluss, keine rechtlichen Grauzonen. Und vor allem: keine Abstriche bei der Funktionalität.

Kehrwasser Research: Assistenten zur Selbstbedienung

Wir bei Kehrwasser Research entwickeln derzeit eine Lösung, mit der Unternehmen jeder Größe ihre Wissensbestände selbst hochladen, strukturieren und trainieren können. Innerhalb weniger Stunden entsteht daraus ein einsatzfähiger Assistent oder sogar ein Agent – eingebettet in die eigene Infrastruktur, ohne dass man ein Data Scientist sein muss.

Unsere Erfahrung: Der größte Hebel liegt nicht im „Trainieren“ der KI, sondern darin, das Wissen zugänglich zu machen. Wenn die Struktur einmal stimmt, fügt sich der Rest erstaunlich leicht zusammen.

Ein Buchladen ohne Fragen zur Verfügbarkeit

Ein Beispiel: Eine Buchhandlung, deren Mitarbeiter\:innen täglich auf dieselbe Frage antworten müssen: „Haben Sie den Titel XY da?“ Ein KI-Assistent, angebunden an das Warenwirtschaftssystem, gibt diese Auskunft 24/7 per Website oder Terminal – inklusive Standort im Laden. Warum fällt diese Aufgabe noch immer auf Menschen? Warum nutzt man qualifiziertes Personal nicht dort, wo echte Beratung gefragt ist?

Es ist schlicht eine Frage der Prioritäten. Der Fachkräftemangel ist real. Wer noch immer Menschen für Routinen einsetzt, hat den Markt falsch verstanden. Andere nutzen die Vorteile, legen Kapazität frei und verschaffen sich damit einen Vorsprung. Das ist kein Risiko, das ist eine Notwendigkeit.

Agenten für Gastronomie, Einzelhandel, Mittelstand

Gleiches gilt für Restaurants, Friseure, Apotheken, Filialketten. Ein Agent, der Termine entgegen nimmt, Bestellungen abgleicht, Personalpläne erstellt oder Urlaub verteilt, ist keine Science Fiction. Es ist Alltag – zumindest bei jenen, die sich trauen, damit zu beginnen.

Ein solcher Assistent nutzt vorhandenes Wissen (z. B. Tarifregelungen, Öffnungszeiten, Raumplanung, rechtliche Grenzen) strukturiert, um im Sinne aller Beteiligten Vorschläge zu machen. Konflikte reduzieren sich, Entscheidungen werden nachvollziehbarer, Routine schrumpft.

Wissensmanagement und Sprachschnittstelle

Viele KMU haben einen enormen Schatz an implizitem Wissen: Wie werden spezielle Dinge gemacht, was ist zu beachten, wo steht was? Ein KI-Expertensystem, der diese Informationen zugänglich macht – per Sprache, Chat oder eingebettet ins bestehende Tool – . Die Daten müssen nicht öffentlich sein, die Antworten sind es auch nicht. Aber sie sind intern abrufbar, im richtigen Moment.

Was fehlt?

Nicht das Geld. Nicht die Technologie. Und ganz sicher nicht die Fähigkeit. Was fehlt, ist der Mut zur Entscheidung. Der Wille, das eigene Unternehmen nicht mehr nach dem Gewohnten zu organisieren, sondern nach dem Wirklichen: Wo liegen heute die Pain Points? Was muss nicht mehr von Menschen gemacht werden? Wo würde ein Assistent, der nichts kostet, keine Krankheit kennt und immer da ist, echte Entlastung bringen?

Wir arbeiten mit Unternehmen, die keine Schlagzeilen brauchen – sondern Entlastung. Und wir wissen, wie man Systeme datenschutzkonform, pragmatisch und wirtschaftlich einsetzt. Wer jetzt wartet, läuft Gefahr, in wenigen Jahren erklären zu müssen, warum er es nicht früher getan hat.