Lokale KI auf eigenen Servern
KI nutzen, ohne dass Verträge, Personalakten oder Konstruktionsdaten das Haus verlassen: offene Sprachmodelle auf eigenen Servern in Deutschland oder auf Ihrer Hardware, an Ihre Software angebunden.
Nicht jede Frage darf das Haus verlassen.
Für den Entwurf einer Mail reicht ein Cloud-Dienst. Für die Suche über zehn Jahre Verträge, die Vorsortierung von Bewerbungen oder die Auswertung von Konstruktionsdaten stellen sich andere Fragen: Wer liest mit, wo liegt es, und was passiert, wenn der Anbieter die Bedingungen ändert? Lokale Modelle, oft On-Premise-KI genannt, beantworten diese Fragen, bevor sie gestellt werden.
Erst der Anwendungsfall, dann das Modell.
Anwendungsfall und Datenklasse
Welche Aufgabe, welche Daten, wie viele Anfragen? Daraus folgt, ob lokal nötig ist oder ein Cloud-Modell mit EU-Datengrenze reicht.
Modell wählen und testen
Offene Modelle wie Llama oder Mistral, geprüft an Ihren echten Dokumenten. Nicht jede Aufgabe braucht das größte Modell, viele laufen mit einem mittleren gut.
Aufbauen
Auf eigenen Servern in Deutschland, auf Hardware bei Ihnen oder, für die rechenintensiven Schritte, auf gemieteter Rechenleistung in Deutschland. Danach arbeitet die Anwendung mit den Ergebnissen auf kleineren Systemen weiter. Immer mit Zugriffsschutz, Protokollierung und einer Schnittstelle, die Ihre Software anspricht.
Anbinden und betreiben
Suche über Ihre Ablage, Einordnung von Dokumenten, Entwürfe aus Vorlagen: eingebaut dort, wo gearbeitet wird. Wir pflegen Modell und Betrieb.
Was lokal gut läuft.
Eigene Server und ein Entwicklerteam, das KI wirklich einbaut.
Wir betreiben seit 2010 eigene Server in Deutschland und entwickeln seit damals Individualsoftware. Beides zusammen braucht es für lokale KI: Betrieb und Code. Und wir sagen offen, wo ein Cloud-Modell besser ist, denn bei schwierigen Aufgaben liegen die großen Anbieter vorn. Das Ziel ist kein Dogma, sondern die passende Stelle für jede Datenklasse.
Was Unternehmen vorher fragen.
Ist lokale KI so gut wie ChatGPT oder Claude?
Bei schwierigen Aufgaben nicht, das sagen wir klar. Bei Routineaufgaben wie Suche, Einordnung und Entwürfen aus Vorlagen ist der Unterschied im Alltag klein. Welche Aufgabe wohin gehört, klären wir an Ihren echten Dokumenten, nicht an Demos. Die Abwägung steht unter Lokale KI oder Cloud-KI.
Was kostet das im Vergleich zur Abrechnung pro Anfrage?
Lokal zahlen Sie Hardware oder Hosting und Betrieb, unabhängig von der Nutzung. Cloud-Modelle rechnen pro Anfrage ab. Bei wenig Nutzung ist die Cloud günstiger, bei hoher Nutzung oder sensiblen Daten dreht sich das. Wir rechnen beides vor, bevor Sie entscheiden.
Welche Modelle setzt ihr ein?
Offene Modelle, die sich ohne Verbindung nach draußen betreiben lassen, etwa aus den Familien Llama oder Mistral. Welches konkret, hängt von Aufgabe, Sprache und verfügbarer Hardware ab. Wir legen uns nicht auf eines fest, weil sich die Auswahl schnell ändert.
Läuft das bei euch oder bei uns im Haus?
Beides, und ein dritter Weg dazu. Auf eigenen Servern in Deutschland betreiben wir die Lösung für Sie, oder wir bauen sie auf Hardware bei Ihnen auf, wenn die Daten das Gebäude nicht verlassen sollen. Für rechenintensive Schritte wie das Durcharbeiten großer Dokumentenbestände lässt sich Rechenleistung in Deutschland zeitweise mieten, der laufende Betrieb kommt danach mit kleineren Systemen aus. Der Unterschied liegt in Betrieb und Anschaffung, nicht in der Funktion.
Was ist mit Datenschutz und KI-Verordnung?
DSGVO und KI-Verordnung gelten lokal genauso. Der Vorteil: Es gibt keinen Auftragsverarbeiter in den USA, keinen Datentransfer und keine Trainingsklausel. Die Pflichten zu Transparenz und KI-Kompetenz bleiben, siehe Was verlangt die KI-Verordnung?
Reicht nicht die EU-Datengrenze von Microsoft oder OpenAI?
Für viele Daten ja. Für Verträge mit Geheimhaltungsklausel, Personal- und Gesundheitsdaten oder Konstruktionsdaten entscheidet oft nicht die Technik, sondern der Vertrag mit Ihrem Kunden. Dann ist lokal die Antwort, die keine Diskussion braucht. Was Microsoft 365 dabei kann und was nicht, steht unter Microsoft 365 und Datensouveränität.
Sie wollen KI, aber Ihre Daten sollen bleiben, wo sie sind? Genau dafür bauen wir das.
Gespräch vereinbaren ↗