Dennis ZimmermannKI & Software für Betriebe
Lokale KI · Datenschutz zuerst

Ihre eigene KI.
Ihre Daten bleiben im Haus.

Leistungsstarke offene KI-Modelle laufen auf einem kompakten Gerät in Ihrem Büro – zum Beispiel einer NVIDIA DGX Spark. Ihr Team fragt Dokumente, sortiert E-Mails und schreibt Protokolle, ohne dass ein einziges Wort an einen KI-Anbieter geht. Eingerichtet und betreut aus Rüsselsheim am Main.

Kurz gesagt

Was ist lokale KI für Betriebe?

Ein offenes KI-Modell läuft auf einem Gerät in Ihrem Betrieb statt bei einem Cloud-Anbieter. Dokumente, Eingaben und Antworten verlassen Ihr Büro nicht. Ich teste vorab mit Ihrer Aufgabe, richte das Gerät ein und betreue es danach.

Erst testen
Probelauf 690 € Festpreis, wird angerechnet
Einrichtung
ab 1.990 € (KI-Arbeitsplatz), ab 4.490 € (KI-Wissenssuche), einmalig
Betreuung
ab 149 € (pro Monat)
Gerät
nicht enthalten, Sie kaufen oder leasen es
DSGVO-freundlich von Anfang an

Datenschutz ist hier kein Zusatz, sondern der Grund

Bei Cloud-KI gehen Kundendaten, Verträge und interne Notizen an fremde Server – oft in den USA. Bei lokaler KI verlassen sie Ihr Büro gar nicht erst.

Kein Datenabfluss

Eingaben, Dokumente und Antworten bleiben auf dem Gerät in Ihrem Büro. Es gibt keinen KI-Anbieter, der mitliest.

Kein Drittland

Keine Übermittlung in die USA oder andere Drittländer, keine Prüfung von Datenschutzrahmen und Standardvertragsklauseln für den KI-Dienst.

Kein Training mit Ihren Daten

Das Modell lernt nicht heimlich dazu. Was Sie eingeben, landet nicht in den Trainingsdaten eines Konzerns.

Ihre Regeln, Ihre Rechte

Sie legen fest, wer welche Dokumente fragen darf, wie lange Verläufe gespeichert werden und wann gelöscht wird.

Ehrlich gesagt: Was trotzdem bleibt

Lokale KI nimmt Ihnen den schwierigsten Teil ab – die Weitergabe an Dritte. Diese Pflichten bleiben bei Ihnen, und ich helfe bei der technischen Umsetzung:

  • technische und organisatorische Maßnahmen (Art. 32 DSGVO): Zugriffsrechte, Updates, verschlüsselte Backups
  • einen Eintrag im Verzeichnis der Verarbeitungstätigkeiten, bei sensiblen Daten ggf. eine Datenschutz-Folgenabschätzung
  • Information der Beschäftigten und, wo nötig, Abstimmung mit dem Betriebsrat
  • KI-Kompetenz im Team (Art. 4 KI-Verordnung) und Hinweise, wenn Texte für Dritte mit KI entstehen (Art. 50)
  • ein Vertrag zur Auftragsverarbeitung mit mir, wenn ich die Wartung per Fernzugriff übernehme

Keine Rechtsberatung. Rechtliche Fragen klären Sie mit Ihrer Datenschutzbeauftragten oder Rechtsberatung.

Was Sie damit machen können

Acht Aufgaben, die eine lokale KI übernimmt

Beispiele aus dem Büroalltag. Welche sich bei Ihnen lohnen, finden wir im Erstgespräch heraus.

Fragen an eigene Unterlagen

Handbücher, Verträge, Prüfberichte, Rundschreiben: Das Team fragt in normaler Sprache und bekommt die Antwort mit Quelle.

Demo ansehen

Internes „ChatGPT“ fürs Team

Ein Chat im Browser, der aussieht wie die bekannten Dienste – nur dass alles im Haus bleibt. Mit Zugängen je Person.

E-Mails vorsortieren und beantworten

Anfragen erkennen, nach Thema sortieren, Antwortentwürfe vorschlagen. Ein Mensch prüft und schickt ab.

Belege und Formulare auslesen

Lieferscheine, Rechnungen und Formulare lesen – die Angaben landen geprüft in Ihrer Software statt per Abtippen.

Protokolle aus Gesprächen

Besprechungen oder Diktate werden lokal in Text umgewandelt und zu einem Protokoll mit Aufgaben zusammengefasst.

Zusammenfassen und vergleichen

Lange Verträge, Ausschreibungen oder Berichte auf das Wesentliche bringen und Versionen gegenüberstellen.

Übersetzen und umformulieren

Texte in andere Sprachen übertragen oder in einfache Sprache bringen – ohne dass Kundendaten einen Übersetzungsdienst sehen.

KI in Ihren Abläufen

Die lokale KI wird an Ihre Software angebunden: Tickets anlegen, Daten prüfen, Berichte vorbereiten – automatisch im Hintergrund.

Die Hardware

Ein KI-Rechenzentrum in Buchgröße

Lokale KI braucht kein Serverzimmer mehr. Ein Gerät wie die NVIDIA DGX Spark steht auf dem Schreibtisch und bringt genug Speicher für große Sprachmodelle mit.

Beispiel: NVIDIA DGX Spark

Chip
NVIDIA GB10 Grace Blackwell
Speicher
128 GB gemeinsamer Arbeitsspeicher für Prozessor und Grafik
KI-Leistung
bis 1 PetaFLOP (FP4, theoretischer Spitzenwert)
Modelle
bis ca. 200 Mrd. Parameter, zwei gekoppelte Geräte bis ca. 400 Mrd. (laut NVIDIA, stark komprimiert)
Größe
15 × 15 × 5 cm, 1,2 kg, 240-W-Netzteil
Preis
Richtwert ab ca. 5.700 € netto je nach Hersteller und Speicher (Händlerpreise, Stand November 2026, schwanken stark)

Quellen: NVIDIA, technische Daten · Preisübersicht pi3g

Das passende Gerät für Ihre Aufgabe

  • Einstieg: Mini-PC mit viel Arbeitsspeicher (z. B. AMD Ryzen AI Max+ mit 128 GB) für ein kleines Team und mittelgroße Modelle.
  • Leistung: DGX Spark oder baugleiche Geräte mit GB10-Chip von ASUS, Dell, Lenovo, HP, MSI und anderen.
  • Viele Nutzer: Workstation mit Profi-Grafikkarte oder zwei gekoppelte DGX Spark.

Sie kaufen oder leasen das Gerät selbst – es gehört Ihrem Betrieb. Vorher bekommen Sie eine Empfehlung, die auf dem Probelauf mit Ihrer Aufgabe beruht, nicht auf Datenblättern.

Speicherpreise sind 2026 stark gestiegen. Einen aktuellen Preis nenne ich Ihnen im Angebot.

Offene Modelle

Starke KI-Modelle, frei für den Einsatz im Betrieb

Mehrere Hersteller veröffentlichen ihre Modelle zum Herunterladen. Sie laufen komplett offline auf Ihrem Gerät.

ModellfamilieHerkunftLizenzStark bei
Mistral (Small, Ministral)Frankreich (EU)Apache 2.0Deutsch und viele Sprachen, Bilder, lange Dokumente
GemmaGoogle, USAApache 2.0 (ab Gemma 4)Text und Bild, kleine schnelle Varianten
gpt-ossOpenAI, USAApache 2.0Schlussfolgern, braucht wenig Rechenleistung
QwenAlibaba, ChinaApache 2.0 (die meisten Größen)Programmieren, Bilder, viele Sprachen
WhisperOpenAI, USAMITSpracherkennung für Diktate und Besprechungen

Dazu kommt bewährte Open-Source-Software wie Ollama, vLLM oder llama.cpp, die die Modelle bereitstellt, und eine Chat-Oberfläche im Browser für Ihr Team.

Beispiele, Stand November 2026. Modelle entwickeln sich schnell weiter. Vor dem Einsatz prüfe ich die aktuelle Version und ihre Lizenz und nenne Ihnen beides schriftlich.

So läuft es ab

Erst ausprobieren, dann kaufen

  1. Erstgespräch

    Welche Aufgaben kosten Zeit, welche Daten sind sensibel? Wir wählen 1–2 Anwendungen, die sich lohnen.

  2. Probelauf

    Mit Beispiel- oder freigegebenen Dokumenten zeige ich vorab, wie gut ein offenes Modell Ihre Aufgabe löst. Erst dann entscheiden Sie über die Hardware: kaufen oder leasen.

    Festpreis 690 €
  3. Gerät und Einrichtung

    Konkrete Hardware-Empfehlung, Einrichtung von Modell, Chat-Oberfläche, Benutzerrechten und verschlüsselten Backups.

  4. Schulung

    Ihr Team lernt, gute Anweisungen zu geben und Ergebnisse zu prüfen – mit Nachweis zur KI-Kompetenz.

    KI-Praxistag
  5. Betrieb und Updates

    Neue Modellversionen, Sicherheits-Updates und Überwachung – selbst oder mit einem Service-Paket.

Ehrliche Grenzen

Was lokale KI nicht kann

Lokale KI ist kein Ersatz für jede Cloud-Anwendung. Diese Punkte gehören vor jede Kaufentscheidung.

  • Offene Modelle sind bei sehr komplexen Aufgaben schwächer als die größten Cloud-Modelle. Für Büroaufgaben reichen sie oft aus – das prüfen wir im Probelauf.
  • Die Hardware ist eine Anschaffung. Sie lohnt sich, wenn regelmäßig sensible Daten verarbeitet werden oder viele Personen die KI nutzen.
  • Antworten dauern je nach Gerät und Modellgröße einige Sekunden länger als bei Cloud-Diensten.
  • KI macht Fehler. Ergebnisse prüft immer ein Mensch, bevor sie nach außen gehen.
Preise

Klar kalkuliert: testen, einrichten, betreuen

Sie zahlen für Probelauf, Einrichtung und Betreuung. Die Hardware kaufen Sie selbst – ohne Aufschlag.

Erst testen

Probelauf

690 €Festpreis · 1 Tag

Bevor Sie Hardware kaufen: Wir testen Ihre Aufgabe mit Beispieldokumenten auf einem Testgerät. Erst danach entscheiden Sie über Kauf oder Leasing.

  • Ihre Aufgaben und Daten gemeinsam klären
  • Test mit Beispiel- oder freigegebenen Dokumenten
  • Kurzbericht mit Ergebnis und Hardware-Empfehlung
  • Voll anrechenbar auf die Einrichtung

KI-Arbeitsplatz

ab 1.990 €einmalig · Einrichtung

Ihre eigene KI im Browser – für das ganze Team, ohne Daten nach außen.

  • Offenes Sprachmodell auf Ihrem Gerät
  • Chat-Oberfläche mit Zugängen je Person
  • Verschlüsselte Backups
  • Vorlagen für Ihre Datenschutz-Unterlagen
  • Einweisung

KI-Wissenssuche

ab 4.490 €einmalig · Einrichtung

Alles vom KI-Arbeitsplatz, dazu Fragen an Ihre eigenen Unterlagen.

  • Antworten mit Quelle aus Ihren Dokumenten
  • Rechte je Rolle: jeder sieht nur, was er darf
  • Ehrlich bei Lücken statt erfundener Antworten

Und das Gerät? Erst testen, dann kaufen oder leasen

1. Erst testen

Der Probelauf (690 €, Festpreis) zeigt auf einem Testgerät, ob ein offenes Modell Ihre Aufgabe löst. Erst danach entscheiden Sie über das Gerät. Der Betrag wird auf die Einrichtung angerechnet.

2. Kaufen

Sie kaufen das Gerät bei einem Händler Ihrer Wahl, es gehört Ihrem Betrieb. Ich verdiene an der Hardware nichts und gebe vorab eine Empfehlung, die auf dem Probelauf beruht.

3. Oder leasen

Statt mehrerer tausend Euro auf einmal zahlen Sie eine monatliche Rate, über Ihre Bank oder einen Leasinganbieter. Ob Kauf oder Leasing für Sie günstiger ist, klären Sie mit Ihrer Steuerberatung (keine Finanzberatung).

Betreuung im Monat

KI-Betrieb

ab 149 €pro Monat

Damit Ihre KI aktuell und sicher bleibt.

  • Sicherheits-Updates und Überwachung
  • Modell-Check je Quartal, bei Bedarf neue Version
  • Backup-Kontrolle
  • Hilfe am nächsten Werktag

KI-Betrieb Plus

ab 249 €pro Monat

Für Betriebe, deren KI mitwachsen soll.

  • Alles aus KI-Betrieb
  • 2 Std. Anpassungen pro Monat
  • Pflege der Dokumente in der Wissenssuche
  • Gespräch je Quartal

Hardware ist nicht enthalten: Sie kaufen das Gerät selbst, es gehört Ihnen. Anbindung an Ihre Abläufe ab 690 € je Ablauf zum Festpreis nach dem Probelauf. Fernwartung nur mit Vertrag zur Auftragsverarbeitung. Alle Preise sind Nettopreise zuzüglich der gesetzlichen Umsatzsteuer. Unverbindliche Richtpreise für Betriebe. Vor Beginn erhalten Sie immer ein schriftliches Angebot mit Festpreis – ohne Überraschungen.

Pilotbetriebe gesucht

Werden Sie einer meiner ersten Kunden

Ich suche 2–3 Betriebe, mit denen ich die ersten Projekte umsetze – persönlich und mit viel Zeit für Ihre Abläufe.

  • 50 % Nachlass auf Ihr erstes Projekt – mit schriftlichem Festpreis-Angebot wie immer
  • Für 2–3 Betriebe aus Rüsselsheim und Umgebung
  • Im Gegenzug: ehrliches Feedback und – wenn Sie zufrieden sind – eine Referenz mit Ihrem Namen
  • Sie entscheiden, was gezeigt wird; die Referenz ist als „Pilotprojekt“ gekennzeichnet
Als Pilotbetrieb melden
Häufige Fragen

Fragen zur lokalen KI

Ist lokale KI automatisch DSGVO-konform?

Nein, aber deutlich einfacher. Weil keine Daten an einen KI-Anbieter gehen, entfallen Auftragsverarbeitung mit diesem Anbieter und Übermittlungen in Drittländer. Zugriffsrechte, Löschfristen, Sicherheit und Information der Beschäftigten bleiben Ihre Aufgabe – dabei unterstütze ich technisch. Keine Rechtsberatung: Rechtliche Fragen klären Sie mit Ihrer Datenschutzberatung.

Was kostet lokale KI insgesamt?

Ein Rechenbeispiel für die KI-Wissenssuche auf einem Gerät der DGX-Spark-Klasse: Hardware ca. 5.700 bis 8.200 € netto (Händlerpreise, Stand November 2026, schwanken stark), Einrichtung ab 4.490 € (der Probelauf wird angerechnet) und Betreuung ab 149 € im Monat. Für kleinere Aufgaben reicht oft günstigere Hardware und der KI-Arbeitsplatz ab 1.990 €. Den genauen Betrag erhalten Sie nach dem Probelauf als Festpreis-Angebot.

Müssen wir das Gerät sofort kaufen?

Nein. Zuerst kommt der Probelauf zum Festpreis von 690 € auf einem Testgerät. Danach entscheiden Sie: Gerät kaufen, leasen oder, wenn der Probelauf zeigt, dass es sich noch nicht lohnt, gar nichts anschaffen. Für kleinere Aufgaben reicht oft günstigere Hardware als eine DGX Spark.

Brauchen wir dafür Internet?

Für die Nutzung nicht. Das Modell läuft auf dem Gerät in Ihrem Netz. Internet braucht es nur für Updates und neue Modellversionen – die spielen wir geplant ein.

Wie gut sind offene Modelle im Vergleich zu ChatGPT & Co.?

Für Zusammenfassungen, Entwürfe, Fragen an eigene Dokumente und das Auslesen von Formularen liefern aktuelle offene Modelle oft brauchbare Ergebnisse, auch auf Deutsch. Bei sehr anspruchsvollen Aufgaben liegen die größten Cloud-Modelle vorn. Deshalb gibt es vor dem Kauf einen Probelauf mit Ihrer Aufgabe.

Wie viele Personen können gleichzeitig arbeiten?

Das hängt von Modellgröße und Gerät ab. Für ein kleines Team reicht oft ein einzelnes Gerät; wird es eng, kommt ein kleineres Modell, ein zweites Gerät oder eine stärkere Grafikkarte dazu. Das messen wir im Probelauf statt zu schätzen.

Dürfen wir offene Modelle geschäftlich nutzen?

Viele aktuelle Modelle stehen unter freien Lizenzen wie Apache 2.0 oder MIT, andere unter eigenen Lizenzen mit Bedingungen. Ich wähle Modelle, deren Lizenz die geschäftliche Nutzung erlaubt, und nenne Ihnen die Lizenz schriftlich.

Können wir lokale und Cloud-KI kombinieren?

Ja. Üblich ist: Vertrauliches bleibt auf der lokalen KI, für unkritische Aufgaben darf auf Wunsch ein Cloud-Dienst mit Sitz in der EU helfen. Welche Daten wohin dürfen, halten wir als Regel fest.

Lassen Sie uns 30 Minuten reden.

Erzählen Sie mir, was Sie im Alltag aufhält. Ich sage Ihnen ehrlich, ob und wie KI oder ein kleines Tool hilft – kostenlos und unverbindlich.

Erstgespräch anfragen