Du willst KI im Betrieb nutzen. Angebote schneller schreiben, E-Mails vorsortieren, Wissen aus alten Unterlagen wiederfinden. Und dann kommt dieser eine Gedanke, der alles bremst: Wo landen eigentlich meine Daten, wenn ich die in ChatGPT kopiere?
Die Antworten, die du darauf bekommst, sind meistens extrem. Der eine sagt, US-Cloud sei grundsätzlich verboten. Der andere sagt, das sei alles halb so wild. Und der Dritte will dir einen eigenen KI-Server für den Keller verkaufen. Das liegt nicht an dir. Sondern daran, dass kaum jemand die Frage sauber auseinandernimmt.
In diesem Artikel mache ich genau das. Du lernst die drei Wege kennen, wie ein KMU KI heute betreiben kann, wo die rechtlichen Unterschiede wirklich liegen und wo sie kleiner sind als gedacht. Am Ende weißt du, welcher Weg zu deinem Betrieb passt, und hast einen Fahrplan, mit dem du nächste Woche anfangen kannst.
Wenn ich das Thema in Workshops erkläre, kommt fast immer zuerst dieser Satz: „Dann machen wir es halt lokal, dann sind wir raus aus der DSGVO." Leider nein.
Der Ort, an dem das KI-Modell läuft, beantwortet genau zwei Fragen: Wohin fließen die Daten? Und wer kann sie theoretisch sehen? Alles andere bleibt bei dir, egal ob die KI im eigenen Serverraum, in Nürnberg oder in Frankfurt bei einem US-Konzern läuft. Du brauchst trotzdem eine Rechtsgrundlage, du musst trotzdem informieren, wenn du personenbezogene Daten verarbeitest, und du haftest trotzdem für das, was die KI ausgibt.
Auch die Pflichten aus der KI-Verordnung sind hosting-neutral. Die Schulungspflicht für dein Team gilt bei jedem Modell. Wie das konkret aussieht, habe ich im Artikel zur KI-Schulungspflicht nach Art. 4 erklärt.
Was du brauchst: Erst die Regeln, dann die Technik. Wer zuerst eine Hosting-Entscheidung trifft und danach überlegt, welche Daten überhaupt in die KI dürfen, baut das Haus vom Dach her.
Grob gibt es für ein kleines oder mittleres Unternehmen drei Betriebsmodelle. Sie unterscheiden sich vor allem darin, wie viele Glieder in der Vertrags- und Vertrauenskette hängen.
Weg 1: Lokal im eigenen Haus. Ein offenes KI-Modell läuft auf einem Rechner oder Server, der dir gehört. Die Daten verlassen dein Firmennetz nicht.
Weg 2: Deutscher oder europäischer Hoster. Das Modell läuft in einem Rechenzentrum in Deutschland, betrieben von einem Anbieter ohne US-Mutterkonzern. Entweder mietest du einen Server und betreibst das Modell selbst, oder du nutzt eine fertige Schnittstelle des Hosters.
Weg 3: Großer Cloud-Anbieter mit EU-Region. Du nutzt ein Spitzenmodell über einen der großen Anbieter, oft mit Rechenzentrum in Frankfurt oder anderswo in der EU. Dazu zählen auch die Business-Varianten der bekannten Chat-Tools.
Wichtig: Alle drei Wege lassen sich datenschutzkonform betreiben. Von Weg 1 zu Weg 3 steigt nicht „die Illegalität", sondern der Aufwand, Verträge zu prüfen und Entscheidungen zu dokumentieren. Dazu kommt ein Restrisiko, das du kennen und bewusst tragen musst.
Vor ein paar Jahren war ein eigenes KI-Modell ein Projekt für Konzerne. Heute nicht mehr. Mit kostenlosen Programmen wie LM Studio oder Ollama lädst du ein offenes Modell wie Mistral, Llama oder Qwen herunter und chattest damit auf deinem eigenen Rechner. Für ein ganzes Team gibt es Oberflächen wie Open WebUI, die aussehen wie ChatGPT, aber im eigenen Netzwerk laufen.
Mein Lieblingsmoment in Workshops: Modell laden, WLAN ausschalten, weiterchatten. Kein Argument überzeugt Datenschutz-Skeptiker schneller.
Die Vorteile sind klar. Es gibt keinen Auftragsverarbeiter für das Modell, keinen Datentransfer ins Ausland und keinen Anbieter, der morgen seine Geschäftsbedingungen ändert. Gegenüber Kunden, Patienten oder Mandanten ist „unsere Daten verlassen das Haus nicht" die einfachste Geschichte, die du erzählen kannst.
Die Nachteile sind genauso klar. Lokale Modelle sind sehr gut, aber nicht auf dem Niveau der stärksten Cloud-Modelle. Und die gesamte IT-Sicherheit liegt bei dir: Updates, Zugriffsrechte, Backups, Verschlüsselung. Ein ungepatchter Rechner unter dem Schreibtisch ist kein Datenschutz-Gewinn. Er ist ein Risiko mit gutem Gewissen.
Beispiel: Stell dir eine Arztpraxis vor, die Arztbriefe und Befundzusammenfassungen mit KI vorformulieren lassen will. Hier geht es um Gesundheitsdaten und um die ärztliche Schweigepflicht. Für so einen Fall ist eine lokale Lösung oft der robusteste Weg, weil die Frage, wer außer der Praxis die Daten sieht, gar nicht erst entsteht. Voraussetzung ist, dass der Rechner professionell abgesichert und gewartet wird.
Tipp: Teste es, bevor du Hardware kaufst. Ein aktueller Büro-PC mit ordentlicher Grafikkarte oder ein neuerer Mac reicht, um ein kleineres Modell auszuprobieren. Nimm zehn echte Aufgaben aus deinem Alltag und schau, ob die Qualität reicht.
Dieser Weg wird in Beratungen am häufigsten übersprungen, obwohl er für viele KMU der beste Kompromiss ist. Anbieter wie IONOS (AI Model Hub) oder STACKIT stellen offene KI-Modelle als fertige Schnittstelle in deutschen Rechenzentren bereit. Wer selbst basteln will, mietet zum Beispiel bei Hetzner einen Server mit Grafikkarte und betreibt das Modell darauf.
Was du damit gewinnst: Die Daten bleiben im europäischen Rechtsraum, und es gibt keinen US-Mutterkonzern, der von US-Behörden zur Herausgabe verpflichtet werden könnte. Die Rechenzentren sind in der Regel nach ISO 27001 zertifiziert, viele zusätzlich nach dem C5-Kriterienkatalog des BSI. Das ist meistens deutlich besser belegt als jeder Server im eigenen Abstellraum.
Was du dafür brauchst: einen Auftragsverarbeitungsvertrag (AVV) mit dem Hoster. Den bieten die Anbieter standardmäßig an, du musst ihn nur abschließen und ablegen. Und du solltest prüfen, was der Anbieter zu Speicherung und Training zusagt. Steht schriftlich drin, dass Eingaben nicht gespeichert und nicht zum Training genutzt werden? Dann ist das ein starker Punkt in deiner Dokumentation.
Besser: Frag beim Anbieter konkret nach, ob der KI-Dienst selbst im Zertifizierungsumfang liegt und nicht nur das Rechenzentrum. Das ist nicht immer dasselbe, und eine kurze Mail schafft Klarheit.
Hier bekommst du die stärksten Modelle. Für anspruchsvolle Texte, komplexe Auswertungen oder KI-Agenten, die mehrere Schritte selbstständig erledigen, ist das oft ein spürbarer Qualitätsunterschied.
Die großen Anbieter haben in den letzten Jahren viel getan: EU-Rechenzentren, Business-Tarife ohne Training auf Kundendaten, vertragliche Zusagen, Zertifikate. Wenn du die Business-Variante nutzt und richtig konfigurierst, ist auch dieser Weg datenschutzkonform betreibbar.
Es bleibt aber ein Punkt, den du kennen musst: der CLOUD Act. Dieses US-Gesetz knüpft an die Kontrolle des Unternehmens an, nicht an den Speicherort. Ein Gutachten der Universität zu Köln im Auftrag des Bundesinnenministeriums, das Ende 2025 öffentlich wurde, kommt laut Berichten zum Ergebnis, dass auch Daten in europäischen Rechenzentren von US-Anbietern grundsätzlich erreichbar sind. Dazu kommt: Das EU-US Data Privacy Framework, auf das sich viele Anbieter stützen, ist gültig, wird aber gerade vor dem Europäischen Gerichtshof erneut angegriffen. Ein Urteilstermin ist offen.
Meine ehrliche Einordnung: Für normale Geschäftsdaten ist das ein kleines, dokumentierbares Szenario-Risiko und kein Alltagsproblem. Für das Hochsensibelste wählst du besser einen Weg, auf dem du diese Debatte gar nicht erst führen musst.
Lösung: Wenn du Weg 3 gehst, dann richtig. Business-Tarif statt privatem Account, EU-Region wählen, Speicherung und Protokollierung bewusst einstellen, und die Vertragsunterlagen ablegen. Wer nur „Rechenzentrum Frankfurt" bucht und sonst nichts einstellt, verschenkt die Hälfte der Absicherung.
Wenn du die Optionen vergleichst, schau nicht auf Bauchgefühl, sondern auf diese sechs Kriterien:
1. Auftragsverarbeitung: Lokal brauchst du für das Modell keinen AVV. Beim Hoster und beim Cloud-Anbieter schon.
2. Datentransfer ins Ausland: Lokal und beim deutschen Hoster keiner. Beim US-Anbieter brauchst du eine Absicherung über das Data Privacy Framework oder Standardvertragsklauseln.
3. Zugriffsrecht von US-Behörden: Nur beim Anbieter mit US-Mutterkonzern ein Thema, dort rechtlich vorhanden, praktisch selten.
4. Speicherung und Training: Lokal entscheidest du alles. Beim Hoster und in der Cloud hängt es von den Zusagen und deinen Einstellungen ab.
5. Nachweise: Hoster und Cloud liefern Zertifikate mit. Lokal musst du deine Sicherheitsmaßnahmen selbst dokumentieren.
6. Berufsgeheimnis: Für Ärzte, Steuerberater oder Anwälte ist lokal der robusteste Weg. Ein europäischer Dienstleister ist mit dem passenden Vertrag gangbar. Seit der Reform von § 203 StGB im Jahr 2017 dürfen Berufsgeheimnisträger IT-Dienstleister einbinden, wenn sie diese sorgfältig auswählen und zur Verschwiegenheit verpflichten. Beim Anbieter im Ausland wird es deutlich anspruchsvoller.
Dazu kommen drei nicht-rechtliche Faktoren: Qualität (Cloud vorn), Betriebsaufwand (lokal am höchsten) und Kostenmodell (lokal einmalig investieren, sonst laufende Gebühren).
Die meisten Betriebe brauchen keine Grundsatzentscheidung, sondern eine einfache Datenampel. Sortiere deine Daten in drei Klassen und gib jeder Klasse einen Weg.
Grün, öffentliche und unkritische Daten: Texte für die Website, allgemeine Recherche, Social-Media-Ideen, Formulierungshilfen ohne Kundennamen. Hier darfst du das beste verfügbare Modell nutzen, auch in der Cloud, idealerweise im Business-Tarif.
Gelb, interne Geschäftsdaten: Angebote, Preiskalkulationen, interne Prozessbeschreibungen, Kundenkommunikation mit Namen. Hier gehört ein Business-Tarif mit sauberer Konfiguration und AVV hin, oder ein europäischer Hoster.
Rot, besonders schützenswerte Daten: Gesundheitsdaten, Mandatsunterlagen, Personalakten, Finanzdaten von Kunden. Hier lohnt sich lokal oder ein europäischer Hoster mit klaren Zusagen.
Angenommen, ein Maklerbüro will KI nutzen. Exposé-Texte für eine Wohnung sind grün, die schreibt das stärkste Modell am besten. Die Korrespondenz mit Interessenten inklusive Selbstauskunft und Gehaltsnachweisen ist mindestens gelb, eher rot. Das Ergebnis ist keine Entweder-oder-Entscheidung, sondern eine Mischung. Genau das ist in der Praxis der häufigste Endzustand: Sensibles bleibt im kontrollierten Raum, Spitzenaufgaben gehen zum Spitzenmodell.
Woche 1, Bestandsaufnahme: Frag dein Team, welche KI-Tools heute schon genutzt werden, auch privat und heimlich. Schreib auf, welche Daten dort landen. Du wirst überrascht sein.
Woche 2, Datenampel festlegen: Definiere Grün, Gelb und Rot für deinen Betrieb, mit fünf konkreten Beispielen pro Farbe. Halte das in einer kurzen KI-Richtlinie fest. Wie so eine Richtlinie aussehen kann, findest du in meinem Artikel ChatGPT im Unternehmen: Was erlaubt ist.
Woche 3, Wege auswählen und testen: Für Grün einen Business-Tarif einrichten. Für Gelb oder Rot einen europäischen Hoster oder eine lokale Testinstallation ausprobieren. Zehn echte Aufgaben durchspielen und die Qualität bewerten. Wenn dir mehrere Anbieter ihre Lösung vorführen, hilft dir meine Checkliste zum KI-Anbieter auswählen.
Woche 4, dokumentieren und schulen: AVV ablegen, Einstellungen dokumentieren, Team kurz schulen, Ansprechpartner benennen. Die Orientierungshilfe der Datenschutzkonferenz zu KI und Datenschutz (DSK, 2024) eignet sich gut als Checkliste für diesen Schritt.
Ein Hinweis, weil es mir wichtig ist: Ich bin Informatiker und kein Anwalt. Dieser Artikel ersetzt keine Rechtsberatung. Bei Berufsgeheimnissen oder sehr sensiblen Daten solltest du deinen Datenschutzbeauftragten einbinden.
Die gute Nachricht: Die Software ist in der Regel kostenlos. Programme wie Ollama, LM Studio und Open WebUI kosten nichts, viele offene Modelle sind auch kommerziell frei nutzbar. Lies trotzdem die Lizenz des Modells, denn nicht jedes offene Modell hat dieselben Bedingungen.
Für einen ersten Test reicht oft vorhandene Hardware. Ein Arbeitsplatzrechner, der ein mittelgroßes Modell für ein kleines Team flüssig betreibt, liegt eher im mittleren vierstelligen Bereich. Ein Server für ein größeres Team ist eine deutlich größere Investition. Kauf nie zuerst die große Lösung. Beweise im Pilot, dass dein Team die KI wirklich nutzt, und rüste dann auf.
Vergiss die laufenden Kosten nicht: Jemand muss Updates einspielen, Zugriffe verwalten und Backups prüfen. Wenn du das nicht selbst kannst, gehört ein Wartungsvertrag mit in die Rechnung. Für die Einstiegsberatung lohnt sich ein Blick auf die Förderung für KMU, die einen Teil der Beratungskosten übernehmen kann.
Die Debatte um KI und Datenschutz wird oft als Glaubensfrage geführt. Dabei ist sie eine Sortierfrage. Wer seine Daten in Ampelfarben einteilt, merkt schnell, dass der größte Teil der KI-Arbeit unkritisch ist und das Sensible sich gut abgrenzen lässt.
Die Entwicklung spielt KMU dabei in die Karten. Offene Modelle werden jedes Jahr besser, europäische Anbieter bauen ihre KI-Angebote aus, und der Abstand zu den Spitzenmodellen schrumpft. Gleichzeitig bleibt die Rechtslage bei US-Anbietern in Bewegung. Wer heute eine Mischung aus Cloud für Unkritisches und kontrolliertem Raum für Sensibles aufbaut, ist für beide Entwicklungen gewappnet.
Der wichtigste Schritt ist nicht die Hardware und nicht der Anbieter. Es ist die halbe Stunde, in der du aufschreibst, welche Daten in welche KI dürfen.
Du willst wissen, welcher Weg für deinen Betrieb sinnvoll ist und wie du KI datenschutzkonform startest, ohne dich in Technik zu verlieren? Dann buch dir jetzt dein kostenloses Strategiegespräch. Ich schaue mir mit dir an, welche Daten du hast und welcher Weg dazu passt. Persönlich umgesetzt, aus einer Hand. Lieber schreibst du kurz per WhatsApp? Auch gut.
Über den Autor
Danilo à Tellinghusen
Inhaber von À Tellinghusen Marketing, M.Sc. Informatik
Seit über 15 Jahren entwickle ich Software. Heute baue ich für kleine und mittelständische Unternehmen Websites, die Anfragen bringen, und Automatisierungen, die Zeit sparen. In meinen Artikeln schreibe ich auf, was in der Praxis wirklich funktioniert.
