LLMs lokal betreiben für HIPAA- und DSGVO-Konformität
Wenn Patientenakten oder personenbezogene Daten aus der EU mit Ihrer KI in Berührung kommen, ist es ebenso wichtig, wo das Modell läuft, wie die Frage, wie es antwortet. So verändert ein lokales oder selbst gehostetes LLM Ihre Compliance-Lage im Jahr 2026, welche Nachweise Aufsichtsbehörden tatsächlich verlangen und welche Arbeit Self-Hosting Ihnen nicht abnimmt.
Das erwartet Sie7
- Warum "wo das Modell läuft" jetzt eine Compliance-Frage ist
- Was lokales Hosting tatsächlich behebt (und was nicht)
- Das Audit-Protokoll ist das Lieferobjekt, nicht das Modell
- Behandeln Sie auch Modellausgaben als regulierte Daten
- Die Ebene der EU-KI-Verordnung oberhalb der DSGVO
- Eine Referenzarchitektur, die Nachweise erzeugt
- Wann lokal die richtige Wahl ist und wie Pineido hilft
Warum "wo das Modell läuft" jetzt eine Compliance-Frage ist
Wenn Sie einen Prompt an eine gehostete KI-API senden, treffen Sie bei jeder Anfrage eine Entscheidung zur Datenverarbeitung. Eine klinische Zusammenfassung, ein Support-Ticket mit dem Namen eines Kunden, eine Personalnotiz: All das verlässt Ihre Grenze in dem Moment, in dem es einen externen Endpunkt erreicht. Nach HIPAA benötigt jeder Dienst, der geschützte Gesundheitsinformationen (PHI) empfängt, verarbeitet oder speichert, eine Business Associate Agreement (BAA), und schon das Senden eines einzigen Patientennamens an eine nicht abgedeckte API kann einen Verstoß darstellen. Nach DSGVO ist ein Prompt, der einen Namen, eine E-Mail-Adresse oder ein Gesundheitsdetail enthält, ein Verarbeitungsvorgang, und landet er auf einem in den USA gehosteten Endpunkt, ist er zugleich eine grenzüberschreitende Übermittlung nach Kapitel V. Das Modell auf Hardware zu betreiben, die Sie kontrollieren, lässt beide Probleme in sich zusammenfallen. Es gibt keinen Dritten, mit dem Daten geteilt werden, und keinen ausgehenden Verkehr zu prüfen, weil die Inferenz innerhalb Ihres eigenen Netzwerks stattfindet. Das ist der Kernreiz lokaler LLMs für regulierte Arbeit: Sie verändern die Frage von "Können wir diesem Anbieter die Daten anvertrauen?" zu "Die Daten haben den Bereich nie verlassen."
Was lokales Hosting tatsächlich behebt (und was nicht)
Seien Sie ehrlich zu sich selbst über die Grenze. Self-Hosting beseitigt zwei konkrete, äußerst wertvolle Risikokategorien. Erstens die Beziehung zum externen Auftragsverarbeiter: Für das Modell selbst ist keine BAA nötig, weil es keinen Business Associate gibt. Zweitens internationale Übermittlungen: Wenn die GPU in Ihrem Rack oder auf einem dedizierten Server steht, den Sie in der Region betreiben, verschwinden die Risiken aus Schrems II und dem US CLOUD Act weitgehend, weil es keinen ausländischen Verantwortlichen gibt, der gezwungen werden könnte. Was lokales Hosting nicht behebt, ist alles, was dem Modell nachgelagert ist. Sie brauchen weiterhin eine Rechtsgrundlage für die Verarbeitung nach DSGVO, eine dokumentierte Risikobewertung (eine DSFA für risikoreiche EU-Verarbeitung), Datenminimierung, Aufbewahrungs- und Löschrichtlinien, die Bearbeitung von Betroffenenrechten, Verfahren für Datenpannen und Sicherheitskontrollen. Wie ein Leitfaden aus dem Jahr 2026 es unverblümt ausdrückte: On-Premise beseitigt das Übermittlungsrisiko, ist aber notwendig, nicht hinreichend. Es beseitigt die einfachsten Wege, ein Audit nicht zu bestehen; es beseitigt nicht die Arbeit.
Das Audit-Protokoll ist das Lieferobjekt, nicht das Modell
Aufsichtsbehörden verlangen nicht, Ihre Modellgewichte zu sehen. Sie fragen, wer wann und warum auf was zugegriffen hat. Die Audit-Kontrollen und das Prinzip der erforderlichen Mindestdaten von HIPAA, der Rechenschaftspflicht-Grundsatz der DSGVO und die Protokollierungsanforderungen der EU-KI-Verordnung laufen alle auf dasselbe Artefakt hinaus: eine vollständige, manipulationssichere Aufzeichnung der Aktivität. Für ein lokales LLM bedeutet das, Zugriffsereignisse zu protokollieren, ohne die sensible Nutzlast zu protokollieren. Die oberste Regel lautet, dass Ihre Protokolle festhalten sollten: "Benutzer X hat Datensatz Y um 14:02 abgefragt", niemals "Dr. Smith hat die HIV-Ergebnisse von John Doe eingesehen." PHI und personenbezogene Daten in Protokolldateien sind eine der häufigsten und schädlichsten Quellen für Datenpannen, gerade weil Protokolle kopiert, an Observability-Werkzeuge weitergeleitet und weit länger aufbewahrt werden, als irgendjemand beabsichtigt. Bauen Sie das Protokoll so, dass es Kontrolle nachweist, ohne zu einer zweiten Kopie der Daten zu werden, die Sie zu schützen versuchen: Ereignistyp, Akteur, Ressourcenkennung, Zeitstempel, Ergebnis und eine Anfrage-ID, im Append-only-Modus gespeichert und mit eingeschränktem Zugriff.
Behandeln Sie auch Modellausgaben als regulierte Daten
Eine subtile Falle bei jedem LLM, ob lokal oder gehostet, ist, dass die Ausgabe ebenfalls ein Datensatz ist. Wenn Ihr Retrieval-Setup das Alter, die Diagnose und den Einrichtungsnamen eines Patienten in das Kontextfenster zieht und das Modell eine Kombination davon zurückgibt, ist diese Antwort ein HIPAA-sensibler Datensatz, auch wenn sie zusammengesetzt und nicht kopiert wurde. Dieselbe Logik gilt für personenbezogene Daten nach DSGVO: Abgeleitete oder neu zusammengesetzte Details sind weiterhin personenbezogene Daten. Daher muss die Ausgabeverarbeitung, Speicherung und Anzeigelogik Ihrer Anwendung generierten Text mit derselben Sorgfalt behandeln wie die Quelldatensätze. In der Praxis heißt das, einzugrenzen, was das Retrieval an die Oberfläche bringen kann, rohe Kennungen nach Möglichkeit aus dem Kontextfenster herauszuhalten (stattdessen Codes, Aggregate und aufgabenspezifische Merkmale offenzulegen) und auf gespeicherte Ausgaben dieselben Zugriffskontrollen anzuwenden wie auf die zugrunde liegende Datenbank. Lokales Hosting hält diesen gesamten Kreislauf innerhalb Ihrer Grenze, und genau das macht es zur stärksten Haltung für Daten besonderer Kategorien.
Die Ebene der EU-KI-Verordnung oberhalb der DSGVO
Die DSGVO regelt die personenbezogenen Daten. Die EU-KI-Verordnung regelt das Verhalten des KI-Systems, und 2026 verfestigt sich der Zeitplan endlich. Verbotene Praktiken sind seit Februar 2025 durchsetzbar, und die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck traten im August 2025 in Kraft. Die große Verschiebung in diesem Jahr ist der Digital Omnibus, eine im Mai 2026 erzielte vorläufige Einigung, die die risikoreichen Pflichten nach Anhang III von August 2026 auf Dezember 2027 verschiebt, wobei umfassendere Transparenzpflichten im Dezember 2026 hinzukommen. Behandeln Sie Dezember 2027 als Ihren Planungsanker für risikoreiche Systeme wie solche in der Personalbeschaffung oder Kreditwürdigkeitsprüfung, während Sie die endgültige Annahme später im Jahr 2026 bestätigen, da die Verschiebung zum Zeitpunkt der Niederschrift noch eine vorläufige politische Einigung ist. Für risikoreiche Systeme verlangt die Verordnung dieselben Bausteine, die gute Technik ohnehin will: Daten-Governance, technische Dokumentation, Aufzeichnungen und Protokollierung, menschliche Aufsicht sowie Genauigkeit und Robustheit. Eine lokale Bereitstellung mit starker Audit-Protokollierung und einem Prüfschritt mit menschlicher Beteiligung hat den größten Teil des Weges schon zurückgelegt. Nichts davon ist Rechtsberatung; bestätigen Sie Umfang und Termine mit einer qualifizierten Fachkraft für Datenschutz für Ihre konkrete Bereitstellung.
Eine Referenzarchitektur, die Nachweise erzeugt
Ein vertretbares lokales LLM-Setup sieht 2026 so aus. Die Inferenz läuft auf Hardware, die Sie kontrollieren: Eine einzelne 80-GB-GPU bedient ein Open-Weight-Modell der 70B-Klasse bei 4-Bit-Quantisierung bequem für ein kleines Team, und das Open-Weight-Ökosystem (Llama, Mistral, Qwen und die Apache-lizenzierte GPT-OSS-Familie) ist inzwischen produktionstauglich, sodass Sie nichts trainieren müssen. Verwenden Sie Ollama für Entwicklung, Edge und Air-Gapped-Piloten, weil es sich als einzelne Binärdatei installiert und die Modelldateien auf einem USB-Stick reisen; steigen Sie auf vLLM um für den Mehrbenutzer-Produktivbetrieb, sobald die Nebenläufigkeit über eine Handvoll Nutzer hinauswächst. Umgeben Sie das Modell mit strengen Egress-Kontrollen, damit es nicht nach Hause telefonieren kann, mit granularem rollenbasiertem Zugriff, Verschlüsselung im Ruhezustand und während der Übertragung, unveränderlichen Audit-Protokollen und menschlicher Prüfung für jede Ausgabe, die einen Patienten oder die Rechte einer Person betrifft. Halten Sie rohe PHI und personenbezogene Daten innerhalb Ihrer eigenen Systeme und legen Sie dem Kontextfenster nur regelkonforme, aufgabenspezifische Daten offen. Der Sinn der Architektur ist nicht nur, privat zu sein; sie soll dafür sorgen, dass der Compliance-Nachweis aus dem normalen Betrieb von selbst entsteht.
Wann lokal die richtige Wahl ist und wie Pineido hilft
Lokale KI auf einem physischen USB-Stick. Pineido Studio nutzt Ihren Computer für Chat, Code und Dokumente. Nach Modelleinrichtung offline. Pineido unterstützt die Auswahl und lokale Bereitstellung von KI-Modellen: Sprache, Code, Bilder, Spracherkennung, Audio, Video und Dokumentensuche. Wir prüfen Hardware, Laufzeitumgebung und Ergebnisse anhand Ihrer Aufgaben. Individuelle Projekte werden getrennt vom USB-Stick Pineido Studio angeboten. Pineido unterstützt die Auswahl und lokale Bereitstellung von KI-Modellen: Sprache, Code, Bilder, Spracherkennung, Audio, Video und Dokumentensuche. Wir prüfen Hardware, Laufzeitumgebung und Ergebnisse anhand Ihrer Aufgaben. Individuelle Projekte werden getrennt vom USB-Stick Pineido Studio angeboten.
Bereit zum Launch?
Sagen Sie uns, wo Sie feststecken. Wir prüfen es und senden Ihnen innerhalb eines Werktags eine konkrete Empfehlung.
Wöchentliche Impulse für den Betrieb
Schließen Sie sich Betreibern von Dienstleistungsunternehmen an, die jede Woche einen umsetzbaren Impuls zu Betrieb, Automatisierung und Wachstum erhalten.
Kein Spam. Jederzeit abbestellbar.
Sie sind angemeldet! Die nächste Ausgabe kommt in Ihr Postfach.
Das hat nicht geklappt. Bitte versuchen Sie es erneut oder schreiben Sie an [email protected].
Häufig gestellte Fragen
Macht uns der lokale Betrieb eines LLM automatisch HIPAA-konform?
Nein. Lokales Hosting beseitigt die Notwendigkeit einer BAA mit dem Modellanbieter, weil kein Dritter die Daten empfängt, und das ist ein großer Gewinn. Doch HIPAA-Konformität hängt weiterhin von Ihren eigenen Kontrollen ab: Audit-Protokollierung, die Zugriff aufzeichnet, ohne PHI aufzuzeichnen, Zugriff nach dem Prinzip der erforderlichen Mindestdaten, Verschlüsselung, Verfahren für Datenpannen und BAAs mit jedem weiteren Dienst, der in Ihrer Pipeline PHI berührt. Lokales Hosting macht das Erbringen der Nachweise weitaus einfacher; es macht die Kontrollen nicht überflüssig.
Ist für die DSGVO ein selbst gehostetes Modell besser als eine Cloud-API in der EU-Region?
Für Daten besonderer Kategorien wie Gesundheitsinformationen empfehlen die meisten Datenschutzbeauftragten weiterhin Self-Hosting, weil es sowohl die Beziehung zum externen Auftragsverarbeiter als auch die Frage der grenzüberschreitenden Übermittlung beseitigt, einschließlich des verbleibenden Risikos aus dem US CLOUD Act. Für gewöhnliche B2B-Workloads kann ein Cloud-LLM in der EU-Region mit einem soliden Auftragsverarbeitungsvertrag und einer abgeschlossenen DSFA vertretbar sein. Die entscheidenden Faktoren sind die Datensensibilität und wie viel Übermittlungsrisiko Sie akzeptieren können.
Welche Art von Audit-Protokollen erwarten die Aufsichtsbehörden?
Sie wollen eine vollständige, manipulationssichere Aufzeichnung darüber, wer wann und mit welchem Ergebnis auf was zugegriffen hat, im Append-only-Modus gespeichert und mit eingeschränktem Zugriff. Die zentrale Disziplin besteht darin, das Ereignis zu protokollieren, ohne die sensible Nutzlast zu protokollieren: Halten Sie fest, dass ein Benutzer zu einem bestimmten Zeitpunkt einen bestimmten Datensatz abgefragt hat, nicht den Inhalt dieses Datensatzes. PHI oder personenbezogene Daten in Protokolldateien sind eine häufige und schwerwiegende Quelle für Datenpannen, daher sollte das Protokoll Kontrolle nachweisen, ohne zu einer zweiten Kopie der geschützten Daten zu werden.
Welche Fristen der EU-KI-Verordnung sollten wir 2026 einplanen?
Verbotene Praktiken gelten seit Februar 2025 und die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck seit August 2025. Nach der im Mai 2026 erzielten Digital-Omnibus-Einigung werden die risikoreichen Pflichten nach Anhang III auf Dezember 2027 verschoben, wobei umfassendere Transparenzpflichten im Dezember 2026 hinzukommen. Planen Sie für risikoreiche Systeme auf Dezember 2027 hin, während Sie die endgültige Annahme später im Jahr 2026 bestätigen, da die Verschiebung vorläufig ist. Behandeln Sie dies als Planungsleitfaden, nicht als Rechtsberatung.
Welches Open-Weight-Modell und welche Hardware brauchen wir zum Self-Hosting?
Das Open-Weight-Ökosystem ist ausgereift, sodass Sie kein Modell trainieren müssen. Eine einzelne 80-GB-GPU bedient ein Modell der 70B-Klasse bei 4-Bit-Quantisierung bequem für ein kleines Team, und 24 GB sind ein praktischer Einstiegspunkt für kleinere Modelle. Verwenden Sie Ollama für Entwicklung und Air-Gapped-Piloten, dann vLLM für den Mehrbenutzer-Produktivbetrieb. Modellieren Sie zuerst Ihr Token-Volumen gegen die Gewinnschwelle, da die Preise gehosteter APIs von 2025 auf 2026 stark gefallen sind.
Kann Pineido ein konformes lokales LLM für uns einrichten?
Wir können eine lokale Bereitstellung und ihre technischen Kontrollen passend zu Ihrem Workflow abgrenzen. Protokollierung, Zugriff, Verschlüsselung, Netzwerkbeschränkungen und Aufbewahrung brauchen ausdrückliche Anforderungen und Tests; lokaler Betrieb begründet keine rechtliche Compliance. Holen Sie für regulierte Anwendungen eine passende Rechtsprüfung ein. Pineido Studio ist ein eigenes Produkt auf einem physischen USB-Stick, und individuelle Bereitstellungsarbeit wird gesondert angeboten.