DSGVO Archive - cheyenne-Blog

Vibe Coding

KI ersetzt nicht die erforderliche Fachkompetenz

Vibe Coding ist der Begriff dafür, wenn Software überwiegend durch KI-Systeme entwickelt wird. Sie haben wahrscheinlich auch schon gehört, wie Menschen ohne IT-Kenntnisse damit prahlen, dass sie am Wochenende mal eben eine App entwickelt haben. Was für den privaten Einsatz ganz lustig klingt, kann sich allerdings im professionellen Kontext zu einem großen Risiko entwickeln, wenn man den Datenschutz, die IT-Sicherheit und letztendlich auch das Haftungsthema genauer betrachtet.

Das ist das Problem beim Vibe Coding

Vibe Coding bedeutet im Kern, dass ein Mensch die Informationen darüber eingibt, was die Anwendung können soll. Die KI liefert daraufhin einen lauffähigen Code zurück. So weit, so gut. Auf den ersten Blick mag das Programm auch funktionieren, das bedeutet allerdings nicht, dass es vollständig und sicher ist. Um das zu gewährleisten, muss ein Mensch das Ergebnis prüfen. Dienstleister, die eigentlich keine Ahnung vom Programmieren haben, prüfen den Code in der Regel nicht – das können sie ja auch gar nicht. So wird das Produkt zwar schnell zu einem günstigen Preis fertig, doch an die Folgekosten denkt in der Situation niemand.

Es gibt mittlerweile zahlreiche Studien zur Sicherheit von KI-generiertem Code. Der Veracode Report 2025 kommt zum Beispiel zu dem Ergebnis, dass dieser in 45 Prozent der Fälle Sicherheitslücken aufweist. Java war die risikoreichste Sprache mit einer Fehlerquote von 72 Prozent. Mit 43 und 38 Prozent waren die Fehlerquoten von JavaScript und Python zwar geringer, das Ergebnis ist aber immer noch schlecht. Dass solcher Code nun massenhaft ungeprüft verwendet wird, dürfte Hacker sehr freuen. Ich finde diese Entwicklung sehr erschreckend.

Der Auftraggeber hängt mit drin

Jetzt könnten Unternehmen zwar sagen: „Das ist doch nicht mein Problem. Der Dienstleister haftet doch für Mängel.“ Das stimmt zwar theoretisch, doch praktisch ergeben sich daraus zwei Probleme für den Auftraggeber:

Wenn die Anwendung personenbezogene Daten verarbeitet, etwa Kundendaten, Bewerbungen oder Mitarbeiterdaten, gelten Art. 5 und Art. 6 DSGVO unabhängig davon, wer den Code geschrieben hat. Verantwortlich bleiben Sie als Auftraggeber, nicht Ihr Dienstleister. Somit würde auch ein Bußgeld nach Art. 83 DSGVO Sie treffen.

Wenn es sich bei dem Dienstleister um eines der vielen Unternehmen handelt, die Vibe Coding ohne fachliche Expertise praktizieren, die derzeit wie Pilze aus dem Boden schießen, besteht das Risiko, dass Sie Ihre Forderungen gar nicht mehr durchsetzen können. Vorher ist das Start-up nämlich insolvent.

Checkliste für die Auswahl Ihres Dienstleisters

Vibe Coding kann ein nützliches Werkzeug sein, wenn es von fachkundigen Personen genutzt wird. Bevor Sie einen Dienstleister beauftragen, empfehle ich Ihnen, Folgendes zu klären:

Fragen Sie konkret nach Sicherheitsprüfungen wie Code-Reviews, Pentests und Dependency-Checks.
Lassen Sie sich vor Vertragsschluss einen AV-Vertrag nach Art. 28 III DSGVO vorlegen, wenn personenbezogene Daten verarbeitet werden.
Schreiben Sie Sicherheitsstandards als Teil der Leistungsbeschreibung fest.
Bestehen Sie auf Verschlüsselung, Zugriffskontrollen und Protokollierung als Mindeststandard.
Klären Sie Haftungsfragen vertraglich, bevor das Projekt startet.
Erkundigen Sie sich nach einer Berufshaftpflichtversicherung des Anbieters, die auch bei einer Insolvenz greift.

Und zu guter Letzt: Lassen Sie den Vertrag von einem fachkundigen und unabhängigen Berater prüfen. Ich habe schon viele Verträge gesehen, die für Unternehmen nachteilige Formulierungen enthielten oder aus rechtlicher Sicht schlicht und einfach falsch waren. Sprechen Sie mich also gerne an, bevor Sie den Vertrag unterschreiben.

Fazit

Die rasante Entwicklung beim Vibe Coding lässt sich nicht mehr aufhalten. Das Werkzeug an sich ist aber auch nicht das Problem. Wie so oft geht es auch hier um die Menschen, die damit arbeiten. Fachkenntnis gehört beim Programmieren dazu. Um sich selbst zu schützen, empfehle ich Unternehmen daher, bei der Auswahl des Dienstleisters genau hinzuschauen und sich nicht einfach nur für das günstigste Angebot oder die schnellste Lösung zu entscheiden.

Ich entwickle selbst seit über 30 Jahren Software und kenne die Anforderungen, die ein IT-Projekt mit sich bringt. Auf dieser Basis berate ich meine Kunden zu den Themen Datenschutz und IT-Sicherheit in ihren Projekten. Wenn Sie ebenfalls Unterstützung benötigen, vereinbaren Sie ein unverbindliches Erstgespräch.

Oder ist vielleicht eines meiner Seminare zum Thema Datenschutz, KI-Nutzung oder BSI-Grundschutz interessant für Sie? Hier geht es zu meinen Seminaren.

Datenpanne beim Dienstleister

Wer haftet wohl, wenn der Dienstleister gehackt wird?

Viele Unternehmen arbeiten mit externen Dienstleistern zusammen, die personenbezogene Daten verarbeiten. Klassische Beispiele sind Abrechnung, IT oder Personalsuche. Das Outsourcing ist zwar praktisch, birgt aber Risiken für Ihr Unternehmen. Wenn Ihr Dienstleister nämlich eine Datenpanne hat, wie im Fall von Unimed im April 2026, sind Sie weiterhin Verantwortlicher. Also Augen auf bei der Wahl des Auftragsverarbeiters. Ich schildere Ihnen hier kurz den Unimed-Fall und gehe dann darauf ein, was Sie daraus lernen sollten.

Infos zum Hackerangriff

Mitte April 2026 wurde der Abrechnungsdienstleister Unimed Opfer eines Cyberangriffs. Das Unternehmen erstellt Abrechnungen für Privatpatienten und ist nach eigenen Angaben für etwa 95 Prozent aller deutschen Universitätskliniken tätig. Nach aktueller Berichterstattung gelangen über 120.000 Patientendatensätze in die Hände der Cyberkriminellen. Dazu gehören Stammdaten der Patienten, Rechnungen und in einigen Fällen auch Diagnosen und Angaben zum Gesundheitszustand. Das BSI und die Datenschutzbehörden wurden noch im April benachrichtigt und mittlerweile werden auch die Betroffenen informiert.

Dass Diagnosedaten und Daten zum Gesundheitszustand bei dieser Datenpanne abgeflossen sind, ist besonders heikel, denn dabei handelt es sich um Daten gemäß Art. 9 DSGVO. Sie genießen den höchsten Schutz in der DSGVO; ihre Verarbeitung ist nur unter besonderen Voraussetzungen erlaubt. Wenn solche Daten im Rahmen einer Auftragsverarbeitung einem externen Dienstleister zugänglich gemacht werden, steigen die Anforderungen hinsichtlich der Auswahl des Dienstleisters, der Vertragsgestaltung und auch der Kontrolle erheblich.

Nicht Ihre Datenpanne, aber trotzdem Ihre Verantwortung

Ich stelle immer wieder fest, dass vielen Unternehmern nicht klar ist, dass auch im Falle einer Auftragsverarbeitung die datenschutzrechtliche Verantwortung bei ihnen bleibt. Deshalb hier noch einmal ganz deutlich: Wer personenbezogene Daten an einen externen Dienstleister weitergibt, bleibt Verantwortlicher im Sinne von Art. 24 und Art. 4 Nr. 7 DSGVO. Der Dienstleister agiert als Auftragsverarbeiter nach Art. 28 DSGVO, das heißt er verarbeitet Daten nicht eigenständig, sondern im Auftrag und nach Weisung des Verantwortlichen. Die Pflicht zur Meldung einer Datenpanne an die Aufsichtsbehörde nach Art. 33 DSGVO trifft den Verantwortlichen ebenso wie die Pflicht zur Information betroffener Personen nach Art. 34 DSGVO. Die Haftung erfolgt in der Regel nach Art. 82 DSGVO gesamtschuldnerisch.

Mit wem arbeiten Sie da eigentlich zusammen?

Diese Frage sollten Sie sich am besten stellen, bevor Sie mit einem Dienstleister zusammenarbeiten. Wenn Sie das bisher nicht gemacht haben, holen Sie das bitte nach. Denn wer einen Auftragsverarbeiter einsetzt, ist nach Art. 28 I DSGVO verpflichtet, nur solche Dienstleister zu beauftragen, die hinreichende Garantien dafür bieten, dass die Verarbeitung DSGVO-konform erfolgt. Dabei genügt es nicht, auf die Webseite des Dienstleisters zu schauen, denn nur weil jemand behauptet, er würde DSGVO-konform arbeiten, heißt das nicht, dass dem auch so ist. Auch Unimed hat seine hohen Sicherheitsstandards bisher gelobt. Genützt hat es offensichtlich nicht. Die Erfüllung der Vereinbarungen im AV-Vertrag muss außerdem regelmäßig überprüft werden.

Das sollten Unternehmen jetzt tun

Dieser Fall ist nur ein Beispiel von vielen, denn die Zahl der Hackerangriffe steigt stetig. Jedes Unternehmen, das personenbezogene Daten an Auftragsverarbeiter wie Lohnbüros, Cloud-Anbieter oder Abrechnungssysteme weitergibt, sollte daher einmal prüfen, ob die Daten in guten Händen sind. Hier ist eine kurze Checkliste:

Haben Sie Ihre Dienstleister überprüft?
Liegt für jeden Dienstleister mit Datenzugang ein vollständiger AV-Vertrag nach Art. 28 III DSGVO vor?
Sind die technischen und organisatorischen Maßnahmen des Dienstleisters konkret dokumentiert und geprüft?
Gibt es bei Ihnen einen Prozess für den Fall, dass der Dienstleister eine Datenpanne meldet?

Wenn Sie nicht alle Fragen mit Ja beantworten können, besteht Handlungsbedarf.

Und jetzt?

Haben Sie am Ende dieses Artikels ein ungutes Gefühl, wenn Sie an Ihre Auftragsverarbeiter denken? Aus meiner Erfahrung kann ich Ihnen sagen, dass Sie auf Ihr Gefühl hören sollten. Vereinbaren Sie einen Termin mit mir, damit ich Ihre Verträge und ihre Dokumentation überprüfen kann. Sollte ich Defizite erkennen, stellen wir sie gemeinsam ab.

Wenn Sie mehr über IT-Sicherheit und Datenschutz lernen möchten, buchen Sie eins meiner Seminare.

Datenschutzbericht 2025

Bremer Datenschutzbericht 2025

Der 8. Jahresbericht des Bremer Landesbeauftragten für Datenschutz und Informationsfreiheit wurde im März 2026 veröffentlicht. Er ist weitaus mehr als eine Sammlung von Datenschutzverstößen, denn er gibt einen umfassenden Überblick über die Tätigkeiten der Datenschutzbehörde und zeigt relevante Entwicklungen und Fragestellungen auf.

Bei der Durchsicht sind mir einige Themen aufgefallen, über die wir sprechen sollten. Ja, KI und Datenschutz ist dabei. Ebenso wie der Einsatz von Microsoft 365 und der Beschäftigtendatenschutz.

Verhältnis von KI und Datenschutz

2025 war das Verhältnis von Künstlicher Intelligenz und Datenschutz ein zentrales Thema und das ist es noch, denn so wirklich geklärt ist bisher nichts. Theoretisch ist in der KI-Verordnung verankert, dass diese den Schutz der personenbezogenen Daten gemäß DSGVO nicht einschränkt. Das Urteil des OLG Köln vom 23. Mai 2025 (15 UKl 2/25) vermittelt allerdings ein anderes Bild.

Kurz zum Hintergrund: Meta hatte im vergangenen Jahr angekündigt, öffentlich zugängliche Inhalte von Facebook- und Instagramkonten seiner volljährigen Nutzer für das KI-Training zu verwenden. Als Rechtsgrundlage benannte der Konzern das berechtigte Interesse nach Art. 5 i.V.m. Art. 6 I lit. f) DSGVO. Die Verbraucherzentrale NRW stellte daraufhin einen Eilantrag beim OLG Köln auf Erlass einer einstweiligen Verfügung gegen das KI-Training mit Nutzerdaten. Auf der Grundlage einer summarischen Prüfung, das ist eine oberflächliche Prüfung des Sachverhalts und der Rechtslage, wies das OLG Köln den Antrag ab und bestätigte damit, dass Meta sich auf das berechtigte Interesse als Rechtsgrundlage stützen könne.

Wie die Bremer Datenschutzbehörde gehe auch ich mit diesem Urteil nicht mit.

Erstens hat Meta seinen Sitz nicht in Europa. Dies wäre aber Voraussetzung, wenn man sich die Begründung des Gerichts anschaut. Diese räumt neben den als bedeutsam einzuschätzenden Interessen von Meta auch der Führungsrolle, die die EU gemäß KI-Verordnung bei der Entwicklung von vertrauensvollen, sicheren und ethisch vertretbaren KI-Systemen einnehmen möchte, ein hohes Gewicht ein (Oberlandesgericht Köln, am angeführten Ort, Randnummer 100).
Zweitens könnte auf Basis dieses Urteils zukünftig jeder Betreiber eines „kostenfreien“ Portals, das Nutzer mit ihren Daten bezahlen, die Daten zum KI-Training weiterverwenden. Das kann nicht im Sinne des Gesetzgebers sein, wenn es um Grundrechtsschutz geht.

Wer soll die Aufsicht über KI-Systeme führen?

Nach dem derzeitigen Gesetzentwurf des Bundesministeriums für Digitales und Staatsmodernisierung soll die Bundesnetzagentur die Marktüberwachungsbehörde für die KI-Systeme werden – auch für Hochrisiko-KI-Systeme.

Ich stelle die Sinnhaftigkeit dieses Vorschlags in Zweifel. Das Thema gehört zwar definitiv in die Hände einer Bundesbehörde, da es von bundeslandübergreifender Relevanz ist. Es gibt aber bereits zwei Bundesbehörden, die wesentlich näher am Thema sind und über entsprechende Kompetenzen verfügen. Ich rede von der Bundesbeauftragten für den Datenschutz und die Informationsfreiheit (BfDI) und dem Bundesamt für Sicherheit in der Informationstechnik (BSI). Die BfDI hat aufgrund ihrer Datenschutzexpertise das entsprechende Know-how und das BSI hat aufgrund seiner Hoheit über den IT-Grundschutz und NIS2 die nötige Expertise zu einschlägigen IT-Sicherheitsfragen.

Jetzt noch eine Behörde in ein Thema einzubeziehen, das sowohl in den Zuständigkeitsbereich des Datenschutzes als auch in den der IT-Sicherheit fällt, macht mal wieder das typische Kompetenzgerangel der deutschen Behörden deutlich.

Man sieht hier deutlich, dass Deutschland beim Thema KI und Datenschutz noch am Anfang steht. Hier ist noch einiges zu klären, damit praktikable Lösungen gefunden werden können.

Das Dauerthema Microsoft 365

Auch Microsoft 365 stand weiterhin im Fokus der Aufsichtsbehörden und wird im Datenschutzbericht 2025 hinterfragt. Natürlich ist es nicht per se unzulässig, die Tool-Sammlung einzusetzen. Wer sie aber DSGVO-konform nutzen möchte, muss genau hinschauen, Anpassungsmöglichkeiten nutzen und Einbußen bei der Bequemlichkeit hinnehmen.

Ein weiteres Problem ist die Intransparenz der Datenverarbeitung durch Microsoft, eine vollständige Offenlegung erfolgt nicht. Unternehmen müssen sich rein auf die Zusagen des Unternehmens verlassen, die in Teilen unglaubwürdig sind. Betriebliche Datenschutzbeauftragte haben es dadurch schwer, ein korrektes Verzeichnis der Verarbeitungstätigkeiten zu führen. Das ist ein deutlicher Verstoß gegen das Transparenzprinzip aus Art. 5 I DSGVO und in der Folge gegen die Rechenschaftspflicht aus Art. 5 II DSGVO.

Microsoft nutzt die Daten außerdem auch für eigene Zwecke. Wann eine reine Auftragsverarbeitung vorliegt und wann gegebenenfalls eine gemeinsame Verantwortlichkeit, ist für den Nutzer nicht klar ersichtlich. Die erforderlichen Unterlagen/Verträge können zwar heruntergeladen werden, doch da es keine individuellen Anpassungsmöglichkeiten gibt, handelt es sich eher um eine Alibifunktion als um eine Datenschutzmaßnahme.

Microsoft 365 ist und bleibt datenschutzrechtlich ein dauerhafter Kompromiss mit Restrisiko, der ohne eigene Kontrolle über Daten und Systeme nie wirklich „sauber“ wird. Wer Microsoft 365 einsetzt, sollte das wissen.

Meldungen von Datenschutzverstößen 2025

Im Jahr 2025 gab es insgesamt 259 Meldungen von Datenschutzverletzungen im Land Bremen. Das entspricht einem Anstieg von etwa 26,34 Prozent, denn im Vorjahr wurden 205 Meldungen abgegeben.

Quelle: 8. Jahresbericht Datenschutz S. 152

Auffallend ist der weiterhin hohe Anteil von Datenschutzverstößen im Bereich Beschäftigtendatenschutz. Aus meiner Tätigkeit weiß ich, dass der Datenschutz von Beschäftigten gerne als Druckmittel genutzt wird, wenn sie mit ihrem Arbeitgeber unzufrieden sind. Ein erheblicher Anteil arbeitsrechtlicher Streitigkeiten wird von Auskunftsersuchen nach Art. 15 DSGVO begleitet, die als Mittel zum Zweck eingesetzt werden. Leider geraten die echten Verstöße darüber in Misskredit.

Ich empfehle meinen Kunden, ihre internen Prozesse so aufzustellen, dass Auskunftsersuchen unverzüglich und rechtssicher bearbeitet werden, damit sie keine Angriffsfläche mehr bieten.

Fazit

Der Datenschutzbericht 2025 aus Bremen ist natürlich wesentlich umfangreicher als hier dargestellt. Ich habe ein paar aus meiner Sicht zentrale Elemente herausgegriffen, um aktuelle Problemstellungen aufzuzeigen. Bei KI und Datenschutz ist die rechtliche Lage bisher offen und die Pläne der Bundesregierung für die Marktüberwachungsbehörde laufen aus meiner Sicht in die falsche Richtung. Die Nutzung von Microsoft 365 bleibt aus datenschutzrechtlicher Sicht risikobehaftet und Meldestatistiken sollten immer hinterfragt werden, bevor man Rückschlüsse zieht.

Ich unterstütze meine Kunden bei allen Fragen rund um Datenschutz und KI. Vereinbaren Sie einen unverbindlichen Kennenlerntermin, dann finden wir direkt heraus, welche Themen für Sie relevant sind und wie ich Sie unterstützen kann.

Meine Seminare zum Datenschutz und AI-Act liefern weitere hilfreiche Informationen. Hier finden Sie meine aktuellen Angebote.

Evasion-Attacks auf LLMs

Künstliche Intelligenz ist längst kein Experiment mehr. Sprachmodelle steuern Chatbots, analysieren Verträge, generieren Code, verfassen Mails oder greifen auf interne Wissensdatenbanken zu. Was nach Effizienzgewinn klingt, bringt jedoch eine neue Risikoklasse mit sich: Evasion-Attacks auf LLMs.

Das Bundesamt für Sicherheit in der Informationstechnik warnt in einer aktuellen Veröffentlichung ausdrücklich vor gezielten Manipulationen von Sprachmodellen im laufenden Betrieb . Für Leitungsfunktionen bedeutet das: KI-Sicherheit ist nicht nur ein IT-Thema. Sie ist ein Governance-Thema.

Was steckt hinter Evasion-Attacks?

cheyenne-Blog * KI — Quelle:jalammar.github

Anders als klassische Cyberangriffe verändern diese Attacken nicht den Quellcode oder die Modellparameter. Stattdessen manipulieren sie Eingaben so, dass das System seine eigenen Schutzmechanismen umgeht.

Mögliche Folgen:

Offenlegung sensibler Unternehmensdaten
Manipulation automatisierter Prozesse
Erzeugung rechtswidriger Inhalte
Reputationsschäden
Haftungsrisiken

Das Gefährliche: Das System funktioniert scheinbar normal – bis es plötzlich Dinge tut, die es laut Vorgaben niemals hätte tun dürfen .

LLMs, wo sind sie zu finden?

LLMs (Large Language Model) , also KI-Modelle, die Sprache verstehen und Texte erzeugen können, sind mittlerweile in nahezu jedem Unternehmen zu finden.

Beispiele: ChatGPT, Claude, Gemini, Copilot, Mistral etc.

LLMs sind zunehmend auch als Zusatzfunktionen in Fachanwendungen implementiert, Beispiele:

ERP- und CRM-Systeme
interne Dokumentenablagen
Entwicklerplattformen
Compliance-Workflows
Kundenkommunikation

Die eingebetteten KI-Funktionalitäten erhalten Ihre Rechte zumeist durch die Rechte, die auch die Anwendung hat. Je mehr Zugriff ein System erhält, desto größer wird die Angriffsfläche. Besonders riskant sind laut BSI Konstellationen mit:

Zugriff auf private Daten
Anbindung an externe Quellen
automatisierten Schreib- oder Versandfunktionen

DSGVO: Wenn das LLM zum Datenschutzproblem wird

Für Geschäftsführung und Datenschutzbeauftragte stellt sich eine zentrale Frage: Was passiert, wenn ein Sprachmodell personenbezogene Daten ungewollt preisgibt?

Typische Szenarien:

Ein Prompt Injection-Angriff führt zur Offenlegung von Kundendaten
Ein Modell speichert manipulierte Inhalte dauerhaft im Langzeitspeicher
Sensible Informationen werden über externe Schnittstellen übertragen

Ein kompromittiertes LLM-System kann meldepflichtige Datenschutzverletzungen auslösen – inklusive Bußgeld- und Reputationsrisiko.

Leitungsorgane stehen hier in der Organisationsverantwortung. Es reicht nicht, „KI einzuführen“, sie muss auch sicher implementiert sein.

AI Act: KI-Risiken werden regulatorisch relevant

Der AI-Act gibt die Regeln für den Einsatz von KI-Systemen konkret vor. In Verbindung mit der DSGVO sind die einzusetzenden Systeme VOR dem Einsatz zu prüfen, vgl. Art. 32, Art. 35 DSGVO. Aus der Prüfung ergibt sich eine unternehmensweite Richtlinie für die Nutzung von KI in dem jeweiligen Unternehmen. Gemäß Art. 4 AI-Act sind die Nutzer zudem vor der ersten Verwendung zu schulen.

Zusammenfassung aus DSGVO und AI-Act:

Unabhängig davon, in welche Kategorie des AI-Actes ein LLM-System eingestuft wird, gelten bestimmte Pflichten immer.

DSGVO: Vorabkontrolle

Die datenschutzrechtliche Vorabkontrolle, dient zur Identifikation möglicher Risiken für personenbezogene Daten.

Art. 24 DSGVO – Organisationsverantwortung
Art. 32 DSGVO – technische und organisatorische Maßnahmen
Art. 35 DSGVO – Datenschutz-Folgenabschätzung (wenn hohes Risiko)

Aus der Vorabkontrolle folgt eine Empfehlung des bDSB, wie mit KI und personenbezogenen Daten umgegangen werden soll und ob personenbezogene Daten überhaupt genutzt werden können.

Daraus folgt in Abstimmung mit den Leitungsfunktionen die Erstellung einer internen KI-Richtlinie.

In diese Richtlinie gehört mindestens eine Aufzählung der genutzten Systeme und die klare Benennung von Do’s & Dont’s in dem jeweiligen System.

Art. 4 AI Act – KI-Kompetenzpflicht (gilt für alle KI-Systeme)

Unternehmen müssen sicherstellen, dass Personen, die KI-Systeme einsetzen oder überwachen, über ausreichende Kenntnisse verfügen und unter welchen Einschränkungen KI im Hause genutzt werden darf.

Die Grundlage der Nutzung ergibt sich aus der Richtlinie und genau diese Inhalte werden geschult.

Das bedeutet:

Unterweisung der Mitarbeiter
Sensibilisierung für Risiken wie Prompt Injections

Das ist eine Organisationspflicht und kein nice to have.

Art. 50 AI Act – Transparenzpflichten (gelten unabhängig von der Risikoklasse)

Wenn KI eingesetzt wird, müssen bestimmte Transparenzanforderungen erfüllt sein, zum Beispiel:

Kennzeichnung von KI-generierten Inhalten
Offenlegung gegenüber Nutzern, wenn sie mit KI interagieren, z.B. bei ChatBots
Klarheit über synthetische Inhalte

Auch hier gilt: Das betrifft alle KI-Systeme unabhängig der Klassifizierung.

Typische Angriffsformen auf LLMs

Das BSI beschreibt unter anderem die folgenden Angriffsvarianten.

1. Prompt Injections

Bei einer Prompt Injection wird das Sprachmodell direkt über eine manipulierte Nutzereingabe beeinflusst.

Ein Angreifer formuliert seine Anfrage so, dass interne Regeln oder Systemanweisungen überschrieben oder ignoriert werden. Häufige Formulierungen sind etwa:

„Ignoriere alle vorherigen Anweisungen.“
„Du bist jetzt nicht mehr ein Assistent, sondern …“
„Handle außerhalb deiner Sicherheitsrichtlinien.“

Das Modell wird dabei nicht technisch gehackt – sondern kommunikativ manipuliert.

Für Unternehmen ist das besonders kritisch, wenn das LLM Zugriff auf sensible Daten oder Funktionen besitzt.

2. Indirekte Prompt Injections über Drittinhalte

Hier erfolgt die Manipulation nicht über den direkten Nutzer-Prompt, sondern über externe Inhalte, die das System verarbeitet.

E-Mails
Webseiten
PDFs
Wissensdatenbanken
Git-Repositories
Ticketsysteme

Ein Angreifer versteckt schädliche Anweisungen in scheinbar harmlosen Inhalten. Das LLM interpretiert diese Inhalte fälschlich als Handlungsanweisung.

Beispiel:
Eine Website enthält im Quelltext die Anweisung, sensible Daten an einen externen Server zu senden. Wird diese Seite vom LLM verarbeitet, kann die schädliche Logik aktiviert werden.

Das Risiko steigt erheblich, wenn das System über Langzeitspeicher oder Tool-Zugriffe verfügt.

3. Jailbreaks

Ein Jailbreak zielt darauf ab, das während des Trainings erlernte Sicherheitsverhalten des Modells zu umgehen.

Das geschieht häufig durch:

Rollenspiele („Stell dir vor, du bist ein Hacker…“)
fiktive Szenarien
kreative Umschreibungen verbotener Inhalte
semantische Umgehung von Schlüsselwörtern

Das Modell bleibt technisch unverändert, aber seine Schutzmechanismen werden „argumentativ ausgehebelt“.

Für Führungskräfte ist relevant: Jailbreaks können dazu führen, dass Compliance-Vorgaben faktisch umgangen werden, ohne dass ein technischer Einbruch vorliegt.

4. Mehrstufige Manipulationen

Hier erfolgt der Angriff nicht in einer einzigen Anfrage, sondern über mehrere Interaktionen hinweg.

Der Angreifer geht schrittweise vor:

Zunächst werden harmlose Informationen abgefragt.
Danach wird Kontext aufgebaut.
Schließlich wird das System dazu gebracht, sicherheitskritische Details preiszugeben.

Diese Methode ist besonders schwer zu erkennen, da jede einzelne Anfrage für sich betrachtet unauffällig wirkt.

In automatisierten Workflows können solche Angriffe schleichend eskalieren.

5. Verschleierung über Kodierung oder Sonderzeichen

Angreifer nutzen technische Tricks, um Filter zu umgehen:

Base64-Kodierung
Verschlüsselung
absichtliche Rechtschreibfehler
Einfügen von Steuerzeichen wie \n oder \b
unsichtbare Unicode-Zeichen
Sprachwechsel oder Sprachmischung

Das Ziel ist es, Sicherheitsmechanismen zu verwirren oder bekannte Schlüsselwortfilter zu umgehen.

Für das Management wichtig:
Solche Angriffe sind nicht auf den ersten Blick erkennbar. Sie wirken wie normale Textbestandteile – können aber operative Prozesse manipulieren.

Strategische Einordnung

Alle genannten Angriffstypen haben eines gemeinsam:
Sie nutzen die Kommunikationsfähigkeit des Systems aus.

Datenzugriff
Systemintegration
Automatisierung
externe Schnittstellen

Je mehr Kommunikationsfähigkeiten ein LLM besitzt, desto größer wird das Gefährdungspotenzial.

Deshalb sind diese Angriffe nicht nur ein IT-Detail, sondern ein Governance-Thema.

Verantwortung von Führungskräften

KI-Risikobewertung auf Managementebene verankern

Ist das eingesetzte LLM an interne Daten angebunden?
Was sagt der Datenschutz?
Welche Aktionen darf es autonom ausführen?
Gibt es eine dokumentierte Risikoanalyse?

Least Privilege konsequent umsetzen

LLM-Systeme dürfen nur Zugriff auf Daten und Funktionen erhalten, die zwingend notwendig sind. Jede zusätzliche Berechtigung erhöht das Angriffsrisiko .

Serverseitige Schutzmechanismen etablieren

Das BSI empfiehlt unter anderem:

Eingabenormalisierung
Längenbeschränkungen
Content-Stripping
Filter für schädliche Prompts
Schwärzung sensibler Informationen

Wichtig: Clientseitige Filter sind nicht ausreichend.

Menschliche Aufsicht implementieren

Der AI Act verlangt menschliche Kontrolle bei KI-Systemen der Kategorie „hochrisiko“. Das BSI bestätigt diesen Ansatz durch sogenannte Human Guardrails und dies nutzungs- und nicht KI-kategoriebezogen.

Beispiel:
Kritische Aktionen wie E-Mail-Versand oder Datenexport müssen aktiv freigegeben werden.

Fazit

KI-Cybersicherheit ist kein reines IT-Detail, sondern mittlerweile ein Standard-Arbeitspaket im Kontext IT-Sicherheit und Datenschutz. Führungskräfte müssen die Grundmechanismen verstehen, um Risiken realistisch bewerten zu können .

Die „KI-Welt“ ist schnellebig, es sollte bei Updates von Systemen genau geprüft werden, ob eine KI-Funktionalität inkludiert oder erweitert wurde und was dies für die Nutzung im Unternehmen bedeutet.

Bei der Bewertung müssen unterschiedlichste Normen mit einbezogen werden, neben dem AI-Act auch die DSGVO, ggf. NIS 2 (Also BSIG), Geschäftsgeheimnisgesetz, ggf. Urheberrecht etc.

Wenn Sie jetzt noch unsicher sind, in Bezug auf die Nutzung von KI-Systemen oder eine Richtlinie erstellen lassen möchten und/oder Ihre Mitarbeiter kompetent schulen lassen möchten, dann sprechen Sie mich an, ich unterstütze Sie in allen Fragen rund um das Thema KI.

Berechtigtes Interesse, gem. Art. 6 I lit. f) DSGVO

In letzter Zeit sehe ich häufig die Rechtsgrundlage des Art. 6 I lit. f) DSGVO, also die Verarbeitung aus berechtigtem Interesse des Seitenanbieters. Schuld ist ein Urteil des OLG Stuttgart Az.: 2 U 63/22 17 O 807/21 .

Der Tenor des Urteils lautet, die Zusendung eines Werbeschreibens kann nach Art. 6 I lit. f) i.V.m. Art. 5 DSGVO rechtmäßig sein. Das Versenden gewerblicher Informationen kann ein berechtigtes Interesse im Sinne der Vorschrift sein.

Das Urteil bietet aber keineswegs einen Freibrief, nun jegliche Verarbeitung auf ein berechtigtes Interesse zu stützen. Das Urteil scheint teils nicht richtig verstanden worden zu sein, dies hat zur Folge, dass diese Rechtsgrundlage seit dem Urteil gehäuft als Grundlage für die Verarbeitung personenbezogener Daten über ein Kontaktformular verwendet wird. Meines Erachtens deutet dies auf ein mangelndes Rechtsverständnis des Erstellers der Datenschutzerklärung hin.

Was ist ein „berechtigtes Interesse“?

Art. 6 I lit. f) DSGVO erlaubt die Verarbeitung personenbezogener Daten, wenn sie zur Wahrung der berechtigten Interessen des Verantwortlichen oder eines Dritten erforderlich ist, sofern nicht die Interessen oder Grundrechte und Grundfreiheiten der betroffenen Person überwiegen.

Entscheidend ist also jeweils eine Interessenabwägung.

Dies bedeutet nicht, dass die Rechtsgrundlage jedes Mal greift, wenn mir nichts anderes einfällt und ich die Daten so gerne erheben möchte.

„Datenschutz ist Grundrechtsschutz“, wir sind demnach im Grundrechtsbereich und wie immer, beim Eingriff in Grundrechte, muss eine Abwägung der Grundrechtspositionen her. Art. 6 I lit. f) DSGVO benennt die Anforderungen genau, die Voraussetzungen sind:

Es muss ein berechtigtes Interesse des Anbieters vorliegen. Dies kann wirtschaftlich, rechtlich, idell sein. Berechtigt ist wörtlich zu sehen, ein Interesse ohne Berechtigung reicht also nicht. Aber auch Werbung kann ein solches berechtigtes Interesse sein, dieses kann wirtschaftlich hergeleitet werden, muss aber eng ausgelegt werden.
Desweiteren muss die Verarbeitung zur Erreichung des eben begründeten Interesses auch erforderlich sein.
Wenn es also mildere, gleich geeignete Mittel gibt, dann sind diese zu wählen.
Die Interessen des Betroffenen dürfen nicht überwiegen
Solch ein Interesse kann sich schon daraus ergeben, dass der Betroffene, Werbung generell widersprochen hat.

Fallgruppen für ein berechtigtes Interesse

Direktwerbung (vgl. Erwägungsgrund 47 DSGVO; BGH, Urteil v. 28.5.2020 – I ZR 7/16) Der Erwägungsgrund 47 konkretisiert die Rechtsgrundlage dahingehend, dass diese natürlich wie immer nur in Verbindung mit Art. 5 DSGVO greift. Art. 5 DSGVO beschreibt sehr deutlich, dass u.a. die Zwecke der Verarbeitung für den Betroffenen transparent sein müssen, im Umkehrschluss muß der Betroffene also nicht mit Werbung rechnen, wenn diese Werbung kpl. außerhalb seines Tätigkeitsbereiches liegt. Anders z.B. wenn der Betroffene bereits Kunde ist, dann muss er auch mit Folgewerbung rechnen. Er muss allerdings nicht mit Newsletterzusendungen rechnen, diese bedütfen einer aktiven Einwilligung, da diese in die jeweilige Persönlichkeitssphäre (per Mail/Brief) eindringen.
Betrugsprävention und IT-Sicherheit (z.B. Logfile-Auswertung, siehe OLG Dresden, Urteil v. 30.11.2021 – 4 U 1158/21). Gegen diesen Zweck wird wohl niemand etwas haben, natürlich liegt es im begründeten Interesse des Verantwortlichen und auch des Betroffenen, z.B. über die evtl. Zusendung von Schadsoftware informiert zu werden, die der Verantwortliche ohne Wissen, aufgrund eigenen Befalles weitergeleitet hatte.
Durchsetzung von Rechtsansprüchen
Interne Verwaltungszwecke innerhalb eines Konzerns
So z.B. die Information über eine spezielle Mailadresse für die Zusendung von Rechnungen, Info über Ansprechpartnerwechsel u.ä.

Mein Lieblingsthema Kontaktformular

Wie sieht es denn nun bei der Verarbeitung über Kontaktformulare auf Webseiten aus? Dort sehe ich momentan gefühlt ständig den Art. 6 I lit. f) DSGVO.

Antwort: Es kommt darauf an! Oder auch, man kann sich etwas Mühe geben.

Aktuelle Rechtsprechung & Aufsichtsbehörden

Die Konferenz der unabhängigen Datenschutzaufsichtsbehörden (DSK) sieht die Kontaktaufnahme über das Formular grundsätzlich als „vorvertragliches Verhältnis“ Artt. 6 I lit. b), 5 DSGVO i.V.m. §§ 311 II, passende Vertragsnorm BGB) Dies greift, wenn klar ist, dass die Kontaktaufnahme des Betroffenen darauf abzielt, sich über die Leistungen/Produkte des Unternehmens zu informieren, also Anfragen zu Produkten, Dienstleistungen oder Support, die später ggf. erworben werden.
Andere Anfragen, die nicht unter ein vorvertragliches Verhältnis fallen, wie z.B. allgemeine Fragen, Presseanfragen, Lob/Kritik benötigen eine andere Rechtsgrundlage. Hier kommt oft das berechtigte Interesse in Betracht (Art. 6 I lit. f) DSGVO). Ich halte dies für falsch, denn durch die Absendung des Formulars (natürlich nach korrekter Belehrung), erteilt der Nutzer (Berechtigte) ganz klassisch seine Einwilligung für die Verarbeitung, gem. Art. 6 I lit. a) DSGVO, die er jederzeit ohne Angabe von Gründen auf dem gleichen Weg widerrufen kann. Allein die Dokumentationspflicht des berechtigten Interesses inkl. der gesetzlich geforderten Grundrechtsabwägung erscheint mir doch als „mit Kanonen auf Spatzen“ und ist aus meiner Sicht daher abzulehnen. Auch glaube ich nicht, dass die Abwägung wirklich durchgeführt und dokumentiert wird.

Was sagt der BGH

Bislang liegt keine höchstrichterliche Entscheidung speziell zu Kontaktformularen und Art. 6 I lit. f) DSGVO vor. Die Gerichte lassen aber erkennen, dass ein berechtigtes Interesse – etwa an der Kommunikation und Verbesserung des Service – durchaus anerkannt werden kann. Natürlich nur und ausschließlich in Verbindung mit Art. 5 DSGVO. Aus meiner Sicht, wie gesagt, überhaupt nicht notwendig, daher kann die Betrachtung dahinstehen.

Fazit

Ich benötige diese Rechtsgrundlage nur sehr selten, denn fast immer geht es besser und wenn es besser geht, dann ist dem Transparenzgebot des Art. 5 I lit. a) DSGVO ebenfalls entsprochen.

Was viele nicht bedenken ist, dass eine Weiterverarbeitung, also die nach der Erhebung der Daten über das Kontaktformular eine neue, eigene Rechtsgrundlage benötigt. Je nachdem, worum es sich handelt, z.B. Weitergabe in ein KI gestütztes Beantwortungssystem, greift das berechtigte Interesse vlt. nicht mehr und es wird trotzdem die Einwilligung des Betroffenen benötigt. Auch ist eine Einwilligung im Falle eines Rechtsstreites besser zu belegen als die Grundrechtsabwägung, die ein sorgfältiger Richter u.U. in der Luft zerreißt. Aber man kann es sich wie immer schwer machen oder eben nicht.

FAZIT: Die Verarbeitung aus berechtigtem Interesse ist kein Freifahrtschein und meine Empfehlung wäre, genau abzuwägen, ob nicht eine andere Rechtsgrundlage einfacher und genauso gut greift und besser zu dokumentieren ist.

Klugschiß:

Art. 5 I DSGVO beginnt mit: „Personenbezogene Daten müssen…“

Dies bedeutet, dass Art. 5 DSGVO, egal, auf Basis welcher Rechtsgrundlage verarbeitet wird, zwingend mit ins Boot muß. Daher lautet die korrekte Angabe der Rechtsgrundlage immer mindestens: Art. 6 I lit x i.V.m. Art. 5 DSGVO.

Wächtermodus bei Tesla Fahrzeugen

Im Rahmen meiner juristischen Bachelor-Seminararbeit habe ich mich mit der DSGVO-Konformität des Wächtermodus bei Tesla Fahrzeugen befasst.

Die Umgebungsüberwachung durch Kameras ist aus dem Alltag nicht mehr wegzudenken. Es ist eine einfache Möglichkeit, die eigenen Rechtsgüter zu schützen, z. B. das Hausrecht zu wahren. Auch auf öffentlichen Plätzen ist Videoüberwachung zum Schutz der öffentlichen Sicherheit und Ordnung nicht mehr wegzudenken.

Fahrer von Fahrzeugen nutzen Dashcams, um besondere Fahrten mitzuschneiden oder auch um das eigene Fahrverhalten zu optimieren. Videos von Alltagssituationen erscheinen überall im Netz. Sie sind zu wichtigen Inhalten geworden, um die eigenen „Follower“ zu unterhalten. In den meisten Fällen, werden lediglich Personen in alltäglichen Situationen dargestellt.

Auch viele Fahrzeuge verfügen mittlerweile über Videoüberwachungssysteme zum Mitschnitt der Umgebung, in der sie sich gerade bewegen. Die so erzeugten Daten werden gespeichert und für verschiedenste Zwecke verwendet. Auf Parkplätzen sollen eventuelle Schäden am eigenen Fahrzeug nachvollziehbar sein, um ggf. den Verursacher in Regress nehmen zu können. Die Anwendungs-möglichkeiten sind unerschöpflich.

Mittlerweile scheint es gängige und akzeptierte Praxis zu sein, ein alles und jegliches zu filmen, Menschen, die eventuell miterfasst werden, waren dann eben am falschen Ort zur falschen Zeit, das persönliche Interesse des Filmers steht um Vordergrund.

Die Gewöhnung an Film und Bildaufnahmen aller Art, an jedem Ort, ohne die betroffene Person zu fragen, kollidiert jedoch unter Umständen mit den Grundrechten betroffener Personen in Bezug auf ihre eigenen personen-bezogenen Daten.

Die Rechtmäßigkeit der Verarbeitung von Bilddaten, die eine Identifikation der dargestellten Person ermöglichen, unterliegt strengen Voraussetzungen, die sich aus der DSGVO ergeben. Ggf. liegt bei einer Videoaufnahme ein datenschutz-rechtlicher Grundrechtseingriff vor, für den ein genau festgelegter Zweck und eine darauf abgestimmte Rechtsgrundlage zwingend erforderlich ist. Ohne diese Konstellation ist die Erfassung personenbezogener Bilddaten rechtswidrig.

Als Ergebnis ist herausgekommen, der Wächtermodus kann in der vorliegenden Form nicht DSGVO-konform betrieben werden. Aufgrund der Seitenzahlbeschränkung dieser als Prüfungsleistung entstandenen Arbeit, konnten nicht alle interessanten Aspekte betrachtet werden, das Ergebnis bleibt dasselbe.

Die Arbeit kann von Fachkollegen und interessierten Unternehmen per Email angefordert werden.

Ein Nachruf auf die DSGVO

Es fing so vielversprechend an, die DSGVO seit 2018 in aller Munde. Endlichsagten die Behörden, endlich bekommt der Datenschutz als Grundrechtsschutz eine Relevanz. Endlich werden wir in Zukunft auch Bußgelder verhängen können, um Nichtbeachtung zu sanktionieren. Endlich werden Betroffenenrechte ernst genommen.

Nun aber scheint die DSGVO gestorben zu sein. Ein Jammer, es folgt: Ein Nachruf auf die DSGVO.

Konkurrenz zu Corona

Wie es scheint, konkurriert die DSGVO mit Corona, es geht nur eins, beides nicht. Corona betrat den Laufsteg der Eitelkeiten, die DSGVO scheint nun uninteressant geworden zu sein.

Eine Nachverfolgung von Infektionen soll umgesetzt werden. Es begann mit Zetteln, s. hier: Corona und Datenschutz.

Trotz der Zettel, die man in jeder Gastro ausfüllen musste und die teils in Glaskästen eingeworfen werden sollten, konnte diese Nachverfolgung nicht erreicht werden. Man hörte von überlasteten Gesundheitsämtern, falsch ausgefüllten Zetteln usw.

Dann kam die allseits gepriesene APP, die angeblich keine pers. Daten erfasst : Corona APP

Die neuesten Ideen

Für die neuesten Ideen wäre wohl früher ein Aufschrei seitens der Datenschützer durch ganz Europa zu hören gewesen. Sicher wäre eine Bewertung nach Art. 9 DSGVO heiß diskutiert worden. Was bleibt? Ein Nachruf auf die DSGVO.

Test- und Impfnachweis

Die neueste Idee lautet ja, möglichst viele Tests durch zu führen, damit wir alle in Sicherheit sind, alternativ kann man sich impfen lassen oder beweisen, dass man genesen ist. Für die gewählte Variante soll ich nun immer einen Nachweis bei mir führen.

Diesen Nachweis soll ich nun auch überall vorzeigen. Handelt es sich hier eigentlich um medizinische Daten? Der Test kann ja nun gar keine Diagnose ersetzen, sondern stellt bestenfalls einen Labortest dar, der zudem auch gar keine Krankheit feststellt und in keinem Labor ausgewertet wurde, da es meist ein sog. Schnelltest sein wird. Wie aber soll der Ladeninhaber, dem ich den Test nun zeigen soll, da irgendwas draus schliessen, ohne medizinische Vorkenntnisse?

Ich frage mich weiterhin, was geht es ihn an? Möchte ich meine medizinischen Unterlagen jedem zeigen, nur, um da einkaufen zu dürfen?

Muss der Ladeninhaber mir eigentlich auch seinen negativen Test oder Impfpass zeigen? Das Gesetz sieht ja vor, dass für alle immer dasselbe gilt. In meinem Impfpass stehen weitere Impfungen und meine Blutgruppe, sowie meine vollständige Adresse. Ich möchte aber nicht jedem meine Adresse und andere medizinische Daten zeigen. Und schon gar nicht, will ich diese in irgendeinem Zentralregister gespeichert wissen. Ganz oldschool „informationelle Selbstbestimmung“, diejenigen, die sich nicht erinnern, können das mal googeln.

Luca oder Sonstwie APP

Nun soll ich mich auch vor Betreten einiger Geschäfte mithilfe einer APP einloggen und beim Verlassen wieder ausloggen. Man könnte annehmen, dies würde ähnlich einer Arbeitszeit erfasst. Muss jetzt eigentlich jeder Ladeninhaber einen ADV Vertrag gemäß Art. 28 DSGVO abschliessen? Wo kann ich einsehen, welche Daten von mir gespeichert werden, bekomme ich eine Information zur Speicherung meiner Daten gemäß Art. 13 DSGVO? Und… kann ich von meinen Betroffenenrechten gemäß Kapitel 3 DSGVO Gebrauch machen?

Ich bin gespannt, ob Betroffene solche Anfragen an einige Geschäfte schicken, die werden sich freuen. Wenn sie keine Antwort bekämen, hätten wir einen DSGVO Verstoss. Das wird ein Spaß!

Abgesehen davon, wie sicher sind denn meine Daten? Wird es wieder mal ein Datenleck geben, das dem Einbrecher, der es auf mein Haus abgesehen hat, die Info gibt, dass ich gerade bei Bäcker Meyer bin und nicht zu Hause? Steht das komplette Blankziehen meiner Person und meiner Bewegungsdaten in irgendeinem Verhältnis zu meinem Einkauf in Laden x, wo ich, sagen wir mal, etwas Schreibwariges im Wert von € 1,50 kaufe?

Für mich jedenfalls nicht, für mich persönlich keine APP, kein Schlüsselanhänger, kein Test, keine Corona Impfung. Es wäre schön, wenn ich das auch weiterhin selber entscheiden dürfte.

Und wenn jetzt von jedem jeder Ladenbesuch gespeichert wird, haben wir eigentlich dann hier eine Massendatenspeicherung? Da kann man sicher viele schöne Dinge auswerten. Heute logge ich mich in Bremen ein und morgen in Husum? Also ich ja nicht, aber nur mal so als Gedanke.

Ein Nachruf auf die DSGVO

Corona und Datenschutz

Kann das Eine ohne das Andere? Muss das Eine ohne das Andere? Haben wir hier gar eine Konkurrenzsituation? Seitdem wir hier diese Krise haben, drängt sich mir der Eindruck auf, der Datenschutz ist nicht mehr wichtig. Corona und Datenschutz, beides scheint zusammen nicht zu gehen.

Da alle um ihre Existenz kämpfen, vor allem Gastronomen und kleine Dienstleister wie z.B. Friseure, sind sie bereit, alles zu tun, damit sie nun endlich wieder öffnen können. Allerdings habe ich noch keinen getroffen, der die sogenannten Hygienekonzepte sinnvoll fand.

Wenn man nun irgendwo essen gehen will, muss man ja neuerdings seine Daten handschriftlich hinterlassen. Da die Betreiber keine Ausweise kontrollieren dürfen, schreibt nun jeder irgendwas drauf. Berufsbedingt schaue ich immer etwas genauer hin, oftmals, bleiben die Zettelchen einfach auf dem Tisch liegen. In Husum flogen gar ein paar an der Hafenpromenade entlang.

Was aber viel interessanter ist, auf den meisten Zettelchen steht nicht, was die Betreiber im Anschluß an das Ausfüllen damit machen, insbesondere wo und wie lange sie diese Zettel aufbewahren und auf Basis welcher Rechtsgrundlage!

Und was für ein Irrsinn, ich gehe in Nordfriesland essen, schreibe meine Heimatadresse drauf, ist dann vielleicht mein Haus aufgebrochen, wenn ich wieder nach Hause komme? Bestimmt eine neue Geschäftsidee, früher hat man bei Facebook geschaut, wer gerade im Urlaub ist!

Einige versuchen, dem wenigstens ein wenig zu entsprechen, deshalb hier auch ein paar positivere Beispiele.

Ich wundere mich über die sogenannten „Hygienekonzepte“ sehr. Die DSGVO wurde mit Pauken und Trompeten eingeführt, die Firmen mussten den ganz großen Wurf machen, um schnell die neuen, sehr aufwändigen Dokumentationspflichten zu erfüllen. Wir Datenschützer hatten damals unwahrscheinlich viel zu tun, um diejenigen Firmen zu unterstützen, die gerne alles rechtskonform umsetzen wollten.

Und nun wird dieser Prozess quasi mit Füßen getreten. Ist DSGVO überhaupt noch ernst zu nehmen? Ich bin gespannt, wie die DSGVO „nach Corona“, wenn es das denn gibt, gesehen wird. Oder kann der Mensch immer nur eins zur Zeit beachten? Über Klimagretel spricht schließlich auch keiner mehr.

Die Landesdatenschutzbeauftragte von Niedersachsen hat sich Mühe gegeben, nochmal genau aufzuschreiben, wie man es mit den Zettelchen richtig machen kann.

Zu Bedenken gebe ich, dass es vlt. kaum machbar ist, die Zettelwirtschaft DSGVO konform umzusetzen. Aber der Preis ist nun mal „Öffnen gegen Hygienekonzept“.

Bedenklich! Bleibt wachsam!

Siehe auch Corona APP

Datenschutz im Homeoffice

Corona APP

Die Corona APP

Gesundheitsminister Spahn plant eine App, um die Nachvollziehbarkeit der Corona Infektionswege zu gewährleisten. Sein ursprünglicher Plan war, den Gesundheitsbehörden ganz einfach den Zugriff auf die GPS-Daten der Nutzer ganz zu erlauben. Mit der ersten Idee ist er zum Glück gescheitert, nun plant er die Corona APP, wie ich sie nenne.

Wie ist die Idee?

Der Medientenor ist momentan, dass jeder sich diese APP freiwillig installieren kann. Liest man mehrere unterschiedliche Quellen, so soll mit anonymisierten Namen und Standortdaten ein Tracking erfolgen, dass den Nutzer warnt, wenn er mit einem Corona Infizierten Kontakt hatte.

„Nach Angaben des Fraunhofer Heinrich-Hertz-Instituts geht es bei dem Test um einen anonymen Ansatz zur Kontaktverfolgung, der in voller Übereinstimmung mit der Datenschutzgrundverordnung ist und auch bei Reisen zwischen Ländern über einen anonymen, länderübergreifenden Austauschmechanismus verwendet werden kann“. Persönliche Daten oder Standorte würden dabei weder gespeichert noch übertragen.“

Quelle: https://www.chip.de/news/Stopp-Corona-App-Warum-eine-Smartphone-App-bald-fuer-alle-wichtig-werden-koennte_182589363.html

Wie geht das technisch?

Natürlich arbeiten wie immer die allergrößten Experten an dieser App. Hier die Auswirkungen eines früheren Projektes im Gesundheitsbereich:

https://www.deutsche-apotheker-zeitung.de/news/artikel/2019/09/18-09-2019/spahn-apotheker-aerzte-kliniken-und-andere-fuer-datensicherheit-sensibilisieren

Kurzfazit dieses Spahn-Projektes: Die Praxen waren offen wie Scheunentore und Gesundheitsdaten waren im Netz frei verfügbar. Die „Experten“ kannten nicht mal die Standardsicherheitseinstellungen von Routern.

Zurück zur APP.

Technisch funktioniert die Corona APP über Bluetooth. Das eigene Handy mit der APP, erzeugt eine eindeutige ID und tauscht diese mit anderen Handys, denen man innerhalb der Bluetooth-Reichweite begegnet, aus. Man bekommt also im Gegenzug alle IDs aller Nutzer dieser APP, die sich in der Nähe aufgehalten haben.

Laut Bundeswehr müssen sich andere Personen auf weniger als 1,5 m nähern und dort 2 Minuten bleiben, bevor der Kontakt aufgezeichnet wird. Weiß die APP von einer Infektion des Gegenübers, schlägt sie Alarm.

Anm.: Man geht davon aus, dass bluetooth Schnittstellen von Handys eine Reichweite von ca. 10 m haben, es gibt andere Geräte, die schaffen bis zu 100 m. Aus IT-Sicherheitserwägungen war man bis jetzt immer der Meinung, dass man diese Schnittstelle normalerweise nur anschaltet, wenn sie gerade benötigt wird, z.B. für die Freisprecheinrichtung im Auto, danach schaltet man sie normalerweise wieder aus. Die dauerhafte Aktivität geht zum einen zu Lasten des Akkus und zum anderen zu Lasten der Sicherheit. Schadsoftware kann über Bluetooth sehr leicht eingeschleust werden kann. Wenn man die APP installiert, muss die Schnittstelle dauerhaft aktiv sein, sonst bringt es ja nichts.

Hier ein leicht verständlicher Artikel zum Thema Bluetooth.

Die ID der Corona APP wird über ein neues System namens PEPP-PT generiert. (PEPP-PT: Pan-European Privacy-Preserving Proximity Tracing) Hierbei handelt es sich um das sog. Kontakterfassungs-Framework zur Bekämpfung der Ausbreitung von Covid-19. Könnte man dann bestimmt auch für Grippeepidemien etc.verwenden. Dieses Framework wird gerade noch entwickelt und soll in voller Übereinstimmung mit der DSGVO stehen. Es sollen keine persönlichen Daten, kein Standort, keine MAC-Adresse gespeichert oder übertragen werden.

Folgende Eigenschaften sollen mit dem Framework umgesetzt werden:

„Gut getestete und etablierte Verfahren zur Abstandsmessung auf gängigen mobilen Betriebssystemen und Geräten.
Durchsetzung von Datenschutz, Anonymisierung, GDPR-Compliance und Sicherheit.
Internationale Interoperabilität zur Unterstützung der Rückverfolgung lokaler Infektionsketten, selbst wenn sich eine Kette über mehrere PEPP-PT-Teilnehmerländer erstreckt.
Skalierbare Backend-Architektur und -Technologie, die in lokale IT-Infrastrukturen integriert werden kann.“

Quelle: https://www.iuk.fraunhofer.de/de/themen/loesungen-und-kompetenzen-zur-bewaeltigung-der-corona-krise/pepp-pt.html

Wie geht es weiter?

Bei einer Infektion meldet mein Arzt die COVID-19 Infektion dem Gesundheitsamt. Von diesem bekomme ich dann einen Code (TAN-Nummer) den ich in die Corona-App eingeben kann. Wenn das erledigt ist, wird meine Kontaktliste aus der APP an einen zentralen Server übertragen. Dieser Server warnt dann die Personen, die zu den übertragenen IDs auf meinem Gerät gehören.

Datenschutz in der Corona-APP

Rein formal geht die DSGVO davon aus, dass Daten nur für ganz genau eingegrenzte Zwecke und nur in dem notwendigen Maß verarbeitet/gespeichert werden dürfen, wie der Zweck es vorsieht. Kapitel 2, Art. 5 Abs. 1c DSGVO. Allerdings gibt es eine Einschränkung. „…eine Weiterverarbeitung für im öffentlichen Interesse liegende Archivzwecke, für wissenschaftliche oder historische Forschungszwecke oder für statistische Zwecke gilt gemäß Artikel 89 Absatz 1 nicht als unvereinbar mit den ursprünglichen Zwecken ..“ Kapitel 2, Art. 5 Abs. 1b DSGVO.

Wie ist es allerdings, wenn ich die APP nutze, Coronainfiziert bin und die APP löst dann bei Kontakt einen Alarm aus? Meine pers. Meinung dazu ist: Schwierig! All, die Ängstlichen unter uns, die so eine große Angst davor haben, sich zu infizieren, werden das ganz klasse finden und hurra schreien, es aber Vernunft nennen.

Ein Perspektivwechsel ist hier angebracht!

Beispiel: Jemand war vor 4 Wochen erkrankt, ist genesen, war dann noch zur Vorsicht 14 Tage in Quarantäne und die Corona-APP löst trotzdem einen Alarm aus? Was passiert dann? Vor allem, wenn wir die aktuelle, politisch forcierte Massenpanik mit ins Geschehen werfen? Ich halte das für extrem gefährlich, sowohl gesellschaftlich als auch emotional.

Gemäß DSGVO fällt die Verarbeitung von Gesundheitsdaten unter Art. 9 DSGVO „Verarbeitung besonderer Kategorien personenbezogener Daten“. Der zweite, nicht rechtliche, eher persönliche Aspekt ist, möchte jemand, dass jeder weiß, dass er Corona infiziert ist? Ist das dann so ähnlich wie eine öffentliche Kenzeichnung?

Schaut man sich oben nochmal die genannten Aspekte der Corona-APP an, so ist ein Ziel, die internationale Interoperabilität, hm, wie wahrscheinlich ist es, dass die Daten nicht für anderes benötigt und dann doch umgenutzt werden?

Ein paar Worte zur Anonymisierung

Unter Anonymisierung versteht man den Vorgang, personenbezogene Daten so unkenntlich zu machen, so dass nicht oder nur mit unverhältnismäßig großem Aufwand, auf die betreffende Person rückgeschlossen werden kann. Also fast gar nicht.

Anonymisierung wird allerdings oft, auch von Juristen, mit Pseudonymisierung verwechselt.

Unter Pseudonymisierung versteht man, pers. bezogene Daten z.B. den Namen mit einer Identnummer auszutauschen, so daß ein Rückschluß nicht auf den ersten Blick möglich ist.

Sollte es sich tatsächlich um eine echte Anonymisierung handeln, so findet die DSGVO hier keine Anwendung. Vgl. Erwägungsgrund 26

Technische Aspekte

Im Prinzip haben wir es hier mit Massendatenspeicherungen zu tun. Auch muss natürlich die Bandbreite des Internets mitspielen. Wenn man weiß, dass regelmäßig weniger als 20% der Mautstationen in Betrieb sind, weil die Server und auch die Leitungen es sonst nicht schaffen, könnte diese APP u.U. dazu führen, dass der Ausbau der TK-Infrastruktur mehr forciert wird, da hat man ja die letzten Jahrzehnte ordentlich geschlafen.

Nun die Beschreibung der APP sagt zwar aus, dass alles auf dem Handy bleibt und nur im Bedarfsfall mit TAN übermittelt wird, ja sicher. Wo sollen die ganzen Daten denn hin? Ich gehe entgegen der Beschreibung davon aus, dass die Daten doch auf Server übertragen werden, warum hieße das Prokjekt sonst Framework? Und außerdem hätte man die Ursprungsidee, alle Daten zu sammeln, bestimmt sehr ungern ganz verworfen.

google veröffentlicht Standortdaten

Google hat die Bewegungsdaten von 131 Ländern für jedermann einsehbar herausgegeben. Dies ist unter dem Deckmantel passiert, die Einhaltung der Einschränkungen über die Bewegungsdaten überprüfen zu wollen. Vielleicht brauchen wir diese Corona-APP also gar nicht..

Hier der Link

Wie findet Ihr das nun?

Das google sich noch nie um Datenschutz geschert hat, ist ja sowieso nichts Neues.
Hier nochmal zur Erinnerung ein Artikel über die Datenschutzerklärung von google.

Persönliches Fazit

Da PEPP-PT Framework steckt noch in der Entwicklung, die Corona-APP ebenso. Aus eigener, wirklich langjähriger Expertise, weiß ich, dass Software immer eingehenden Tests unterzogen werden muss. Bei dieser Art des Datentrackings ganz besonders. Ich persönlich halte auch das Risiko, dass genannte Systeme doch nicht so sicher sind, wie beschrieben, für sehr hoch.

Weiter noch stelle ich in Frage, dass es sich wirklich um Anonymisierung handelt, denn wenn das eine Handy Daten an das andere Handy schickt, dann „wissen“ beide Handys, dass etwas geschickt wurde, auch wenn es über eine APP geht. Auch die bluetooth-Schnittstelle hat Sende- und Empfangsdatensätze. Die Erzeugung der ID halte ich auch für schwierig, je nach verwendetem Algorithmus, halte ich eine Rückvollziehbarkeit für wahrscheinlich bzw. sicher, ja sogar gewollt. Jeder, der sich nur rudimentät mit IT auskennt, weiß, dass Prozessoren keine echten Zufallszahlen berechnen können. Ich gehe auch hier davon aus, dass das auch gar nicht gewollt ist, denn Ziel ist ja bekanntlich die Nachvollziehbarkeit der Infektionswege.

Ihr habt es schon geahnt, ich persönlich werde diese Corona-APP, sollte sie je marktreif werden, ganz bestimmt nicht installieren, desweiteren habe ich auch die GPS-Funktion meines Handys ausgeschaltet.

Jeder möge wie immer seine eigenen Schlüsse ziehen.

Querschnittsprüfung

Querschnittsprüfung der LFD Niedersachsen

Die DSGVO ist nun seit geraumer Zeit in Kraft getreten, ein guter Anlass einmal nachzusehen, wie es denn so aussieht. Die LFD hat darum eine Querschnittsprüfung durchgeführt, um sich einen Überblick zu verschaffen.

Die Querschnittsprüfung der Landesbeauftragten für den Datenschutz Niedersachsen fällt sehr mäßig aus. Diese Ergebnisse sind aus meiner Sicht wie erwartet.

50 mittelgroße und große Unternehmen erhielten einen Fragebogen. Mithilfe eines Kriterienkataloges wurde dieser Fragebogen zur Querschnittsprüfung ausgewertet. Das Ergebnis ist wie bereits erwähnt ernüchternd.

	9 Unternehmen	überwiegend zufriedenst. Antworten
	32 Unternehmen	vereinzelter Handlungsbedarf
	9 Unternehmen	erhebliche Defizite

Defizite bei der Querschnittsprüfung

technisch-organisatorischer Datenschutz

Der technisch-organisatorischer Datenschutz soll sicherstellen, dass die Rechte der betroffenen Personen, das sind die, deren Daten verarbeitet werden, angemessen geschützt werden. Hierzu zählen auch Schutzmassnahmen gegen Angriffe, wie z.B. Trojaner, Servereinbrüche, Notfallpläne u.ä.

Die Unternehmen scheinen immer noch nicht verstanden zu haben, dass es hier nicht vorrangig um den Schutz der eigenen Interessen geht, sondern dass der Schutz der verarbeiteten personenbezogenen Daten im Fokus steht.

Datenschutz-Folgenabschätzung

Die Datenschutz-Folgenabschätzung ist grundsätzlich vor der Umsetzung neuer Datenverarbeitungsverfahren zu erstellen, bei denen die Verarbeitung personenbezogener Daten voraussichtlich ein großes Risiko darstellt oder darstellen könnte. Hier soll das Risiko für die Betroffenen-Daten eingeschätzt werden, um das Sicherheitsniveau festzustellen und ggf. zu erhöhen.

Positive Ergebnisse bei der Querschnittsprüfung

Zufriedenstellende Antworten hat es gegeben zu den Themen Auftragsverarbeitung, Datenschutzbeauftragte, Meldung von Datenpannen und Dokumentationspflichten.

Wie geht es weiter?

Die LFD wird natürlich die mit rot bewerteten Unternehmen nachprüfen und dann ggf. auch Bussgelder verhängen. Aber natürlich wird sie diesen Bericht auch dazu nutzen, Unterstützung bei der Umsetzung derjenigen Themen zu geben, bei denen es mit der Umsetzung noch hapert.

20191105_Abschlussbericht_Querschnittsprfung