One-Pager · Risk & Governance

Sicher mit KI arbeiten.

Der praxisorientierte One-Pager für alle, die KI im Arbeitsalltag einsetzen. Welche Daten dürfen rein, welche nicht. Wann musst du kennzeichnen. Wofür bist du selbst verantwortlich. Wann eskalieren. Nichts Akademisches, sondern eine Stand-By-Referenz für den Schreibtisch.

DECAID Academy
Stand: Oktober 2026
Sprache: Deutsch
1

Die Drei-Fragen-Prüfung vor jedem KI-Einsatz

Welches Tool?

Ist das Tool freigegeben (Tool-Register), DSGVO-konform, mit Auftragsverarbeitungsvertrag? Öffentliche Free-Versionen ohne Workspace-Lizenz haben in der Regel kein Training-Opt-Out.

Welche Daten?

Was füttere ich rein? Öffentlich, intern, kundenbezogen oder sensibel? Die Datenklasse entscheidet über das erlaubte Tool, nicht andersrum.

Welches Risiko entsteht?

Wer sieht den Output? Wird er extern verwendet? Trifft er Entscheidungen über Menschen? Je größer die Wirkung, desto strenger die Prüfung.

2

Die Daten-Ampel: Was darf in welche KI?

Nicht jedes Tool ist für jede Datenklasse geeignet. Die Ampel ist der Default. Im Zweifel eine Stufe strenger.

Öffentlich & fiktiv Geht überall

Beispiele: Pressemitteilungen, öffentliche Webseiten, Brainstorming, generische Fachfragen, fiktive Personas, Code ohne Geschäftslogik.

Tools: ChatGPT, Claude, Gemini, Copilot, Langdock. Auch Free-Versionen in Ordnung, solange keine internen Bezüge im Prompt.

Intern Nur freigegeben

Beispiele: Strategiepapiere, interne Kommunikation, Roadmaps, Meeting-Notizen, anonymisierte Auswertungen, Code mit Geschäftslogik.

Tools: Nur freigegebene Workspace-/Enterprise-Versionen mit DPA. EU-Hosting bevorzugen und die Datenresidenz aktiv prüfen, denn manche Anbieter routen bei Lastspitzen auch außerhalb der EU und schalten fremde Modelle mit eigenen Aufbewahrungsregeln hinzu. Verlass dich nicht darauf, dass so etwas erst jemand einschalten muss: bei einzelnen Suiten ist das Zuschalten fremder Modelle in neu angelegten EU-Tenants per Default aktiv, läuft außerhalb der EU-Datengrenze und folgt dann den Aufbewahrungsfristen des Fremdanbieters statt denen der Suite. Nachsehen statt annehmen. Niemals in private Free-Accounts.

Kundenbezogen & sensibel Nur privat

Beispiele: Kundendaten, Personalakten, Verträge, Finanzdaten, Gehälter, Krankmeldungen, Gesundheitsdaten.

Tools: Nur private/lokale Modelle oder Workspace mit nachgewiesener Datenresidenz, kein Trainings-Logging. Im Zweifel: DSB fragen.

Verboten Niemals

Beispiele: Sozialscoring von Menschen, Emotion-Recognition am Arbeitsplatz, biometrische Echtzeit-Identifikation, manipulative Praktiken (EU AI Act Art. 5). Neu verboten (ab 2. Dezember 2026): Systeme, die nicht einvernehmliche intime Darstellungen einer Person oder Missbrauchsdarstellungen von Kindern erzeugen. Für dich als Anwender greift dieses Verbot bei vorsätzlicher Nutzung.

Regel: Wenn du nicht sicher bist, ob es verboten ist: nicht machen. Lieber einmal zu viel beim KI-Champion fragen.

3

Output-Verantwortung & Kennzeichnung

Du bist verantwortlich für das, was du veröffentlichst

  • Faktencheck: Zahlen, Zitate, Namen, Quellen gegenchecken. KI halluziniert, auch wenn sie überzeugend klingt.
  • Bias-Check: Werden Gruppen pauschalisiert? Würden Betroffene den Text so unterschreiben?
  • Quellen prüfen: Verweist die KI auf real existierende Quellen? Stimmen die Links?
  • Herkunfts-Siegel sind kein Echtheitsbeweis: Content Credentials an einem Bild sagen nur, was in den Metadaten steht. Sie fehlen oft, weil Plattformen sie beim Hochladen entfernen, und sie lassen sich fälschen: ein im August 2026 dokumentierter Weg über manipulierte Smartphones gilt beim Hersteller als nicht behebbar. Prüfe die Quelle, nicht das Siegel.
  • Vier-Augen bei Außenwirkung: Pressetexte, Kundenkommunikation, rechtliche Inhalte nie ohne zweiten Blick.

Kennzeichnungspflicht (EU AI Act Art. 50)

Diese Transparenzpflichten gelten EU-weit verbindlich seit dem 2. August 2026. Das Digital-Omnibus-Paket hat diese Frist bestätigt und nur die Hochrisiko-Fristen verschoben (eigenständige Annex-III-Systeme auf Dezember 2027, in Produkte eingebettete auf August 2028). Zur Auslegung hat die EU-Kommission am 20. Juli 2026 finale Leitlinien zu Art. 50 veröffentlicht: nicht bindend, aber für die nationalen Behörden die Hauptreferenz. Für die maschinenlesbare Markierung bereits im Markt befindlicher Systeme gilt eine Schonfrist bis 2. Dezember 2026. Sie betrifft nur die Anbieter, deine Offenlegungspflichten als Anwender gelten ohne Übergangszeit. Verstöße können mit bis zu 15 Mio. Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden. Kommission und nationale Behörden haben die Durchsetzung am 2. August 2026 aufgenommen. Bußgelder gegen Anwender sind bis Mitte Oktober 2026 keine bekannt, kursierende Meldungen über erste Millionenstrafen stammen aus Blogs ohne Primärquelle und sind unbelegt.

  • Chatbots: Klar als KI erkennbar machen. Kein Mensch-Vortäuschen.
  • Bilder, Video, Audio: Wenn realistisch erzeugt oder verändert: sichtbar kennzeichnen. Große Anbieter betten inzwischen C2PA-Content-Credentials und unsichtbare Wasserzeichen (etwa SynthID) ein. Die Leitlinien verlangen aber ausdrücklich eine für Menschen wahrnehmbare Kennzeichnung, nicht nur maschinenlesbare Metadaten, denn solche gehen beim Bearbeiten, bei Screenshots und beim Hochladen auf Plattformen verloren, die Dateien neu kodieren.
  • Wer kennzeichnet was: Art. 50 Abs. 2 verpflichtet die Anbieter zur maschinenlesbaren Markierung, Art. 50 Abs. 4 dich als Anwender zur für Menschen wahrnehmbaren Offenlegung. Verlass dich nicht darauf, dass das Tool das schon erledigt: bei Text markieren Claude und Gemini inzwischen maschinenlesbar, ChatGPT seit Oktober 2026 schrittweise für Nutzer in der EU (über die API nur, wenn es eingeschaltet wird). Solche unsichtbaren Text-Wasserzeichen kann bislang kaum jemand selbst prüfen, und schon leichtes Umformulieren schwächt sie. Die sichtbare Kennzeichnung bleibt in jedem Fall deine Aufgabe.
  • Texte zu Themen von öffentlichem Interesse: Kennzeichnen, wenn nicht redaktionell geprüfte und verantwortete Texte.
  • Empfehlung: Im Zweifel transparent sein. „Inhalt mit KI-Unterstützung erstellt." schadet nie und schafft Vertrauen.
4

Die wichtigsten Do's und Don'ts

DO
  • Nur freigegebene Tools nutzen. Neues Tool? Erst freigeben lassen.
  • Bei Unsicherheit eine Stufe strenger als die Ampel vorschlägt.
  • Prompts aufbewahren bei kritischen Workflows (Audit-Spur).
  • KI-Outputs nach außen kennzeichnen, wenn nicht redaktionell verantwortet.
  • Mensch im Loop bei Entscheidungen, die andere Menschen betreffen.
  • Team schulen: KI-Kompetenz aktiv fördern und die Schulungen dokumentieren (Art. 4 EU AI Act, seit 2. August 2026 behördlich durchsetzbar).
  • Fragen statt mutmaßen: Champion, DSB, IT, Legal sind dafür da.
DON'T
  • Keine Kundendaten in öffentliche Free-Tools (ChatGPT, Claude, Gemini Free).
  • Keine Gesundheits-, Bewerbungs- oder Personaldaten in nicht-freigegebene KI.
  • Keine vollautomatischen Entscheidungen über Bewerber, Kunden, Mitarbeitende (Art. 22 DSGVO: die niederländische Aufsicht verhängte dafür im Oktober 2026 rund 825 Mio. Euro gegen Uber, noch nicht rechtskräftig).
  • Keine urheberrechtlich geschützten Werke in KI laden ohne Rechte.
  • Keine Shadow-AI: Tools heimlich nutzen und Ergebnisse einreichen.
  • Keine blinden Outputs übernehmen, auch nicht „weil es schnell gehen muss".
  • Kein Kennzeichnungs-Verzicht, weil „fällt schon nicht auf".
5

Wann eskalieren und an wen?

Seit dem 29. Juli 2026 ist die Bundesnetzagentur die zentrale deutsche Marktaufsicht für die KI-Verordnung, mit eigener Beschwerdestelle. Die EU betreibt seit dem 2. August 2026 zusätzlich ein Beschwerde- und ein Hinweisgeber-Tool, über das auch Mitarbeitende und Wettbewerber anonym melden können. Intern zu eskalieren ist deshalb nicht nur guter Stil, sondern der Weg, ein Problem zu klären, bevor es extern landet.

Eskalieren bei …

  • Verdacht auf Datenschutz-Vorfall (Daten in falscher KI gelandet).
  • Neuem Use Case mit kundenbezogenen oder sensiblen Daten.
  • Output mit großer Außenwirkung (Presse, Kunde, Behörde).
  • Verdacht auf Diskriminierung oder unfaire Bias-Effekte.
  • Unsicherheit über Datenklasse oder Tool-Eignung.
  • Verdacht auf verbotene Praxis (EU AI Act Art. 5).

An wen?

  • KI-Champion im Team: erste Anlaufstelle.
  • AI Manager / AI Project Manager: für Tool-Freigaben, Use-Case-Bewertung.
  • Datenschutzbeauftragte:r (DSB): bei personenbezogenen Daten.
  • IT / Security: bei technischen Auffälligkeiten oder Datenabflussverdacht.
  • Legal: bei Urheberrecht, Lizenzfragen, Vertragsthemen.
  • Geschäftsführung: bei Vorfällen mit Reputations- oder Compliance-Risiko.
6

Mini-Checkliste vor dem Senden

Ich gebe nichts raus, bevor ich nicht haken kann:

  • Tool ist freigegeben und passend zur Datenklasse (Ampel)
  • Keine personenbezogenen, kundenbezogenen oder sensiblen Daten in öffentlicher KI
  • Output auf Fakten, Quellen, Zahlen, Zitate geprüft
  • Bias-Check gemacht, würde ich das selbst so unterschreiben?
  • Bei Außenwirkung: zweite Person hat drüber geschaut
  • Wenn extern sichtbar: KI-Beteiligung kenntlich gemacht (Art. 50)
  • Bei kritischem Workflow: Prompt und Quelle dokumentiert
  • Bei Unsicherheit: Champion / DSB / Legal kontaktiert statt geraten