Künstliche Intelligenz ist in vielen Unternehmen längst Realität, auch dort, wo sie offiziell noch gar nicht eingeführt wurde. Mitarbeitende nutzen ChatGPT für Textentwürfe, Copilot für die E-Mail-Zusammenfassung oder KI-gestützte Übersetzungstools für Kundenkommunikation. Das ist schnell, praktisch, kostenlos.
Was dabei fehlt ist ein strukturierter Rahmen. Denn solange Unternehmen keinen geregelten Umgang mit KI definieren, entscheiden Mitarbeitende das selbst und die rechtlichen und datenschutzrechtlichen Konsequenzen trägt am Ende das Unternehmen.
Der AI Act ist kein Zukunftsthema mehr
Seit dem 1. August 2024 ist der EU AI Act in Kraft, die weltweit erste umfassende gesetzliche Regelung für den Einsatz von Künstlicher Intelligenz. Die Verordnung klassifiziert KI-Systeme nach Risikoklassen und legt fest, welche Anforderungen Unternehmen je nach Einsatzszenario erfüllen müssen.
Artikel 4 des AI Act verpflichtet Unternehmen ausdrücklich dazu, sicherzustellen, dass ihre Mitarbeitenden über ein ausreichendes Maß an KI-Kompetenz verfügen. Gemeint ist damit nicht, dass jeder Mitarbeitende KI programmieren können muss. Gemeint ist ein grundlegendes Verständnis dafür, wie KI-Systeme funktionieren, wo ihre Grenzen liegen und welche Risiken mit ihrer Nutzung verbunden sind.
Wer als Unternehmen KI einsetzt und diesen Nachweis nicht erbringen kann, handelt nicht gesetzeskonform. Eine dokumentierte Schulung ist dabei kein Nice-to-have, sondern ein konkreter Beleg gegenüber Aufsichtsbehörden.
Auch die DSGVO stellt klare Anforderungen
Der AI Act ist nicht das einzige Regelwerk, das KI-Kompetenz im Unternehmen einfordert. Auch aus datenschutzrechtlicher Sicht ist fehlendes Grundwissen ein ernstes Problem, welches folgeschwere Schäden nach sich ziehen kann.
Wer KI-Tools nutzt, verarbeitet häufig und oft, ohne es zu merken, personenbezogene Daten. Ob Kundendaten in einem Chatbot-Prompt, Mitarbeiterdaten in einem KI-gestützten HR-Tool oder E-Mail-Inhalte in einem Schreibassistenten: Die DSGVO gilt in all diesen Fällen uneingeschränkt. Das Problem verschärft sich also durch eine sogenannte Schatten-KI: Mitarbeitende greifen eigenständig auf kostenlose KI-Dienste zurück, die der IT oder Geschäftsführung gar nicht bekannt sind. Viele dieser Angebote, insbesondere aus Drittstaaten, verarbeiten eingegebene Daten auf Servern außerhalb der EU und damit ohne angemessene Datenschutzgarantien.
Unternehmen müssen deshalb klar definieren, welche KI-Tools überhaupt genutzt werden dürfen und vor allem auch unter welchen Bedingungen. Denn nicht jedes Tool ist für jeden Anwendungsfall geeignet: Der Einsatz eines KI-Assistenten für allgemeine Rechercheaufgaben ist etwas anderes als die Verarbeitung von Kundendaten, Bewerbungsunterlagen oder internen Finanzzahlen. Diese Unterscheidung muss das Unternehmen treffen, nicht der einzelne Mitarbeitende.
Was passiert, wenn Unternehmen nichts tun?
Die Risiken sind konkret:
– Datenschutzverletzungen durch unbeabsichtigte Weitergabe personenbezogener Daten an KI-Dienste mit Meldepflicht nach Art. 33 DSGVO
– Bußgelder bei nachgewiesenem Verstoß gegen die DSGVO oder den Anforderungen des AI Acts
– Haftungsrisiken, wenn durch fehlerhafte KI-Nutzung Schäden bei Kunden oder Geschäftspartnern entstehen
– Reputationsschäden, die im Ernstfall schwerer wiegen als die eigentliche Sanktion
Aufsichtsbehörden schauen zunehmend genauer hin. Der AI Act schafft dabei neue Zuständigkeiten und Kontrollmechanismen, die in den kommenden Jahren schrittweise greifen werden.
Was Unternehmen jetzt tun sollten
Der erste und wichtigste Schritt ist, Bewusstsein zu schaffen. Mitarbeitende müssen verstehen, was KI ist, wie sie im Unternehmenskontext eingesetzt werden darf und wo die Grenzen liegen. Das setzt keine technische Ausbildung voraus, aber eine strukturierte Grundlage, die geschaffen werden muss.
Drei Schritte helfen dabei, das Thema KI im Unternehmen auf eine sichere Grundlage zu stellen:
- Bestandsaufnahme: Welche KI-Tools werden im Unternehmen bereits genutzt, offiziell und inoffiziell?
- Interne Regeln definieren: Welche Tools sind erlaubt, für welche Zwecke, und was ist ausdrücklich untersagt?
- Mitarbeitende schulen: Nachweisbar, dokumentiert und praxisnah.
Für unsere Datenschutzkunden unterstützen wir dabei mit konkreten Arbeitsmitteln:
| Schritt | Was wir anbieten |
| Bestandsaufnahme | KI-Checkliste zur Tool-Bewertung |
| Interne Regeln | KI-Nutzungsrichtlinie |
| Dokumentation | KI-Register |
| Schulung | KI-Grundlagenschulung |
Unsere KI-Grundlagenschulung: flexibel, dokumentiert, rechtssicher
Für Unternehmen, die ihre Mitarbeitenden gezielt schulen möchten, bieten wir eine praxisnahe Online-Schulung über unser Schulungsportal an. Verständlich, ohne unnötigen Fachjargon und direkt auf den Unternehmensalltag ausgerichtet.
Inhalte der Schulung:
- Grundlagen der Künstlichen Intelligenz: was KI kann und was nicht
- KI im Alltag und im Unternehmen: von Prompts bis Halluzinationen
- Rechtlicher Rahmen: AI Act, DSGVO und interne Freigaben im Überblick
- DSGVO und KI: worauf Mitarbeitende im Alltag konkret achten müssen
- Praktische Dos & Don’ts für den sicheren Umgang mit KI-Tools
Der entscheidende Vorteil: kein Organisationsaufwand.
Die Schulung wird über unser Schulungsportal direkt an die Mitarbeitenden verteilt. Jeder absolviert sie eigenständig, flexibel im eigenen Alltag, innerhalb von vier Wochen. Es muss kein gemeinsamer Termin gefunden, keine Räumlichkeit organisiert und niemand vom Tagesgeschäft abgezogen werden.
Am Ende der Schulung steht ein Multiple-Choice-Test als Lernerfolgskontrolle. Wer die Schulung abgeschlossen hat, wird automatisch im System erfasst. Sie haben jederzeit die Möglichkeit einzusehen, welche Mitarbeitenden die Schulung absolviert haben oder wo nochmal nachgefasst werden muss. Das Schulungsportal bietet jederzeit den Nachweis, welche Mitarbeitenden geschult wurden. Also genau das, was Aufsichtsbehörden im Zweifelsfall sehen wollen.
Die Schulung ist als Einzelleistung buchbar, sowohl für Bestandskunden als auch für Unternehmen, die bislang noch nicht mit uns zusammengearbeitet haben.
Bei Interesse sprechen Sie uns gerne an. Wir stimmen alles Weitere individuell mit Ihnen ab.