KI und Datenschutz – rechtssichere Künstliche Intelligenz in Deutschland

Hochrisiko-KI-Systeme sind in Art. 6 und Anhang III des AI Act definiert und umfassen KI-Anwendungen in kritischen Bereichen wie Gesundheitswesen, Bildung, Strafverfolgung, Personalwesen und kritischen Infrastrukturen. Diese Systeme unterliegen strengen Konformitätspflichten, benötigen CE-Kennzeichnungen und müssen umfassende Risikomanagement-Systeme – z.B. auf Basis von ISO 42001 – implementieren. Die Klassifizierung hängt vom Verwendungszweck und nicht von der verwendeten Technologie ab. Wir führen Audits zur Einhaltung der AIC4-Kriterien des BSI durch und unterstützen Sie bei der Risikoklassifizierung. Entscheidend ist dabei, ob das KI-System in einem der aufgelisteten Bereiche eingesetzt wird und potenziell erhebliche Auswirkungen auf die Sicherheit oder Grundrechte von Personen haben kann.

Eine Datenschutz-Folgenabschätzung ist erforderlich, wenn die KI-Nutzung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen mit sich bringt. Bei der geschäftlichen Nutzung von ChatGPT mit personenbezogenen Daten ist eine DSFA meist notwendig, da eine umfangreiche automatisierte Verarbeitung stattfindet. Wir erstellen maßgeschneiderte Datenschutz-Folgenabschätzungen und beraten zu technischen und organisatorischen Maßnahmen (TOMs). Faktoren wie Datenkategorien, Verarbeitungsumfang und mögliche Auswirkungen auf Betroffene bestimmen die DSFA-Pflicht. Besonders kritisch ist die Verarbeitung sensibler Daten oder die Verwendung für Profiling-Zwecke, da hier erhebliche Risiken für die Betroffenen entstehen können.

Datenschutzkonforme KI-Entwicklung erfordert „Privacy by Design“ von Beginn an. Trainingsdaten müssen rechtmäßig erhoben, pseudonymisiert oder anonymisiert und zweckgebunden verwendet werden. In Kooperation mit qurix Technology GmbH entwickeln wir KI-gesteuerte Datenstrategien, die Differential Privacy, Federated Learning und synthetische Daten nutzen. Unsere KI-Penetrationstests decken Schwachstellen auf und fördern sichere KI-Trainingsverfahren. Zusätzlich müssen Unternehmen sicherstellen, dass die verwendeten Trainingsdaten frei von Bias sind und keine diskriminierenden Muster enthalten. Unsere Best Practices umfassen kontinuierliche Bias-Erkennung und faire KI-Algorithmen.

Bei DSGVO-Verstößen drohen Bußgelder von bis zu 20 Millionen Euro oder 4% des weltweiten Jahresumsatzes. Der AI Act sieht sogar höhere Strafen vor: Bis zu 35 Millionen Euro oder 7% des Jahresumsatzes können bei schweren Verstößen fällig werden. Zusätzlich können Schadenersatzforderungen, Betriebsuntersagungen und Reputationsschäden entstehen. Die Aufsichtsbehörden können auch die Markteinführung von KI-Systemen untersagen oder bereits eingesetzte Systeme vom Markt nehmen. Als Mitglied des EU KI-Pakts kennen wir die aktuellen Entwicklungen und helfen Ihnen, Risiken frühzeitig zu erkennen. Unsere präventive Compliance-Beratung und regelmäßige Schulungen für Ihre Mitarbeitenden minimieren die genannten Risiken erheblich und schaffen rechtssichere KI-Implementierungen.