Wir möchten Ihnen einen kurzen Überblick über den EU AI Act – die sogenannte KI-Verordnung (KI-VO) – und deren Bedeutung für Ihre Organisation geben.

Mit der 2024 verabschiedeten KI-VO wurde ein verbindlicher Rechtsrahmen geschaffen, der den sicheren und transparenten Einsatz von Künstlicher Intelligenz (KI) innerhalb der EU regelt. Ein besonderer Schwerpunkt liegt dabei auf dem Schutz personenbezogener Daten. Unternehmen mit Sitz in Deutschland sind verpflichtet, diese Vorgaben einzuhalten und sicherzustellen, dass selbst einfache KI-Anwendungen im Einklang mit den gesetzlichen Anforderungen betrieben werden.

Wichtige Punkte im Überblick:

Risikoklassifizierung von KI-Systemen

Einfache Tools wie ChatGPT, CoPilot gelten als niedriges Risiko. Kommt KI jedoch in sensiblen Bereichen wie der Personalentscheidung, Kreditvergabe oder automatisierten Bewertungen zum Einsatz, kann sie als Hochrisiko-System eingestuft werden.

In solchen Fällen gelten erweiterte Anforderungen:

• Dokumentationspflichten
• Risikoanalysen
• Menschliche Überwachung

Transparenzpflichten

Personen, ob Mitarbeitende oder Mitglieder, müssen darüber informiert werden, wenn sie mit einem KI-System interagieren.
Dies gilt auch für interne Tools, deren Ergebnisse von KI erzeugt oder beeinflusst wurden.

DSGVO-Konformität
Die Datenschutz-Grundverordnung (DSGVO) bleibt uneingeschränkt gültig:

• Keine Verarbeitung sensibler Daten (z. B. Gesundheitsdaten) durch KI.
• Klare Zuständigkeiten bei Datenerhebung, -speicherung und -verwendung.
• Transparenz gegenüber betroffenen Personen ist verpflichtend.

Verantwortung & Bewusstsein

Alle Teams, die KI einsetzen oder künftig einsetzen möchten, müssen sich mit den geltenden rechtlichen Anforderungen vertraut machen.

Falls Sie Fragen zur Implementierung von KI-Tools in Ihrem Unternehmen haben oder Ihre Mitarbeitenden im korrekten Umgang mit Künstlicher Intelligenz schulen möchten, kontaktieren Sie uns gerne unter datenschutz@domusconsult.de.