Die EU-KI-Verordnung definiert bestimmte KI-Anwendungen als Hochrisiko-Systeme, die besonderen Anforderungen unterliegen. Hochrisiko-KI-Systeme haben das Potenzial, signifikante Auswirkungen auf die Grundrechte von Personen zu haben. Daher sind strenge Regeln notwendig, um die Sicherheit und Fairness im Einsatz solcher Systeme sicherzustellen. In diesem Artikel erfährst du, was Hochrisiko-KI-Systeme sind und welche Anforderungen sie erfüllen müssen.
Zentrale Punkte zu Hochrisiko-KI-Systemen
1. Definition und Beispiele von Hochrisiko-KI-Systemen
Hochrisiko-KI-Systeme sind Anwendungen, die Einfluss auf das Leben und die Rechte von Menschen haben können. Beispiele hierfür sind KI-Systeme im Gesundheitswesen, die medizinische Diagnosen unterstützen, oder KI-Anwendungen im Bildungsbereich, die über die Zukunft von Schüler*innen entscheiden können. Auch Systeme im Justizwesen, die etwa bei der Strafzumessung unterstützen, gelten als Hochrisiko.
2. Verpflichtende Konformitätsbewertung
Bevor ein Hochrisiko-KI-System eingesetzt werden darf, muss es eine umfassende Konformitätsbewertung durchlaufen. Diese Bewertung stellt sicher, dass das System den Anforderungen der KI-Verordnung entspricht und keine unvertretbaren Risiken für die Betroffenen darstellt. Unternehmen sollten frühzeitig sicherstellen, dass ihre Systeme diese Bewertung bestehen, um rechtliche Probleme zu vermeiden.
3. Anforderungen an Datenqualität und Dokumentation
Die Qualität der Daten, die zur Entwicklung und zum Training von Hochrisiko-KI-Systemen verwendet werden, ist von entscheidender Bedeutung. Es müssen Maßnahmen ergriffen werden, um sicherzustellen, dass die verwendeten Daten repräsentativ und frei von Verzerrungen sind. Außerdem sind Unternehmen verpflichtet, umfassende Dokumentationen zu führen, damit nachvollziehbar ist, wie das System entwickelt und trainiert wurde.
4. Menschliche Aufsicht und Überwachung
Ein weiterer zentraler Punkt bei Hochrisiko-KI-Systemen ist die menschliche Aufsicht. Diese Systeme müssen so gestaltet sein, dass Menschen weiterhin die Kontrolle behalten und bei Bedarf eingreifen können. Dies ist besonders wichtig, um sicherzustellen, dass die Systeme fair und im Interesse der betroffenen Personen arbeiten.
Unternehmen müssen frühzeitig handeln
Unternehmen, die Hochrisiko-KI-Systeme entwickeln oder einsetzen, sollten frühzeitig prüfen, ob ihre Anwendungen in diese Kategorie fallen. Die Einhaltung der Anforderungen der KI-Verordnung ist unerlässlich, um rechtliche Konsequenzen zu vermeiden und das Vertrauen der Nutzer*innen zu sichern. Eine frühzeitige Planung und Bewertung der eingesetzten Systeme hilft, Risiken zu minimieren und sicherzustellen, dass alle gesetzlichen Vorgaben erfüllt werden.
Entdecke die Besonderheiten und Herausforderungen von „Generativer KI“ in unserem nächsten Artikel.