KI-Verordnung

Mit der KI-Verordnung möchte die Europäische Union einheitliche Vorgaben zum Einsatz von Systemen der Künstlichen Intelligenz schaffen. Sie verfolgt dabei einen risikoorientierten Ansatz, der, je nach Risikohöhe, verschiedene Anforderungen an diejenigen stellt, die diese KI-Systeme entwickeln und auf den Markt bringen und an diejenigen, die diese einsetzen. Bei der Prüfung, welche Anforderungen zur Entwicklung und zum Einsatz von Systemen der Künstlichen Intelligenz bestehen, steht daher die Risikoeinstufung an erster Stelle.

Die höchste Risikostufe („Inakzeptabel“) etwa verbietet den Einsatz von KI für die Analyse sozialen Verhaltens. Hochrisiko-Anwendungen, etwa im Bereich der Sozialhilfe, verlangen u. a. nach einem umfassenden Risikomanagementsystem.

Dabei hat KI auch unmittelbare Auswirkungen auf die Informationssicherheit (siehe die Lektion Künstliche Intelligenz). Mit ihrer Hilfe können zum einen automatisiert Sicherheitslücken aufgespürt, aber auch ausgenutzt werden. Zum anderen kann auch die Abwehr von Angriffen auf IT-Systeme KI-gestützt erfolgen.

In Deutschland wurden Anpassungen des nationalen Rechts, etwa die Bestimmung der Bundesnetzagentur zur Marktüberwachungsbehörde, Anlaufstelle und Beschwerdestelle für die KI-Verordnung, durch das „KI-Marktüberwachungs- und Innovationsförderungsgesetz“ vorgenommen.