Das neue Gesetz zielt darauf ab, die Entwicklung und Einführung sicherer und vertrauenswürdiger KI-Systeme im gesamten EU-Binnenmarkt sowohl durch private als auch öffentliche Akteure zu fördern. Gleichzeitig sollen die Achtung der Grundrechte der EU-Bürger sichergestellt und Investitionen und Innovationen im Bereich der künstlichen Intelligenz in Europa gefördert werden. Das KI-Gesetz gilt nur für Bereiche des EU-Rechts und sieht Ausnahmen etwa für Systeme vor, die ausschließlich für Militär- und Verteidigungszwecke sowie für Forschungszwecke genutzt werden.
Einstufung von KI-Systemen als risikoreiche und verbotene KI-Praktiken
Das KI-Gesetz kategorisiert verschiedene Arten künstlicher Intelligenz nach Risiko. KI-Systeme, die nur ein begrenztes Risiko darstellen, würden sehr geringen Transparenzpflichten unterliegen, während KI-Systeme mit hohem Risiko zugelassen würden, aber einer Reihe von Anforderungen und Verpflichtungen unterliegen würden, um Zugang zum EU-Markt zu erhalten. KI-Systeme wie beispielsweise kognitive Verhaltensmanipulation und Social Scoring werden aus der EU verbannt, da ihr Risiko als inakzeptabel gilt. Das Gesetz verbietet auch den Einsatz von KI für vorausschauende Polizeiarbeit auf der Grundlage von Profilen und Systemen, die biometrische Daten verwenden, um Menschen nach bestimmten Kategorien wie Rasse, Religion oder sexueller Orientierung zu kategorisieren.
Allzweck-KI-Modelle
Das KI-Gesetz befasst sich auch mit der Verwendung von GPAI-Modellen (Allzweck-KI). GPAI-Modelle, die keine systemischen Risiken bergen, unterliegen einigen begrenzten Anforderungen, beispielsweise hinsichtlich der Transparenz, wohingegen Modelle mit systemischen Risiken strengere Regeln einhalten müssen.
Strafen
Die Bußgelder für Verstöße gegen das KI-Gesetz werden als Prozentsatz des weltweiten Jahresumsatzes des betreffenden Unternehmens im vorangegangenen Geschäftsjahr oder als vorher festgelegter Betrag festgesetzt, je nachdem, welcher Betrag höher ist. Gegen KMU und Start-ups drohen verhältnismäßige Bußgelder.
Transparenz und Schutz der Grundrechte
Bevor einige Unternehmen, die öffentliche Dienstleistungen erbringen, ein KI-System mit hohem Risiko einsetzen, müssen die Auswirkungen auf die Grundrechte bewertet werden. Die Verordnung sorgt außerdem für mehr Transparenz bei der Entwicklung und Nutzung risikoreicher KI-Systeme. Hochrisiko-KI-Systeme sowie bestimmte Nutzer eines Hochrisiko-KI-Systems, bei denen es sich um öffentliche Einrichtungen handelt, müssen in der EU-Datenbank für Hochrisiko-KI-Systeme registriert werden, und Nutzer eines Emotionserkennungssystems müssen dies natürlich mitteilen, wenn sie einem solchen System ausgesetzt sind.
Maßnahmen zur Unterstützung von Innovationen
Das KI-Gesetz sorgt für einen innovationsfreundlichen Rechtsrahmen und soll evidenzbasiertes Regulierungslernen fördern. Das neue Gesetz sieht vor, dass KI-Regulierungssandboxen, die eine kontrollierte Umgebung für die Entwicklung, Prüfung und Validierung innovativer KI-Systeme ermöglichen, auch das Testen innovativer KI-Systeme unter realen Bedingungen ermöglichen sollen.
