02.08.2024

Meldung, Wirtschaftsrecht

KI-Gesetz tritt in Kraft

Am 01.08.2024 ist der AI Act der EU in Kraft getreten. Mit dem KI-Gesetz soll sichergestellt werden, dass die in der EU entwickelte und eingesetzte KI vertrauenswürdig ist und die Grundrechte der Menschen geschützt werden.

Beitrag mit Bild

pitinan/123.rf.com

Die weltweit erste umfassende Verordnung über künstliche Intelligenz, das europäische Gesetz über die künstliche Intelligenz (KI-Gesetz), ist in Kraft getreten. Die meisten Vorschriften des KI-Gesetzes gelten ab dem 02.08.2026. Mit dem KI-Gesetz wird eine zukunftsorientierte Definition von KI eingeführt, sie beruht auf einem produktsicherheits- und risikobasierten Ansatz in der EU:

Minimales Risiko:

Die meisten KI-Systeme, wie z. B. KI-gestützte Empfehlungssysteme und Spam-Filter, fallen in diese Kategorie. Für diese Systeme gelten aufgrund ihres minimalen Risikos für die Rechte und die Sicherheit der Bürger keine Verpflichtungen im Rahmen des KI-Gesetzes. Unternehmen können auf freiwilliger Basis zusätzliche Verhaltenskodizes annehmen.

Spezifisches Transparenzrisiko:

KI-Systeme wie Chatbots müssen den Nutzern klar zu verstehen geben, dass sie mit einer Maschine interagieren. Bestimmte KI-generierte Inhalte (einschließlich Deep Fakes) müssen als solche gekennzeichnet werden. Die Nutzer müssen informiert werden, wenn biometrische Kategorisierungs- oder Emotionserkennungssysteme verwendet werden. Darüber hinaus müssen die Anbieter ihre Systeme so gestalten, dass synthetische Audio-, Video-, Text- und Bildinhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkannt werden können.

Hohes Risiko:

KI-Systeme, die als hochriskant eingestuft werden, müssen strenge Anforderungen erfüllen. Dazu gehören Systeme zur Risikominderung, eine hohe Qualität der Datensätze, die Protokollierung von Aktivitäten, eine ausführliche Dokumentation, klare Benutzerinformationen, menschliche Aufsicht und ein hohes Maß an Robustheit, Genauigkeit und Cybersicherheit. Regulatorische Sandkästen werden verantwortungsvolle Innovationen und die Entwicklung konformer KI-Systeme erleichtern. Zu solchen risikoreichen KI-Systemen gehören beispielsweise KI-Systeme, die bei der Personalauswahl eingesetzt werden, um zu beurteilen, ob jemand einen Anspruch auf einen Kredit hat, oder um autonome Roboter zu betreiben.

Unannehmbares Risiko:

KI-Systeme, die eine eindeutige Bedrohung für die Grundrechte von Menschen darstellen, werden verboten. Dazu gehören KI-Systeme oder -Anwendungen, die das menschliche Verhalten manipulieren, um den freien Willen der Nutzerinnen und Nutzer zu umgehen, wie z. B. Spielzeug, das Minderjährige durch Sprachsteuerung zu gefährlichem Verhalten anregt, Systeme, die eine „soziale Bewertung“ durch Regierungen oder Unternehmen ermöglichen, und bestimmte Anwendungen der vorausschauenden Polizeiarbeit (predictive policing). Darüber hinaus werden einige Anwendungen biometrischer Systeme verboten, z. B. Systeme zur Erkennung von Emotionen am Arbeitsplatz und einige Systeme zur Kategorisierung von Personen oder zur biometrischen Fernidentifizierung in Echtzeit zu Strafverfolgungszwecken in öffentlich zugänglichen Räumen (mit engen Ausnahmen).

KI-Modelle für allgemeine Zwecke

Ergänzend zu diesem System führt das KI-Gesetz auch Vorschriften für sog. KI-Modelle für allgemeine Zwecke ein. Dabei handelt es sich um hochgradig leistungsfähige KI-Modelle, die für eine Vielzahl von Aufgaben ausgelegt sind – etwa das Erstellen von Texten, die sich lesen, als hätten Menschen sie geschrieben. KI-Modelle für allgemeine Zwecke werden zunehmend als Komponenten von KI-Anwendungen eingesetzt. Das KI-Gesetz wird für Transparenz entlang der Wertschöpfungskette sorgen und sich mit möglichen systemischen Risiken der leistungsfähigsten Modelle befassen.

Anwendung und Durchsetzung der KI-Vorschriften

Die Mitgliedstaaten haben bis zum 02.08.2025 Zeit, die zuständigen nationalen Behörden zu benennen, die die Anwendung der Vorschriften für KI-Systeme überwachen und Marktüberwachungsmaßnahmen durchführen werden. Das Amt für Künstliche Intelligenz der Kommission (AI Office) wird die wichtigste Stelle für die Umsetzung des KI-Gesetzes auf EU-Ebene sowie für die Durchsetzung der Vorschriften für KI-Modelle für allgemeine Zwecke sein.

Verstoß gegen die Vorschriften kann hohe Geldbußen nach sich ziehen

Unternehmen, die sich nicht an die Vorschriften halten, müssen mit Geldstrafen rechnen. Die Bußgelder können bis zu 7 % des weltweiten Jahresumsatzes für Verstöße gegen das Verbot von KI-Anwendungen, bis zu 3 % für Verstöße gegen andere Verpflichtungen und bis zu 1,5 % für die Angabe falscher Informationen betragen.

Nächste Schritte

Die meisten Vorschriften des KI-Gesetzes werden ab dem 02.08.2026 gelten. Verbote von KI-Systemen, die ein unannehmbares Risiko darstellen, werden jedoch bereits nach sechs Monaten, die Regeln für sog. Allzweck-KI-Modelle nach 12 Monaten gelten.

KI-Pakt

Um die Übergangszeit bis zur vollständigen Umsetzung zu überbrücken, hat die Kommission den KI-Pakt ins Leben gerufen. Mit dieser Initiative werden KI-Entwickler aufgefordert, die wichtigsten Verpflichtungen des KI-Gesetzes bereits vor Ablauf der gesetzlichen Fristen freiwillig zu übernehmen.

KI-Leitlinien

Die Kommission entwickelt außerdem Leitlinien, um zu definieren und zu präzisieren, wie das KI-Gesetz umgesetzt werden sollte, und um Koregulierungsinstrumente wie Standards und Verhaltenskodizes zu erleichtern. Die Kommission hat einen Aufruf zur Interessenbekundung für die Teilnahme an der Ausarbeitung des ersten allgemeinen KI-Verhaltenskodexes sowie eine Konsultation mehrerer Interessengruppen gestartet, um allen Beteiligten die Möglichkeit zu geben, zum ersten Verhaltenskodex im Rahmen des KI-Gesetzes Stellung zu nehmen.


EU-Kommission vom 01.08.2024 / RES JURA Redaktionsbüro

Weitere Meldungen


Meldung

©dekanaryas/fotolia.com


31.07.2025

BFH: Billigkeitsverfahren vor dem EuGH

Der BFH fragt den EuGH, ob der gute Glaube des Steuerpflichtigen schon im Steuerfestsetzungsverfahren geschützt werden muss und nicht erst später im Billigkeitsverfahren.

weiterlesen
BFH: Billigkeitsverfahren vor dem EuGH

Meldung

adiruch/123rf.com


31.07.2025

CSRD-Umsetzung: Vielfalt statt Monopol im Prüfwesen

Der AKBR plädiert für mehr Prüfervielfalt, eine verhältnismäßige Umsetzung der CSRD und eine Entschlackung der ESRS.

weiterlesen
CSRD-Umsetzung: Vielfalt statt Monopol im Prüfwesen

Meldung

©your123/fotolia.com


30.07.2025

Cybersicherheit: Regierung bringt NIS2-Umsetzung auf den Weg

Die NIS2-Richtlinie bietet eine große Chance für mehr Cybersicherheit in der EU; allerdings braucht es ein klares, einheitliches Gesetz ohne Ausnahmen für staatliche Stellen.

weiterlesen
Cybersicherheit: Regierung bringt NIS2-Umsetzung auf den Weg

Haben wir Ihr Interesse für DER BETRIEB geweckt?

Sichern Sie sich das DER BETRIEB Gratis Paket: 4 Hefte + Datenbank