Am 1. August trat in der gesamten EU das Gesetz über künstliche Intelligenz in Kraft. Es legt strenge Regeln für den Einsatz von KI zur Gesichtserkennung fest, schafft Sicherheitsvorkehrungen für allgemeine KI-Systeme und schützt die Rechte der Verbraucher, Beschwerden einzureichen und aussagekräftige Erklärungen zu Entscheidungen zu verlangen, die mit risikoreichen KI-Systemen getroffen wurden und die Rechte der Bürger berühren.

Was das neue KI-Gesetz bedeutet

Die KI-Verordnung der EU zielt darauf ab, die sichere und ethische Nutzung von KI zu gewährleisten und umfasst neue Transparenzanforderungen für Entwickler von KI-Modellen wie ChatGPT und Co. Das Europäische Parlament hat das Gesetz am 13. März 2024 verabschiedet, nachdem die Mitgliedstaaten im Dezember 2023 eine Einigung erzielt hatten.

Die Verordnung wurde am 12. Juli 2024 im Amtsblatt der Europäischen Union veröffentlicht und trat offiziell am 1. August in Kraft. Verschiedene Bestimmungen werden jedoch in Phasen angewendet:

• Verbote bestimmter Praktiken, inklusive der Nutzung von KI-Systemen, die ein unvertretbares Risiko darstellen, gelten sechs Monate nach Inkrafttreten.
• Regeln für allgemeine KI, einschließlich Governance- und Transparenzanforderungen, gelten 12 Monate nach Inkrafttreten.
• Verpflichtungen für von der Kommission als hochriskant eingestufte KI-Systeme wollen 24 Monate nach Inkrafttreten erfüllt sein.
• Verpflichtungen für hochriskante Systeme, die unter bestehende EU-Gesundheits- und Sicherheitsvorschriften fallen, sollen 36 Monate nach Inkrafttreten gelten.

Was ist der KI-Act?

Der KI-Act ist eine EU-weite Gesetzgebung, die darauf abzielt, Sicherheitsvorkehrungen für die Nutzung von KI in Europa zu schaffen und gleichzeitig sicherzustellen, dass europäische Unternehmen von der sich schnell entwickelnden Technologie profitieren können. Die Gesetzgebung verfolgt einen risikobasierten Ansatz, der KI-Systeme nach ihrem wahrgenommenen Risiko und ihrer Auswirkung auf die Bürger kategorisiert.

Folgende Anwendungsfälle sind unter dem KI-Act verboten:

• Biometrische Kategorisierungssysteme, die sensible Merkmale verwenden (z.B. politische, religiöse, philosophische Überzeugungen, sexuelle Orientierung, Rasse).
• Systematische Entfernung von Gesichtsaufnahmen aus dem Internet oder CCTV-Material zur Erstellung von Gesichtserkennungsdatenbanken.
• Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen.
• Bewertung basierend auf sozialem Verhalten oder persönlichen Merkmalen.
• KI-Systeme, die menschliches Verhalten manipulieren, um den freien Willen zu umgehen.
• KI, die die Schwächen von Menschen aufgrund ihres Alters, ihrer Behinderung, ihrer sozialen oder wirtschaftlichen Situation ausnutzt.

Strafen für Verstöße gegen den KI-Act

Unternehmen, die gegen die Gesetzgebung verstoßen, drohen Geldstrafen von 35 Millionen Euro (38 Millionen USD) oder 7% des weltweiten Umsatzes bis zu 7,5 Millionen Euro (8,1 Millionen USD) oder 1,5% des Umsatzes, abhängig von der Art des Verstoßes und der Größe des Unternehmens.

Anforderungen an Unternehmen

Die Branche empfiehlt unverbindlich Unternehmen folgende Maßnahmen zur Einhaltung der neuen Gesetzgebung:

• Erstellung eines Inventars der intern eingesetzten und von Drittanbietern bereitgestellten KI-Systeme.
• Implementierung oder Aktualisierung eines Governance-Rahmens mit Input aus verschiedenen Geschäftsbereichen, um die Einhaltung der neuesten regulatorischen Standards sicherzustellen.
• Identifizierung und Aktualisierung bestehender Risikomanagementverfahren mit potenziellen Risiken im Zusammenhang mit KI-Systemen.
• Bewertung der geografischen Nutzung von KI im Unternehmen und Identifizierung der relevanten Standards und Regeln für die jeweiligen Jurisdiktionen.
• Konsultation externer Rechts- und KI-Experten zur Sicherstellung eines umfassenden und aktuellen Verständnisses der regulatorischen Landschaft.
• Investition in Compliance-Tools zur Überwachung von KI-Systemen.
• Schulung des Personals, einschließlich der Führungsebene, zu KI-Compliance sowie den Vorteilen und Risiken der Nutzung von KI.
• Kommunikation der ergriffenen Maßnahmen zur Einhaltung der Vorschriften an die relevanten Stakeholder.

Anforderungen an KI-Entwickler

Entwickler von als hochriskant eingestuften KI-Systemen müssen bestimmte Verpflichtungen erfüllen, darunter die obligatorische Bewertung, wie ihre KI-Systeme die Grundrechte der Bürger beeinträchtigen könnten. Dies gilt für die Versicherungs- und Bankensektoren sowie für alle KI-Systeme mit „signifikantem potenziellen Schaden für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaatlichkeit“.

Bedeutung des KI-Acts

Symbolisch stellt der KI-Act einen Wendepunkt für die KI-Branche dar. Trotz ihres explosiven Wachstums in den letzten Jahren blieb die KI-Technologie weitgehend unreguliert, was die Politik vor Herausforderungen stellte, mit dem Innovationstempo Schritt zu halten. Die EU hofft, dass ihr KI-Regelwerk als Präzedenzfall für andere Länder dienen wird.

Kritiken am KI-Act

Einige Kritiker argumentieren, dass der KI-Act nicht weit genug geht und eine verwässerte Version dessen darstellt, was ursprünglich diskutiert wurde. Die teilweise Einschränkung von Gesichtserkennung und vorausschauender Polizeiarbeit wurde kritisiert, da zahlreiche Schlupflöcher und unklare Definitionen die Systeme für potenziellen Missbrauch in der Überwachung und Strafverfolgung anfällig machen könnten.

Zusammenfassung

Das Inkrafttreten des neuen EU-KI-Gesetzes markiert einen bedeutenden Schritt hin zur Regulierung und sicheren Nutzung künstlicher Intelligenz in Europa. Mit klar definierten Regeln zielt die Verordnung darauf ab, Risiken zu minimieren und den Einsatz von KI in kritischen Bereichen, wie der Gesichtserkennung und dem Social Scoring, strenger zu überwachen. Die Europäische Kommission und nationale Behörden werden dafür sorgen, dass die KI-Modelle den neuen Standards entsprechen und den Grundrechten gerecht werden.

Dieses Gesetz bietet nicht nur Schutz, sondern fördert auch Innovationen, insbesondere für Start-ups, die sich auf KI-Anwendungen spezialisiert haben. Europa setzt damit weltweit einen neuen Maßstab und zeigt, wie Technologie zum Wohl aller eingesetzt werden kann. Bleiben Sie informiert und nutzen Sie die Möglichkeiten, die das EU-KI-Gesetz für die sichere und ethische Anwendung von KI bietet.