AI ACT

Die neue Verordnung richtet sich an alle, die Produkte oder Dienstleistungen auf Basis von Künstlicher Intelligenz anbieten. Sie umfasst Anwendungen, die Inhalte liefern, Vorhersagen treffen, Empfehlungen geben oder die Entscheidungsfindung der Nutzer beeinflussen.

Diese Verordnung verfolgt einen risikobasierten Ansatz, um sicherzustellen, dass KI-Systeme verantwortungsvoll entwickelt und genutzt werden. Praktiken, die nicht mit den grundlegenden Werten der europäischen Union vereinbar sind und ein unannehmbares Risiko für die Grundrechte der Nutzer darstellen, sind untersagt.

Als weltweit erste Vorschrift zur Regulierung von KI adressiert sie Risiken, wie Verzerrungen, Diskriminierung und mangelnde Rechenschaftspflicht. Gleichzeitig soll sie Innovationen fördern und die Verbreitung von KI unterstützen.

Zeitplan

Weitere Informationen zum Zeitplan finden Sie unter: 

• Zeitplan für die Umsetzung | EU-Gesetz über künstliche Intelligenz

Anwendungsbereich

Die Verordnung gilt für öffentliche und private Akteure innerhalb und außerhalb der EU, sofern das KI-System in der Union in Verkehr gebracht wird oder Auswirkungen auf Menschen in der EU hat. Ausnahmen gelten für Forschungs- und Entwicklungstätigkeiten sowie für militärische Zwecke.

Vier Risikostufen

Nach dem Prinzip “höheres Risiko, strengere Vorschriften” werden KI-Anwendungen in vier Risikostufen eingeteilt.

• Minimales oder kein Risiko: Die meisten KI-Systeme, wie beispielsweise Spamfilter und KI-gestützte Videospiele, unterliegen keinen besonderen Verpflichtungen, doch Unternehmen können freiwillig zusätzliche Verhaltenskodizes aufstellen.
• Begrenztes Risiko: Für Systeme mit begrenztem Risiko gelten besondere Transparenzpflichten. Ein Beispiel hierfür sind Chatbots. Diese müssen ihre Nutzer und Nutzerinnen deutlich darauf hinweisen, dass sie es mit einer Maschine zu tun haben. Auch bei bestimmten KI-generierten Inhalten muss darauf hingewiesen werden um was es ich handelt.
• Hohes Risiko: Für KI-Systeme, die als hochriskant eingestuft werden (z. B. Systeme für Krankheitsdiagnosen, autonomes Fahren oder für die Personaleinstellung), gelten strenge Anforderungen und Verpflichtungen. Dazu gehören u.a. Prüfverfahren, hochwertige Datensätze, klare Informationen für die Nutzer und Nutzerinnen und die menschliche Aufsicht.
• Unannehmbares Risiko: KI-Systeme, von denen eine klare Bedrohung für die Sicherheit, die Rechte oder die Lebensgrundlagen der Menschen ausgeht, sind verboten. Dies gilt beispielsweise für kognitive Verhaltensmanipulation, Emotionserkennung am Arbeitsplatz sowie in Bildungseinrichtungen und Sozialkreditsysteme.

Weitere Informationen finden Sie unter: 

• Fragen und Antworten der Europäischen Union
• AI ACT