Vorläufige Einigung in den Trilogverhandlungen zum AI-Act erzielt

Am 8.Dezember erzielten die EU-Institutionen in den Verhandlungen über den finalen Text des AI-Acts eine vorläufige politische Einigung. Der AI-Act hat unter anderem zum Ziel, KI-Systeme durch einen einheitlichen Rechtsrahmen zu klassifizieren und je nach Risiko mit bestimmten Anforderungen und Vorgaben zu belegen.

Die neuen Vorgaben sollen die biometrische Kategorisierung auf der Grundlage sensibler Merkmale, das wahllose Auslesen von Gesichtsbildern, die soziale Bewertung (Scoring), die Erkennung von Emotionen in der Bildung und am Arbeitsplatz sowie manipulative und ausbeuterische Praktiken durch KI verbieten. Gesichtserkennungssysteme sollen nicht vollständig verboten werden; es sollen zusätzliche Sicherheitsvorgaben vorgegeben werden, die vor einem Missbrauch von Gesichtserkennungssystemen schützen sollen. Für sogenannte Hochrisiko KI-Systeme soll unter anderem eine obligatorische Grundrechtsfolgenabschätzung eingeführt werden, die auch für den Versicherungs- und Bankensektor gelten soll. Des Weiteren wurde sich darauf geeinigt, dass sogenannte General-Purpose AI und Foundationmodelle in Zukunft bestimmten Transparenzvorgaben unterliegen soll. General-Purpose AI mit systemischen Risiken sollen als eigene Kategorie strengeren Anforderungen unterliegen. Die Nichteinhaltung der Vorschriften soll zu Geldbußen führen; diese sollen je nach Verstoß und Größe des Unternehmens zwischen 35 Millionen Euro oder 7 % des weltweiten Umsatzes und 7,5 Millionen oder 1,5 % des Umsatzes liegen.

Nach der erzielten vorläufigen Einigung wird die Arbeit an dem finalen Text auf technischer Ebene in den kommenden Wochen fortgesetzt; bestimmte Einzelheiten der neuen Verordnung sollen dementsprechend noch fertig gestellt werden. Sobald dies abgeschlossen ist, muss der gesamte Text von EU-Parlament und Rat bestätigt und förmlich angenommen werden.

Mehr Informationen finden Sie hier:

https://ec.europa.eu/commission/presscorner/detail/en/ip_23_6473  https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/   https://www.europarl.europa.eu/news/de/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai