Der AI Act hat einen weiteren Schritt im Gesetzgebungsverfahren genommen: Der Rat und das EU Parlament haben am 09.12.2023 eine vorläufige Einigung erzielt. Der AI Act ist das weltweit erste Regulierungsvorhaben für Anwendungen der künstlichen Intelligenz. Es verfolgt einen risikobasierten Ansatz und erlegt Hochrisikoanwendungen strengere Pflichten auf, als Anwendungen mit geringeren Risiken.
Nach dem aktuellen Gesetzestext sollen nunmehr auch sog. Foundation Modelle oder KI-Basismodelle der Regulierung unterfallen. Sie werden in einer Vielzahl von Anwendungen integriert und bilden das Rückgrat der meisten KI-Anwendungen. Hierzu zählt beispielsweise das KI Modell GPT-4, welches die Grundlage für die derzeit erfolgreichste KI-Anwendung ChatGPT ist. Nach den Vorstellungen der Kommission sollte bislang nur die Anwendung reguliert werden, die auf diesen Modellen aufbaut. Foundation Modelle müssen unter Anderem Informationen zu ihren Trainingsdaten offenlegen. Hierdurch sollen insbesondere Urheberrechte geschützt werden. Sog. systemisch riskante Modelle mit einer besonders großen Rechenleistung müssen zudem besonders auf die Qualität der Trainingsdaten achten, um voreingenommene oder sonst fehlerhafte Ergebnisse zu verhindern.
Außerdem soll Strafverfolgungsbehörden der Einsatz von KI basierter Gesichtserkennung in einem sehr engen Rahmen bei einem konkreten Verdacht auf schwere Straftaten erlaubt sein. Im Übrigen ist der Einsatz von KI-basierter Gesichtserkennungssoftware im öffentlichen Raum verboten.
Zur Überwachung der Regulierung errichtet die EU Kommission eine eigene KI-Behörde. Die Durchsetzung erfolgt durch nationale Aufsichtsbehörden. Um eine einheitliche Rechtsanwendung innerhalb der EU sicherzustellen, tauschen sich die nationalen Behörden und die EU Behörde regelmäßig in einem Europäischen Ausschuss aus – ein System, das bereits aus der Datenschutz-Grundverordnung bekannt ist.
EU Parlament und Rat müssen den Gesetzestext nun noch formal beschließen. Für einige Pflichten gewährt der Gesetzgeber einen Übergangszeitraum von 12 Monaten. Nach 24 Monaten finden alle Regelungen des AI Acts Anwendung.