Für Künstliche Intelligenz (KI) gelten in Europa künftig umfassende Vorschriften. Das Europaparlament stimmte am Mittwoch in Straßburg abschließend einem KI-Gesetz zu, das nach Einschätzung der EU weltweit Standards setzt. Es sieht Auflagen etwa für die Gesichtserkennung oder für Text- und Bildprogramme wie ChatGPT oder Picsart vor.
EU-Kommissionspräsidentin Ursula von der Leyen begrüßte die große Zustimmung für das Gesetz. Bei den Abgeordneten gab es 523 Ja-Stimmen, bei 46 Nein-Stimmen und 49 Enthaltungen. Die EU schaffe damit „eine Blaupause für vertrauenswürdige KI in der ganzen Welt“, betonte von der Leyen.
Vorgesehen ist etwa eine Kennzeichnungspflicht: Entwickler sollen mit Künstlicher Intelligenz erzeugte Texte, Töne und Bilder markieren müssen, um Menschen nicht in die Irre zu führen. Experten halten dies wegen der Fülle des Materials allerdings für schwer kontrollierbar.
Für „risikoreiche“ Anwendungen sollen in der EU verschärfte Vorschriften gelten, etwa für die Gesichtserkennung an Bahnhöfen oder anderen öffentlichen Orten. Nötig ist künftig eine richterliche Anordnung. Grundsätzlich verboten wird eine Massenüberwachung mit biometrischen Daten wie in China.
Der federführende EU-Binnenmarktkommissar Thierry Breton nannte die neuen Regeln „historisch“, da sie die weltweit ersten dieser Art seien. US-Präsident Joe Biden hatte im Oktober zwar ein KI-Dekret erlassen, dieses baut jedoch vorerst auf freiwillige Schritte der Unternehmen.
Der Bundesverband der Verbraucherzentralen (Vzbv) sprach von einem „guten ersten Schritt“, der für Nutzerinnen und Nutzer aber „Schutzlücken“ lasse. Deutschland müsse bei der nationalen Umsetzung der EU-Regeln „zumindest die KI-gesteuerte Gesichtserkennung im öffentlichen Raum auch für private Akteure untersagen“, forderte die Vzbv-Vorsitzende Ramona Pop.
Digitalminister Volker Wissing (FDP) erklärte, er setze auf „maximale Spielräume für Innovationen“. Deutsche Firmen bräuchten eine Ausgangsbasis, „um bei KI-Innovationen ganz vorne mitzuspielen. Dazu gehört vor allem, international anschlussfähig zu sein“, betonte er mit Blick auf die Marktführer für Künstliche Intelligenz in den USA und China.
Amnesty International warnte die EU-Länder davor, Gesichtserkennung und andere umstrittene Technologien gegen Migranten und andere Schutzsuchende einzusetzen. Die Linken-Europaabgeordnete Cornelia Ernst kritisierte, Menschen auf der Flucht würden mangels Anwendungsverboten „zu Versuchskaninchen und die EU-Außengrenzen zum Testlabor“.
Auch die SPD-Politikerin Birgit Sippel sprach von einem „bitteren Beigeschmack“. Das polizeiliche Identifizieren von Menschen in Echtzeit sei nicht so streng geregelt wie erwünscht.
Der CDU-Europaabgeordnete Axel Voss sieht „Licht und Schatten“ bei den neuen Regeln. Er habe „Zweifel, ob das KI-Gesetz wirklich geeignet ist, eine sich ständig weiterentwickelnde Technologie zu regulieren“. Die neuen EU-Vorschriften greifen auch erst ab 2026.
Die EU-Länder hatten das KI-Gesetz nach wochenlanger Debatte Anfang Februar angenommen. Wegen Bedenken vor allem in Deutschland und Frankreich hatte der Beschluss wochenlang auf der Kippe gestanden.
Die FDP hatte in letzter Minute Bedenken angemeldet, stimmte schließlich aber zu. Verkehrsminister Wissing betonte, er habe „Verbesserungen für kleine und mittlere Unternehmen“ erzielt. Die Wirtschaft warnt vor zu hohen Auflagen, etwa für Startups wie Aleph Alpha in Heidelberg.
Die Bundesregierung setzte sich auf EU-Ebene nach eigenen Angaben zudem mit dafür ein, sogenannte Allzweck-KI wie den Chatbot ChatGPT nicht als Hochrisiko-Anwendung einzustufen. Durch ChatGPT hatte KI vor gut einem Jahr schlagartig große Aufmerksamkeit bekommen.
Die Anwendung kann mit Nutzerinnen und Nutzern über Textnachrichten kommunizieren und in Sekundenschnelle ausführliche Antworten auf Fragen geben. Inzwischen kann sie auch Bilder erstellen, die täuschend echt aussehen. Alternative Programme sind etwa Picsart, DeepAI oder Bard von Microsoft.