EU-Abgeordnete: Strengere Regeln für Künstliche Intelligenz

Überwachungskamera in Verbindung mit KI - das soll reguliert werden
Bild: picture alliance/dpa Euro­paab­geord­nete setzen sich für stren­gere Regeln im Umgang mit Künst­licher Intel­ligenz ein. Der Ausschuss für Binnen­markt und der Justiz­aus­schuss des Parla­ments spra­chen sich heute in Straß­burg dafür aus, dass diskri­minie­rende Anwen­dungen von KI-Systemen verboten werden sollen. Konkret sollen nach Angaben des Parla­ments etwa wahl­loses Auslesen biome­tri­scher Daten aus sozialen Medien verboten werden und das Erstellen von Daten­banken zur Gesichts­erken­nung aus Bildern von Über­wachungs­kameras.

Künst­liche Intel­ligenz bezeichnet meist Anwen­dungen auf Basis maschi­nellen Lernens, bei denen eine Soft­ware große Daten­mengen durch­forstet und daraus Schluss­fol­gerungen zieht. Sie werden schon in vielen Berei­chen einge­setzt. KI steht aber auch in der Kritik. Überwachungskamera in Verbindung mit KI - das soll reguliert werden
Bild: picture alliance/dpa

Gesichts­erken­nung in einer libe­ralen Demo­kratie?

"Gesichts­erken­nung zur Über­wachung kennen wir aus China, diese Anwen­dung von Tech­nologie hat in einer libe­ralen Demo­kratie nichts zu suchen", teilte die FDP-Abge­ord­nete Svenja Hahn mit. Etwas kriti­scher sehen Poli­tiker der Union das Vorhaben. Der CDU-Euro­paab­geord­nete Axel Voss sprach von einem angst­getrie­benen Umgang mit Künst­licher Intel­ligenz, der die Chancen neuer Tech­nolo­gien ersticke. Grund­sätz­lich sei das Gesetz aber ein rich­tiger Schritt.

Der Abge­ord­nete Sergey Lago­dinsky betonte: "KI-Systeme wie ChatGPT verbrau­chen enorme Mengen Energie." Künftig sollen solche Systeme ener­gie­effi­zient gestaltet und der Ressour­cen­ver­brauch offen­gelegt werden, so der Grünen-Poli­tiker. Sein SPD-Amts­kol­lege René Repasi betonte: "Wir müssen sicher­stellen, dass KI-Anwen­dungen keines­falls gegen Bürge­rinnen und Bürger verwendet werden."

Die Abstim­mung in den Ausschüssen muss noch vom gesamten Parla­ment bestä­tigt werden, und es können Ände­rungs­anträge einge­bracht werden. Danach muss sich das Parla­ment mit den EU-Staaten auf einen Kompro­miss verstän­digen. Die EU-Kommis­sion hatte das Gesetz im April 2021 mit dem Ziel vorge­schlagen, globale Stan­dards zu setzen. Für Regel­ver­stöße sind hohe Strafen vorge­sehen. Die Behörde will die Grund­lage schaffen, dass Nutzer KI-Anwen­dungen vertrauen können.

Erste Reak­tionen auf die Bemü­hungen

Alex­ander Sander, Senior Policy Consul­tant der Free Soft­ware Founda­tion Europe (FSFE), erklärt: "Statt die Verant­wor­tung den Entwick­lern zuzu­schreiben, soll diese den einset­zenden Unter­nehmen, die auf dem Markt davon profi­tieren, über­tragen werden. Klei­nere Projekte sowie non-profit Akti­vitäten, beispiels­weise von Stif­tungen, müssen ausge­nommen sein. Die Abge­ord­neten erkennen damit die Reali­täten der Freien Soft­ware Entwick­lung an und versu­chen diese zu schützen. Das Prinzip, Verant­wor­tung und Haftung auf jene zu über­tragen, die auf dem Markt profi­tieren, anstatt die Entwickler in den Fokus zu stellen, muss auch im Cyber Resi­lience Act sowie der Product Liabi­lity Direc­tive veran­kert werden. Nur so können Freie Soft­ware Projekte und deren Entwickler, aber auch Verbrau­cher und Kunden gleich­zeitig geschützt werden."

"Es muss sicher­gestellt werden, dass KI-Anwen­dungen Menschen nicht körper­lich verletzen oder benach­tei­ligen", sagte Joachim Bühler, Geschäfts­führer des TÜV-Verbands. "Mit der geplanten KI-Verord­nung besteht die Chance, einen Rechts­rahmen für die ethi­sche und sichere Nutzung von Künst­licher Intel­ligenz in der EU zu schaffen." Aus Sicht des TÜV-Verbands leitet sich daraus ein klarer Hand­lungs­auf­trag für die Politik ab. "Mit dem AI Act ist die EU globaler Vorreiter bei der Gesetz­gebung in den demo­kra­tisch orga­nisierten Wirt­schafts­blö­cken", sagte Bühler. "Mit einer intel­ligenten Regu­lie­rung können wir einen inter­natio­nalen Stan­dard für inno­vative und werte­basierte KI setzen. [...] Vor ihrer Markt­ein­füh­rung sollten alle Hoch­risiko-KI-Systeme von einer unab­hän­gigen Stelle über­prüft werden. Nur so kann sicher­gestellt werden, dass die Anwen­dungen den Sicher­heits­anfor­derungen entspre­chen."

Bitkom und Verein Digi­tal­cou­rage e.V.

Bitkom-Präsi­dent Achim Berg erklärt: "Wir warnen davor, KI durch ein Übermaß an Regu­lie­rung aus Deutsch­land und Europa zu vertreiben. Wie Europa sich zur Künst­lichen Intel­ligenz verhält, wird großen Einfluss auf unsere künf­tige Wett­bewerbs­fähig­keit und unseren Wohl­stand haben. Die vergan­genen Monate haben mit Durch­brü­chen rund um gene­rative Künst­liche Intel­ligenz wie ChatGPT ange­deutet, welch enormes Poten­zial diese Tech­nologie besitzt. Mit Verboten oder über­trieben strengen Auflagen, wie sie von den Mitglie­dern des Euro­päi­schen Parla­ments teil­weise disku­tiert wurden, werden wir allen­falls dafür sorgen, dass KI-Entwick­lung künftig außer­halb Europas statt­findet und Exper­tinnen und Experten aus Deutsch­land und anderen euro­päi­schen Ländern ihr Wissen anderswo einsetzen. Wir dürfen KI nicht aus Europa verdrängen. KI braucht Regu­lie­rung, es gilt beim AI Act aber, sich auf jene Anwen­dungen zu konzen­trieren, die poten­ziell ein hohes Risiko mit sich bringen, etwa im Gesund­heits- oder Mobi­litäts­bereich. Pauschale Vorgaben für eine Tech­nologie helfen nicht und werden Forschung und Entwick­lung ebenso wie die Entwick­lung von Geschäfts­modellen abwürgen. Die weiteren Verhand­lungen zum AI Act dürfen unkri­tische Anwen­dungen nicht vor unnö­tige und über­trie­bene Anfor­derungen stellen - an dieser Stelle geht der Vorschlag des Euro­papar­laments in die rich­tige Rich­tung. Unter­nehmen brau­chen zudem klare, praxis­taug­liche Regeln. Schon heute findet KI nicht im rechts­freien Raum statt, es gelten eine Viel­zahl von Regeln vom Urhe­ber­recht bis zum Daten­schutz. Wichtig ist, keine Wider­sprüche und neuen Rechts­unsi­cher­heiten entstehen zu lassen."

"Der heutige Tag ist ein riesiger Erfolg für die Zivil­gesell­schaft. Biome­tri­sche Über­wachung ist eine Gefahr für unsere Demo­kratie und ein Verbot von Gesichts­erken­nung darum drin­gend nötig", äußerte Konstantin Macher vom Verein Digi­tal­cou­rage e.V. "Auto­mati­sche 'KI'-Erken­nung von Gesich­tern, der Gangart und anderer biome­tri­scher Merk­male redu­ziert uns Menschen zu Daten­sätzen und ist beson­ders gefähr­lich. Das ist die Art von skalier­barer Kontrolle, auf die auto­ritäre Regime setzen und nicht Rechts­staaten. Aber selbst bei gutge­meinter Anwen­dung verstärken solche Systeme aufgrund ihrer Funk­tions­weise eine gesell­schaft­liche Diskri­minie­rung. Ein Verbot von biome­tri­scher 'KI-'-Über­wachung ist darum der einzig rich­tige Weg für eine frei­heit­lich-demo­kra­tische Gesell­schaft. [...] Jetzt kommt es darauf an, in den Trilog­ver­hand­lungen nicht hinter den heutigen Kompro­miss zurück­zufallen. Die Ampel­koali­tion hat in der Vergan­gen­heit enttäuscht, indem sie sich entgegen dem Koali­tions­ver­trag für weit­rei­chende Ausnahmen stark gemacht hatte. Darum ist es so wichtig, dass die Abge­ord­neten heute für den Schutz der Grund­rechte gestimmt haben."

Google hat die Entwickler­kon­ferenz I/O offi­ziell gestartet. Zum Start gab es einen Einblick, wie der Chatbot Bard den Nutzer unter­stützen kann.