"Künstliche Intelligenz: EU-Parlament stimmt für Verbot von bestimmter Deepfake-Software"

Die EU will Dienste verbieten, die mithilfe von KI sexualisierte Bilder und Videos erzeugen. Die Regulierung könnte auch die künstliche Intelligenz von Elon Musk treffen.

Die EU will gegen Apps vorgehen, mit denen sich Deepfakes und sexualisierte Bilder im Netz erstellen lassen. Das Europaparlament stimmte am Donnerstag in Brüssel für ein Verbot von KI-Anwendungen, mit deren Hilfe Nutzer derartige Videos und Bilder von Menschen ohne deren Einwilligung erstellen können. Das Verbot soll greifen, sobald die Änderung in einigen Monaten endgültig beschlossen ist. Nach dem Parlament muss sich der EU-Rat auf die endgültige Ausgestaltung des Verbots verständigen.

Die geplante Regelung bezieht sich auf Anwendungen, die mithilfe künstlicher Intelligenz Bilder und Videos so verändern oder erstellen können, dass sie »sexuell eindeutige Aktivitäten oder intime Körperbereiche einer bestimmbaren Person ohne deren Einwilligung« zeigen. Solche Bilder und Videos »schädigen die Opfer und verletzen die Grundrechte auf Würde und Privatsphäre«, heißt es im Gesetzentwurf zur Begründung. Ein ausdrückliches Verbot sei »dringend geboten«, argumentieren die Abgeordneten. (Lesen Sie hier mehr über die Apps, die oft als sogenannte Auszieh-Apps bezeichnet werden.)

Die EU reagiert damit auch auf Vorfälle Anfang des Jahres. Damals erstellten Nutzer mithilfe des Chatbots Grok von Elon Musk laut Erhebungen Millionen sexualisierte KI-Bilder von Frauen und Kindern und verbreiteten diese online auf X. Die EU-Kommission leitete Ermittlungen gegen Grok ein, einige Staaten sperrten den Chatbot sogar. Kritik an sogenannten Auszieh-Apps üben Experten schon lange, die Kontroverse um Grok machte das Thema aber einer breiteren Öffentlichkeit bekannt.

Anderer Ansatz als aktuelle deutsche Pläne

Bei dem Vorgehen in Brüssel handelt es sich um eine andere regulatorische Initiative als bei dem Gesetzentwurf, den Bundesjustizministerin Stefanie Hubig (SPD) in Kürze für Deutschland vorstellen will. Die EU-Pläne betreffen eine Regulierung von Software und Technologie. Die Bundesregierung will Straftatbestände ergänzen, die unter anderem Nutzer treffen könnten, die Deepfake-Technologie auf bestimmte, verbotene Weise benutzen.

Nachdem der SPIEGEL über Vorwürfe der Schauspielerin Collien Fernandes gegen ihren Ex-Mann Christian Ulmen berichtet hatte, hatte Hubig angekündigt, ihren Gesetzentwurf früher als zuvor geplant vorzulegen. [...]