American Marconi Wireless News - EU einigt sich auf Verbot von KI-Anwendungen für Porno-Deepfakes

Die KI-Systeme müssen nach Ablaufen der Frist mit Sicherheitsvorkehrungen ausgestattet sein, die sie davon abhalten, solche Inhalte zu erzeugen.

Die EU reagiert damit unter anderem auf Vorfälle vom Anfang des Jahres, als Nutzer mithilfe des Chatbots Grok von US-Milliardär Elon Musk Millionen sexualisierte KI-Bilder von Frauen und Kindern erstellten und online verbreiteten. Mehrere Länder sowie die EU-Kommission leiteten Ermittlungen gegen Grok ein, einige sperrten den Chatbot.

Das Vorgehen in Brüssel ist das Gegenstück zu einem Gesetzentwurf, den Bundesjustizministerin Stefanie Hubig (SPD) Anfang des Monats vorgestellt hatte: Die EU kann Anwendungen und technische Systeme verbieten, die einzelnen EU-Länder entscheiden über Strafen für Nutzer, die Deepfakes erstellen. Hubigs Vorschlägen zufolge sollen das Erstellen und Verbreiten von pornografischen Deepfakes künftig mit bis zu zwei Jahren Haft bestraft werden können. Die Ministerin will damit Gesetzeslücken schließen: Derzeit ist etwa das bloße Herstellen gefälschter pornografischer Aufnahmen hierzulande nicht strafbar.

Das Verbot auf EU-Ebene ist Teil einer Reform eines KI-Gesetzes, das die EU 2024 beschlossen hatte. Die Reform sieht an anderer Stelle Lockerungen vor: Parlament und Mitgliedstaaten einigten sich darauf, Regeln für den Einsatz von Künstlicher Intelligenz in "Hochrisiko"-Bereichen wie Sicherheitsbehörden und Gesundheitssystemen zu verschieben. Diese Regeln hätten im August in Kraft treten sollen.

Der Einigung zufolge sollen die Regeln nun ab dem 2. Dezember 2027 für "autonome" Hochrisiko-KI-Systeme und zum 2. August 2028 für solche gelten, die in andere Programme oder Produkte integriert sind. Nach der Einigung in der Unterhändler in der Nacht zum Donnerstag müssen beide Seiten den Kompromiss noch absegnen. Dies gilt nach Abschluss der Verhandlungen aber als Formalie.

F.Bennett--AMWN