American Marconi Wireless News - Sexualisierte KI-Bilder: Irland leitet Untersuchung gegen Musk-Chatbot Grok ein

Die "groß angelegte Untersuchung" soll der DPC zufolge "die mutmaßliche Erstellung und Veröffentlichung auf X von potenziell schädlichen, nicht einvernehmlichen intimen oder sexualisierten Bildern von Europäern, einschließlich Kindern" durch den Chatbot prüfen. Da X seine Europazentrale in Irland hat, ist die irische Datenschutzaufsichtsbehörde in Europa federführend für die Anwendung der EU-Regeln auf den Onlinedienst. Die DPC erklärte, im Austausch mit X zu stehen.

Bei Grok handelt es sich um ein bei X integriertes Tool. Stein des Anstoßes war Anfang Januar der neue "Spicy Mode" (scharfer Modus) bei Grok, mit dem Nutzer in Sekundenschnelle anzügliche Bilder von Frauen oder Kindern erstellen konnten - etwa mit Aufforderungen wie "entferne ihre Kleider" oder "zieh ihr einen Bikini an". Auch die Erstellung und Verbreitung kinderpornografischer Inhalte war damit möglich. Mehrere Länder leiteten Untersuchungen gegen Grok ein oder sperrten das Tool.

Die EU leitete eine Untersuchung ein, ob X seinen gesetzlichen Pflichten nach dem EU-Gesetz über digitale Dienste (Digital Services Act, DSA) nachgekommen ist. Mit dem Gesetz nimmt die EU große Internetplattformen in die Pflicht, verbotene Inhalte zu löschen. Dazu gehören sexualisierte Bilder, Kinderpornografie, Morddrohungen und Nazi-Symbole, die im Internet ebenso verboten sind wie auf der Straße.

Die Regulierung von US-Techriesen, darunter X, steht seit US-Präsident Donald Trumps Rückkehr ins Weiße Haus im Januar 2025 im Zentrum wachsender Spannungen zwischen Brüssel und Washington. Vertreter der US-Regierung sowie X-Inhaber Musk haben der EU in der Vergangenheit "Zensur" vorgeworfen.

D.Kaufman--AMWN