Grok: EU will gegen Elon Musks Chatbot vorgehen

Zu einem der aktuellen KI-Modelle gehört auch der von Elon Musks Unternehmen xAI im eigenen Kurznachrichtendienst X eingebundene Dienst Grok. Letzteres sorgte in den vergangenen Wochen für negative Schlagzeilen, als bekannt wurde, dass mit der KI massenhaft sexualisierte Bilder und Videos von echten Personen erstellt wurden, teilweise sogar von Minderjährigen.

Nachdem sich die EU-Kommission zu diesem Thema zunächst zurückgehalten hat, will man nun mit aller Härte gegen den Microblogging-Dienst X und den dort nutzbaren KI-Chatbot Grok vorgehen. Eigentlich hatte die EU geplant, bereits in der vergangenen Woche ein Verfahren im Rahmen des Digital Markets Acts zu eröffnen. Allerdings zog das Kabinett von EU-Kommissionspräsidentin Ursula von der Leyen dies zunächst aus Sorge vor einer Reaktion des US-Präsidenten Trump zurück. Trump hatte im Streit um seine geplante Annexion Grönlands mit zusätzlichen Zöllen für einige EU-Länder gedroht.

Nachdem der Zollstreit vorerst beigelegt ist, geht die EU nun aktiv gegen Musks Social-Media-Plattform X und den integrierten Chatbot Grok vor. Die EU-Kommission kündigte am gestrigen Montag an, ein weiteres Verfahren nach dem Digital Markets Act (DMA) zu eröffnen. Ziel ist es, Musks Unternehmen xAI unter Androhung einer Sperre dazu zu verpflichten, die Grok-Funktion, mit der sexualisierte Bilder und Videos realer Personen erzeugt werden können, im EU-Raum zurückzuziehen.

„Eine gewalttätige, inakzeptable Form der Erniedrigung“

Von Seiten der EU-Kommission gibt es bereits erste Stimmen zum geplanten Verfahren. Eine EU-Beamte sprach am Montag von „offensichtlich illegalen Inhalten“. Die EU-Technologie-Kommissarin Henna Virkkunen erklärte am gleichen Tag, „Nicht einvernehmliche sexuelle Deepfakes von Frauen und Kindern sind eine gewalttätige, inakzeptable Form der Erniedrigung.“

Wie eine Datenauswertung der New York Times ergab, wird X regelrecht mit von Grok erstellten sexualisierten Bildern überschwemmt. In einem Zeitraum von neun Tagen generierte und veröffentlichte der Chatbot 4,4 Millionen Bilder, von denen laut der New York Times „mindestens 41 Prozent sexualisierte Bilder von Frauen“ waren.

„Ab Ende Dezember überschütteten Nutzer der Social-Media-Plattform den X-Account des Chatbots mit Anfragen, echte Fotos von Frauen und Kindern zu verändern, um ihnen die Kleidung zu entfernen, sie in Bikinis zu stecken und sie in sexuellen Posen zu positionieren, was weltweit zu einem Aufschrei von Opfern und Regulierungsbehörden führte.

In nur neun Tagen veröffentlichte Grok mehr als 4,4 Millionen Bilder. Eine Untersuchung der Times schätzte konservativ, dass mindestens 41 Prozent der Beiträge, also 1,8 Millionen, höchstwahrscheinlich sexualisierte Darstellungen von Frauen enthielten. Eine umfassendere Analyse des Center for Countering Digital Hate unter Verwendung eines statistischen Modells schätzte, dass 65 Prozent, also etwas mehr als drei Millionen, sexualisierte Darstellungen von Männern, Frauen oder Kindern enthielten.“

Andere Länder gehen noch härter gegen X vor

Wie das Handelsblatt berichtet, weite die EU-Kommission darüber hinaus ein bereits seit 2023 laufendes Verfahren zum Empfehlungssystem von X aus. Musk steht im Verdacht, den Algorithmus der Plattform zu manipulieren, „um gezielte bestimmte Meinungen zu verstärken und andere Inhalte zu unterdrücken“. Auch mehrere Studien sollen eine solche Manipulation des Algorithmus nahelegen.

Schon im Dezember des vergangenen Jahres hatte die EU-Kommission eine Strafe in Höhe von 150 Millionen Euro gegen X verhängt. In diesem Fall ging es um fehlende Transparenz für Werbung, eine irreführende Gestaltung der sogenannten „blauen Häkchen“ für verifizierte Konten sowie ein unzureichender Zugang zu Daten.

Andere Länder wie Malaysia oder Indonesien gehen laut des Handelsblatts noch härter gegen X vor: Sie haben den Grok-Chatbot gesperrt. Auch Großbritannien prüft gegenwärtig, eine nicht einvernehmliche Erstellung sexualisierter Bilder unter Strafe zu stellen. Sollte sich X in der EU nicht an geltendes Recht im Rahmen des DMA halten, drohen dem Unternehmen Strafen in Höhe von sechs Prozent des weltweiten jährlichen Umsatzes oder eine Sperrung der Dienste in der EU.