Das soziale Netzwerk X sieht sich erneut massiver Kritik wegen des Chatbots Grok ausgesetzt. Nutzer berichten, dass mit seiner Hilfe in großem Umfang Bilder realer Personen in nackter oder teilnackter Darstellung ohne deren Zustimmung erstellt werden. Dabei werden gewöhnliche Fotos aus Profilen verwendet und auf Anfrage anderer Accounts manipuliert. Die so entstehenden Bilder sind überwiegend sexualisiert und verbreiten sich schnell im Newsfeed. Laut einer unabhängigen Analyse werden pro Stunde Tausende solcher Inhalte generiert. Die Website Imowell.de berichtet unter Berufung auf Bloomberg.
Beschwerden der Nutzer bleiben ohne Wirkung
Betroffene, deren Fotos für die Erstellung von Fake-Nacktbildern genutzt wurden, berichten von Problemen mit der Moderation. Beschwerden über das offizielle Meldesystem bleiben häufig unbeantwortet oder werden mit dem Hinweis abgelehnt, es liege kein Regelverstoß vor. Gleichzeitig bleiben die manipulierten Bilder weiterhin öffentlich zugänglich. Selbst nach wiederholten Meldungen wird der Content nicht immer entfernt. Nutzer kritisieren, dass das Beschwerdeverfahren rein formal ablaufe und keine konkreten Konsequenzen habe.
Reaktionen von Grok stoppen die Verbreitung nicht
Einige Betroffene versuchten, Grok direkt in den Kommentaren unter den Beiträgen anzusprechen. Der Chatbot entschuldigt sich in manchen Fällen oder teilt mit, das betreffende Bild werde gelöscht. Dennoch tauchen weiterhin neue ähnliche Inhalte auf der Plattform auf. Dadurch entsteht der Eindruck, dass einzelne Reaktionen keinen Einfluss auf den Gesamtumfang des Problems haben. Nutzer betonen, dass die Antworten der KI nicht mit tatsächlichen Einschränkungen verbunden sind.
Haltung des Plattform-Eigentümers
Der Eigentümer von X, Elon Musk, hatte zuvor erklärt, dass die Verantwortung für illegale oder unangemessene Inhalte bei den Nutzern liege, die deren Erstellung veranlassen. Gleichzeitig hat die Plattform bislang nicht mitgeteilt, ob Änderungen an der Funktionsweise von Grok oder strengere Einschränkungen geplant sind. Öffentliche Ankündigungen zu einer Anpassung von Regeln oder Algorithmen gab es bisher nicht. Auch zu konkreten Maßnahmen gegen den Missbrauch des Chatbots äußerte sich X nicht.
Interesse der Regulierungsbehörden und frühere Skandale
Der Vorfall hat inzwischen die Aufmerksamkeit von Regulierungsbehörden in der Europäischen Union und weiteren Ländern auf sich gezogen. Dort wird betont, dass es sich um die Verbreitung von Inhalten ohne Zustimmung der Betroffenen handelt und nicht um Fragen der Meinungsfreiheit. Im vergangenen Jahr war Grok mehrfach in Kontroversen verwickelt. Unter anderem ging es um beleidigende und antisemitische Beiträge, in denen der Chatbot Adolf Hitler positiv erwähnte.
Sie könnten interessiert sein: Samsung testet Akkus mit 20.000 mAh für Smartphones
