Social-Media und KI am Pranger

10. Februar 2026, 13:00

Die Pariser Niederlassung von Elon Musks Firma X bekam vergangene Woche Besuch von Ermittlern. Die Büroräume wurden durchsucht, sowohl Musk selbst als auch die frühere Geschäftsführerin Linda Yaccarino müssen am 20. April zu einer Anhörung in Paris erscheinen.

Die Ermittlungen richten sich gegen Musks KI-Anwendung Grok, die - so der Vorwurf - nicht mit französischem und EU-Recht vereinbar sei. Demnach sei Grok so programmiert, Elon Musks eigene Weltsicht zu spiegeln und seinen Ideen damit höhere Aufmerksamkeit zu sichern. Als da wären: bedingungsloser Techno-Optimismus, Liebäugeln mit libertärem und rechtspopulistischem Gedankengut und Meinungsfreiheit, so wie Musk sie versteht.
Zu letzterer gehört der "spicy mode" bei Grok, der es erlaubt, aus Fotos im Handumdrehen Deep Fakes herzustellen: sexualisierte Fotos und Videos realer Persönlichkeiten, häufig in erniedrigenden Posen, die sogleich auf X gepostet werden können und sich weltweit verbreiten.

Die EU will das nicht auf sich sitzen lassen: "In Europa wird kein Unternehmen Geld damit verdienen, unsere Grundrechte zu verletzen", erklärte eine Sprecherin von EU-Kommissionschefin Ursula von der Leyen: "Wir werden Einvernehmlichkeit in Bezug auf Nacktfotos und den Kinderschutz nicht an Technologieunternehmen ausliefern, damit sie diese Grundsätze missbrauchen. Der Schaden durch solche illegalen Bilder ist immens. Die EU toleriert das digitale Verbreiten von Gewalt gegen Frauen und Kinder nicht."

Auf eine weitere mögliche Folge solcher Deep Fakes hat die Gesundheitspsychologin Stefanie Gonin-Spahni im Schweizer Rundfunk SRF hingewiesen: "Wenn Menschen sexualisiertes Material ohne Einwilligung erstellen können, beeinflusst das Einstellungen zum Konsens in der Realität. Aus der Praxis sehe ich hier eine große Gefahr."

Rechtliche Grundlage für die Razzia in Paris ist der Digital Services Act (DSA) der EU. Demnach müssen Plattformen sicherstellen, dass Minderjährige vor unangemessenen Inhalten geschützt sind. Darüber hinaus müssen sie gegen illegale Inhalte auch vorgehen. Das scheint nicht der Fall zu sein.

X weist dennoch jede Schuld kategorisch von sich, Elon Musk sieht eine "politisch motivierte strafrechtliche Untersuchung" am Werk. Der Konzern hat insofern reagiert, als der weltweit ins Rampenlicht geratene "spicy mode" nur noch für Nutzer:innen der Bezahl-Version von Grok zugänglich ist.

Nicht nur X steht im Kreuzfeuer der Kritik: Seit zwei Jahren läuft ein EU-Verfahren gegen den Kurz-Videodienst TikTok. TikTok macht süchtig, lautet der Vorwurf; die Plattform unternehme nicht genug, um endloses Scrollen von einem Video zum nächsten zu verhindern, zudem starten die Videos automatisch und verführten dazu, Stunde um Stunde auf TikTok zu bleiben. Empfindliche Strafen in Milliardenhöhe drohen, sollte ByteDance, der chinesische Mutterkonzern hinter TikTok, das nicht ändern.

Bekanntlich hat Australien in diesem Zusammenhang einen Präzedenzfall geschaffen und die Nutzung sozialer Medien für alle unter 16 Jahren unterbunden. Einen Weg, den mehrere weitere EU-Mitgliedsstaaten ebenfalls gehen wollen, darunter Österreich.

Medienminister Andreas Babler verspricht bis zum Sommer ein "Social-Media-Ordnungsgesetz", das ein Social Media-Verbot für Kinder und Jugendliche unter 14 vorsieht.
Doch mit welchen technischen Mitteln soll die dann nötige Altersüberprüfung über die Bühne gehen? Der Verein "epicenter works - Plattform Grundrechtspolitik" sieht dem mit großer Sorge entgegen, wie auf der Homepage nachzulesen: "Jüngste Aussagen aus der Bundesregierung lassen befürchten, dass in Österreich der Zugang zu sozialen Netzwerken künftig nur noch nach Identitätsprüfung über eine staatliche digitale Identität wie die ID Austria möglich sein soll. Wie ein Nummerntaferl für alle Fußgänger. Damit würde ein zentraler Pfeiler digitaler Grundrechte ins Wanken geraten." Nämlich das freie und anonyme Internet.

Alexander Musik diskutiert anlässlich des internationalen Safer Internet Day mit Univ.-Prof. Dr. Nikolaus Forgó, Vorstand des Instituts für Innovation und Digitalisierung im Recht der Universität Wien, über die Herausforderungen, den Grundrechten und vor allem dem Jugendschutz im Zeitalter weltumspannender digitaler Plattformen Genüge zu tun.

Wie immer sind Sie eingeladen mitzudiskutieren: Anrufe kostenlos aus ganz Österreich unter 0800 22 69 79, E-Mails an punkteins(at)orf.at

Ist das geplante Social-Media-Verbot ein wirkungsvolles Instrument für den Jugendschutz oder ein Eingriff in die Persönlichkeitsentwicklung? Nutzen Sie KI-Anwendungen wie Grok, Chat GPT oder Gemini und welche Erfahrungen haben Sie damit gemacht? Wie kommerzialisiert ist das Internet?

Sendereihe

• Punkt eins

Gestaltung

• Alexander Musik