Ein Kommilitone sieht eine Anzeige, erkennt die Studentin wieder und sagt ihr, dass eine Dating-App offenbar Männern in ihrem Wohnheim Sex mit ihr anbiete. Klingt absurd. Ist es aber nicht. Genau darin liegt der eigentliche Skandal: Nicht nur, dass eine Plattform offenbar Videos einer Studentin ohne ihre Zustimmung für sexuelle Werbung nutzte. Sondern dass das in der Logik vieler Tech-Dienste fast als Randproblem behandelt wird.
Der Fall passt in eine größere Realität. Der Anteil von Deepfakes im Netz ist seit Jahren stark gestiegen; Schätzungen von Sensity AI zeigten schon 2019, dass 96 Prozent der damals erkannten Deepfake-Videos pornografisch waren und fast immer Frauen trafen. Das ist kein Zufall, sondern ein Geschäftsmodell mit alten Reflexen: weibliche Körper dienen als Klickmotor, und technische Distanz soll die Verantwortung verwischen. Das wirkt modern, ist aber oft nur digitale Improvisation mit sehr alten Motiven.
Der Denkfehler beginnt bei einer bequemen Annahme: Wenn etwas auf einer Plattform erscheint, müsse es irgendwie schon geprüft sein. Genau das ist falsch. Wer Nutzerinnen und Nutzer als Content versteht, aber nicht als Träger von Rechten, landet schnell bei einer Maschine, die Bilder, Gesichter und sexuelle Anspielungen vermarktet, bevor jemand überhaupt widersprechen kann. Dass eine Studentin erst durch einen Kommilitonen von der Werbung erfährt, zeigt die Asymmetrie besonders deutlich: Die Betroffene wird zur Letzten im Informationsfluss.
Natürlich gibt es eine Gegenposition. Plattformen verweisen gern auf automatisierte Prozesse, auf Masse, auf Fehlerquoten. Und ja: Nicht jede falsche Anzeige ist sofort böser Wille. Aber genau diese Verteidigung ist zu bequem. Bei sexualisierter Werbung mit realen Gesichtern geht es nicht um einen harmlosen Klassifikationsfehler, sondern um Rufschädigung, Einschüchterung und die normale Zumutung, dass Frauen ihren eigenen Namen im Netz suchen müssen, um zu prüfen, ob jemand sie schon wieder zur Fantasie anderer gemacht hat. Auch juristisch ist das relevant: In den USA wurden Plattformen in ähnlichen Konstellationen wiederholt mit Haftungsfragen konfrontiert, weil die Grenze zwischen bloßer Vermittlung und aktiver Mitgestaltung eben nicht so unschuldig ist, wie Tech-Firmen es gern darstellen.
Die unbequeme Einsicht ist deshalb: Viele reden über KI-Fehler, als wären sie technische Pannen. In Wirklichkeit sind sie oft Verteilungsfragen. Wer trägt das Risiko? Die App nicht, der Werbedeal nicht, die betroffene Frau schon. Das ist gesellschaftlich der zentrale Denkfehler: Wir behandeln digitale Belästigung noch immer wie ein individuelles Pech, obwohl sie längst industriell skaliert wird. Wenn eine Dating-App mit fremden Gesichtern Sex verspricht, ist das kein Ausrutscher im System. Es ist das System in seiner ehrlichsten Form.