Baring All & Social Media Censorship

Baring All & Zensur in den sozialen Medien

Die Zensur von Brüsten in den sozialen Medien zeigt uns, warum wir Big Tech zur Verantwortung ziehen müssen

Von Dr. Carolina Are

Dr. Carolina Are ist Pole-Dance-Akademikerin, Aktivistin und Content Creatorin hinter den @bloggeronpole Social-Media-Accounts und dem Blog. Als Forscherin im Bereich Plattform-Governance mit einem PhD zu Online-Missbrauch und Verschwörungstheorien arbeitet sie derzeit als Innovation Fellow am Centre for Digital Citizens der Northumbria University und beschäftigt sich dort damit, wie Plattformen Körper und Sex regulieren. Aufgrund ihrer eigenen Erfahrungen mit Online-Zensur forscht sie zu algorithmischer Voreingenommenheit gegenüber Nacktheit und Sexualität in den sozialen Medien und hat in Feminist Media Studies die erste Peer-Review-Studie zum Shadowbanning von Pole Dance veröffentlicht. Ihre Arbeit wurde unter anderem in The New York Times, The Atlantic, The Guardian, The Conversation, der BBC, Wired und der MIT Technology Review veröffentlicht.

Auch wenn es jetzt, wo der Großteil meiner Brüste von Muskeln aufgefressen wurde, unwahrscheinlich klingt: Als ich jünger war, war ich für meinen großen Busen bekannt. Ich war die Erste in meiner Klasse, die Brüste bekam, und obwohl ich sie mochte – ich fühlte mich dadurch „erwachsen“ – war ich erst 11 Jahre alt und interessierte mich mehr für Spiele und Magie als fürs Daten. Plötzlich hatte ich Probleme damit, wie sich das Verhalten der Jungs mir gegenüber veränderte: Ich war keine Freundin mehr – ich war eine Schlampe, so wurde ich jeden Tag in der Schule genannt. Jahre später sollten „Schlampen“ zu meiner Inspiration in Aktivismus, Forschung und Arbeit werden, und indem ich bei Pole-Dance-Shows und in Social-Media-Posts zeigte, was ich früher unter riesigen Metal-Band-T-Shirts versteckt hatte, würde ich irgendwie meine komplizierte Beziehung zu meinen Brüsten und meinem Körper kitten. Leider hatten die Social-Media-Plattformen andere Pläne. Wenn man sich die Community-Richtlinien der sozialen Netzwerke anschaut, sind „weiblich gelesene Brustwarzen“ (ihre Worte, nicht meine) die Quelle allen Online-Übels – und ich habe verschiedene Stufen von Zensur erlebt, obwohl ich sogar weniger gezeigt habe, was mich dazu inspiriert hat, Forscherin für Plattform-Governance zu werden. Währenddessen versinkt die Welt in einem Abgrund aus Hass, mit gerade noch abgewendeten Putschversuchen, Desinformation und jeder Menge Verschwörungstheorien, und die Plattformen scheinen lieber gegen Brüste als gegen Gewalt vorzugehen. Wie sind wir da gelandet?

Soziale Medien sind längst nicht mehr bloß Orte, an denen wir uns vernetzen. Dort erfahren wir, was in der Welt passiert, und bleiben bei den Nachrichten auf dem Laufenden – außerdem sind sie ein Ort für Selbstausdruck, Arbeit, Organisation und Selbstvermarktung. Wegen der entscheidenden Rolle, die diese Handvoll privater Unternehmen inzwischen in unserem Alltag und im öffentlichen Leben spielt, und wegen des exponentiellen Wachstums ihrer Nutzer*innenbasis und der Inhalte, die sie hosten, mussten sie anfangen, ihre Räume zu regulieren. Ohne Content-Moderation – also das Löschen und/oder Zensieren von Online-Inhalten – wären Plattformen unbrauchbar, voller Spam, schädlicher Inhalte und einfach … Chaos. Interessant ist allerdings, welche Inhalte sie zensieren.

Zur Moderation von Inhalten verlassen sich Plattformen auf eine Mischung aus Algorithmen und unterbezahlten, ausgelagerten, überforderten menschlichen Moderator*innen, die größtenteils im Globalen Süden sitzen und in Sekundenbruchteilen Entscheidungen über Beiträge treffen müssen, mit denen sie nicht immer vertraut sind. In meiner Forschung habe ich herausgefunden, dass die Moderationssysteme der Plattformen alles andere als gerecht oder effizient sind. Bisher haben sie überproportional marginalisierte Nutzer*innen ins Visier genommen und sich zu sehr auf Nacktheit und Sexualität statt auf Gewalt konzentriert – und die Tatsache, dass die Online-Gruppen und Inhalte, mit denen der Angriff auf den US-Kongress 2021 koordiniert wurde, online blieben, während eine einzige Brustwarze sofort gelöscht wird, ist ein gutes Beispiel dafür. Das US-Gesetz von 2018, bekannt als FOSTA/SESTA – der Allow States and Victims to Fight Online Sex Trafficking Act (FOSTA) und der Stop Enabling Sex Traffickers Act (SESTA) – ist zu einem großen Teil der Grund für dieses Ungleichgewicht bei der Moderation.

FOSTA/SESTA ist eine Ausnahme von Section 230 des US Telecommunications Act, der festlegte, dass Social-Media-Unternehmen Kommunikationsvermittler sind, nicht Sprecher oder Herausgeber – und deshalb rechtlich nicht haftbar für das, was auf ihnen gepostet wird. FOSTA/SESTA hat hier eine Ausnahme geschaffen, sodass Section 230 Plattformen weiterhin schützt, außer bei einer Art von Inhalten: allem, was Sexhandel begünstigen könnte. Klingt super, oder? Nicht wirklich. Sexhandel und sexueller Kindesmissbrauch im Netz waren schon vorher illegal. Stattdessen warf die neue Ausnahme Sexhandel (ein Verbrechen) mit Sexarbeit (einem Beruf) in einen Topf, wodurch Sexarbeiter*innen – die festgestellt hatten, dass die Arbeit im Netz ihre Sicherheit und Selbstbestimmung verbessert – zur Gruppe wurden, die am stärksten von Zensur betroffen ist. Aber dabei blieb es nicht: Da FOSTA/SESTA von sexfeindlichen, rechtsextremen evangelikalen Gruppen in den Kongress gedrückt wurde, die Sex aus dem Internet verbannen wollten, hat sich der erfolgreiche Trickle-down-Effekt zu weltweiter Zensur von allem entwickelt, was mit Sex und Körpern zu tun hat.

FOSTA/SESTA hat das Internet kaputtgemacht – und zwar nicht im guten Sinne. Ein fehlerhaftes neues Gesetz hat chaotische Versuche der Plattformen hervorgebracht, Körper in großem Stil zu moderieren, um nicht beschuldigt zu werden, Menschenhandel zu begünstigen. Sie haben diese Aufgabe Algorithmen überlassen, und das ist nicht gut gelaufen: Durch Shadowbanning – also das Verstecken oder Nicht-Empfehlen von Inhalten auf Explore- oder For-You-Seiten – und De-Platforming, also das komplette Entfernen von Inhalten und/oder Accounts, werden Sex und Körper im Netz immer unsichtbarer. Als Folge des Gesetzes zensieren Social-Media-Plattformen jetzt übermäßig viele Beiträge von Athlet*innen, Dessous-, Sexualgesundheits-Marken, Sexualpädagog*innen und Aktivist*innen und wenden dieses fehlerhafte US-Gesetz auf Inhalte weltweit an. Nachdem sie die Entstehung von Räumen ermöglicht haben, die Tabus gebrochen haben, machen Social-Media-Plattformen Körper und Sex jetzt noch mehr zum Tabu: Daher kommen Schreibweisen wie „seggs“, „vajayvjay“ und so weiter, damit Algorithmen keine Inhalte zu Sex und Körpern zensieren.

Diese Zensur wird nicht gleichmäßig angewendet. 2023 fand eine Recherche des Guardian heraus, dass Tools mit künstlicher Intelligenz (KI), die die meisten Tech-Unternehmen nutzen, Bilder von Frauen standardmäßig als „gewagt“ einstufen – sogar in alltäglichen Situationen mit Schwangerschaft, Vorsorgeuntersuchungen oder Fitness. In meiner Forschung habe ich herausgefunden, dass Nutzer*innen-Accounts wegen „Nacktheit und sexueller Aktivität“ oder „sexueller Anmache“ gelöscht wurden, selbst wenn die Personen vollständig bekleidet waren, mit ihren Familien posierten, über legale und sichere Abtreibungen sprachen oder ihre Geschichten als Überlebende sexueller Übergriffe teilten. Gleichzeitig bleibt Online-Gewalt und Belästigung gegen genau diese Nutzer*innen online und kann viral gehen. Weil die Belegschaft von Big Tech überproportional männlich, weiß, cisgender, heterosexuell und nicht behindert ist, betrachten die Art, wie Tech-Plattformen Regeln schreiben und anwenden, und die Art, wie sie ihre Algorithmen einsetzen, unweigerlich alles, was mit Körpern, Lust, Frauen und LGBTQIA+ zu tun hat – und besonders Brüste und Brustwarzen – als sexuell, was gleichbedeutend mit zensurwürdig ist. Und falls du dich fragst, warum Promis fast komplett nackte Bilder posten können: Prominente und Personen des öffentlichen Lebens haben bei der Content-Moderation einen bevorzugten Weg im Vergleich zu uns anderen, wodurch die fast sofortige algorithmische Löschung vermieden wird, die Beiträge mit nackter Haut normalerweise treffen würde.

Als Tumblr ein Verbot von „weiblich gelesenen Brustwarzen“ einführte (was die meisten sozialen Netzwerke inzwischen übernommen haben), wurde klar, dass sich die Plattformen selbst zu Herrscher*innen gekrönt haben – nicht nur über unsere Körper, sondern auch darüber, was gesehen werden darf und was nicht – und darüber, wer „weiblich gelesene Brustwarzen“ hat und wer nicht. Das ist unglaublich verletzend für trans und nicht geschlechtskonforme Menschen, deren Geschlechtsidentität am Ende von einem Algorithmus bestimmt wird.

Den Plattformen ist völlig bewusst, dass das ein Problem ist. Letztes Jahr stellte sogar das unabhängige Aufsichtsgremium von Meta, das Oversight Board, nach der Prüfung mehrerer Löschungen von Inhalten fest, dass die aktuellen Regeln des Unternehmens zu Nacktheit bei Erwachsenen und sexuellen Aktivitäten „eine voreingestellte Vorstellung vom sexuell anzüglichen Charakter weiblicher Brüste widerspiegeln“, unsere Körper übersexualisieren und zu inkonsistenter und übermäßig strenger Zensur führen, die die Menschenrechte der Nutzer*innen verletzt.

Wir dürfen nicht zulassen, dass private Unternehmen Körper und bestimmte Nutzer*innengruppen verteufeln und vorschreiben, was gesehen werden darf und was nicht, wer arbeiten darf und wer nicht, was schädlich ist und was nicht. Wenn wir sie machen lassen, werden sie unweigerlich die Interessen ihrer Unternehmen priorisieren, wie sie es schon tun, und Inhalte verstecken, die sie für anstößig halten, um Werbekund*innen nicht zu verprellen. Deshalb gebe ich dir noch ein paar Lesetipps mit, damit du im Kampf dranbleiben kannst, und ein Zitat aus dem Manifesto for Sex Positive Social Media:

„Die Regeln der sozialen Medien dazu, was gepostet werden darf und was nicht, prägen die allgemeine Haltung gegenüber Sex und Nacktheit, was wiederum direkte Auswirkungen auf unser aller Sicherheit und Wohlbefinden hat. Wir glauben, dass wir am gesündesten und glücklichsten sind, wenn Sex keine Quelle der Scham ist, sondern als Teil der menschlichen Erfahrung akzeptiert wird.“

Weiterführende Lektüre:

Zurück zum Blog