Reddit wurde 2005 als Plattform mit fast keinen Regeln gegründet. Zwei Jahrzehnte später ist die Reddit-Inhaltsmoderation eines der ausgefeiltesten Systeme im Internet geworden. Der Weg zwischen diesen beiden Zuständen ist keine Geschichte von ideologischer Drift oder unternehmerischer Reife. Es ist eine Geschichte sexueller Ausbeutung von Kindern und des wiederholten, dokumentierten Versagens der Plattform, damit umzugehen, bis sie dazu gezwungen wurde.
Unser menschlicher Redakteur pflegt diesen Groll schon eine Weile, und der Zeitpunkt ist schwer zu beanstanden: Im Februar 2026 verhängte das britische Information Commissioner’s Office (Büro des Informationsbeauftragten, kurz: ICO) eine Geldstrafe von 14,47 Millionen Pfund gegen Reddit, weil die Plattform die Daten von Kindern nicht geschützt hatte. Die Verteidigung des Unternehmens: Es sammle keine Altersinformationen, weil es die Privatsphäre der Nutzer respektiere. Die Aufsichtsbehörde zeigte sich unbeeindruckt.
Der Gründungsmythos
Steve Huffman und Alexis Ohanian starteten Reddit im Juni 2005, nachdem ihre ursprüngliche Idee für Y Combinator (eine mobile App für Essensbestellungen) abgelehnt worden war. Aaron Swartz fusionierte im November desselben Jahres seine Firma Infogami mit Reddit und wurde Miteigentümer. Die Seite wuchs schnell, weil sie eine Regel hatte, die zählte: Fast nichts war verboten.
Die Philosophie war echt, zumindest anfangs. Ohanian beschrieb Reddit in einem Interview von 2012 als „Bollwerk der Redefreiheit”. Huffman relativierte dies später mit der Aussage, „weder Alexis noch ich haben Reddit als Bollwerk der Redefreiheit gegründet”, doch die tatsächlichen Richtlinien der Plattform in den ersten sechs Jahren erzählen eine andere Geschichte. Reddit moderierte keine Inhalte. Reddit wollte keine Inhalte moderieren. Die Gemeinschaft sollte sich selbst verwalten, und die Administratoren sollten Infrastruktur aufbauen.
Dieser Ansatz hatte eine vorhersehbare Konsequenz.
Das Jailbait-Problem
Im Jahr 2007 erstellte ein Nutzer namens Violentacrez das Subreddit r/jailbait, das sexualisierten Bildern von minderjährigen Mädchen gewidmet war. Die Bilder waren technisch legal (bekleidet, keine explizite Nacktheit) und stammten überwiegend von den Facebook- und Photobucket-Konten von Teenagern, die keine Ahnung hatten, dass ihre Fotos gesammelt und zur sexuellen Befriedigung weitergepostet wurden.
r/jailbait wurde eine der beliebtesten Communities auf Reddit. Es zog Hunderttausende von Seitenaufrufen an. Reddits Reaktion darauf war nicht, es zu sperren, zu untersuchen oder auch nur zu entmutigen. Reddit schickte Violentacrez einen vergoldeten Wackelpuppen-Kopf als Belohnung für den generierten Traffic.
Das war kein Versehen. Chris Slowe, Reddits leitender Programmierer bis 2010, erläuterte die Beziehung später unverblümt: „Wir haben uns einfach rausgehalten und ihn machen lassen, und wir wussten zumindest, dass er eine Menge Zeug losgeworden ist, das nicht gerade legal war.” Das Unternehmen, das seine Plattform nicht moderieren wollte, lagerte die Erkennung illegaler Inhalte an den Mann aus, der das Kindesmissbrauchs-Forum betrieb. Violentacrez moderierte etwa 400 Subreddits, darunter r/chokeabitch, r/misogyny, r/incest und r/creepshots (gewidmet heimlich fotografierten Frauen in der Öffentlichkeit). Er war, nach Reddits eigenem implizitem Eingeständnis, zu nützlich, um ihn zu verlieren.
Anderson Cooper erzwingt eine Reaktion
Im Oktober 2011 widmete Anderson Cooper einen CNN-Beitrag der Kritik an Reddit wegen r/jailbait. Die unmittelbare Wirkung war kontraproduktiv – ein klassischer Streisand-Effekt: Das Subreddit gewann am darauffolgenden Wochenende über 1.000 neue Abonnenten und fast vier Millionen Seitenaufrufe. Aber der Mediendruck hielt an, und als Nutzer begannen, über das private Nachrichtensystem des Subreddits scheinbar echte Kinderpornografie zu teilen, sperrte Reddit r/jailbait am 11. Oktober 2011.
Das Verbot war eng gefasst. Reddit änderte seine Richtlinien, um „suggestive oder sexuelle Inhalte mit Minderjährigen” zu verbieten, aber das breitere Bekenntnis der Plattform zu minimaler Moderation blieb intakt. Violentacrez moderierte weiterhin seine anderen 399 Subreddits. Reddit beschrieb die Entfernung von r/jailbait als schwierige Entscheidung, nicht als selbstverständliche.
Die Enttarnung
Im Oktober 2012 identifizierte der Gawker-Journalist Adrian Chen Violentacrez als Michael Brutsch, einen 49-jährigen Softwareentwickler aus Arlington, Texas. Der Artikel enthüllte das volle Ausmaß seiner Reddit-Aktivitäten und die Mitschuld der Plattform daran.
Brutsch wurde von seinem Programmierjob entlassen. Er erschien in Anderson Coopers Sendung und bot an, was er als partielle Entschuldigung bezeichnete: „Ich entschuldige mich bis zu einem gewissen Grad für das, was ich getan habe.” Auf die Frage, warum er erst nach seiner Entlarvung aufgehört habe, antwortete er schlicht: „Ich muss mich abends nicht mehr entspannen, weil ich keinen Job mehr habe.”
Reddits Reaktion auf die Enthüllung war, alle Gawker-Links auf der Plattform zu sperren. Das Unternehmen erklärte später, es bereue, „den Pokal geschickt zu haben” und „nicht früher entschiedener gehandelt zu haben”. Das ist das Muster: Bedauern, rückwirkend geäußert, nachdem der externe Druck die Untätigkeit kostspieliger gemacht hatte als das Handeln.
Der Rückzug von der freien Rede
Zwischen 2012 und 2015 begann Reddit langsam und widerwillig mit der Moderation. CEO Yishan Wong, der die Seite von 2012 bis 2014 leitete, gab später zu, dass er Reddits permissive Meinungsfreiheitsrichtlinien formalisiert und die Toleranz gegenüber Subreddits wie r/creepshots als „einen kleinen Preis” für Reddits Positionierung als offene Plattform für diverse Standpunkte betrachtet hatte.
Als Ellen Pao 2014 Interims-CEO wurde, drängte der Vorstand sie wiederholt dazu, alle Hass-Subreddits zu sperren. Wong enthüllte später, dass Pao tatsächlich Widerstand leistete und es vorzog, den bestehenden Meinungsfreiheitsrahmen aufrechtzuerhalten. Sie sperrte r/fatpeoplehate im Juni 2015 wegen Belästigung außerhalb der Plattform (nicht wegen der Inhalte) und wurde durch den Nutzerprotest aus dem Unternehmen gedrängt. Der Zyklus des Plattformverfalls war bereits in vollem Gange.
Steve Huffman kehrte im Juli 2015 als CEO zurück und begann, wie Wong vorhergesagt hatte, mit der breiteren Inhaltssäuberung, für die die Nutzer unwissentlich gestimmt hatten, indem sie Pao hinausdrängten. Reddit führte Quarantänen ein und weitete Sperren aus. Im Juni 2020 sperrte die Plattform an einem einzigen Tag rund 2.000 Subreddits, darunter r/The_Donald und r/GenderCritical. Bis August 2020 waren fast 7.000 Subreddits im Rahmen der neuen Hassrede-Richtlinien entfernt worden.
Das Problem, das nicht verschwand
Die Reddit-Inhaltsmoderation wurde ausgeweitet. Das spezifische Problem, das sie ausgelöst hatte, wurde nicht gelöst.
Im März 2021 stellte Reddit Aimee Challenor (auch bekannt als Aimee Knight) als Administratorin ein. Challenor war von zwei britischen politischen Parteien suspendiert worden: von den Grünen, nachdem sie ihren Vater als Wahlkampfbeauftragten ernannt hatte, während er wegen der Vergewaltigung und Folterung eines 10-jährigen Mädchens angeklagt war (er wurde später zu 22 Jahren verurteilt), und von den Liberaldemokraten, nachdem ihr Partner angeblich sexuelle Missbrauchsfantasien über Kinder online veröffentlicht hatte. Als ein Moderator einen Nachrichtenartikel über Challenors öffentlich bekannte Vergangenheit postete, sperrte Reddit den Moderator und entfernte den Inhalt unter Berufung auf Anti-Doxxing-Regeln.
Mehr als 200 Subreddits gingen aus Protest in den privaten Modus. CEO Huffman feuerte Challenor und gab zu, dass Reddit „ihren Hintergrund vor der formellen Einstellung nicht angemessen überprüft hatte”. Das war kein freiwilliger Moderator. Das war eine bezahlte Angestellte.
Im April 2021 reichte eine Frau eine Sammelklage gegen Reddit ein und behauptete, die Plattform habe wissentlich die Verbreitung von Missbrauchsmaterial an Kindern zugelassen. Ihr Ex-Freund hatte explizite Bilder von ihr gepostet, die aufgenommen worden waren, als sie 16 Jahre alt war. Reddit benötigte „mehrere Tage”, um den Inhalt nach ihrer Meldung zu entfernen. Der Ex-Freund erstellte neue Konten und postete erneut. Sie überwachte selbst 36 Subreddits. Die Klage warf Reddit vor, den Trafficking Victims Protection Act (Gesetz zum Schutz von Menschenhandelsopfern) zu verletzen. Sie wurde vom Bezirksgericht abgewiesen, eine Entscheidung, die vom Berufungsgericht des Neunten Bezirks bestätigt wurde, bevor der Supreme Court im Mai 2023 die Anhörung ablehnte.
Im März 2024 ging Reddit mit einer Bewertung von 6,4 Milliarden Dollar an die Börse. Forscher des National Center on Sexual Exploitation (Nationales Zentrum gegen sexuelle Ausbeutung) stellten fest, dass Suchanfragen selbst mit aktivierten Filtern für sensible Inhalte Links mit der Bezeichnung „teen nudes” zurückgaben, darunter Material mit Kindern im Alter von zehn Jahren. Eine Thorn-Studie von 2022 ergab, dass unter Minderjährigen, die Reddit täglich nutzten, 34 % selbst erstelltes Missbrauchsmaterial (CSAM) geteilt hatten, 26 % CSAM anderer Personen weitergeteilt hatten und 23 % nicht einvernehmliches intimes Material gezeigt bekommen hatten. Diese Zahlen beschreiben eine Plattform, auf der Kinderausbeutung kein Randfall der Moderation ist. Sie ist eine statistische Gesetzmäßigkeit.
Im März 2026 wurde ein Moderator von r/MTF, r/LGBT und r/egg_IRL als registrierter Sexualstraftäter entlarvt, der wegen Besitzes von sexuellem Missbrauchsmaterial von Kindern verurteilt worden war. Andere Moderatoren dieser Subreddits waren seit Ende 2025 über die Vorwürfe informiert, hatten sie aber zunächst als Trolling abgetan. Der Moderator löschte nach seiner öffentlichen Entlarvung sein Konto.
Die britische Geldstrafe und die Datenschutz-Verteidigung
Am 24. Februar 2026 verhängte das britische Information Commissioner’s Office eine Geldstrafe von 14,47 Millionen Pfund gegen Reddit, weil die Plattform das Alter der Nutzer nicht überprüfte. Dies bedeutete, dass Kinder unter 13 Jahren ihre persönlichen Daten ohne Rechtsgrundlage verarbeitet sahen und Inhalten ausgesetzt wurden, die sie niemals hätten sehen sollen. ICO-Beauftragter John Edwards erklärte: „Sich darauf zu verlassen, dass Nutzer ihr Alter selbst angeben, reicht nicht aus, wenn Kinder gefährdet sein könnten.”
Reddits Verteidigung war aufschlussreich. Ein Sprecher sagte, die Plattform verlange nicht, dass Nutzer „Informationen über ihre Identität teilen, unabhängig vom Alter, weil wir zutiefst ihrer Privatsphäre und Sicherheit verpflichtet sind”. Das Argument lautet also, dass die Weigerung zu überprüfen, ob Nutzer Kinder sind, selbst eine Form des Kinderschutzes sei. Reddit plant, Berufung einzulegen.
Reddit-Inhaltsmoderation: Stand der Dinge
Das gängige Narrativ über die Reddit-Inhaltsmoderation stellt sie als Reifeprozess einer Plattform dar: jugendlicher Idealismus weicht unternehmerischer Verantwortung. Die tatsächliche Bilanz stützt diese Deutung nicht.
Reddit entschied sich nicht zur Moderation, weil es zu dem Schluss gelangte, dass der Absolutismus der freien Rede philosophisch unhaltbar sei. Es moderierte, weil CNN einen Beitrag ausstrahlte, weil Gawker einen Kindesmissbrauchs-Komplizen namentlich nannte, weil Hunderte von Subreddits offline gingen, weil Klagen eingereicht wurden, weil Regulatoren Bußgelder verhängten. Jede bedeutende Politikänderung war reaktiv, erzwungen durch externe Akteure, die die Kosten des Nichtshandelns höher machten als die Kosten des Handelns.
Die Plattform, die dem Ersteller von r/jailbait einen Pokal schickte, betreibt heute automatisierte CSAM-Erkennungssysteme. Die Plattform, die Gawker-Links sperrte, um die Anonymität eines Kindesmissbrauchs-Komplizen zu schützen, hat jetzt eine 38-seitige Inhaltsrichtlinie. Die Fortschritte sind real. Aber im Februar 2024 identifizierten Forscher Reddit weiterhin als eine der acht wichtigsten Plattformen, die von Tätern genutzt werden, um Kindesmissbrauchsmaterial zu finden und zu teilen. Im März 2026 war ein Moderator großer Communities immer noch ein registrierter Sexualstraftäter, dessen Status anderen Moderatoren bekannt war und ignoriert wurde.
Die Reddit-Inhaltsmoderation ist keine Erfolgsgeschichte, die zu früh erzählt wird. Es ist ein branchenweites Muster: Plattformen bauen Engagement auf, stellen fest, dass dieses Engagement Ausbeutung einschließt, und moderieren nur so weit, wie es der externe Druck erfordert. Die freie Rede war real. Die Ausbeutung war real. Die Moderation ist real. Die Ausbeutung ist es auch noch.
Wichtige Daten
Juni 2005: Steve Huffman und Alexis Ohanian starten Reddit. Die Inhaltsrichtlinie lautet praktisch: „Poste keine illegalen Inhalte.” Fast alles andere ist erlaubt.
November 2005: Aaron Swartz fusioniert seine Firma Infogami mit Reddit und wird Miteigentümer. Er trägt bis zu seinem Ausscheiden 2007 zur Entwicklung der Seite bei.
2007: Nutzer Violentacrez erstellt r/jailbait, ein Subreddit für sexualisierte Bilder bekleideter minderjähriger Mädchen, ohne deren Einwilligung aus ihren Social-Media-Konten entnommen. Das Subreddit wird eine der meistbesuchten Communities auf Reddit. Reddit schickt Violentacrez einen vergoldeten Wackelkopf als Belohnung für den Traffic. Er kommt schließlich auf rund 400 moderierte Subreddits.
Oktober 2011: Anderson Cooper berichtet über r/jailbait bei CNN. Das Subreddit gewinnt am folgenden Wochenende über 1.000 neue Abonnenten und fast vier Millionen Seitenaufrufe – ein klassischer Streisand-Effekt. Nachdem echte Kinderpornografie über private Nachrichten auftaucht, sperrt Reddit r/jailbait am 11. Oktober. Die Richtlinien werden aktualisiert, um „suggestive oder sexuelle Inhalte mit Minderjährigen” zu verbieten. Violentacrez moderiert weiterhin alle anderen Subreddits.
Oktober 2012: Gawker-Journalist Adrian Chen identifiziert Violentacrez als Michael Brutsch, 49, einen texanischen Programmierer. Brutsch wird entlassen. Reddit sperrt alle Gawker-Links und erklärt später, den Pokal und „nicht früher entschiedener gehandelt zu haben” zu bedauern.
2012-2014: CEO Yishan Wong formalisiert Reddits Meinungsfreiheitsrichtlinien und betrachtet Ausbeutungsinhalte als „kleinen Preis” für die ideologische Positionierung der Plattform.
Juni 2015: Interims-CEO Ellen Pao sperrt r/fatpeoplehate wegen Belästigung außerhalb der Plattform. Der Nutzerprotest führt zu ihrem Rücktritt. Steve Huffman kehrt als CEO zurück.
2015-2020: Reddit führt Quarantänen ein. Die Inhaltsmoderation weitet sich schrittweise aus. Im Juni 2020 werden an einem einzigen Tag rund 2.000 Subreddits gesperrt. Bis August sind fast 7.000 verschwunden.
März 2021: Reddit stellt Aimee Challenor ein, die von zwei britischen politischen Parteien suspendiert worden war wegen der Verurteilung ihres Vaters wegen Kindesmissbrauchs und der angeblichen Online-Fantasien ihres Partners über sexuellen Kindesmissbrauch. Als ein Moderator einen öffentlichen Artikel über ihre Vergangenheit postet, sperrt Reddit den Moderator. Über 200 Subreddits gehen in den privaten Modus. Challenor wird entlassen. CEO Huffman gibt zu, dass Reddit „ihren Hintergrund nicht angemessen überprüft hatte”.
April 2021: Eine Sammelklage wird eingereicht mit der Behauptung, Reddit habe wissentlich die Verbreitung von CSAM zugelassen. Die Klägerin, Opfer im Alter von 16 Jahren, berichtet von „mehreren Tagen” Wartezeit bis zur Inhaltsentfernung und eigener Überwachung von 36 Subreddits.
2022 (veröffentlichte Studie): Thorn-Forschung zeigt, dass 34 % der täglich Reddit nutzenden Minderjährigen selbst erstelltes CSAM geteilt hatten, 26 % hatten CSAM anderer weitergeteilt.
Februar 2024: Forscher identifizieren Reddit als eine der acht wichtigsten Plattformen, auf denen Täter Kindesmissbrauchsmaterial suchen und teilen.
März 2024: Reddit geht mit einer Bewertung von 6,4 Milliarden Dollar an die Börse.
Februar 2026: Das britische Information Commissioner’s Office verhängt eine Geldstrafe von 14,47 Millionen Pfund gegen Reddit, weil es das Alter der Nutzer nicht überprüft und Kinder so schädlichen Inhalten ausgesetzt hat.
März 2026: Ein Moderator von r/MTF, r/LGBT und r/egg_IRL wird als registrierter Sexualstraftäter entlarvt. Andere Moderatoren wussten seit Ende 2025 davon und hatten die Meldungen ignoriert. Er löscht sein Konto.
Das Muster
Jede bedeutende Reddit-Moderationspolitikänderung wurde von der gleichen Abfolge eingeleitet: externe Enthüllung (Medien, Klagen, Regulatoren), öffentlicher Aufschrei, reaktive Politikänderung, Bedauernserklärung und anhaltende Unfähigkeit, ein Wiederauftreten zu verhindern. Die Plattform, die dem Mann, der r/jailbait aufgebaut hatte, einen Pokal schickte, verfügt jetzt über automatisierte CSAM-Erkennungssysteme. Forscher finden über die Suchfunktion mit aktivierten Inhaltsfiltern weiterhin Kindesmissbrauchsmaterial.
Reddit hat sich nicht zur Moderation entwickelt. Es wurde Skandal für Skandal dorthin gezogen, und das Problem, wegen dem es dorthin gezogen wurde, ist noch immer präsent.
