Metas 332-Anzeigen-CSAM-Problem gefährdet den Intermediärsstatus

Dreihundertzweiunddreißig Anzeigen. Das ist die Zahl der KI-generierten Anzeigen mit Darstellungen sexuellen Kindesmissbrauchs, die das Tech Transparency Project eigenen Angaben zufolge auf Facebook und Instagram identifiziert hat – und es ist die Zahl, die nun eine mögliche Neubewertung von Metas Intermediärsstatus in Indien antreibt. Metas eigene Verteidigungsstrategie, dass die meisten dieser Anzeigen weniger als 200 Impressionen erzielt haben und die Gesamtausgaben unter 5.000 USD lagen, richtet mehr Schaden an als Nutzen: Sie bestätigt, dass das Unternehmen Geld für die Platzierungen verlangt hat – genau das ist die Tatsache, die Unionsminister Ashwini Vaishnaw nutzt, um zu argumentieren, dass Safe Harbor nicht gelten sollte.

Die Zahlen

Auslöser war eine BBC-Eye-Untersuchung aus dem Juli, die behauptete, bezahlte Instagram-Anzeigen hätten Suchbegriffe wie „rape video" und „child video" verwendet und Nutzer zu Telegram-Kanälen weitergeleitet, die das Material verkauften, wie Storyboard18 berichtete. Dieser Bericht löste eine Kettenreaktion aus: Das Ministerium für Elektronik und IT wies Instagram an, den betreffenden Werbeinventar zu deaktivieren, und forderte eine Erklärung; die National Commission for Protection of Child Rights (NCPCR) nahm den Fall von Amts wegen auf und lud den Managing Director von Meta India vor; leitende Meta-Führungskräfte erschienen am 9. September vor der NCPCR; die National Human Rights Commission erließ am 2. September eine separate Anordnung, in der sie Berichte von MeitY, dem Informations- und Rundfunkministerium sowie der Polizei Delhi anforderte.

Dann kam der 332-Anzeigen-Befund des Tech Transparency Project hinzu. Die Charakterisierung durch TTP ist wichtiger als die bloße Zahl: Bei den meisten Anzeigen handelte es sich um Fotografien von Kindern, die mittels KI digital manipuliert wurden, um sexuelle Handlungen darzustellen; dabei wurden auch Fotos echter Kinder verwendet. Das ist kein Versagen der Inhaltsmoderation an den Rändern der Richtlinien. Es handelt sich um die bezahlte Verbreitung von Material, das unter Section 67B fällt, über ein monetarisiertes Anzeigensystem.

Metas Antwortzahlen sind die, die Plattform-Ingenieure sorgfältig studieren sollten. Das Unternehmen gab an, viele der markierten Anzeigen seien bereits entfernt worden, die meisten hätten weniger als 200 Impressionen erhalten, und die Gesamtausgaben über alle markierten Anzeigen lagen unter 5.000 USD. Die Rechnung: 5.000 USD geteilt durch 332 Anzeigen ergibt durchschnittlich unter 16 USD pro Anzeige. Bei weniger als 200 Impressionen pro Anzeige deuten die CPMs entweder auf ein äußerst enges Targeting hin oder darauf, dass die Anzeigen nach minimaler Auslieferung schnell von automatisierten Systemen entfernt wurden. Meta argumentiert implizit, dies sei ein Rundungsfehler in einem System, das Milliarden von Dollar Werbeausgaben verarbeitet. Vaishnaw argumentiert das Gegenteil: dass die bloße Tatsache, überhaupt Geld zu verlangen, den rechtlichen Charakter der Verbreitung verändert.

Die Quelle legt nicht das Verhältnis von TPPs 332 zur Gesamtmenge der CSAM-nahen Anzeigen offen, die Metas eigene Systeme erkannt und vor der Auslieferung blockiert haben – was entscheidend ist, denn dieses Verhältnis ist das einzige ehrliche Maß für die Wirksamkeit der Durchsetzung. Ohne einen Nenner ist „die meisten hatten weniger als 200 Impressionen" eine Verteidigung ohne Vergleichsbasis.

Was wirklich neu ist

Die Intermediärsdebatte in Indien ist nicht neu. Was neu ist: Die Regierung formuliert eine spezifische, enge Rechtstheorie, die sauber auf die technische Realität abbildet – wenn eine Plattform Geld für eine Platzierung verlangt und ihre Algorithmen diese Platzierung verbreiten, ist sie kein passiver Host von Drittinhalten für diese Inventareinheit. Vaishnaw sagte es klar: „When they charge money, they are responsible for ownership on what is reflected on their platform." Er verwies auf Schutzmaßnahmen in Frankreich und den Niederlanden als Präzedenzfall für eine größere Plattformverantwortung.

Das ist eine weitaus schärfere Behauptung als die generische Rhetorik der letzten fünf Jahre, Plattformen sollten mehr tun. Sie zieht eine Grenze zwischen bezahlten und organischen Inhalten. Organische nutzergenerierte Inhalte könnten weiterhin Intermediärschutz genießen; bezahltes, algorithmisch verteiltes Inventar hingegen nicht. Für alle, die eine Performance-Marketing-Operation auf Metas Stack betreiben, verändert diese Unterscheidung das Risikomodell grundlegend.

Die Anordnung der NHRC vom 2. September fügte eine zweite Ebene hinzu: ob Metas zunehmender Einsatz von KI und algorithmischen Funktionen Auswirkungen auf seinen Status als passiver Intermediär hat. Das ist dasselbe Argument in anderem Vokabular. Passive Hosts betreiben keine Empfehlungssysteme, die entscheiden, was verstärkt werden soll. In dem Moment, in dem ein Ranking-Modell eine Entscheidung trifft, trifft die Plattform eine redaktionsnahe Entscheidung – und indische Regulierungsbehörden sagen nun, dass diese Entscheidung haftungsrelevant ist.

Das dritte wirklich neue Element ist Metas eigenes Eingeständnis. Vaishnaws Formulierung, dass „Meta themselves have agreed there have been lapses in our child sexual abuse ads", kombiniert mit der Zusicherung des Unternehmens, seine Algorithmen würden solche Anzeigen nicht mehr ausspielen, ist ein Zugeständnis, dass die Anzeigenprüfpipeline versagt hat. Ob dieses Zugeständnis in einem privaten Treffen oder bei der NCPCR-Anhörung gemacht wurde, geht aus der Quelle nicht hervor, und der genaue Umfang dessen, was Meta eingestanden hat, bleibt unklar. Aber die Richtung ist klar: Das Unternehmen bestreitet nicht den Kernvorwurf, es streitet über das Ausmaß.

Was für das Performance Marketing bereits eingepreist ist

Für alle, die Instagram- oder Facebook-Inventar in Indien kaufen, ist einiges davon bereits berücksichtigt – anderes nicht. Was eingepreist ist: erhöhte Moderationslatenz bei neuen Creatives, aggressivere Pre-Flight-Ablehnung von Anzeigen mit kindernahen Bildinhalten und der anhaltende Ausbau des India-spezifischen Compliance-Aufwands im Marketing API-Workflow. Werbetreibende, die auf Indien abzielen, haben seit Jahren mit regionalen Prüfwarteschlangen und strengerer Richtliniendurchsetzung zu kämpfen.

Was nicht eingepreist ist: die Möglichkeit, dass Meta selbst rechtlich für den Inhalt der verteilten bezahlten Platzierungen haftet, was die Haftungsstruktur zwischen Plattform und Werbetreibendem grundlegend umschreiben würde. Heute garantieren Werbetreibende, dass ihre Creatives gesetzeskonform sind, und Meta setzt darüber seine Richtlinien durch. Wenn Indien zu einem Regime übergeht, in dem die Plattform die nachgelagerte Haftung für bezahltes Inventar übernimmt, ist zu erwarten, dass Meta diese Haftung durch wesentlich strengere Garantien, obligatorische KYC für Anzeigenkonten und möglicherweise ein zweistufiges Anzeigensystem auf die Werbetreibenden abwälzt, bei dem für Indien ausgeliefertes Inventar eine zusätzliche Pre-Clearance-Latenz von Stunden statt Minuten aufweist.

Der Zweitrundeneffekt trifft die CPM-Ökonomie. Wenn Meta stärker in die Pre-Serve-Prüfung durch Menschen für indisches Inventar investieren muss, werden diese Kosten über die Auktions-Clearing-Preise amortisiert. Performance-Marketer, die auf indische Zielgruppen optimieren, sollten damit rechnen, dass die effektiven Reichhaltigkeitskosten steigen und die Reichweite sinkt, da grenzwertige Creatives präventiv unterdrückt werden. Die Conversions API und die serverseitige Signalkette helfen hier nicht weiter, da es nicht um Measurement geht, sondern um die Inventareignung.

Die Gegenposition

Das Gegenargument, das es ernst zu nehmen gilt: Metas Zahlen beschreiben, wenn sie zutreffend sind, ein System, das größtenteils funktioniert hat. Unter 5.000 USD Ausgaben über 332 Anzeigen mit überwiegend weniger als 200 Impressionen ist konsistent mit einem Anzeigenprüfsystem, das diese Platzierungen schnell und vor einer nennenswerten Verbreitung erkannt hat. Wenn TTP die Anzeigen über Recherche-Tools identifiziert hat, bevor oder kurz nachdem Metas eigene Systeme sie markiert hatten, ist die Geschichte eher „Moderation hat es erkannt" als „Moderation hat katastrophal versagt".

Ein Regime, das allen bezahlten Inventaren den Intermediärschutz entzieht, verbessert den Kinderschutz nicht zwangsläufig. Es könnte lediglich dazu führen, dass schädliche Akteure von Anzeigenplatzierungen – wo es zumindest eine Zahlungsspur und eine Prüfpipeline gibt – auf organische Inhalte und Direktnachrichten ausweichen, wo die Durchsetzung schwieriger ist. Die von Vaishnaw gezogene Grenze zwischen bezahlt und organisch hat eine gewisse rechtliche Eleganz, könnte aber gegen die operative Realität sprechen, dass bezahlte Verbreitung die am leichtesten zu überwachende Oberfläche für die Erkennung ist.

All das entschuldigt nicht das Existieren der 332 Anzeigen. Aber die von Vaishnaw angedeutete politische Maßnahme – die Aufhebung des Safe Harbor für bezahltes Inventar – ist ein stumpfes Instrument für ein Problem, das möglicherweise besser auf obligatorische Pre-Serve-Prüfschwellen durch Menschen und auf die Fehlerquote kalibrierte Geldstrafen anstatt auf ein absolutes Verbot des Intermediärsstatus reagiert.

Wichtigste Erkenntnisse

• TTP identifizierte 332 KI-generierte CSAM-Anzeigen auf Facebook und Instagram; Meta gibt an, die Gesamtausgaben lagen unter 5.000 USD und die meisten erhielten weniger als 200 Impressionen – doch das Zugeständnis, dass Geld geflossen ist, befeuert das rechtliche Argument.
• Vaishnaws Theorie ist eng und technisch kohärent: Bezahltes, algorithmisch verteiltes Inventar ist eine Dienstleistung, kein passives Hosting, und sollte keine Intermediärsimmunität genießen.
• Die ungeklärte Frage: Weder Meta noch die Quelle legen offen, welcher Anteil der CSAM-nahen Anzeigeversuche von Metas Systemen vor der Auslieferung blockiert wurde – das ist das einzige echte Maß für die Qualität der Durchsetzung. Wenn diese Zahl unter 99 Prozent liegt, bricht die Verteidigung „das System hat funktioniert" zusammen.
• Für Performance-Marketer ist zu erwarten, dass die India-spezifische Anzeigenprüflatenz steigt und innerhalb der nächsten zwei Quartale strengere Werbetreibenden-Garantien in Metas Nutzungsbedingungen auftauchen, sofern die Intermediärsausnahme gesetzgeberischen Schwung gewinnt.
• Überprüfbare Prognose: Wenn Indien mit einer Ausnahme für bezahltes Inventar im Safe Harbor voranschreitet, sollten die effektiven India-CPMs auf Meta-Inventar innerhalb von zwölf Monaten messbar steigen, und Meta sollte im Marketing API-Onboarding-Flow für India-gezielte Kampagnen obligatorische Werbetreibenden-Verifizierungsschritte einführen.