Oversight Board rät, Meta solle die globale Ausweitung von Community Notes stark einschränken.
In Kürze
- Notes kommen oft zu spät und werden selten veröffentlicht
- System ist anfällig für KI‑gestützte Manipulation
- In Krisen und bei Minderheiten birgt es erhebliche Risiken
Meta sollte die weltweite Ausweitung seines Community‑Notes‑Systems deutlich zurückfahren oder in vielen Ländern ganz aussetzen, urteilt das Oversight Board. Die Begründung: Notes sind zu langsam, zu schwach besetzt und anfällig für Manipulation — ein Problem, das durch die steigende Menge KI‑generierter Desinformation noch verschärft wird.
Wie Community Notes funktioniert
Community Notes erlaubt es Nutzer:innen, öffentlich sichtbare Beiträge mit Kontext‑Hinweisen zu versehen. Andere Nutzer:innen bewerten diese Vorschläge als „hilfreich“ oder „nicht hilfreich“. Ein sogenannter Bridging‑Algorithmus veröffentlicht eine Note erst, wenn genug Menschen mit unterschiedlichen Ansichten sie als hilfreich einstufen — das System setzt also auf einen breiten Konsens.
Kernprobleme: Geschwindigkeit und Reichweite
Das Board konstatiert, dass Notes oft zu spät kommen und insgesamt nur sehr wenige Hinweise veröffentlicht werden. Zahlen, die das untermauern:
- In den ersten sechs Monaten des US‑Rollouts wurden laut Meta nur rund 900 Notes veröffentlicht;
- im gleichen Zeitraum markierten professionelle Fact‑Checker in der EU etwa 35 Millionen Facebook‑Posts (Angaben des European Fact‑Checking Standards Network);
- Meta aktualisierte im September 2025, dass nur etwa 6 % der vorgeschlagenen Notes tatsächlich publiziert werden.
Untersuchungen zu X (ehemals Twitter) zeigen ähnliche Schwächen: Veröffentlichungsquoten von rund 8,3 % und Verzögerungen, die in Studien mit durchschnittlich 26 bis 65,7 Stunden angegeben werden. Zwischen Januar 2021 und Januar 2025 blieben 87,7 % der vorgeschlagenen Notes im Status „Needs More Ratings“.
Anders als klassische Faktenprüfung
Im Gegensatz zu professionellem Fact‑Checking führen veröffentlichte Notes nicht zu Reichweitenbeschränkungen, Warnhinweisen oder Werbesperren. Frühere Fact‑Checking‑Programme konnten falsche Inhalte dagegen in ihrer Verbreitung einschränken — ein Unterschied, den das Board als relevant einstuft.
Manipulationsgefahr, vor allem durch KI
Das Oversight Board warnt, dass KI‑Tools die Erstellung und Steuerung von Accounts und Netzwerken erleichtern und so das System ausnutzen könnten. Forschungsergebnisse legen nahe, dass eine kleine Minderheit schlechter Bewerter (5–20 %) hilfreiche Notes gezielt unterdrücken kann. Veröffentlichten Notes droht zudem ein Rückzug: Erst zwei Wochen nach Konsens gelten sie als endgültig, in dieser Zeit können koordinierte Akteure sie durch negative Bewertungen wieder entfernen.
Meta weist darauf hin, dass KI‑geschriebene Notes nicht erlaubt seien (KI dürfe als Hilfsmittel dienen, aber ein Mensch müsse einreichen) und sagt, bislang seien keine gezielten Manipulationen festgestellt worden. Das Oversight Board hält die vorgelegten Informationen jedoch für nicht ausreichend, um die Schutzmaßnahmen als ausreichend zu bewerten.
Krisenfall Southport als Beispiel
Als praktisches Beispiel nennt das Board die Unruhen in Southport (Großbritannien, 2024):
- Fünf Accounts mit Falschinformationen erreichten zusammen über 430 Millionen Aufrufe;
- von 1.060 Posts in der Hochphase bekam nur einer eine Community Note.
Das verdeutlicht laut Board, wie ungeeignet das System in akuten Krisen sein kann.
Risiken für Minderheiten und sprachliche Begrenzungen
Der Bridging‑Ansatz geht meist von einer einzigen Polarisationsachse aus. In Gesellschaften mit überlappenden Konflikten — etwa Ethnie, Religion oder Sprache — kann das dazu führen, dass Minderheiten systematisch benachteiligt werden: Vorurteile der Mehrheitsgruppen können als „Brücke“ dienen und schädliche Notes publizieren. NGOs meldeten dem Board entsprechende Fälle aus Indien.
Zudem ist Community Notes aktuell auf sechs Sprachen begrenzt:
- Englisch
- Spanisch
- Chinesisch
- Vietnamesisch
- Französisch
- Portugiesisch
Forschung zeigt, dass Notes in nicht‑englischen Sprachen seltener bewertet und veröffentlicht werden. In repressiven Staaten kann außerdem die Anonymität von Beitragenden gefährdet sein, was Privatsphäre und persönliche Sicherheit — im schlimmsten Fall Leben — bedrohen kann.
Empfehlungen des Oversight Board
Das Board fordert, Community Notes in Ländern mit schlechtem Menschenrechts‑Record, schwacher Zivilgesellschaft, aktiven Krisen oder bekannter Geschichte koordinierter Desinformation nicht einzuführen, bis Meta nachweist, dass robuste Schutzmaßnahmen bestehen. Genannte Schutzmaßnahmen umfassen etwa:
- anonyme Beitragenden‑Schutzmechanismen;
- Red‑Teaming unter feindlichen Bedingungen;
- klare Regeln für Behördenanfragen.
Bei Wahlen rät das Board zu besonderer Vorsicht: Keine Einführung vor oder während wichtiger Wahlen, wenn Schutzmaßnahmen fehlen. Länder mit mehrdimensionaler gesellschaftlicher Spaltung oder systematischen Internet‑Barrieren sollten ausgeschlossen oder nur sehr vorsichtig behandelt werden. Meta soll dem Board alle sechs Monate die Kriterien und die Risikomatrix vorlegen, die bei Ausweitungsentscheidungen verwendet werden; außerdem fordert das Board mehr Transparenz und Zugang für Forschende. Rechtlich ist Meta nicht verpflichtet, diesen Empfehlungen zu folgen.
Beziehung zu professionellem Fact‑Checking
Das Oversight Board betont, dass Community Notes und professionelles Fact‑Checking sich nicht ausschließen. Studien zeigten, dass Notes häufig auf Fact‑Checking‑Quellen verweisen — in einigen Auswertungen bis zu fünfmal häufiger als zuvor berichtet — und dass Fact‑Checking‑Organisationen eine wichtige Referenzquelle für veröffentlichte Notes sind. Das Board warnt davor, die Unterstützung für professionelle Fact‑Checker zu kürzen, da dies auch die Qualität der Notes schwächen würde.
Quellen
- Quelle: Meta Oversight Board / Meta
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
