Von Tessa Lyons, Product Manager

Falschmeldungen werden seit Langem gezielt eingesetzt, um wirtschaftliche oder politische Ziele zu erreichen. Auch im Online-Bereich sind sie in immer neuen Formen zu finden. Spammer setzen sie ein, um Klicks zu generieren und Umsätze zu steigern. Besonders verwerflich ist die Art und Weise, wie gegnerische Akteure seit Neuestem Falschmeldungen in Wahlkämpfen und ethnischen Konflikten rund um den Globus verbreiten.

Falschmeldungen sind nicht nur für Menschen im Allgemeinen, sondern auch für Facebook ein Problem. Wir ergreifen umfassende Maßnahmen, um zu verhindern, dass sich Falschmeldungen verbreiten und um professionellen Journalismus und die Medienkompetenz zu fördern. Ich bin bei Facebook als Produktmanagerin für den News Feed tätig und befasse mich mit Falschmeldungen. Gemeinsam mit verschiedenen Teams aus dem gesamten Unternehmen arbeite ich an einer Lösung dieses Problems.

Unsere Strategie zum Unterbinden von Fehlinformationen auf Facebook umfasst drei Schritte:

  • Entfernen von Konten und Inhalten, die gegen unsere Gemeinschaftsstandards oder Werberichtlinien verstoßen
  • Eindämmen der Verbreitung von Falschmeldungen und nicht authentischen Inhalten wie Clickbait
  • Besseres Informieren der Menschen durch das Bereitstellen von mehr Kontext zu den Beiträgen, die sie sehen

Durch diese Ansätze möchten wir böswilligen Akteuren, die häufig Falschmeldungen verbreiten, ihren Einfluss entziehen. Wir grenzen die Reichweite dieser Meldungen auf diese Weise drastisch ein. Außerdem helfen wir den Menschen so dabei, sich zu informieren, ohne den öffentlichen Diskurs zu unterdrücken. Ich möchte etwas näher auf die einzelnen Schritte und unsere Fortschritte eingehen.

Entfernen von Konten und Inhalten, die gegen unsere Richtlinien verstoßen

Obwohl Falschmeldungen nicht gegen unsere Gemeinschaftsstandards verstoßen, verletzen viele der Personen, die sie erstellen, auf andere Weise unsere Richtlinien, etwa durch Spam, Hassrede oder das Verwenden einer falschen Identität.

Aus diesem Grund sind unsere umfassenderen Bemühungen zur Erkennung und Sperrung falscher Konten von großer Bedeutung. Beispielsweise verstößt eine Facebook-Seite, die angeblich von Amerikanern geführt wird, deren Verantwortlicher in Wahrheit aber in Mazedonien sitzt, gegen unsere Richtlinien: Diese besagen, dass Nutzer ihre wahre Identität verwenden müssen und sich nicht für jemand anderen ausgeben dürfen. Daher sperren wir die gesamte Seite und löschen so umgehend alle Beiträge und möglichen Falschmeldungen, die von der Seite gepostet wurden.

Im letzten Jahr haben wir mehr darüber gelernt, wie Netzwerke böswilliger Akteure zusammenarbeiten, um Fehlinformationen zu verbreiten. Daher haben wir eine neue Richtlinie zur Bekämpfung koordinierter, nicht-authentischer Aktivitäten erstellt. Wir setzen außerdem maschinelle Lernverfahren ein, damit unsere Teams Betrugsfälle leichter erkennen und unsere Richtlinien gegen Spam besser durchsetzen können. Wir blockieren täglich Millionen von gefälschten Konten, die sich registrieren möchten.

Eindämmen der Verbreitung von Falschmeldungen und nicht authentischen Inhalten

Ein Großteil der Fehlinformationen, die auf Facebook verbreitet werden, dienen der finanziellen Bereicherung, ähnlich wie Spam-Mails in den 90er-Jahren. Wenn Spammer genügend Personen dazu bringen, auf ihre Falschmeldungen zu klicken und ihre Seiten zu besuchen, nehmen sie über die dort angezeigten Werbeanzeigen Geld ein. Indem wir diese Art von Betrug unrentabel machen, eliminieren wir den Anreiz zur Verbreitung von Falschmeldungen auf Facebook. Wir müssen also herausfinden, welche Taktiken die Betrüger häufig einsetzen, und die Verbreitung dieser Art von Meldungen im News Feed eindämmen. Wir haben nun damit begonnen, gegen Clickbaithäufig von Betrügern geteilte Linksund Links zu Webseiten von geringer Qualität, sogenannte „Ad Farms“, vorzugehen.

Außerdem gehen wir gegen ganze Seiten und Webseiten vor, die wiederholt Falschmeldungen teilen, und schränken so ihre generelle Verbreitung im News Feed ein. Da wir durch die Verbreitung von Fehlinformationen keine Einnahmen erzielen und den Profit der Urheber nicht noch steigern möchten, gestatten wir es diesen Verfassern nicht, Werbeanzeigen zu schalten oder unsere Monetisierungsfunktionen zu verwenden, wie z. B. Instant Articles.

Im Rahmen unserer Strategie arbeiten wir in einigen Ländern mit unabhängigen Faktenprüfern zusammen, um die Richtigkeit von Artikeln und Beiträgen auf Facebook zu überprüfen und zu bewerten. Diese Faktenprüfer sind unabhängig und vom unparteiischen International Fact-Checking Network zertifiziert. Inhalte, die von diesen Faktenprüfern als Fehlinformationen eingestuft wurden, werden im News Feed deutlich weiter unten angezeigt. Die zukünftigen Aufrufe sinken dadurch im Durchschnitt um mehr als 80 Prozent. Wir setzen die Informationen der Faktenprüfer auch ein, um unsere Technologie zu verbessern und so potenzielle Falschmeldungen zukünftig besser und schneller erkennen zu können. Wir planen, dieses Programm in Zukunft auf weitere Länder auszuweiten.

Besseres Informieren unserer Community durch mehr Kontext

Selbst mit diesen Schritten können wir nicht gänzlich verhindern, dass Menschen irreführende Inhalte auf Facebook und im Internet allgemein sehen. Damit Personen fundierte Entscheidungen darüber treffen können, was sie lesen möchten, welchen Quellen sie vertrauen und welche Inhalte sie teilen möchten, investieren wir in Medienkompetenz und entwickeln Produkte, die den Nutzern direkt im News Feed weitere Informationen geben.

So haben wir zum Beispiel kürzlich eine neue Funktion eingeführt, die Personen mehr Informationen zu den Verfassern und den Artikeln, die sie sehen, gibt. Dazu zählt beispielsweise der Wikipedia-Artikel über den Verfasser. Eine weitere Funktion namens „Mehr zum Thema“ zeigt Artikel von unabhängigen Faktenprüfern direkt unterhalb einer Meldung zu demselben Thema an. Wird eine Meldung von einem Faktenprüfer als Falschmeldung eingestuft, informieren wir Personen, die sie teilen wollen, darüber, dass es zu dem betreffenden Thema weitere Meldungen gibt. Wir benachrichtigen auch die Personen, die die Meldung bereits auf Facebook geteilt haben. Letztes Jahr haben wir ein Informations-Tool erstellt, das Tipps gibt, wie man Falschmeldungen erkennen kann, und uns mit einem Gründungszuschuss an der News Integrity Initiative beteiligt. So investieren wir in langfristige Strategien zur Förderung der Medienkompetenz.

Einen Schritt voraus sein

Wir verstärken zwar unsere Bemühungen, gegen Fehlinformationen vorzugehen, doch unsere Gegenspieler werden auch weiterhin versuchen, unsere Maßnahmen zu umgehen. Wir müssen ihnen weiterhin einen Schritt voraus sein. Das schaffen wir jedoch nicht alleine. Wir arbeiten mit unserem AI-Forschungsteam zusammen, pflegen den Austausch mit Wissenschaftlern, vertiefen unsere Partnerschaften mit unabhängigen Faktenprüfern und führen Gespräche mit anderen Organisationen, darunter andere Plattformen.

Falschmeldungen ziehen weltweit negative und schädliche Folgen nach sich. Wir tragen eine große Verantwortung und wir wissen, dass viel Arbeit nötig ist, um ihr gerecht zu werden. In kommenden Beiträgen werden wir weitere Informationen über unseren Fortschritt und unseren Ansatz geben.