Von Monika Bickert, VP of Global Policy Management

Eine der Fragen, die uns am häufigsten gestellt wird, ist, wie wir entscheiden, was auf Facebook erlaubt ist und was nicht. Diese Entscheidungen gehören zu den wichtigsten, die wir überhaupt treffen, denn sie spielen eine zentrale Rolle, wenn es darum geht, dass Facebook nicht nur ein sicherer Ort ist, sondern auch ein Ort, wo verschiedene Sichtweisen offen diskutiert werden können. Seit vielen Jahren haben wir Gemeinschaftsstandards, die darlegen, was auf Facebook verbleiben darf und was eben nicht. Heute gehen wir noch einen Schritt weiter: Wir veröffentlichen die internen Richtlinien, die wir für die Durchsetzung dieser Standards nutzen. Außerdem geben wir dir erstmals die Möglichkeit, bei einzelnen Beiträgen Einspruch gegen unsere Entscheidung zu erheben. Dies führt zu einer erneuten Überprüfung des Beitrags durch unser Team.

Wir haben uns aus zwei Gründen dafür entschieden, diese internen Richtlinien zu veröffentlichen: Zum einen werden diese Richtlinien den Menschen dabei helfen, zu verstehen, warum wir bei Grenzfällen wie entscheiden. Zum anderen werden es diese Informationen allen, auch Experten aus den verschiedenen Bereichen, leichter machen, uns Feedback zu geben. So können wir die Richtlinien – und damit auch unsere Entscheidungen – langfristig weiter verbessern.

Der Entwicklungsprozess für unsere Richtlinien
Bei Facebook ist das Content Policy Team für die Entwicklung unserer Gemeinschaftsstandards verantwortlich. Unsere Mitarbeiter sind in elf Büros weltweit verteilt und zu unserem Team gehören Experten für Themen wie Hassrede, Kindersicherheit und Terrorismus. Viele von uns haben sich bereits lange bevor sie für Facebook tätig wurden mit Themen wie Meinungsäußerung und Sicherheit beschäftigt. Als Staatsanwältin habe ich mich mit den unterschiedlichsten Themen befasst, u.a. auch Kindersicherheit und Terrorismusbekämpfung. Bei den anderen Teammitgliedern handelt es sich beispielsweise um eine frühere Krisenberaterin bei Vergewaltigungen, eine Wissenschaftlerin, die zu Hass-Organisationen geforscht hat, eine Anwältin für Menschenrecht sowie eine Lehrerin. Unser Team bittet jede Woche Experten und Organisationen außerhalb von Facebook um Input, um die unterschiedlichen Sichtweisen rund um Sicherheit und Meinungsäußerung sowie die Auswirkungen unserer Richtlinien weltweit besser zu verstehen.

Unsere Standards entwickeln sich kontinuierlich weiter – basierend auf diesem Feedback sowie den Veränderungen sozialer Normen und in der Sprache. Was sich jedoch nicht geändert hat – und sich nicht ändern wird – sind die den Standards zugrunde liegenden Prinzipien von Sicherheit, Mitspracherecht und Fairness. Menschen müssen sich sicher fühlen, damit sie Unterhaltungen beginnen und sich mit anderen Menschen austauschen. Facebook soll aber auch ein Ort sein, an dem Menschen ihre Meinung frei äußern können, auch wenn einige ebenjene Meinung ablehnen. Dadurch, dass unsere Dienste weltweit verfügbar sind, kann dies eine echte Herausforderung sein. Aus diesem Grund ist Fairness ein so wichtiges Prinzip: Unser Ziel ist es, diese Standards konsequent und fair weltweit und in allen Kulturen anzuwenden. Wir skizzieren diese Prinzipien in der Präambel der Standards klar und deutlich. Und wir füllen sie mit Leben, indem wir den Grundgedanken hinter jeder einzelnen Richtlinie teilen.

Durchsetzung
Unsere Richtlinien sind nur so gut wie ihre Durchsetzung – und die ist nicht perfekt.

Eine Herausforderung besteht darin, potenzielle Verstöße gegen unsere Standards zu identifizieren, sodass wir diese überprüfen können. Hierbei können Technologien hilfreich sein. Wir setzen auf eine Kombination aus künstlicher Intelligenz und Meldungen von Nutzern, um die Beiträge, Bilder und anderen Inhalte zu identifizieren, die möglicherweise gegen unsere Gemeinschaftsstandards verstoßen. Diese Meldungen werden von unserem Community Operations Team überprüft, das rund um die Uhr aktiv ist und mehr als 40 Sprachen beherrscht. Aktuell haben wir weltweit mehr als 7.500 Personen, die Inhalte prüfen – das sind über 40 Prozent mehr als noch vor einem Jahr.

Eine weitere Herausforderung ist es, unsere Richtlinien korrekt auf die Inhalte anzuwenden, auf die wir hingewiesen werden. In einigen Fällen machen wir Fehler, weil unsere Richtlinien für die Prüfer dieser Inhalte nicht verständlich genug sind; wenn dies der Fall ist, arbeiten wir daran, Abhilfe zu schaffen. In den meisten Fällen jedoch machen wir Fehler, weil an unseren Prozessen Menschen beteiligt sind – und Menschen Fehler machen.

Einsprüche
Wir wissen, dass wir noch mehr tun müssen. Aus diesem Grund werden wir im Laufe des kommenden Jahres weitere Möglichkeiten schaffen, wie Menschen gegen unsere Entscheidungen Einspruch erheben können. In einem ersten Schritt ermöglichen wir ab heute Einsprüche bei Beiträgen, die aufgrund von Nacktheit/sexuellen Handlungen, Hassrede oder expliziten Gewaltdarstellungen entfernt wurden.

So funktioniert’s:

  • Wenn dein Foto, dein Video oder dein Beitrag entfernt wurde, weil es bzw. er gegen unsere Gemeinschaftsstandards verstößt, dann wirst du darüber informiert und erhältst die Möglichkeit, eine zusätzliche Überprüfung anzufordern
  • Dies führt zu einer Überprüfung durch unser Team (stets von einer Person). Dies geschieht normalerweise innerhalb von 24 Stunden.
  • Wenn uns ein Fehler unterlaufen ist, informieren wir dich darüber. Dein Beitrag, dein Foto bzw. dein Video wird wiederhergestellt.

Die Abbildung zeigt einen Beitrag, der möglicherweise von Facebook zu Unrecht entfernt wurde. Gegen diese Entscheidung kann nun Einbruch erhoben werden, was zu einer erneuten Prüfung führt. 

Wir arbeiten daran, diesen Prozess weiter auszubauen, indem wir weitere Arten von Verstößen einschließen und Menschen die Möglichkeit geben, uns mehr Kontext zur Verfügung zu stellen, sodass wir die richtige Entscheidung treffen können. Außerdem sollen Einsprüche perspektivisch nicht mehr nur für entfernte Inhalte möglich sein, sondern auch für jene, die trotz Meldung auf Facebook verbleiben. Wir sind davon überzeugt, dass die Gewährung eines Mitspracherechts in diesem Prozess ein weiterer wichtiger Aspekt ist, um ein faires System zu etablieren.

Beteiligung und Feedback
Unsere Bemühungen, unsere Gemeinschaftsstandards zu verbessern und weiterzuentwickeln, sind auf die Beteiligung und den Input von Menschen aus aller Welt angewiesen. Im Mai werden wir “Facebook Foren: Gemeinschaftsstandards” starten. Dabei handelt es sich um eine Reihe von öffentlichen Veranstaltungen in Deutschland, Frankreich, Großbritannien, Indien, Singapur, den USA und anderen Ländern. Wir werden weitere Details zu diesen Initiativen veröffentlichen, sobald diese feststehen.

Wie unser CEO Mark Zuckerberg Anfang dieses Jahres gesagt hat: „Wir werden nicht alle Fehler und jeden Missbrauch verhindern können. Wir machen aktuell aber zu viele Fehler bei der Durchsetzung unserer Richtlinien und bei der Vermeidung von Missbrauch unserer Tools“. Die Veröffentlichung der heutigen internen Richtlinien zur Durchsetzung – und auch die Erweiterung unseres Einspruchsprozesses – zeigen, wie wir uns kontinuierlich weiter verbessern können. Dies sind schwierige Themen. Wir freuen uns, zukünftig bei der Umsetzung noch besser zu werden.

Häufig gestellte Fragen

Habt ihr Richtlinien im Zuge dieses Updates verändert?
Was wir heute teilen, ist nicht neu; es spiegelt Standards wider, die bereits seit langem gelten. Wir veröffentlichen jedoch erstmals die internen Umsetzungsrichtlinien, die unsere Prüfer nutzen, um zu entscheiden, was auf Facebook erlaubt ist und was nicht.

Es ist wichtig festzuhalten, dass sich unsere Standards weiterentwickeln. In einigen Fällen ergeben sich Änderungen durch Feedback von externen Stakeholdern; in anderen Fällen nehmen wir Änderungen vor, um auf Veränderungen im Sprachgebrauch zu reagieren. Es kann aber auch sein, dass Änderungen notwendig werden, weil in den bestehenden Richtlinien etwas fehlt. Dieser Prozess wird sich fortsetzen – und unsere Standards regelmäßig überarbeitet werden.
Wir informieren öffentlich über diese Aktualisierungen. Außerdem werden wir ein durchsuchbares Archiv bereitstellen, sodass Änderungen nachvollzogen werden können.

Sind dies dieselben Richtlinien, die eure Prüfer nutzen? Habt ihr irgendetwas entfernt?
Ja. Ab dem heutigen Tag spiegeln unsere externen Gemeinschaftsstandards unsere internen Richtlinien nahezu identisch wider. Uns wurde mitgeteilt, dass unsere Richtlinien nicht verständlich genug seien. Es liegt in unserer Verantwortung, hier für Klarheit zu sorgen. Wir möchten erklären, wo wir bei Inhalten auf Facebook die Grenze ziehen. Wir hoffen, dass dies dazu führt, dass wir zahlreiche Rückmeldungen erhalten, die uns wiederum dabei helfen, unsere Richtlinien weiterzuentwickeln und weiter zu verbessern.

Ihr sagt, dass ihr mit Experten zusammenarbeitet: Wer sind diese Experten?
Wir arbeiten mit Experten aus aller Welt zusammen. Dazu gehören Wissenschaftler, Nichtregierungsorganisationen, Forscher und Juristen. Diese Personen und Organisationen verfügen über vielfältige Denkweisen, Erfahrungen und Hintergründe. Sie liefern wertvollen Input, wenn wir an Anpassungen zu unseren Richtlinien arbeiten, und sie helfen uns dabei, die Auswirkungen unserer Richtlinien besser zu verstehen.

Zum Thema Hassrede haben wir zum Beispiel mit Timothy Garton Ash, Professor an der Oxford-Universität, zusammengearbeitet. Er hat die „Debatte zur Meinungsfreiheit“ ins Leben gerufen, um diese Themenbereiche auf einer kulturübergreifenden Ebene zu betrachten. Bei der Entwicklung unserer Richtlinien zum Schutz der Menschen vor sexueller Ausbeutung haben wir mehr als 150 Sicherheitsorganisationen und Experten aus der ganzen Welt einbezogen – u.a. aus den USA, Kenia, Indien, Irland, Spanien, der Türkei, Schweden und den Niederlanden.

Wie stellt ihr die Einheitlichkeit in all euren Prüfteams sicher und wie schützt ihr euch vor menschlichen Fehlern?
Unsere Gemeinschaftsstandards sind weltweit gültig und alle Prüfer nutzen für ihre Entscheidungen die heute veröffentlichten Richtlinien. Bei ihrem On-Boarding-Prozess durchlaufen sie ein umfassendes Training und werden danach regelmäßig geschult und getestet.

Bei der Entwicklung unserer Richtlinien gehen wir äußerst präskriptiv vor. Wir versuchen, umsetzbare Richtlinien zu schreiben, d.h. Richtlinien, die ganz klar zwischen Inhalten, die gegen die Regeln verstoßen und Inhalten, die nicht gegen die Regeln verstoßen, unterscheiden. Dadurch wollen wir den Entscheidungsprozess für unsere Prüfer so objektiv wie möglich gestalten. Unsere Prüfer arbeiten nicht für sich allein; es gibt Verfahren zur Qualitätskontrolle und die Prüfer können sich bei Fragen an das Management vor Ort wenden. Wir überprüfen zudem wöchentlich die Genauigkeit der Prüferentscheidungen. Bei Fehlern sprechen wir mit Personen im Team, um eine zukünftige Wiederholung zu verhindern.

Wir wissen, dass wir nicht immer alles richtig machen – trotz unserer Qualitätskontrollen. Aus diesem Grund haben wir Nutzern die Möglichkeit gegeben, gegen unsere Entscheidung Einspruch zu erheben, wenn ihr Profil, ihre Seite oder ihre Gruppe entfernt wurde. Ab heute sind auch Einsprüche bei Inhalten möglich, die wegen Nacktheit oder sexuellen Handlungen, Hassrede und Gewalt entfernt wurden. Dadurch können uns die Nutzer darüber informieren, wenn sie glauben, dass uns ein Fehler unterlaufen ist.

Was hat es mit den “Facebook Foren: Gemeinschaftsstandards” auf sich? Habt ihr so etwas schon einmal gemacht?
Wir geben unser Bestes, um auf unterschiedliche Art und Weise externes Feedback zu erhalten. “Facebook Foren: Gemeinschaftsstandards” ist ein Veranstaltungsformat, das wir so noch nie durchgeführt haben. Wir freuen uns darauf, Menschen, die Facebook nutzen, zuzuhören und von ihnen zu lernen. Die Veranstaltung wird sich von Stadt zu Stadt unterscheiden. Wir freuen uns darauf, in Kürze mehr Informationen zur Verfügung zu stellen.