Ein Ratgeber für Online-Anstand Moderator: Verwischen Sie Ihre Augen

"Als ich ging, habe ich seit drei Jahren niemandem die Hand geschüttelt. Ich hatte gesehen, was Leute machen und wie widerlich sie sind. Ich wollte niemanden anfassen. Ich war von der Menschlichkeit angeekelt."

Roz Bowden spricht über ihre Zeit als Content-Moderatorin bei MySpace und sieht sich das Schlimmste an, das das Internet auf sie werfen könnte, so dass andere es nicht tun müssten.

Die Arbeit, die sie geleistet hat, ist noch wichtiger geworden, da soziale Medien ihren Einfluss verbreitet haben und benutzergenerierte Inhalte zu einem entscheidenden Teil des Internets geworden sind.

Facebook hat jetzt 7.500 Content-Moderatoren, die rund um die Uhr rund um den Globus arbeiten und regelmäßig Bilder und Videos ansehen, die verdorbene Inhalte zeigen, von sexuellem Missbrauch von Kindern bis hin zu Bestialität, Enthauptungen, Folter, Vergewaltigung und Mord.

Jetzt verklagt eine von ihnen das soziale Netzwerk wegen psychologischer Traumata, nachdem sie tausende Stunden giftiger und beunruhigender Inhalte gesehen hat.

Selena Scola behauptet, dass Facebook und Pro Unlimited, die Firma, mit der das soziale Netzwerk die Arbeit beauftragte, sie emotional nicht sicher halten konnte.

Sie behauptet, dass sie jetzt an einer posttraumatischen Belastungsstörung leidet, die auf die Dinge zurückzuführen ist, die sie online gesehen hat.

Der Fall wird wahrscheinlich die trübe Welt der Inhaltsmoderation beleuchten und Fragen darüber aufwerfen, ob Menschen diese Art von Arbeit überhaupt machen sollten.

Sarah Roberts, Assistenzprofessorin an der University of California, die in den vergangenen acht Jahren Content Moderation studiert hat, glaubt, dass soziale Netzwerke in eine psychische Krise übergehen können.

"Es gibt keine öffentlichen Studien, die die langfristigen Auswirkungen dieser Arbeit untersuchen", sagte sie der BBC.

"Wir betrachten eine große Anzahl von Menschen - und das wächst exponentiell - und gemeinsam sollten wir sehr besorgt sein über das langfristige Ergebnis.

"Es gibt keinen langfristigen Unterstützungsplan, wenn diese Inhaltsmoderatoren gehen. Es wird erwartet, dass sie sich in die Gesellschaft zurückverwandeln."

Frau Bowden war in Finanzangelegenheiten, bevor sie von 2005 bis 2008 bei MySpace arbeitete und freute sich, zu ihrem vorherigen Bereich zurückzukehren, als der Job im sozialen Netzwerk zu viel für sie wurde.

"Ich sehe mir jetzt nur Zahlen an", sagte sie letztes Jahr einer Konferenz.

Aber sie fragt sich oft, was aus dem Team geworden ist, das sie in den frühen Tagen des Social Networking trainiert und betreut hat.

"Was ist mit all diesen Leuten passiert, die beobachtet haben, wie Köpfe mitten in der Nacht weggeweht wurden? Es ist wichtig zu wissen."

Als sie anfing, die Friedhofsschicht bei MySpace zu bearbeiten, gab es wenig Anleitung darüber, wie sie ihren Job machen sollte.

"Wir mussten uns die Regeln einfallen lassen. Beim Porno schauen und fragen, ob das Tragen eines winzigen Spaghetti-Strap-Bikinis Nacktheit ist. Wie viel Sex ist zu viel Sex für MySpace?

"Sollten wir jemandem erlauben, jemandem in einem Video den Kopf abzuschneiden? Nein, aber was ist, wenn es ein Cartoon ist? Ist es in Ordnung für Tom und Jerry, es zu tun?"

Es gab auch nichts im Wege der emotionalen Unterstützung, obwohl sie ihrem Team sagte: "Es ist in Ordnung, rauszugehen, es ist in Ordnung zu weinen. Nur nicht auf meinem Boden kotzen."

Und wenn es um den Inhalt ging, hatte sie den folgenden Ratschlag: "Verwische deine Augen und dann wirst du es nicht wirklich sehen."

Psychologische Hilfe
In einem Blogpost im letzten Jahr bezeichnete Facebook seine Content-Moderatoren als "die unerkannten Helden, die Facebook für den Rest von uns sicher halten".

Es räumte jedoch ein, dass der Job "nicht für jedermann" sei und dass er nur Leute anheuerte, "die in der Lage sein werden, mit den unvermeidlichen Herausforderungen umzugehen, die die Rolle darstellt".

Aber trotz ihres Versprechens, sich zu kümmern, lagert sie einen Großteil der Arbeit aus, selbst für Frauen wie Frau Scola, die in ihren US-Hauptsitzen in Mountain View und Menlo Park lebt.

Prof Roberts denkt, dass dies ein Weg ist, sich von der Schuld zu befreien.

"Diese Arbeit wird oft in der Technologiebranche ausgelagert. Das bringt Kosteneinsparungen, aber es ermöglicht ihnen auch eine gewisse organisatorische Distanz, wenn es unvermeidliche Fälle wie diesen gibt."

Facebook zeigt Resilienz an, mit Vortrainings für alle Moderatoren, um zu erklären, was im Job erwartet wird, und mindestens 80 Stunden mit einem Lehrer, der eine Replik des Systems verwendet, bevor die Tester in der realen Welt losgelassen werden.

Es beschäftigt auch vier klinische Psychologen und alle Inhaltsüberprüfer haben Zugang zu psychischen Ressourcen.

Peter Friedman betreibt LiveWorld - eine Firma, die seit 20 Jahren Content-Moderatoren für Firmen wie AOL, eBay und Apple zur Verfügung stellt.

Er sagte der BBC, dass Mitarbeiter selten, wenn überhaupt, die Therapie nutzen, die ihnen angeboten wird.

Prof Roberts ist nicht überrascht.

"Es ist eine Voraussetzung der Arbeit, dass sie damit umgehen können und sie wollen nicht, dass ihr Arbeitgeber weiß, dass sie das nicht können", sagte sie.

"Arbeitnehmer fühlen sich stigmatisiert, wenn sie diese Dienste nutzen."

LiveWorld hat jetzt mehr als eine Million Stunden Moderation gesammelt und Herr Friedman hat viele Ratschläge, wie man es gut macht.

Das kulturelle Modell um den Moderator ist entscheidend. Sie müssen sie sich stark und ermächtigt fühlen lassen. Mit einem internen Blick auf Bilder von Kindesmissbrauch könnte die Kultur des gesamten Unternehmens brechen

Eine entspannte Umgebung, kein Call-Center, ist ebenso wichtig wie Management-Unterstützung. Wenn wir wissen, dass wir rund um die Uhr da sind, können Moderatoren besser mit den Dingen umgehen, die sie sehen

Die Veränderungen müssen relativ kurz sein - 30 Minuten bis dreieinhalb Stunden für diejenigen, die den scheußlichsten Inhalt sehen

Es passt vielleicht nicht zu religiösen oder kulturell konservativen Menschen, die es schwerer haben, mit den Dingen umzugehen, die da draußen sind

Stattdessen ist der ideale Kandidat jemand, der bereits soziale Medien annimmt, "damit sie erkennen, dass es gute und schlechte gibt" sowie jemanden, der "die Hand hochhält und sagt, ich brauche eine Pause für einen Tag, eine Woche, einen Monat "

Es besteht ein Bedürfnis nach emotionaler Reife. Ein Student ist weniger gut als eine Mutter

Facebook räumt ein, dass die inhaltliche Überprüfung in der Größenordnung, in der es gerade stattfindet, "Neuland" ist.

"Bis zu einem gewissen Grad müssen wir es herausfinden, wie wir gehen", heißt es in seinem Blogpost.