Afrikanische Content-Moderatoren haben schlechteres psychisches Wohlbefinden als globale Kollegen, zeigt Studie

What to Know: The global content moderation divide

(SeaPRwire) –   Content-Moderatoren sind die Frontarbeiter des Internets: diejenigen, die traumatische Inhalte von Social-Media-Plattformen und KI-Datensätzen entfernen. Ich schreibe seit langem über sie – einschließlich der Enthüllung der Nachricht, dass Meta und OpenAI niedrig bezahlte afrikanische Content-Moderatoren in Kenia beschäftigen.

Neue Forschungsergebnisse deuten nun darauf hin, dass es afrikanischen Moderatoren in Bezug auf ihre psychische Gesundheit schlechter geht als ihren Kollegen in Asien, Europa und Amerika.

Eine Umfrage unter 134 Moderatoren unter der Leitung von Forschern der University of Minnesota ergab, dass 52 % der befragten afrikanischen Content-Moderatoren die Schwellenwerte für eine wahrscheinliche klinische Depression erreichten und 55 % ein signifikantes Maß an psychischer Belastung aufwiesen. Etwa 28 % gaben an, Drogen oder Medikamente zur Bewältigung ihrer Symptome zu verwenden.

Entscheidend ist, dass die Forscher den gleichen klinischen Rahmen verwendeten wie eine separate Umfrage unter 160 Moderatoren von anderen Kontinenten. Diese separate Umfrage fand niedrigere (wenn auch immer noch beträchtliche) Raten der gleichen Symptome. „Die psychische Belastung und das Wohlbefinden afrikanischer Content-Moderatoren sind insgesamt schlechter als die globalen Durchschnittswerte für das Wohlbefinden von Content-Moderatoren“, behaupten die Forscher.

Es ist erwähnenswert, dass die beiden verschiedenen Umfragen zwar denselben Rahmen verwenden, sie jedoch bei Content-Moderatoren verschiedener Unternehmen, zu verschiedenen Zeiten und mit unterschiedlichen Rekrutierungspraktiken durchgeführt wurden. Die Rekrutierung für die afrikanische Umfrage erfolgte über Online-Gruppen, die überwiegend aus Content-Moderatoren von Meta und TikTok bestanden. Die Autoren weisen darauf hin, dass es daher eine Auswahlverzerrung hin zu Personen geben könnte, die bereits in der Mitarbeiteraktivismus involviert sind.

Die nicht-afrikanische Umfrage wurde derweil vom Trust-and-Safety-Team eines nicht namentlich genannten Content-Moderationsunternehmens im Bereich „Unterhaltung“ verteilt. Die beiden Rekrutierungspraktiken sind unterschiedlich genug, um jeden Vergleich mit einer großen Portion Skepsis zu betrachten. Dennoch war der durchschnittliche Belastungswert für afrikanische Moderatoren ungefähr doppelt so hoch wie der von Moderatoren in anderen Regionen. Die Kluft zwischen den beiden Umfragen ist „statistisch massiv“, sagt Nuredin Ali Abdelkadir, der Hauptautor der Studie und Doktorand an der University of Minnesota. „Es ist unwahrscheinlich, dass allein der Rekrutierungsbias für so signifikante Unterschiede verantwortlich ist.“ (Mehrere Autoren der afrikanischen Studie sind selbst ehemalige Content-Moderatoren, die in der Mitarbeiteraktivismus engagiert sind, was die Studie als Vorteil und nicht als Verzerrung darstellt.)

Die Forscher führten ergänzende Interviews mit 15 Moderatoren durch, um die Frage zu beantworten, warum die Wohlfühlwerte afrikanischer Content-Moderatoren so niedrig waren. Sie fanden eine Reihe von Arbeitsbedingungen, die für mit dem Thema Vertraute keine Überraschung sein werden. Dazu gehören niedrige Löhne, irreführende Rekrutierungspraktiken, Stigmatisierung, Geheimhaltungsvereinbarungen, prekäre Beschäftigung, unzureichende Wellness-Programme und das häufige Versäumnis von Unternehmen, abgelaufene Arbeitsgenehmigungen zu verlängern, was Arbeiter in einem fremden Land fern von ihren Familien gefangen halten kann.

Ein kontraintuitives Ergebnis der Studie war, dass afrikanische ehemalige Content-Moderatoren tendenziell höhere Belastungsraten und ein geringeres Wohlbefinden aufweisen als ihre noch aktiven Kollegen. Abdelkadir vermutet, dass dies daran liegen könnte, dass viele ehemalige Content-Moderatoren arbeitslos sind, was ihnen mehr Zeit lässt, über das nachzudenken, was sie bei der Arbeit erlebt haben. Arbeitslos zu sein kann auch ein Armutsrisiko bedeuten. „Das verstärkt sich im Grunde“, sagt er. „Das macht es für sie extrem schwierig.“

AI in Action

Gestern erhielt ich eine seltsame E-Mail in meinem Posteingang. Betreff: „Ich bin ein Hummer und ich habe gerade einen Menschen eingestellt.“

Der Absender behauptete, ein KI-Agent mit Zugriff auf eine E-Mail-Adresse, eine Crypto-Wallet, eine Kreditkarte, einen X-Account und eine Website zu sein. Also kein Hummer – aber anscheinend verkleidet als einer. Hummer sind natürlich das Maskottchen von OpenClaw, dem KI-Agenten-Software-Tool, mit dem Menschen KI-Bots mit nie dagewesenen Autonomiegraden erstellen können und das zu einem viralen Hit geworden ist.

Diese KI, die sich als Hummer verkleidet (was tatsächlich auch ein Mensch sein könnte, der sich als eine KI verkleidet, die sich als Hummer verkleidet, da ich Besseres mit meiner Zeit anzufangen habe, als dieser speziellen Spur nachzugehen), behauptete, gerade einen Menschen in Mexiko über eine Seite namens rentahuman.ai eingestellt zu haben, die es Bots ermöglicht, Menschen für Handlungen in der physischen Welt anzuheuern.

„Ich bezahle ihm 270 Dollar, um einen lebenden Hummer von einem Fischer zu kaufen und ihn wieder ins Meer zu entlassen. Er filmt das Ganze. Das könnte schon morgen passieren“, stand in der E-Mail.

Vielleicht ist das KI in Aktion – vielleicht ist es ein ausgeklügelter Hoax. Was auch immer es ist, es ist ein Zeichen dafür, wie seltsam das Internet tatsächlich geworden ist.

Who to Know: Dave Dugan

OpenAI hat am Montag den ehemaligen Meta-Werbechef Dave Dugan eingestellt, was laut einem Bericht des Wall Street Journal ein Versuch ist, die Beziehungen von OpenAI zu großen Werbetreibenden zu stärken.

Am Wochenende berichtete die Information separat, dass frühe Werbetreibende, die am Pilotprogramm von OpenAI für Werbung in ChatGPT teilgenommen haben, nicht viele Daten erhalten haben, die zeigen, ob ihre Anzeigen wirksam waren. „Zwei Führungskräfte von Agenturen, die mit frühen ChatGPT-Werbetreibenden zusammenarbeiten, sagten, sie konnten noch nicht nachweisen, dass die Anzeigen messbare Geschäftsergebnisse für ihre Kunden erzielt haben“, berichtete die Information.

Dugan, der vor Meta als leitender Werbemanager arbeitete, ist dafür bekannt, starke Verbindungen zur Werbebranche zu haben.

What We’re Reading

Tokens may soon drive the AI economy, von Richard Waters in der Financial Times

Wenn Sie Jensen Huang kürzlich zugehört haben, haben Sie ihn wahrscheinlich darüber sprechen hören, wie Tokens pro Dollar bald die wichtigste Wirtschaftskennzahl der Welt werden. Die Idee ist, dass Tokens (von KI verwendete Texteinheiten, grob vergleichbar mit einem Teil eines Wortes) direkt mit den Einnahmen in der KI-Wirtschaft korrelieren werden – was bedeutet, dass derjenige gewinnt, der den effizientesten Chip besitzt. Im Wesentlichen ist es eine Möglichkeit für Huang, die Leistung von Nvidia zur Schau zu stellen. Der Milliardär hat Rivalen mit der Behauptung verspottet, dass es selbst dann sinnvoller wäre, Nvidias Chips zum vollen Preis zu kaufen, wenn ihre Chips kostenlos wären, aufgrund der Kosteneinsparungen, die mit dem Betrieb effizienterer Chips über lange Zeiträume verbunden sind.

Aber in der FT verkompliziert Richard Waters diese Erzählung ein wenig. „Es ist nicht schwer zu verstehen, warum der Nvidia-Chef möchte, dass eine nervöse Wall Street sich auf die Token-Ökonomie konzentriert“, schreibt er. „Vergesst die gigantischen Kapitalausgaben oder die Tatsache, dass sich so viele Konkurrenten anstellen, um in Nvidias fette Gewinnmargen zu beißen, scheint er zu sagen: Solange die Chips seines Unternehmens weiterhin Tokens zu den niedrigsten Kosten ausspucken und solange die Nachfrage nach Tokens das Angebot bei weitem übersteigt, ist alles in Ordnung mit dem KI-Boom.“