Am selben Tag, an dem die Whistleblowerin Frances Haugen vor dem Kongress über die Schäden von Facebook und Instagram für Kinder im Herbst 2021 aussagte, schickte Arturo Béjar, damals Vertragspartner des sozialen Netzwerksriesen, eine alarmierende E-Mail an Meta-CEO Mark Zuckerberg über dasselbe Thema.
In der Nachricht, wie zuerst vom Wall Street Journal berichtet wurde, skizzierte Béjar, der von 2009 bis 2015 als Direktor für Technik bei Facebook arbeitete, eine “kritische Lücke” zwischen der Herangehensweise des Unternehmens an Schäden und wie die Menschen, die seine Produkte nutzen – vor allem junge Menschen – sie erleben.
“Vor zwei Wochen machte meine 16-jährige Tochter, ein experimentierender Creator auf Instagram, einen Beitrag über Autos, und jemand kommentierte ‘Geh zurück in die Küche’. Es war für sie zutiefst verstörend”, schrieb er. “Gleichzeitig verstößt der Kommentar nicht wirklich gegen die Richtlinien, und unsere Werkzeuge zum Blockieren oder Löschen bedeuten, dass diese Person zu anderen Profilen gehen und weiterhin Misogynie verbreiten wird. Ich glaube nicht, dass Richtlinien/Meldungen oder mehr Inhaltsüberprüfung die Lösungen sind.”
Béjar sagte am Dienstag vor einem Unterausschuss des Senats über soziale Medien und die psychische Gesundheitskrise bei Jugendlichen aus, in der Hoffnung, mehr Licht auf die Tatsache zu werfen, dass Meta-Führungskräfte, darunter Zuckerberg, von den Schäden wussten, die Instagram verursachte, aber sich nicht entschieden, sinnvolle Änderungen vorzunehmen, um sie anzugehen.
Béjar ist der Ansicht, dass Meta seine Plattformen ändern muss, wobei der Schwerpunkt auf der Bekämpfung von Belästigung, unerwünschten sexuellen Annäherungen und anderen negativen Erfahrungen liegen sollte, auch wenn diese Probleme nicht eindeutig gegen bestehende Richtlinien verstoßen. Zum Beispiel sollte es Jugendlichen möglich sein, der Plattform mitzuteilen, dass sie keine derartigen sexuellen Nachrichten von Erwachsenen erhalten möchten, auch wenn diese Nachrichten die Instagram-Regeln nicht eindeutig brechen.
“Ich kann sicher sagen, dass Meta’s Führungskräfte die Schäden kannten, die Jugendliche erfuhren, dass es Dinge gab, die sie tun konnten, die sehr machbar waren, und dass sie sich entschieden haben, sie nicht zu tun”, sagte Béjar der Associated Press. Dies mache deutlich, “dass wir ihnen unsere Kinder nicht anvertrauen können”.
Zu Beginn der Anhörung am Dienstag stellte Senator Richard Blumenthal, ein Demokrat aus Connecticut, der den Unterausschuss für Datenschutz und Technologie des Senats leitet, Béjar als einen Ingenieur vor, der “weitläufig respektiert und bewundert in der Branche” sei und speziell eingestellt wurde, um Kinder vor Schäden zu schützen, dessen Empfehlungen aber ignoriert wurden.
“Was Sie diesem Ausschuss heute gebracht haben, ist etwas, das jeder Elternteil hören muss”, fügte der ranghöchste Republikaner im Ausschuss, Senator Josh Hawley aus Missouri, hinzu.
Béjar verweist auf Nutzerwahrnehmungsumfragen, die zeigen, dass beispielsweise 13% der Instagram-Nutzer im Alter von 13-15 Jahren berichteten, in den letzten sieben Tagen unerwünschte sexuelle Annäherungen auf der Plattform erhalten zu haben.
Béjar sagte, er glaube nicht, dass die Reformen, die er vorschlägt, den Umsatz oder die Gewinne von Meta und seinen Mitbewerbern wesentlich beeinträchtigen würden. Sie seien nicht dazu gedacht, die Unternehmen zu bestrafen, sondern den Jugendlichen zu helfen.
“Sie haben das Unternehmen darüber reden hören ‘oh, das ist wirklich kompliziert'”, sagte Béjar zu AP. “Nein, ist es nicht. Gib dem Teenager einfach die Möglichkeit zu sagen ‘dieser Inhalt ist nichts für mich’ und nutze dann diese Information, um alle anderen Systeme zu trainieren und Feedback zu erhalten, das es besser macht.”
Die Aussage erfolgt vor dem Hintergrund eines parteiübergreifenden Vorstoßes im Kongress, um Regelungen zu verabschieden, die Kinder im Internet schützen sollen.
Meta erklärte in einer Stellungnahme: “Jeden Tag arbeiten unzählige Menschen innerhalb und außerhalb von Meta daran, wie junge Menschen online geschützt werden können. Die in dieser Aussage angesprochenen Nutzerwahrnehmungsumfragen beleuchten einen Teil dieser Bemühungen, und Umfragen dieser Art haben dazu geführt, dass wir Funktionen wie anonyme Benachrichtigungen über möglicherweise verletzende Inhalte und Kommentarwarnungen eingeführt haben. Gemeinsam mit Eltern und Experten haben wir auch über 30 Tools eingeführt, um Jugendliche und ihre Familien beim sicheren und positiven Erleben des Internets zu unterstützen. All diese Arbeit geht weiter.”
In Bezug auf unerwünschtes Material, das Nutzer sehen, das jedoch nicht gegen die Instagram-Regeln verstößt, verweist Meta auf seine “Richtlinien für die Inhaltsverteilung” aus dem Jahr 2021, wonach “problematische oder niedrigwertige” Inhalte automatisch eine geringere Verteilung in den Feeds der Nutzer erhalten. Dazu gehören Clickbait, bereits widerlegte Falschinformationen und “grenzwertige” Beiträge wie “ein Foto einer Person, die in einer sexuell anzüglichen Pose posiert, Sprache, die Beleidigungen enthält, grenzwertige Hassrede oder grausame Bilder”.
2022 führte Meta auch “Freundlichkeitserinnerungen” ein, die Nutzer auffordern, in ihren Direktnachrichten respektvoll zu sein – aber es gilt nur für Nutzer, die Nachrichtenanfragen an einen Creator senden, nicht an einen regulären Nutzer.
Die heutige Aussage erfolgt nur zwei Wochen nachdem Dutzende US-Bundesstaaten Meta wegen Schäden für junge Menschen und dem Beitrag zur psychischen Gesundheitskrise bei Jugendlichen verklagt haben. Die Klagen, die vor Bundes- und Landesgerichten eingereicht wurden, behaupten, dass Meta wissentlich und vorsätzlich Funktionen auf Instagram und Facebook entworfen hat, die Kinder in eine Sucht nach ihren Plattformen treiben.
Béjar sagte, es sei “absolut essentiell”, dass der Kongress parteiübergreifende Gesetzgebung verabschiedet, “um Transparenz über diese Schäden sicherzustellen und Jugendlichen mit der Unterstützung der richtigen Experten zu helfen”.
“Der effektivste Weg, soziale Medien-Unternehmen zu regulieren, besteht darin, sie dazu zu verpflichten, Metriken zu entwickeln, mit denen sowohl das Unternehmen als auch Außenstehende Instanzen von Schäden bewerten und verfolgen können, wie sie von Nutzern erlebt werden. Dies spielt mit den Stärken dieser Unternehmen, weil Daten für sie alles sind”, schrieb er in seiner vorbereiteten Aussage.