Das Ziel von Pinterest ist es, unseren Nutzern dabei zu helfen, ihr Leben ansprechend und kurzweilig zu gestalten. Das leitet uns, wenn wir Inhaltsrichtlinien verfassen und umsetzen. 

Nicht alles, was das Internet zu bieten hat, ist inspirierend. Daher gibt es auf Pinterest Richtlinien für was zulässig ist und was nicht. Unsere Moderationspraktiken werden ständig weiterentwickelt, um mit neuen Verhaltensweisen und Trends Schritt zu halten und für die Nutzer unserer Plattform einen positiveren Ort im Internet zu schaffen. Wir investieren weiterhin stark in Technologie wie Machine Learning, um richtlinienwidrige Inhalte auf Pinterest zu bekämpfen, und arbeiten mit externen Experten und Organisationen zusammen, um unsere Richtlinien und Praktiken zur Moderation von Inhalten zu verbessern.

Seit 2013 veröffentlichen wir halbjährlich einen Transparenzbericht. Zum Q4 2020 haben wir den Bericht um neue Informationen über die Maßnahmen erweitert, die wir zur Durchsetzung unserer Community-Richtlinien ergreifen. In diesem Transparenzbericht findest du Informationen zu unseren Bemühungen, Inhalte von Nutzern und Händlern zu moderieren, wie z. B. die Anzahl der Richtlinienverstöße und Deaktivierungen. Diese Informationen geben auch Aufschluss über das Volumen der Informations- und Deaktivierungsanforderungen, die wir von Strafverfolgungs- und Regierungsbehörden erhalten haben. Dieser Bericht, der sich aus über 450 einzelnen Datenpunkten zusammensetzt, bezieht sich auf das zweite Halbjahr 2021, von Juli bis Dezember 2021.

Wir sind stolz auf die branchenführenden Richtlinien und Praktiken von Pinterest. Aber noch wichtiger ist, dass sie das Richtige für die Nutzer unserer Plattform sind. Sie tragen dazu bei, Pinterest zu einem positiveren und inspirierenderen Ort im Internet zu machen. Beispielsweise legen wir besonderes Augenmerk auf psychische Gesundheit mit Features wie unserer Compassionate Search und schützen unsere Nutzer mit unserer langjährigen Richtlinie zum Verbot medizinischer Fehlinformationen. Wir möchten die Branche bei diesen Themen voranbringen, damit wir gemeinsam ein inspirierenderes Internet schaffen können.

 

Wir haben weiter in Verbesserungen investiert, um einen besseren Einblick in unser Vorgehen zu geben. In diesem Transparenzbericht haben wir einen neuen Abschnitt zur Umsetzung von Richtlinien für geistiges Eigentum hinzugefügt. Er umfasst Urheberrechte und Markenrechte, einschließlich Informationen zu den Maßnahmen für Inhalte, die in unserem Content-Claiming-Portal gemeldet wurden. In diesem Tool haben Rechteinhaber die Möglichkeit, ihre Inhalte zu beanspruchen und zu steuern, wie sie auf Pinterest angezeigt werden.

Außerdem führen wir Meldungen für eine ganz besonders schädliche Art von Onlineinhalten ein, die sexuelle Ausbeutung von Kindern. Die sexuelle Ausbeutung von Kindern ist der schwerwiegendste Verstoß gegen unsere Inhaltsrichtlinien und wir dulden keine Sexualisierung von Minderjährigen auf Pinterest.

Das folgt Neuerungen in unserem letzten Bericht für Q1 und Q2 2021, als wir eine neue Metrik zur Deaktivierung von Pins mithilfe automatisierter Tools, der manuellen Überprüfung oder eines hybriden Ansatzes hinzugefügt haben. 

Wir bemühen uns, mehr Transparenz darüber zu schaffen, wie wir Pinterest schützen und dafür sorgen, dass die Plattform inspirierend bleibt. Wir werden diesen Bericht auch in Zukunft weiterentwickeln.

 

Wir investieren weiterhin in unsere Richtlinien, Produkte und Partnerschaften, um die Sicherheit und das Wohlbefinden unserer Community zu fördern. Hier sind nur einige der wichtigsten Änderungen, die wir im zweiten Halbjahr 2021 vorgenommen haben.

Das Wohlbefinden der Community wird gefördert, wenn sich die Diversität unserer Zielgruppe auch online widerspiegelt. Im August 2021 haben wir unseren neuesten Fortschritt für inklusivere Beauty-Suchergebnisse vorgestellt: die Haartyp-Suche. Diese neuartige Technologie haben wir speziell mit dem Gedanken an Schwarze und PoC-Nutzer entwickelt und sie ermöglicht die gezielte Suche nach Haarinspiration für verschiedene Haartypen.

Die computergestützte Haartyp-Suche erkennt Haartypen automatisch und bietet Pinterest-Nutzern die Möglichkeit, nach sechs verschiedenen Haartypen zu filtern: protective Hairstyles, sehr lockig, lockig, wellig, glatt und rasiert/kahl.

Diese neue Technologie baut auf einer anderen Branchenneuheit von Pinterest für eine inklusivere Nutzererfahrung auf: die Hautton-Auswahl, die bereits 2018 eingeführt wurde. Sie ist nicht nur ein großer Schritt für inklusivere Technologien, sondern auch eine Antwort auf die Millionen von Pinterest-Nutzern, die möglichst einfach relevante Haarinspiration für ihre Anforderungen finden möchten.

Weltweit haben Menschen aller Altersklassen Probleme mit ihrem Körperbild und ihrer psychischen Gesundheit – besonders angesichts der unterschiedlichen Wellen der Coronapandemie. Der National Eating Disorders Association (NEDA) zufolge gab es seit dem Beginn der Coronapandemie einen deutlichen Anstieg bei ungesundem Essverhalten und Essstörungen bei jungen Menschen.

Pinterest inspiriert Menschen dazu, ein Leben zu erschaffen, das sie lieben. Wir sind ein Ort für alle – unabhängig von Gewicht und Körperbau. Bei Pinterest möchten wir eine Kultur schaffen, die einen gesunden Lebensstil und ein gesundes Körperbild in den Mittelpunkt stellt. Deshalb haben wir zum 1. Juli 2021 unsere Anzeigenrichtlinien aktualisiert, um alle Anzeigen mit Sprache und Bildern zum Thema Gewichtsverlust zu verbieten. Wir ermutigen die Nutzer dazu, die nächste Jahreszeit ohne Abnehm-Anzeigen zu planen. So können sie sich auf das konzentrieren, was wirklich zählt.

Das macht Pinterest zur ersten großen Plattform, die sämtliche Abnehm-Anzeigen verbietet. Wir erweitern damit unsere Anzeigenrichtlinien, die schon seit langem verbieten, dass Anzeigen mit Bodyshaming und gesundheitsgefährdenden Produkten oder Aussagen zum Thema Gewichtsverlust werben. Wir ermutigen andere in der Branche, dasselbe zu tun und endlich anzuerkennen, dass es nicht den einen richtigen Körperbau gibt. 

Diese Richtlinienänderung wurde mit der Unterstützung und unter Leitung der (NEDA) entwickelt. Nach wie vor gelten unsere Richtlinien gegen Belästigung und Mobbing: Inhalte, in denen Bodyshaming betrieben wird, sind gemäß unseren Richtlinien verboten und die Konten von Nutzern, die sich nicht daran halten, werden unter Umständen deaktiviert.

Die Community-Richtlinien von Pinterest sind darauf ausgelegt, unsere Mission der Inspiration zu unterstützen. Die Richtlinien besagen, was auf Pinterest erlaubt ist und was nicht. Alle Nutzer müssen sich daran halten. 

Für Händler und Werbetreibende gelten zusätzliche Richtlinien, die eindeutig festlegen, was für Produkt-Pins und Werbung akzeptabel ist und was nicht. Diese Richtlinien beinhalten besonders hohe Standards, die die Sicherheit aller Zielgruppen gewährleisten sollen, die Pinterest verwenden. Wir glauben, dass man sich nicht inspiriert fühlen kann, wenn man sich nicht zuerst sicher fühlt.

Um eine sichere und inspirierte Community zu kultivieren, entwickeln wir Inhaltsrichtlinien und setzen diese durch. So stellen wir sicher, dass unsere Plattform ein positiver Ort ist, an dem Nutzer Ideen aus dem echten Leben dafür finden, was sie als Nächstes ausprobieren, kochen, anziehen oder tun könnten. Wir arbeiten hart daran, schädliche Inhalte auf unserer Website zu identifizieren und zu deaktivieren. Unsere Inhaltsrichtlinien und Moderationsverfahren entwickeln wir ständig weiter, um mit neuen Verhaltensweisen und Trends Schritt zu halten und für die Nutzer einen positiveren Ort im Internet zu schaffen.

Wir behalten uns vor, Inhalte zu deaktivieren bzw. ihre Distribution einzuschränken und Konten, Einzelpersonen und Gruppen, die solche Inhalte erstellen oder verbreiten, zu löschen bzw. zu sperren. Ob Inhalte eingeschränkt oder entfernt werden, hängt davon ab, wie viel Schaden sie anrichten können. Für den Fall, dass ein Nutzer der Meinung ist, dass eine Deaktivierung falsch war, bietet Pinterest Möglichkeiten, die Deaktivierung anzufechten.

Jeden Tag besuchen Millionen Nutzer weltweit Pinterest, um neue Ideen, die in Form von Pins geteilt werden, zu erstellen, zu entdecken und sie sich zu merken. Um unseren Ansatz der Inhaltsmoderation zu verstehen, ist es hilfreich, zwischen zwei Arten von Pins zu unterscheiden: organische Pins und Anzeigen. Unsere Community-Richtlinien gelten für beide.

Organische Pins umfassen alle Pins, die jemand auf Pinterest erstellt und sich merkt, aber nicht als Anzeigen beworben werden. Dazu gehören z. B. Produkt-Pins von Händlern, die nicht immer Anzeigen sind und Nutzern, die auf Pinterest nach Produkten suchen, organisch angezeigt werden können. Für Händler und ihre Produkt-Pins gelten zusätzliche Anforderungen, z. B. dass Bild und Beschreibung des Pins das Produkt genau widerspiegeln müssen. In unseren Transparenzberichten werden alle Arten von organischen Pins berücksichtigt.

Anzeigen sind Pins, die von Unternehmen auf Pinterest beworben werden. Für Werbetreibende gelten zusätzliche Richtlinien, die höhere Anforderungen an die Qualität von Anzeigen und Werbetreibenden stellen. Anzeigenrichtlinien werden anders durchgesetzt als organische Inhalte, daher werden sie in diesen Transparenzberichten nicht berücksichtigt.

Viele Inhalte auf Pinterest wurden schon mehrfach von jemandem gemerkt, daher kann dasselbe Bild mehrfach auf Pinterest auftauchen. Bei der Berichterstattung über die Inhaltsmoderation für organische Pins beziehen wir die Anzahl der deaktivierten Pins sowie die Anzahl der deaktivierten Bilder mit ein, um einen besseren Überblick über unsere Moderationspraktiken für diese Art von Inhalten zu erhalten. 

Wir berichten über deaktivierte Pinnwände und Konten separat. Um zu vermeiden, dass Deaktivierungen doppelt gezählt werden, berücksichtigen wir bei der Zählung der deaktivierten Bilder und Pins die deaktivierten Bilder auf Pinnwänden oder von deaktivierten Benutzerkonten nicht.

 

Wir deaktivieren Pins, die gegen unsere Richtlinien verstoßen, durch automatisierte Tools, manuelle Überprüfung und einen hybriden Ansatz, der Elemente von beidem kombiniert.

Automatisierte Deaktivierungen: Unsere automatisierten Tools verwenden eine Kombination von Signalen, um potenziell richtlinienwidrige Inhalte zu identifizieren und Maßnahmen dagegen zu ergreifen. Unsere Machine-Learning-Modelle bewerten jedes Bild, das unserer Plattform hinzugefügt wird. Anhand dieser Bewertungen können unsere automatisierten Tools dann die gleiche Durchsetzungsentscheidung auf andere Pins anwenden, die dieselben Bilder enthalten.

Manuelle Deaktivierungen: Wir deaktivieren Pins manuell im Rahmen unseres Überprüfungsprozesses. Pins, die im Rahmen dieses Prozesses deaktiviert werden, wurden entweder intern identifiziert oder uns von Dritten gemeldet. Dazu zählen auch Pins, die von einem unserer Teammitglieder nach einer Meldung durch einen Nutzer überprüft und deaktiviert werden.

Hybride Deaktivierungen: Hybride Deaktivierungen sind jene, bei denen ein Mensch feststellt, dass ein Pin gegen Richtlinien verstößt, und automatisierte Systeme dabei helfen, diese Entscheidung gegen durch von Computern identifizierte übereinstimmende Pins durchzusetzen. Je nachdem, wie viele Pins übereinstimmen, kann eine hybride Deaktivierung dazu führen, dass eine ganze Reihe von Pins deaktiviert wird oder gar keine. 

Die Mechanismen, die eingesetzt werden, um gegen verschiedene potenzielle Richtlinienverstöße vorzugehen, unterscheiden sich je nach dem Stand der verfügbaren Technologie, dem Umfang der nicht konformen Inhalte und anderen Faktoren wie der Komplexität der Bewertung. Wir arbeiten ständig an der Verbesserung und Weiterentwicklung unserer Tools und erwarten auch in Zukunft kontinuierliche Verbesserungen.

Oft wird gefragt, wie viele Nutzer einen Pin gesehen haben, bevor er deaktiviert wurde. In den meisten Fällen lautet die Antwort: nicht sehr viele. 

Beispielsweise wurden 76 % der Pins, die wir in Q4 wegen medizinischen Fehlinformationen deaktiviert haben, in diesem Berichtszeitraum nie von Nutzern gesehen – und das bei mehr als 400 Millionen Pinterest-Nutzern pro Monat.

Reichweite ist einer unserer wichtigsten Indikatoren für die Nutzererfahrung. Zur Berechnung dieser Metrik wird zunächst jeder richtlinienwidrige Pin betrachtet, der in einem Berichtszeitraum deaktiviert wurde. Dann zählen wir die eindeutigen Nutzer, die jeden dieser Pins während des Berichtszeitraums mindestens eine Sekunde lang gesehen haben, bevor er deaktiviert wurde. Aufgrund von Rundungen kann es vorkommen, dass die Summe der Reichweite in einer Kategorie nicht 100 % ergibt.

Nutzer können Pins melden, die sie für anstößig halten, indem sie auf die drei kleinen Punkte auf jedem Pin klicken und „Pin melden“ auswählen. Sobald wir sicher sind, dass die Distribution des Artikels auf Pinterest gegen die Community-Richtlinien verstößt, und Maßnahmen ergreifen, betrachten wir die Meldung als umgesetzte Nutzermeldung.

Die Gesamtzahl der umgesetzten Nutzermeldungen ist ein wichtiger Indikator für die Nutzererfahrung auf Pinterest. Dies gilt auch für die Anzahl der Meldenden: Im 3. Quartal haben weniger als 0,01 % der monatlich aktiven Nutzer einen Pin gemeldet, der schließlich deaktiviert wurde.

Wenn Nutzer Pins finden, die ihnen gefallen oder die sie sich später noch einmal ansehen möchten, merken sie sie sich auf Pinnwänden, die sie selbst erstellen können. Im Laufe der Zeit haben die Nutzer mehrere Milliarden Pinnwände erstellt. 

Wenn eine Pinnwand wegen eines Verstoßes gegen die Richtlinien deaktiviert wird, werden auch alle Pins auf dieser Pinnwand deaktiviert. Ebenso werden alle Pinnwände eines Nutzers deaktiviert, wenn wir ein ganzes Konto deaktivieren. Um zu vermeiden, dass Deaktivierungen doppelt gezählt werden, berücksichtigen wir bei der Zählung der deaktivierten Pinnwände nicht diejenigen, die im Rahmen der Deaktivierung eines Benutzerkontos deaktiviert wurden.

„Konten“ sind bei Pinterest „Profile“ und meistens einzelne Nutzer. Wenn sich jemand Pins merkt und Pinnwände erstellt, werden diese Inhalte mit seinem Konto verknüpft. Dies gilt auch für Unternehmens-, Werbetreibenden-, Händler- und Content-Creator-Konten. 

Jedes Konto kann wegen Verstoßes gegen unsere Richtlinien deaktiviert werden. Wenn ein Konto deaktiviert wird, werden auch alle seine Pins und Pinnwände deaktiviert. Das bedeutet: Wenn Nutzer nach ihnen suchen oder auf einen alten Link zu ihrem Profil klicken, wird dieses Profil nicht mehr angezeigt. Auch die Pins werden nirgendwo auf Pinterest angezeigt. Der deaktivierte Nutzer kann auch auf die eigenen Pins oder Pinnwände nicht mehr zugreifen.

Wenn Nutzer der Meinung sind, dass ihre Konten fälschlicherweise deaktiviert wurden, können sie Beschwerde einlegen, um ihre Konten wiederherstellen zu lassen. Wir prüfen solche Beschwerden und geben ihnen nach, wenn wir feststellen, dass wir einen Fehler gemacht haben. In manchen Fällen geben wir Nutzern eine zweite Chance, sich an unsere Community-Richtlinien zu halten.

Wir bearbeiten auch Beschwerden für deaktivierte Pins und Pinnwände und planen, diese Daten in Zukunft in die Berichte aufnehmen.

Unsere Berichterstattung über die Durchsetzung der Community-Richtlinien bezieht sich auf das zweite Halbjahr 2021, also von Juli bis Dezember 2021. Wir haben diese Zeit in zwei Berichtszeiträume unterteilt: Q3 und Q4. 

Q3 deckt das dritte Quartal des Jahres ab, von Juli bis September, während Q4 das vierte Quartal des Jahres abdeckt, von Oktober bis Dezember. Manchmal beziehen wir uns auch auf Q1 (Januar bis März) oder Q2 (April bis Juni), wenn wir über die Entwicklung von Quartal zu Quartal sprechen.

Pinterest ist kein Ort für Pornografie. Wir deaktivieren Inhalte, die gegen unsere Richtlinie in Bezug auf nicht jugendfreie Inhalte verstoßen, und liefern keine Ergebnisse für Suchanfragen, die gegen diese Richtlinie verstoßen. Wir haben Richtlinien aufgestellt, die helfen, zwischen Pornografie und anderen nicht jugendfreien Inhalten zu unterscheiden, z. B. Inhalte, die sich auf sexuelle Gesundheit, Stillen, Brustamputationen, Kunst und Bildung beziehen.

In Q1 2021 haben wir neue Machine-Learning-Tools eingeführt, um Pinnwände zu erkennen und zu deaktivieren, die gegen unsere Richtlinien in Bezug auf nicht jugendfreie Inhalte verstoßen. Seitdem verzeichnen wir einen Rückgang bei den umgesetzten Nutzermeldungen – einem unserer Schlüsselindikatoren für die Nutzererfahrung. Wir führen das auf unsere Bemühungen zurück. In Q4 2021 im Vergleich zu Q4 2020 gab es tatsächlich einen Rückgang von 25 % bei den umgesetzten Nutzermeldungen pro monatlich aktivem Nutzer, die zur Deaktivierung eines Pins führten.

Unsere Inhaltsrichtlinien und Moderationsverfahren werden ständig weiterentwickelt, um die Sicherheit unserer Plattform für alle Nutzer zu verbessern. Bisher haben wir unsere Nutzung dieser neuen Machine-Learning-Tools in erster Linie darauf ausgerichtet, unsere Richtlinien in Bezug auf nicht jugendfreie Inhalte durchzusetzen. Derzeit untersuchen wir, wie wir sie auf andere Arten von Richtlinienverstößen anwenden können.

* Zur Berechnung der Reichweite wird zunächst jeder richtlinienwidrige Pin betrachtet, der in einem Berichtszeitraum deaktiviert wurde. Dann zählen wir die eindeutigen Nutzer, die jeden dieser Pins während des Berichtszeitraums mindestens eine Sekunde lang gesehen haben, bevor er deaktiviert wurde. Aufgrund von Rundungen kann es vorkommen, dass die Prozentanteile pro Quartal nicht 100 % ergeben.

In Q3 2021 haben wir 1.279.861 eindeutige Bilder in 42.968.305 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 82 % nie von den Nutzern gesehen. Wir haben weniger als 1 % manuell und mehr als 99 % mit Hybrid-Tools deaktiviert. Wir haben 93.807 Meldungen von Nutzern umgesetzt und Pins für Verstöße gegen diese Richtlinie deaktiviert. Außerdem haben wir 61.114 Pinnwände und 8.653 Konten deaktiviert. Wir haben 1.923 Beschwerden gegen Kontosperrungen erhalten und 1.119 Konten wiederhergestellt.

In Q4 2021 haben wir1.108.006 eindeutige Bilder in 30.695.545 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 88 % nie von den Nutzern gesehen. Wir haben weniger als 1 % manuell und mehr als 99 % mit Hybrid-Tools deaktiviert. Wir haben 77.329 Meldungen von Nutzern umgesetzt und Pins für Verstöße gegen diese Richtlinie deaktiviert. Außerdem haben wir 44.155 Pinnwände und 6.769 Konten für Verstöße gegen diese Richtlinie deaktiviert. Wir haben 1.495 Beschwerden gegen Kontosperrungen erhalten und 774 Konten wiederhergestellt.

Wir verbieten sexuelle Dienstleistungen auf Pinterest. Sexuelle Dienstleistungen können kommerzielle Sexarbeit und sexuelle oder körperliche Ausbeutung oder Menschenhandel umfassen, z. B. Escortservices, Prostitution, Sex-Cams oder Dienste, bei denen Sex oder Nacktheit gegen Geld angeboten wird.

In Q4 2021 haben wir Änderungen an den Tools vorgenommen, mit denen wir diese Art von Inhalten deaktivieren. Ergebnis ist, dass Inhalte, die zuvor gemäß unserer Richtlinie in Bezug auf nicht jugendfreie Inhalte deaktiviert worden wären, jetzt gemäß der Richtlinie in Bezug auf nicht jugendfreie sexuelle Dienstleistungen deaktiviert werden. Diese Änderung spiegelt sich im Anstieg der mit Hybrid-Tools deaktivierten Pins sowie im Anstieg der deaktivierten Pins wider.

In Q3 2021 haben wir 222 eindeutige Bilder in 225 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 76 % von weniger als 100 Nutzern gesehen. Wir haben 100 % dieser Pins manuell deaktiviert. Wir haben 266 Meldungen von Nutzern umgesetzt und Pins für Verstöße gegen diese Richtlinie deaktiviert. Außerdem haben wir 151 Pinnwände und 152 Konten deaktiviert. Wir haben 13 Beschwerden gegen Kontosperrungen erhalten und 0 Konten wiederhergestellt.

In Q4 2021 haben wir1.610 eindeutige Bilder in 26.703 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 89 % nie von den Nutzern gesehen. Wir haben weniger als 1 % manuell und mehr als 99 % mit Hybrid-Tools deaktiviert. Wir haben 162 Meldungen von Nutzern umgesetzt und Pins für Verstöße gegen diese Richtlinie deaktiviert. Außerdem haben wir 120 Pinnwände und 121 Konten für Verstöße gegen diese Richtlinie deaktiviert. Wir haben 16 Beschwerden gegen Kontosperrungen erhalten und 1 Konto wiederhergestellt.

Pinterest duldet keine Art von sexueller Ausbeutung von Kindern auf unserer Plattform. Wir verfolgen eine strikte Null-Toleranz-Politik im Hinblick auf Inhalte – darunter Bilder, Video oder Text – die Minderjährige möglicherweise ausbeuten oder gefährden. Solche Inhalte aufzuspüren und zu entfernen, ist die wichtigste Aufgabe unseres Trust and Safety-Teams und wir sind stolz auf die umfassenden Richtlinien und Bemühungen, unsere Nutzer zu schützen.

Zwar sind digitale Plattformen gesetzlich bereits dazu verpflichtet, illegales Material über den sexuellen Missbrauch von Kindern zu verbieten, doch die Richtlinie von Pinterest zur sexuellen Ausbeutung von Kindern geht noch einen Schritt weiter und untersagt jegliche Inhalte, die zur Sexualisierung von Minderjährigen beitragen. Beispielsweise dulden wir keine Inhalte, die die Sexualisierung von Minderjährigen in Form von Cartoons oder Anime andeuten. Außerdem verbieten wir die missbräuchliche Verwendung von Inhalten, in denen Minderjährige bei nicht-sexualisierten Aktivitäten wie beim Bewerben von Kleidung oder beim Sport dargestellt werden.

Wir identifizieren proaktiv Bilder und Videos über die sexuelle Ausbeutung von Kindern mithilfe interner Tools und Branchentools wie PhotoDNA, einer in der Branche genutzten Hash-Datenbank mit bekanntem Bildmaterial über den sexuellen Missbrauch von Kindern, mit dem Videoinhalte abgeglichen werden. Außerdem arbeiten wir eng mit dem National Center for Missing and Exploited Children (NCMEC) zusammen, um diese Arten von Handlungen zu bekämpfen und Inhaltsverstöße in den entsprechenden Fällen zu melden. Von Juli bis Dezember 2021 reichte unser Expertenteam 1.794 CyberTipline-Berichte beim NCMEC ein.

Die sexuelle Ausbeutung von Kindern ist eine der schwerwiegendsten Bedrohungen für Trust and Safety-Teams bei Pinterest und im gesamten Internet. Aufgrund der Sensibilität ist zusätzliches Fingerspitzengefühl gefragt, wenn es darum geht, die Informationen in diesem Bericht darzustellen. Nach Gesprächen mit Branchenexperten hat sich Pinterest dazu entschlossen, die Metriken für die sexuelle Ausbeutung von Kindern zu verwenden, die wir auch für unsere anderen Inhaltsrichtlinien nutzen, etwa die Reichweite und die umgesetzten Nutzermeldungen. Diese Arten von Metriken geben an, inwiefern die Inhalte, die gegen Richtlinien verstoßen, das Nutzererlebnis auf der Webseite beeinflussen. Wir möchten jedoch eines ganz klar sagen: Indem wir die Reichweite und umgesetzten Nutzermeldungen in Bezug auf die sexuelle Ausbeutung von Kindern bereitstellen, möchten wir keineswegs andeuten, dass Gewalt gegenüber Kindern weniger schlimm ist, wenn weniger Personen sie sehen. Die Inhalte sind verletzend und falsch, egal wie viele Personen sie sehen. Wir geben diese Daten nur weiter, um unsere Bemühungen, die sexuelle Ausbeutung von Kindern von unserer Plattform zu entfernen, transparent darzustellen. 

Außerdem erfassen wir alle Deaktivierungen in Bezug auf die sexuelle Ausbeutung von Kindern, egal, welche Maßnahmen unter Umständen bereits gegen den Pin, die Pinnwand oder den Nutzer ergriffen wurden. Wenn beispielsweise ein Pin automatisch deaktiviert wurde – das heißt, er ist auf der Plattform nicht mehr sichtbar – weil er gegen unsere Spam-Richtlinie verstößt, wir aber später feststellen, dass darin enthaltenes Material gegen unsere Richtlinie in Bezug auf die sexuelle Ausbeutung von Kindern verstößt, wird dieser Pin sowohl für die Deaktivierung gemäß Spam-Richtlinie als auch für die Deaktivierung gemäß der Richtlinie in Bezug auf die sexuelle Ausbeutung von Kindern erfasst. Auch wenn der Pin auf Pinterest nicht mehr zu sehen oder aufzurufen ist, müssen wir dennoch entsprechende Maßnahmen ergreifen, wenn wir feststellen, dass das Bild sexuellen Missbrauch von Kindern darstellt. Zum Beispiel melden wir es beim National Center for Missing and Exploited Children (NCMEC). Diese Deaktivierungen sind in unserer Berichterstattung in Bezug auf die sexuelle Ausbeutung von Kindern enthalten, um einen genaueren Einblick in diese Verstöße zu geben.

Auch wenn wir sehr bemüht sind, diese Art von Inhalten zu entfernen, gibt es immer noch mehr Arbeit – und dieser Arbeit verpflichten wir uns.

In Q3 2021 haben wir 2.362 eindeutige Bilder in 262.164 Pins für Verstöße gegen unsere Richtlinie in Bezug auf die sexuelle Ausbeutung von Kindern deaktiviert. Von diesen haben wir 295 eindeutige Bilder in 981 Pins als illegalen sexuellen Missbrauch von Kindern identifiziert und beim NCMEC gemeldet. Von den insgesamt in diesem Quartal aufgrund der sexuellen Ausbeutung von Kindern deaktivierten Pins wurden 98 % von weniger als 100 Nutzern gesehen. Wir haben weniger als 1 % manuell und mehr als 99 % mit Hybrid-Tools deaktiviert. Wir haben 1.378 Meldungen von Nutzern umgesetzt und Pins für Verstöße gegen diese Richtlinie deaktiviert. Außerdem haben wir 862 Pinnwände und 28.289 Konten deaktiviert. Wir haben 5.718 Beschwerden gegen Kontosperrungen erhalten und 4.305 Konten wiederhergestellt. 

In Q4 2021 haben wir 2.545 eindeutige Bilder in 104.029 Pins für Verstöße gegen unsere Richtlinie in Bezug auf die sexuelle Ausbeutung von Kindern deaktiviert. Von diesen haben wir 228 eindeutige Bilder in 627 Pins als illegalen sexuellen Missbrauch von Kindern identifiziert und beim NCMEC gemeldet. Von den insgesamt in diesem Quartal aufgrund der sexuellen Ausbeutung von Kindern deaktivierten Pins wurden 98 % von weniger als 100 Nutzern gesehen. Wir haben 2 % manuell und 98 % mit Hybrid-Tools deaktiviert. Wir haben 1.044 Meldungen von Nutzern umgesetzt und Pins für Verstöße gegen diese Richtlinie deaktiviert. Außerdem haben wir 578 Pinnwände und 17.423 Konten für Verstöße gegen diese Richtlinie deaktiviert. Wir haben 3.110 Beschwerden gegen Kontosperrungen erhalten und 2.120 Konten wiederhergestellt.

Unsere Richtlinie in Bezug auf gesellschaftlich relevante Fehlinformationen verbietet falsche oder irreführende Inhalte auf Pinterest, die die Integrität einer Wahl oder die bürgerliche Teilhabe einer Person oder Gruppe behindern, einschließlich der Registrierung zur Wahl, der Stimmabgabe bei einer Wahl und der Teilnahme an einer Volkszählung.

Wir versuchen, sehr genau darauf zu achten, wann wir hybride Tools einsetzen und – was noch wichtiger ist – wie wir sie skalieren. Zur Erinnerung: Hybride Deaktivierungen sind solche, bei denen ein Mensch feststellt, dass ein Inhalt gegen die Richtlinien verstößt, und automatisierte Systeme diese Entscheidung erweitern, um sie gegen maschinell identifizierte, übereinstimmende Pins durchzusetzen. Beispielsweise kann eine hybride Deaktivierung angemessen sein, wenn wir feststellen, dass das Bild in einem Pin gegen die Richtlinien verstößt. Unter Umständen ist sie jedoch nicht angemessen, wenn dasselbe Bild in anderen Situationen erlaubt ist oder wenn der ursprüngliche Pin aus anderen Gründen als dem gezeigten Bild deaktiviert wird.

In Q4 2021 war beinahe die Hälfte der Pins, die wegen eines Verstoßes gegen unsere Richtlinie in Bezug auf gesellschaftlich relevante Fehlinformationen deaktiviert wurden, das Ergebnis einer hybriden Deaktivierung eines falsch klassifizierten Bildes. Wir haben diese Pins sofort wiederhergestellt, als wir den Fehler erkannten, und Verbesserungen an unseren Prozessen vorgenommen, um die Wahrscheinlichkeit zu verringern, dass dies noch einmal vorkommt.

Wir haben diese Fehlalarme in die Durchsetzungsdaten für Q4 aufgenommen, sie aber von der Reichweitenmetrik für diese Richtlinie ausgeschlossen, um einen genaueren Einblick in die Anzahl der Nutzer zu erhalten, die einen Pin gesehen haben, der tatsächlich gegen diese Richtlinie verstößt, bevor der Pin deaktiviert wurde. In Q4 wurden mehr als 99 % solcher Pins in diesem Berichtszeitraum nie von Nutzern gesehen.

In Q3 2021 haben wir 743 eindeutige Bilder in 889 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 95 % von weniger als 100 Nutzern gesehen. Wir haben 87 % der Pins manuell und 13 % mit Hybrid-Tools deaktiviert. Wir haben 392 Meldungen von Nutzern umgesetzt und Pins für Verstöße gegen diese Richtlinie deaktiviert. Außerdem haben wir 92 Pinnwände und 8 Konten deaktiviert. Wir haben 3 Beschwerden gegen Kontosperrungen erhalten und 3 Konten wiederhergestellt.

In Q4 2021 haben wir 779 eindeutige Bilder in 48.741 Pins für Verstöße gegen diese Richtlinie deaktiviert. Später haben wir festgestellt, dass hybride Deaktivierungen auf Grundlage eines dieser Pins, der aus einem anderen Grund als dem gezeigten Bild deaktiviert wurde, zur falschen Deaktivierung von mehr als 24.000 maschinell identifizierten übereinstimmenden Pins geführt haben. Von den Pins, die unserer Ansicht nach richtigerweise deaktiviert wurden, wurden in diesem Berichtszeitraum mehr als 99 % nie von den Nutzern gesehen. Wir haben weniger als 1 % der Pins manuell und mehr als 99 % mit Hybrid-Tools deaktiviert. Wir haben 224 Meldungen von Nutzern umgesetzt und Pins für Verstöße gegen diese Richtlinie deaktiviert. Außerdem haben wir 23 Pinnwände und 0 Konten für Verstöße gegen diese Richtlinie deaktiviert. Wir haben 1 Beschwerde gegen eine Kontosperrung erhalten und 1 Konto wiederhergestellt.

Unsere Richtlinie in Bezug auf Verschwörungstheorien ist eine von mehreren Richtlinien in unseren Community-Richtlinien, die Fehlinformationen und Desinformationen auf Pinterest verbieten. Verschwörungstheorien umfassen falsche oder irreführende Inhalte, die Einzelpersonen, Personengruppen, Orte oder Organisationen zur Zielscheibe von Belästigung oder körperlicher Gewalt machen oder dazu ermutigen. Unter diese Richtlinie fallen beispielsweise Pins zu durch Hass motivierten Verschwörungstheorien und mit Falschinformationen über in Masse begangene Gräueltaten.

In Q3 und Q4 2021 war ein relativer Rückgang bei den deaktivierten Pins für Verstöße gegen unsere Richtlinie in Bezug auf Verschwörungstheorien zu verzeichnen, nachdem in Q2 eine umfassende Bereinigung der Plattform durchgeführt wurde.

In Q3 2021 haben wir 8.374 eindeutige Bilder in 536.455 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 93 % nie von den Nutzern gesehen. Wir haben weniger als 1 % der Pins manuell und mehr als 99 % mit Hybrid-Tools deaktiviert. Wir haben 456 Meldungen von Nutzern umgesetzt und Pins für Verstöße gegen diese Richtlinie deaktiviert. Außerdem haben wir 429 Pinnwände und 39 Konten deaktiviert. Wir haben 19 Beschwerden gegen Kontosperrungen erhalten und 4 Konten wiederhergestellt.

In Q4 2021 haben wir 2.411 eindeutige Bilder in 4.507 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 89 % nie von den Nutzern gesehen. Wir haben 90 % manuell und 10 % mit Hybrid-Tools deaktiviert. Wir haben 394 Meldungen von Nutzern umgesetzt und Pins für Verstöße gegen diese Richtlinie deaktiviert. Außerdem haben wir 237 Pinnwände und 11 Konten für Verstöße gegen diese Richtlinie deaktiviert. Wir haben 13 Beschwerden gegen Kontosperrungen erhalten und 2 Konten wiederhergestellt.

Pinterest ist kein Ort für den Handel mit oder Verkauf von gefährlichen Gütern oder die Ausübung gefährlicher Aktivitäten. Gefährliche Güter sind Produkte oder Substanzen, die bei der Verwendung Schaden anrichten können, verändert wurden oder unverantwortlich hergestellt wurden. Gefährliche Aktivitäten sowie das Zeigen von oder die Ermutigung zu gefährlichen Aktivitäten sind auf Pinterest ebenfalls nicht willkommen.

In Q3 und Q4 2021 war ein relativer Rückgang bei den deaktivierten Pins für Verstöße gegen unsere Richtlinie in Bezug auf gefährliche Güter und Aktivitäten zu verzeichnen, nachdem in Q1 und Q2 dieses Jahres eine umfassende Bereinigung der Plattform in Bezug auf solche Inhalte durchgeführt wurde. Diese Maßnahme, die auf organische Pins, jedoch nicht auf Anzeigen oder beworbene Produkte angewendet wurde, hat in diesem Zeitraum zu einem vorübergehenden Anstieg der Deaktivierungen von Pins geführt.

In Q3 2021 haben wir 44.277 eindeutige Bilder in 1.017.444 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 95 % nie von den Nutzern gesehen. Wir haben 2 % dieser Pins manuell, weniger als 1 % automatisch und 98 % mit Hybrid-Tools deaktiviert. Wir haben 1.780 Meldungen von Nutzern umgesetzt und Pins für Verstöße gegen diese Richtlinie deaktiviert. Außerdem haben wir 712 Pinnwände und 223 Konten deaktiviert. Wir haben 14 Beschwerden gegen Kontosperrungen erhalten und 3 Konten wiederhergestellt.

In Q4 2021 haben wir 14.736 eindeutige Bilder in 31.186 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 97 % von weniger als 100 Nutzern gesehen. Wir haben 41 % der Pins manuell, 14 % automatisch und 45 % mit Hybrid-Tools deaktiviert. Wir haben 1.367 Meldungen von Nutzern umgesetzt und Pins für Verstöße gegen diese Richtlinie deaktiviert. Außerdem haben wir 591 Pinnwände und 177 Konten für Verstöße gegen diese Richtlinie deaktiviert. Wir haben 4 Beschwerden gegen Kontosperrungen erhalten und 1 Konto wiederhergestellt.

Wir verbieten Gewaltdarstellungen und Drohungen auf Pinterest. Dazu zählen die meisten Inhalte, die die Anwendung von Gewalt, Drohungen und gewaltverherrlichende Ausdrucksweisen zeigen.

In Q4 2021 war ein relativer Rückgang bei den deaktivierten Pins im Vergleich zu Q3 2021 zu verzeichnen. Von den in Q3 2021 deaktivierten Pins wurden in diesem Berichtszeitraum 89 % von weniger als 100 Nutzern gesehen.

In Q3 2021 haben wir 4.026 eindeutige Bilder in 18.501 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 89 % von weniger als 100 Nutzern gesehen. Wir haben 48 % der Pins manuell und 53 % mit Hybrid-Tools deaktiviert. Wir haben 1.806 Meldungen von Nutzern umgesetzt und Pins für Verstöße gegen diese Richtlinie deaktiviert. Außerdem haben wir 1.085 Pinnwände und 106 Konten deaktiviert. Wir haben 33 Beschwerden gegen Kontosperrungen erhalten und 18 Konten wiederhergestellt.

In Q4 2021 haben wir 3.435 eindeutige Bilder in 6.085 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 81 % von weniger als 100 Nutzern gesehen. Wir haben 62 % der Pins manuell und 38 % mit Hybrid-Tools deaktiviert. Wir haben 1.714 Meldungen von Nutzern umgesetzt und Pins für Verstöße gegen diese Richtlinie deaktiviert. Außerdem haben wir 769 Pinnwände und 89 Konten für Verstöße gegen diese Richtlinie deaktiviert. Wir haben 19 Beschwerden gegen Kontosperrungen erhalten und 3 Konten wiederhergestellt.

Pinterest ist kein Ort für Belästigung und Kritik und wir verbieten Inhalte, die Einzelpersonen oder Personengruppen beleidigen, verletzen oder empören. Dies umfasst manipulierte Bilder, die darauf abzielen, zu erniedrigen oder zu beschämen, die Anprangerungen von Personen aufgrund ihres Körpers oder ihrer vermeintlichen sexuellen oder romantischen Vergangenheit, sexuelle Bemerkungen zum Körper von Personen sowie Anfragen oder Angebote zu sexuellen Handlungen und die Verspottung einer Person, die Trauer, einen Verlust oder Empörung verspürt.

Wir haben in Q4 2021 weniger Pins für Verstöße gegen diese Richtlinie deaktiviert als in Q3 2021. Von den in Q3 deaktivierten Pins wurden in diesem Berichtszeitraum 86 % nie von den Nutzern gesehen.

In Q3 2021 haben wir4.257 eindeutige Bilder in 244.688 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 86 % nie von den Nutzern gesehen. Wir haben 1 % der Pins manuell und 99 % mit Hybrid-Tools deaktiviert. Wir haben 2.967 Meldungen von Nutzern umgesetzt und Pins für Verstöße gegen diese Richtlinie deaktiviert. Außerdem haben wir 851 Pinnwände und 271 Konten deaktiviert. Wir haben 22 Beschwerden gegen Kontosperrungen erhalten und 13 Konten wiederhergestellt.

In Q4 2021 haben wir 4.318 eindeutige Bilder in 210.880 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 98 % von weniger als 100 Nutzern gesehen. Wir haben 2 % der Pins manuell und 98 % mit Hybrid-Tools deaktiviert. Wir haben 2.564 Meldungen von Nutzern umgesetzt und Pins für Verstöße gegen diese Richtlinie deaktiviert. Außerdem haben wir 803 Pinnwände und 151 Konten für Verstöße gegen diese Richtlinie deaktiviert. Wir haben 28 Beschwerden gegen Kontosperrungen erhalten und 15 Konten wiederhergestellt.

Wir verbieten hasserfüllte Inhalte und die Personen und Gruppen, die Aktivitäten aus Hass auf Pinterest propagieren. Zu Aktivitäten aus Hass gehören Verleumdungen und negative Vorurteile, Karikaturen und Verallgemeinerungen sowie die Unterstützung von Hassgruppen und Personen, die Aktivitäten aus Hass fördern.

Wir glauben, dass alle Menschen einen sicheren Ort verdienen, an dem sie ihre Interessen ausleben und nach Inspiration suchen können, unabhängig von ihrer tatsächlichen oder mutmaßlichen ethnischen Zugehörigkeit, Hautfarbe, Kaste, des Einwanderungsstatus, der nationalen Herkunft, der Religion oder des Glaubens, des Geschlechts oder der geschlechtlichen Identität, der sexuellen Orientierung, einer Behinderung oder des Gesundheitszustands.

In Q4 2021 führten wir eine umfassende Bereinigung der Plattform in Bezug auf Inhalte mit hasserfüllten Aktivitäten durch. Das führte zu einer vorübergehenden Spitze bei der Deaktivierung von Pins. Dieser Anstieg ist nicht auf eine bekannte anhaltende Zunahme richtlinienwidriger Inhalte zurückzuführen. Von den in Q4 deaktivierten Pins wurden in diesem Berichtszeitraum 99 % von weniger als 100 Nutzern gesehen.

In Q3 2021 haben wir 3.482 eindeutige Bilder in 9.805 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 86 % von weniger als 100 Nutzern gesehen. Wir haben 46 % der Pins manuell und 54 % mit Hybrid-Tools deaktiviert. Wir haben 936 Meldungen von Nutzern umgesetzt und Pins für Verstöße gegen diese Richtlinie deaktiviert. Außerdem haben wir 1.758 Pinnwände und 107 Konten deaktiviert. Wir haben 35 Beschwerden gegen Kontosperrungen erhalten und 21 Konten wiederhergestellt.

In Q4 2021 haben wir 3.848 eindeutige Bilder in 107.295 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 97 % nie von den Nutzern gesehen. Wir haben 5 % der Pins manuell und 95 % mit Hybrid-Tools deaktiviert. Wir haben 1.074 Meldungen von Nutzern umgesetzt und Pins für Verstöße gegen diese Richtlinie deaktiviert. Außerdem haben wir 409 Pinnwände und 36 Konten für Verstöße gegen diese Richtlinie deaktiviert. Wir haben 10 Beschwerden gegen Kontosperrungen erhalten und 5 Konten wiederhergestellt.

Unsere Richtlinie in Bezug auf medizinische Fehlinformationen ist eine von mehreren Richtlinien in unseren Community-Richtlinien, die Fehlinformationen und Desinformationen auf Pinterest verbieten. Diese Richtlinie verbietet medizinisch nicht bewiesene Behauptungen, die die Gesundheit des Nutzers oder die allgemeine Gesundheit und Sicherheit gefährden. Dies umfasst falsche Heilmethoden, impfkritische Empfehlungen und Fehlinformationen über die öffentliche Gesundheit oder Sicherheitsnotfälle. Bei der Prüfung möglicher Verstöße gegen diese Richtlinie legen wir Informationen national und international anerkannter Institutionen wie der US-Gesundheitsbehörde oder der Weltgesundheitsorganisation zugrunde.

Pinterest setzt sich stark für die Bekämpfung von Fehlinformationen im Gesundheitsbereich ein. Wir arbeiten weiterhin mit Experten für die öffentliche Gesundheit zusammen, um bezüglich aktueller Trends auf dem neuesten Stand zu bleiben und Feedback zu unseren Richtlinien und deren Umsetzung bei Themen wie medizinischen Fehlinformationen einzuholen. Während weltweit weiterhin Impfstoffe gegen COVID-19 verfügbar gemacht wurden, haben wir in Q3 2021 einen relativen Anstieg bei der Anzahl der deaktivierten Pins festgestellt. 99 % dieser Pins wurden in diesem Berichtszeitraum von weniger als 100 Nutzern gesehen.

In Q3 2021 haben wir 4.237 eindeutige Bilder in 138.491 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 75 % nie von den Nutzern gesehen. Wir haben 2 % der Pins automatisch, 25 % manuell und 74 % mit Hybrid-Tools deaktiviert. Außerdem haben wir 383 Pinnwände und 10 Konten deaktiviert. Wir haben 2 Beschwerden gegen Kontosperrungen erhalten und 0 Konten wiederhergestellt.

In Q4 2021 haben wir3.564 eindeutige Bilder in 6.370 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 76 % nie von den Nutzern gesehen. Wir haben 72 % der Pins automatisch, 28 % manuell und weniger als 1 % mit Hybrid-Tools deaktiviert. Außerdem haben wir 491 Pinnwände und 14 Konten für Verstöße gegen diese Richtlinie deaktiviert. Wir haben 4 Beschwerden gegen Kontosperrungen erhalten und 3 Konten wiederhergestellt.

Die Bekämpfung von selbstverletzendem Verhalten ist für uns eine Priorität, da wir möchten, dass Pinterest eine positive Rolle im Leben seiner Nutzer einnimmt. Inhalte, die Selbstmord, Selbstverletzung, Essstörungen oder Drogenmissbrauch zeigen, rationalisieren oder unterstützen, sind auf unserer Plattform nicht willkommen. Dazu gehören Anleitungen zur Selbstverletzung, sensible Bilder sowie Selbstmordgedanken und Zitate zu Selbstmord.

Unsere laufende Partnerschaft mit Samaritans, einer Organisation, die sich der Reduzierung von Gefühlen der Isolierung und Abschottung verschrieben hat, die zu Selbstmord führen können, hilft der ganzen Branche weiter dabei, Inhalte zu selbstverletzendem Verhalten entsprechend zu behandeln und das Internet für alle sicherer zu machen. Partnerschaften wie diese helfen uns, die Forschung und Entwicklung durch Experten im Bereich der psychischen Gesundheit zu unterstützen, damit mehr Menschen, die Unterstützung benötigen, diese auch erhalten – unabhängig davon, welche App sie verwenden oder welche Webseite sie besuchen.

In Q3 und Q4 2021 haben wir weiter in die Verbesserung der Moderation von Inhalten über selbstverletzendes Verhalten investiert und Millionen Mal Menschen in Not durch unsere Compassionate Search unterstützt. 

In Q4 2021 führten wir eine umfassende Bereinigung der Plattform in Bezug auf Inhalte mit Selbstverletzung und schädlichem Verhalten durch. Das führte zu einer vorübergehenden Spitze bei der Deaktivierung von Pins. Dieser Anstieg ist nicht auf eine bekannte anhaltende Zunahme richtlinienwidriger Inhalte zurückzuführen. Von den in Q4 deaktivierten Pins wurden in diesem Berichtszeitraum 97 % nie von den Nutzern gesehen.

In Q3 2021 haben wir 4.156 eindeutige Bilder in 85.328 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 83 % nie von den Nutzern gesehen. Wir haben 5 % der Pins manuell und 95 % mit Hybrid-Tools deaktiviert. Wir haben 1.667 Meldungen von Nutzern umgesetzt und Pins für Verstöße gegen diese Richtlinie deaktiviert. Außerdem haben wir 575 Pinnwände und 37 Konten deaktiviert. Wir haben 10 Beschwerden gegen Kontosperrungen erhalten und 9 Konten wiederhergestellt.

In Q4 2021 haben wir 16.761 eindeutige Bilder in 395.682 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 97 % nie von den Nutzern gesehen. Wir haben 1 % der Pins manuell und 99 % mit Hybrid-Tools deaktiviert. Wir haben 1.028 Meldungen von Nutzern umgesetzt und Pins für Verstöße gegen diese Richtlinie deaktiviert. Außerdem haben wir 82.518 Pinnwände und 1.047 Konten für Verstöße gegen diese Richtlinie deaktiviert. Wir haben 166 Beschwerden gegen Kontosperrungen erhalten und 133 Konten wiederhergestellt.

Wir möchten, dass Inspiration und Ideen auf Pinterest hochwertig und nützlich sind, deshalb deaktivieren wir jeden Spam, der uns auffällt. Das Ziel von Spammern ist es, Geld zu verdienen. Der beste Weg, dies zu erreichen, ist Spam in großem Umfang. Das ist eine ganz einfache Rechnung: Eine Million Spam-E-Mails sind viel effektiver als eine einzige. Die gleiche Art von Spamming kann auf jeder Plattform vorkommen, auf der Inhalte verbreitet werden, also auch auf Pinterest. Interaktionen der Plattformen mit den Spammern sind in der Regel sowohl kontraproduktiv als auch iterativ, da diese Nutzer absichtlich versuchen, das System zu umgehen und ihre Methoden ständig ändern.

Pinterest nutzt neueste Machine-Learning-Technologie, um automatisierte Modelle zu entwickeln, die Spam jeder Art schnell erkennen und entfernen. Wir verwenden nicht nur die neuesten Modellierungstechniken, sondern entwickeln diese Modelle auch regelmäßig weiter, indem wir neue Daten einbeziehen und neue technische Durchbrüche untersuchen, um die Leistung der Modelle im Laufe der Zeit zu erhalten bzw. zu verbessern und so Spam wirksam zu bekämpfen. Da die Bekämpfung von Spam immer wieder neu aufgerollt wird, können sich die Zahlen zur Durchsetzung unserer Richtlinien von Quartal zu Quartal ändern, insbesondere nach einer großen Offensive.

In Q3 2021 haben wir81.753 eindeutige Bilder in 233.303 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 63 % nie von den Nutzern gesehen. Wir haben weniger als 1 % der Pins manuell und mehr als 99 % automatisch deaktiviert. Außerdem haben wir 2.435.683 Konten für Verstöße gegen diese Richtlinie deaktiviert. Wir haben 101.832 Beschwerden gegen Kontosperrungen erhalten und 77.936 Konten wiederhergestellt.

In Q4 2021 haben wir61.834 eindeutige Bilder in 121.639 Pins für Verstöße gegen diese Richtlinie deaktiviert. Von diesen Pins wurden in diesem Berichtszeitraum 75 % nie von den Nutzern gesehen. Wir haben weniger als 1 % der Pins manuell und mehr als 99 % automatisch deaktiviert. Außerdem haben wir 1.736.742 Konten für Verstöße gegen diese Richtlinie deaktiviert. Wir haben 103.257 Beschwerden gegen Kontosperrungen erhalten und 79.054 Konten wiederhergestellt.

Pinterest achtet die Rechte Dritter an deren geistigem Eigentum und wir erwarten dasselbe von den Nutzern auf Pinterest. Wir behalten uns das Recht vor, Konten von Nutzern, die wiederholt Urheberrechte oder andere Rechte an geistigem Eigentum verletzen oder dessen beschuldigt werden, unter entsprechenden Umständen zu deaktivieren.

Pinterest bietet mehrere Mechanismen, um angebliche Verletzungen des geistigen Eigentums zu melden. Die erste Möglichkeit befindet sich direkt neben dem betreffenden Inhalt. Nutzer können Pins melden, die sie für anstößig halten, indem sie auf die drei kleinen Punkte auf jedem Pin klicken und „Pin melden“ auswählen. Wir stellen außerdem ein Formular und Adressen vor Ort sowie E-Mail-Adressen für die Meldung von Verletzungen des geistigen Eigentums bereit. Diese sind auf unserer Richtlinienseite einfach zu finden.

Die Nutzer haben die Möglichkeit, nur einen Inhalt oder mehrere Inhalte anzugeben. Wir beurteilen alle Inhalte, die in einer Meldung angegeben sind, und bearbeiten vollständige Inhalte weiter. Falls wir weitere Informationen zum Nutzer oder zu einem der angegebenen Inhalte benötigen, wenden wir uns an die natürliche oder juristische Person, von der die Meldung stammt. Diese hat dann die Möglichkeit, weitere Informationen bereitzustellen. Sobald eine vollständige und gültige Meldung über angebliche Verletzungen des geistigen Eigentums eingegangen ist, deaktiviert Pinterest die angegebenen Inhalte gemäß der Meldung.

Gegebenenfalls betrachten wir eine Meldung als ungültig und lehnen die Deaktivierung der angegebenen Inhalte ab, beispielsweise wenn die Meldung:

Angesichts der Komplexität dieser Fälle bieten wir mithilfe einiger Metriken einen besseren Überblick darüber, wie wir Meldungen über Verletzungen des geistigen Eigentums bewerten und mit den natürlichen oder juristischen Personen, die die Meldung eingereicht haben, interagieren.

Wenn der Inhalt eines Nutzers infolge einer Meldung bezüglich des geistigen Eigentums deaktiviert wird, senden wir ihm per E-Mail eine Benachrichtigung. Darin erfährt er, wie er bei Bedarf Beschwerde gegen unsere Maßnahmen einlegt. Wir beurteilen Beschwerden, die in Form einer Gegendarstellung gemäß dem US-amerikanischen Digital Millennium Copyright Act (DMCA) eingereicht werden können, und berichtigen die Situation, wenn wir feststellen, dass es sich um eine umsetzbare Beschwerde handelt. Wie bei Meldungen zum geistigen Eigentum wenden wir uns an die natürliche oder juristische Person, die Beschwerde eingelegt hat, um gegebenenfalls weitere Informationen zu erhalten. Sobald eine vollständige und gültige Beschwerde eingegangen ist, ergreift Pinterest entsprechende Maßnahmen, um die Situation zu berichtigen.

Pinterest war für Content-Creator, Marken und Publisher auf der ganzen Welt schon immer eine tolle Möglichkeit, ihre Inhalte zu präsentieren und Mehrwert zu schaffen. Viele Content-Creator laden eigene Inhalte hoch oder regen Nutzer dazu an, indem sie auf ihrer Webseite einen Button für die Speicherung auf Pinterest bereitstellen. Sie wissen die erhöhte Aufmerksamkeit und den generierten Traffic, wenn Nutzer Bilder speichern, zu schätzen. Wir arbeiten hart daran, Content-Creatorn die Kontrolle über ihre Inhalte zu geben. Beispielsweise legen wir fest, welche Webseiten mit gespeicherten Bildern verlinkt werden und von diesen Traffic enthalten sollen, indem wir mithilfe von Features wie unserem „Kein Pin“-Code die Speicherung auf der Webseite einschränken oder über das Content-Claiming-Portal das Melden von Inhalten auf Pinterest ermöglichen. 

Wenn Rechteinhaber nicht möchten, dass ihre Inhalte auf Pinterest angezeigt werden, bieten wir verschiedene Mechanismen, um diese Inhalte zu entfernen. Inhaber eines Urheberrechts und deren Bevollmächtigte haben im Rahmen unserer Meldemechanismen für Urheberrechte die Möglichkeit, angebliche Urheberrechtsverletzungen zu melden, einschließlich über die Meldeoption im Produkt, das Beschwerdeformular und per E-Mail an copyright [at] pinterest.com (copyright[at]pinterest[dot]com). Nachdem wir eine Urheberrechtsbeschwerde beurteilt haben, ergreifen wir entsprechende Maßnahmen wie beispielsweise die Entfernung des gemeldeten Inhalts von Pinterest. Außerdem bieten wir das Content-Claiming-Portal. Dieses im Jahr 2021 veröffentlichte Tool ermöglicht es Rechteinhabern, ihre eigenen Inhalte zu beanspruchen und zu entscheiden, ob und wie sie auf Pinterest angezeigt werden. Wenn wir infolge einer Urheberrechtsbeschwerde oder im Content-Claiming-Portal erfasster Informationen Maßnahmen ergreifen, benachrichtigen wir die betreffenden Nutzer und stellen Informationen bereit, wie sie bei Bedarf Beschwerde gegen die Maßnahme einlegen.

Das Urheberrecht und weitere Arten des geistigen Eigentums stellen einzigartige Herausforderungen für die Inhaltsmoderation dar. Bei anderen Richtlinien, wie beispielsweise unseren Richtlinien gegen nicht jugendfreie Inhalte oder Bedrohungen, erkennen Moderatoren Verstöße oft auf einen Blick. Beim Urheberrecht ist das nicht der Fall. Um Urheberrechtsverletzungen zu erkennen, sind zusätzliche Kenntnisse über den Ursprung des Inhalts, den rechtlichen Status, die Inhaberschaft sowie die Lizenzierung oder weitere Informationen erforderlich, die nicht wirklich offensichtlich sind – beispielsweise die Information, ob der Inhaber die Nutzung durch Dritte im Rahmen von Vereinbarungen, die Pinterest nicht bekannt sind, autorisiert hat. Daher kann nur der Rechteinhaber wissen, ob eine bestimmte Nutzung autorisiert ist oder nicht. Über Benachrichtigungen haben Rechteinhaber die Möglichkeit, Pinterest diese notwendigen Informationen zur Verfügung zu stellen. Das Urheberrecht hat außerdem eine Sonderstellung, weil die korrekte Reaktion nicht immer darin besteht, den Inhalt zu deaktivieren. Einige Rechteinhaber entscheiden sich für die Deaktivierung des Inhalts, während andere es möglicherweise vorziehen, den Inhalt auf Pinterest zu belassen, aber die Zuordnung zu korrigieren oder einen Link zu ihrer Webseite hinzuzufügen. 

Aus diesen Gründen lassen sich sowohl der Moderationsprozess als auch die hier gemeldeten Daten nicht immer direkt mit den anderen Abschnitten zur Umsetzung der Community-Richtlinien vergleichen. Daher haben wir Metriken hinzugefügt, etwa die Anzahl der Meldungen, die wir auf Grundlage der ursprünglichen Einreichung verarbeitet haben, und die Häufigkeit, mit der wir weitere Informationen angefragt haben, und die Metrik entfernt, die die Reichweite der deaktivierten Pin angibt. Wir bemühen uns, mehr Transparenz darüber zu schaffen, wie wir geistiges Eigentum auf Pinterest schützen. Wir werden diesen Bericht auch in Zukunft weiterentwickeln.

 

In Q3 2021 haben wir 26.434 Meldungen im Rahmen unserer Meldemechanismen für Urheberrechte erhalten. Von diesen Meldungen haben wir 190 als Anfragen identifiziert, die nicht im Zusammenhang mit geistigem Eigentum stehen, und an das entsprechende Team bei Pinterest weitergeleitet. Weitere 4.649 Meldungen haben wir als Spam identifiziert und verworfen. Wir haben festgestellt, dass 15.537 Meldungen bei der Einreichung vollständig waren und alle angegebenen Inhalte jeder einzelnen Meldung verarbeitet. Bei zusätzlichen 5.471 Meldungen haben wir weitere Informationen angefragt, da sie nicht vollständig waren. Schließlich haben wir 1.149 dieser Meldungen verarbeitet. Insgesamt haben wir 16.686 Meldungen verarbeitet und 51.833 eindeutige Bilder in 12.520.214 Pins für Verstöße gegen unsere Richtlinien in Bezug auf das Urheberrecht deaktiviert. Wir haben weniger als 1 % der Pins manuell und mehr als 99 % mit Hybrid-Tools deaktiviert. Wir haben 714 Konten aufgrund wiederholter Verstöße deaktiviert. Wir haben 514 Beschwerden erhalten und davon 374 als vollständig und anscheinend gültig bewertet. Für diese haben wir entsprechende Maßnahmen ergriffen.

Außerdem haben wir in Q3 2021 25.438 Anfragen über das Content-Claiming-Portal erhalten. Wir haben 22.447 Anfragen bearbeitet und davon 397 eindeutige Bilder in 136.258 Pins deaktiviert. Wir haben 7 Beschwerden über solche deaktivierten Inhalte erhalten und davon 4 als vollständig und anscheinend gültig bewertet. Für diese haben wir entsprechende Maßnahmen ergriffen.

In Q4 2021 haben wir 21.199 Meldungen im Rahmen unserer Meldemechanismen für Urheberrechte erhalten. Von diesen Meldungen haben wir 159 als Anfragen identifiziert, die nicht im Zusammenhang mit geistigem Eigentum stehen, und an das entsprechende Team bei Pinterest weitergeleitet. Weitere 2.925 Meldungen haben wir als Spam identifiziert und verworfen. Wir haben festgestellt, dass 11.969 Meldungen bei der Einreichung vollständig waren und alle angegebenen Inhalte jeder einzelnen Meldung verarbeitet. Bei zusätzlichen 5.473 Meldungen haben wir weitere Informationen angefragt, da sie nicht vollständig waren. Schließlich haben wir 1.143 dieser Meldungen verarbeitet. Insgesamt haben wir 13.112 Meldungen verarbeitet und 35.966 eindeutige Bilder in 10.835.478 Pins für Verstöße gegen unsere Richtlinien in Bezug auf das Urheberrecht deaktiviert. Wir haben weniger als 1 % der Pins manuell und mehr als 99 % mit Hybrid-Tools deaktiviert. Wir haben 292 Konten aufgrund wiederholter Verstöße deaktiviert. Wir haben 523 Beschwerden erhalten und davon 419 als vollständig und anscheinend gültig bewertet. Für diese haben wir entsprechende Maßnahmen ergriffen. 

Außerdem haben wir in Q4 2021 6.839 Anfragen über das Content-Claiming-Portal erhalten. Wir haben 6.161 Anfragen bearbeitet und davon 450 eindeutige Bilder in 133.861 Pins deaktiviert. Wir haben 35 Beschwerden über solche deaktivierten Inhalte erhalten und davon 14 als vollständig und anscheinend gültig bewertet. Für diese haben wir entsprechende Maßnahmen ergriffen.

Pinterest achtet die Markenrechte anderer. Markeninhaber können sich über unsere Meldemechanismen für markenrechtliche Richtlinien an uns wenden, etwa über die integrierte Meldefunktion im Produkt, das Schutzmarken-Beschwerdeformular oder per E-Mail an trademark [at] pinterest.com (trademark[at]pinterest[dot]com), falls sie befürchten, dass jemand ihre Marke auf unserer Webseite auf rechtswidrige Weise benutzt. Wir überprüfen Einreichungen und ergreifen angemessene Maßnahmen, einschließlich der Entfernung der betreffenden Inhalte von Pinterest.

Wie beim Urheberrecht lassen sich sowohl der Moderationsprozess als auch die hier gemeldeten Daten nicht immer direkt mit der Umsetzung anderer Community-Richtlinien vergleichen. Daher haben wir Metriken hinzugefügt, etwa die Anzahl der Meldungen, die wir auf Grundlage der ursprünglichen Einreichung verarbeitet haben, und die Häufigkeit, mit der wir weitere Informationen angefragt haben, und die Metrik entfernt, die die Reichweite der deaktivierten Pin angibt.

In Q3 2021 haben wir 4.217 Meldungen im Rahmen unserer Meldemechanismen für Markenrechte erhalten. Von diesen Meldungen haben wir 1.241 als Spam identifiziert und verworfen. Wir haben festgestellt, dass 1.094 Meldungen bei der Einreichung vollständig waren und alle angegebenen Inhalte jeder einzelnen Meldung verarbeitet. Bei zusätzlichen 1.521 Meldungen haben wir weitere Informationen angefragt, da sie nicht vollständig waren. Schließlich haben wir 107 dieser Meldungen verarbeitet. Insgesamt haben wir 1.201 Meldungen verarbeitet und 29.557 eindeutige Bilder in 36.400 Pins für Verstöße gegen unsere Richtlinien in Bezug auf das Markenrecht deaktiviert. Wir haben 100 % dieser Pins manuell deaktiviert. Wir haben 82 Pinnwände und 128 Konten für Verstöße gegen unsere markenrechtlichen und damit verbundenen Richtlinien deaktiviert. Wir haben 18 Beschwerden erhalten und davon 2 als vollständig und anscheinend gültig bewertet. Für diese haben wir entsprechende Maßnahmen ergriffen.

In Q4 2021 haben wir 3.776 Meldungen im Rahmen unserer Meldemechanismen für Markenrechte erhalten. Von diesen Meldungen haben wir 498 als Spam identifiziert und verworfen. Wir haben festgestellt, dass 985 Meldungen bei der Einreichung vollständig waren und alle angegebenen Inhalte jeder einzelnen Meldung verarbeitet. Bei zusätzlichen 2.112 Meldungen haben wir weitere Informationen angefragt, da sie nicht vollständig waren. Schließlich haben wir 88 dieser Meldungen verarbeitet. Insgesamt haben wir 1.073 Meldungen verarbeitet und 25.366 eindeutige Bilder in 33.181 Pins für Verstöße gegen unsere markenrechtlichen und damit verbundenen Richtlinien deaktiviert. Wir haben 100 % dieser Pins manuell deaktiviert. Wir haben 150 Pinnwände und 135 Konten für Verstöße gegen unsere markenrechtlichen und damit verbundenen Richtlinien deaktiviert. Wir haben 5 Beschwerden erhalten und davon 2 als vollständig und anscheinend gültig bewertet. Für diese haben wir entsprechende Maßnahmen ergriffen.

Dieser Abschnitt bietet Informationen zur Anzahl der Auskunftsanfragen und Aufforderungen zum Deaktivieren von Inhalten, die von Strafverfolgungs- und Regierungsbehörden im zweiten Halbjahr 2021, also von Juli bis Dezember 2021, gestellt wurden. Weitere Informationen dazu, wie wir mit Auskunftsanfragen zu Kontodaten umgehen, findest du in unseren Richtlinien zu Strafverfolgungsbehörden.

Pinterest erhält gesetzliche Anfragen von Strafvollzugs- und Regierungsbehörden bezüglich Informationen zu Pinterest-Konten. Wir prüfen jede Anfrage genauestens und stellen die Daten nur bereit, wenn die gesetzlichen und in unseren Richtlinien formulierten Anforderungen erfüllt werden. Wir informieren Nutzer über behördliche Anfragen hinsichtlich ihrer Daten, bevor diese offengelegt werden, außer dies ist gesetzlich verboten oder es handelt sich um eine außergewöhnliche Situation.

* Auskunftsanfragen von Strafverfolgungsbehörden, wie die Informationsbeschaffung durch Abhörgeräte, die Leitungsüberwachung, Fangschaltungen und Notfallersuchen.

** Der jeweilige Kontoeigentümer wurde vor der Erteilung der Auskunft benachrichtigt.

* Auskunftsanfragen von Strafverfolgungsbehörden, wie die Informationsbeschaffung durch Abhörgeräte, die Leitungsüberwachung, Fangschaltungen und Notfallersuchen.

** Der jeweilige Kontoeigentümer wurde vor der Erteilung der Auskunft benachrichtigt.

* Schreiben und Anweisungen, die im Rahmen des US-amerikanischen Foreign Intelligence Surveillance Act (EFTA-Überwachungsbehörde) für Nutzerdaten erstellt wurden.

Wir erhalten manchmal Aufforderungen von Regierungsbehörden, Inhalte auf Pinterest zu deaktivieren, die möglicherweise in dem jeweiligen Land illegal sind und/oder gegen unsere Community-Richtlinien verstoßen. 

Wir prüfen in Bezug auf diese Aufforderungen, ob die jeweiligen Inhalte gegen unsere Community-Richtlinien verstoßen. Unsere Teams gehen gegen Verstöße vor. Dazu deaktivieren sie beispielsweise die Inhalte global oder sie schränken den im jeweiligen Land den Zugriff auf sie ein, wenn sie nur gegen nationale Gesetze in dem Land verstoßen, aus dem die Aufforderung stammt, aber kein Verstoß gegen unsere Richtlinien vorliegt.

Pinterest erhielt zwischen Juli und Dezember 2021 insgesamt 6.618 solcher Aufforderungen. In 4.905 dieser Fälle haben wir Inhalte deaktiviert, die gegen unsere Community-Richtlinien verstoßen haben. Bei 1.443 Aufforderungen haben wir die Inhalte eingeschränkt. Die Inhalte von 270 Anfragen waren bereits inaktiv, als sie im Rahmen unserer Reaktion auf die behördliche Aufforderung zur Inhaltsentfernung geprüft wurden. Dies kommt beispielsweise vor, wenn der Inhalt bereits als Reaktion auf eine Nutzermeldung deaktiviert wurde, bevor Pinterest die Aufforderung der Regierungsbehörde erhalten hat.

* Der Inhalt verstößt gegen unsere Community-Richtlinien und wurde von der Plattform entfernt.

** Der Inhalt wurde von einer Regierungsbehörde gemeldet, verstieß jedoch nicht gegen unsere Community-Richtlinien. Daher wurde er basierend auf nationalen Gesetzen nur in dem Land gesperrt, aus dem die Aufforderung kam.

*** Der Inhalt war nicht mehr auf der Plattform aktiv, als er im Rahmen unserer Reaktion auf die behördliche Aufforderung zur Inhaltsentfernung geprüft wurde.

Der positivste Ort im Internet entsteht nicht zufällig. Er entsteht aufgrund proaktiver Richtlinien- und Produktentscheidungen. Wir haben branchenführende Positionen zur Inhaltssicherheit, die durch Anregungen und Ratschläge von externen Experten, der Zivilgesellschaft und der Regierung beeinflusst werden. Zudem ergreifen wir Maßnahmen wir die Investition in Machine Learning, um einen sicheren und positiven Raum für die Nutzer von Pinterest zu schaffen. Wir sind stolz auf das, was wir tun, um Pinterest zu schützen und die gesamte Branche voranzubringen.

Schaffen wir also ein sichereres Internet mit mehr Inspiration.