Pinterests misjon er å gi alle brukere inspirasjonen de trenger for å skape en ideell tilværelse, og dette er noe vi alltid har i tankene når vi utarbeider og håndhever retningslinjer for innhold. 

Det finnes mye på internett som ikke er inspirerende, og derfor har vi implementert veiledninger om hva som kan – og ikke kan – tillates på Pinterest. Vi jobber kontinuerlig med å videreutvikle modereringspraksisene våre, slik at de holder tritt med nye atferder og trender, sånn at vi kan lage et mer positivt hjørne av internett for brukerne av plattformen vår. Vi fortsetter å investere tungt i for eksempel maskinlæring for å bekjempe innhold som bryter retningslinjene på Pinterest. I tillegg fortsetter vi samarbeidet vårt med eksterne eksperter og organisasjoner når vi utarbeider retningslinjene våre og praksisene vi bruker for innholdsmoderering.

I 2013 begynte vi å publisere en åpenhetsrapport to ganger i året, og i fjerde kvartal av 2020 utvidet vi den til også å inneholde ny informasjon om hva vi gjør for å sikre at retningslinjene for bruk overholdes. I denne åpenhetsrapporten finner du informasjon om arbeidet vårt for å sikre at plattformen vår er sikker og inspirerende, for eksempel antallet Pin- og kontodeaktiveringer. Den inneholder også informasjon om hvor mange forespørsler om informasjon og deaktivering vi har mottatt fra politimyndigheter og offentlige myndigheter. Rapporten tar for seg første halvdel av 2023, fra januar til og med juni 2023, og omfatter mer enn 400 unike datapunkter.

Pinterests bransjeledende retningslinjer og praksis fremmer inkludering, sikkerhet og en mer positiv nettopplevelse. Fra beslutninger som det å forby skadelig feilinformasjon, og alle politiske kampanjeannonser som oppfordrer bransjen til å forene seg omkring et felles mål om å gjøre internett til et tryggere og sunnere sted for alle – Pinterest vil alltid være blant de første til å implementere slike tiltak. Vi ønsker å bidra til en god utvikling i bransjen når det gjelder disse utfordringene, slik at vi sammen kan lage et mer positivt internett.

Dette siste halvåret har vi gjort det enklere å rapportere innhold, tavler eller kontoer, og økt antallet alternativer som en person har tilgjengelig når man rapporterer. For eksempel har det blitt enklere for brukere å rapportere kontoer og enkelttavler, og spesifisere flere åpenbare brudd på retningslinjene.

I tillegg har vi innført oppdateringer av plattformen som tar i bruk nye maskinlæringsmodeller, raffinert håndhevingen vår ved oppdagelse av «bad actors» og styrket samarbeidet vårt med tredjeparter, som kan bidra til å identifisere misbruk av plattformen på Pinterest. Sikkerheten til brukerne våre vil alltid være vår høyeste prioritet, og vi vil fortsette arbeidet og investeringene våre i dette området.

Vi viderefører selvfølgelig forpliktelsen vår til å være transparente om hva vi gjør for å holde Pinterest trygt og positivt, og vi kommer til å fortsette å videreutvikle denne rapporten fremover.

Vi fortsetter å investere i retningslinjene, produktene og partnerskapene våre for å legge til rette for brukernes trygghet og velvære. Her er noen av de viktigste oppdateringene vi gjorde i den første halvdelen av 2023.

Pinterest delte i februar sin første rapport om miljømessige, sosiale og styringsmessige innvirkninger (ESG). Under temaet «Være en inspirasjon for en lysere fremtid» fremhever rapporten viktige initiativer og milepæler over de siste to årene som viser hvordan Pinterest jobber for å være en positiv innvirkningskraft på tvers av virksomheten vår og i samfunnet ellers.

I april utvidet vi Creator Inclusion Fund til å inkludere fem nye land: Canada, Tyskland, Østerrike, Sveits og Frankrike. Dette fondet er Pinterests inkubatorprogram for å løfte skapere fra historisk marginaliserte samfunnsgrupper ved å tilby dem støtte i form av økonomiske midler og utdanning. Programmet ble startet i 2021 fordi Pinterest så et behov for å løfte skapere fra samfunn som er uforholdsmessig underrepresentert – deriblant mennesker med mørk hud, mennesker med opprinnelse i Latin-Amerika, mennesker som tilhører gruppen LGBTQIA+, asiater, urfolk og mennesker med nedsatt funksjonsevne. Siden programmet ble startet har det gitt støtte og muliggjort veien til suksess til over 100 skapere fra USA, Storbritannia og Brasil på tvers av kategoriene mote, skjønnhet, livsstil, velvære og mat. De har fått opplæring og dyp innsikt i bransjen fra eksperter på feltet, personlig rådgivning og økonomiske tilskudd i form av kontanter og annonsekreditt.

I april introduserte vi også nye funksjoner og verktøy for å beskytte den personlige plassen og sikkerheten til tenåringer på Pinterest. For tenåringer under 16 år omfattet dette profilinnstillinger som er satt til privat som standard, og gjør tavler og Pins bare synlige for følgere som brukeren har godkjent. I tillegg ga vi omsorgspersoner muligheten til å inkludere et passord som må angis hver gang brukeren ønsker å endre kontoinnstillinger som setter begrensninger for tenåringen, og vi utvidet aldersverifiseringsprosessen vår.

I juni annonserte Pinterest sin støtte til Inspired Internet Pledge. Løftet, som er opprettet av Digital Wellness Lab ved Boston Children's Hospital i samarbeid med Pinterest, er en oppfordring til handling for teknologiselskaper og det bredere digitale økosystemet til å forene seg rundt et felles mål om å gjøre internett til et tryggere og sunnere sted for alle, og da særlig unge mennesker. Inspired Internet Pledge gir bedrifter et rammeverk for å iverksette meningsfulle, målbare tiltak for å oppnå en positiv effekt på mental og emosjonell velvære både på og utenfor internett. Gjennom bevisst fokus på mental helse og emosjonell velvære i disse tiltakene, sørger løftet for at deltakende selskaper har en rettesnor de kan følge ved håndtering av den pågående psykiske helsekrisen, og der ansvarlighet er en del av løftet.

Pinterests retningslinjer for bruk er laget for å underbygge misjonen vår om å inspirere folk. De bestemmer hva vi tillater og ikke tillater på Pinterest, og alle brukere må overholde dem. 

Vi har flere retningslinjer for selgere og annonsører, slik at de får vite klart og tydelig hva vi godtar og ikke godtar når det gjelder produkt-Pins og annonser. Disse retningslinjene har særskilt høye standarder for sikkerheten for alle målgrupper som bruker Pinterest. Filosofien vår er at du ikke kan bli inspirert før du føler deg trygg.

For å bidra til å opparbeide et trygt og inspirert brukerfellesskap utvikler og håndhever vi innholdsretningslinjer som bidrar til å sikre at plattformen vår er et positivt sted hvor folk kan finne ideer fra den virkelige verden om hva de kan prøve, lage, ha på seg eller gjøre. Vi jobber hardt for å identifisere og deaktivere skadelig innhold på nettstedet vårt, og innholdsretningslinjer og modereringspraksiser er under stadig utvikling for å holde tritt med ny atferd og nye trender.

Vi kan blokkere, begrense distribusjonen av eller deaktivere innhold, samt kontoene, personene og gruppene som oppretter og sprer innholdet, avhengig av hvor skadelig innholdet er. Hvis en bruker mener at en deaktivering er gjort ved en feil, tilbyr Pinterest muligheten til å klage på deaktiveringen der det er aktuelt.

 

Hver dag kommer millioner av mennesker fra hele verden til Pinterest for å lage, finne og lagre nye ideer som deles i Pins. For å forstå tilnærmingen vår til moderering av innhold er det nyttig å skille mellom to typer Pins: organiske Pins og annonser. Retningslinjene for bruk gjelder for begge typene.

Organiske Pins omfatter alle Pins som opprettes og lagres på Pinterest, og som ikke er promotert som annonser. Dette kan for eksempel omfatte selgeres produkt-Pins, som ikke alltid vil være annonser, og som kan vises organisk til folk som søker etter produkter eller følger interessene sine på Pinterest. Vi har også andre krav for selgere og produkt-Pinsene deres, som for eksempel at Pin-bildet og -beskrivelsen må gjenspeile produktet nøyaktig. Åpenhetsrapportene våre inkluderer alle typer organiske Pins som har blitt gjenstand for tiltak i henhold til retningslinjene våre for bruk.

Annonser er Pins som bedrifter betaler for å promotere. Vi har flere retningslinjer for annonsører, slik at annonser og annonsører må overholde enda høyere standarder. Retningslinjene for annonser håndheves annerledes enn for organisk innhold, og er ikke inkludert i denne åpenhetsrapporten.

Mye av innholdet på Pinterest er lagret flere ganger, noe som betyr at det samme bildet kan dukke opp på flere Pins. Så når det gjelder å rapportere tiltak vi gjør mot organiske Pins i henhold til retningslinjene våre, inkluderer vi både antallet Pins som er deaktivert, og antallet unike bilder som er deaktivert. Dermed får du bedre innsikt i modereringspraksisene våre for denne typen innhold.

Vi rapporterer deaktiverte tavler og kontoer hver for seg. Tavler er der du lagrer, samler og organiserer Pinsene dine. For å unngå at deaktiveringer telles dobbelt, omfatter ikke antallet unike bilder og Pins som er deaktivert, bilder og Pins på tavler eller fra brukerkontoer som er deaktivert.

En ulik metodologi ble anvendt i en annen nylig publisert rapport, i henhold til regulatorisk styring for åpenhetsrapporten til Den europeiske unionens forordning om digitale tjenester (DSA). Vi mener at metodologien som anvendes i den globale åpenhetsrapporten vår, tilbyr den mest nyttige innsikten og relevante konteksten i hvordan vi håndhever retningslinjene våre.

Pins som bryter retningslinjene, deaktiveres ved hjelp av automatiserte verktøy, manuelle gjennomganger og en hybrid tilnærming som kombinerer elementer fra begge deler.

Automatiserte deaktiveringer. De automatiserte verktøyene våre bruker en kombinasjon av ulike signaler for å identifisere og treffe tiltak mot innhold som potensielt er i strid med retningslinjene. Maskinlæringsmodellene våre gir for eksempel resultater til innhold som legges til på plattformen vår. Våre automatiserte verktøy kan deretter bruke disse resultatene til å utføre passende håndhevingstiltak.

Manuelle deaktiveringer. Pins kan gås gjennom og deaktiveres manuelt av medarbeidere på teamet. Pins som deaktiveres på denne måten, kan omfatte Pins som oppdages internt, samt Pins som rapporteres inn av tredjeparter eller brukere.

Hybride deaktiveringer. Hybride deaktiveringer omfatter deaktiveringer hvor et teammedlem avgjør om hvorvidt en Pin bryter retningslinjene, og automatiserte systemer bruker den avgjørelsen for å treffe tiltak mot maskinidentifiserte Pins som er like. En hybrid deaktivering kan føre til at alt fra ingen til mange Pins blir deaktivert. Dette avhenger av hvor mange matchede Pins som blir funnet.

Hvilke mekanismer som brukes for å ta hånd om ulike potensielle brudd på retningslinjene, kan variere avhengig av teknologien som er tilgjengelig, hvor mye innhold som er i strid med retningslinjene, og andre faktorer, for eksempel hvor komplisert det er å evaluere saken. Vi kommer til å fortsette å forbedre og videreutvikle verktøyene våre, og du kan regne med at det kommer forbedringer med jevne mellomrom fremover.

Tallene avrundes, så det er ikke sikkert at summen av antall deaktiveringer for en retningslinjekategori blir 100 %.

Folk spør ofte hvor mange brukere som så en Pin før den ble deaktivert? I de fleste tilfeller er svaret «ikke mange».

Eksempel: 91 % av Pins som vi deaktiverte for farlige artikler og aktiviteter i første kvartal av 2023, ble aldri sett av brukere i denne rapporteringsperioden – selv med hundrevis av millioner mennesker som besøker Pinterest per måned.

Rekkevidde er en av hovedindikatorene våre for brukeropplevelsen. Når vi beregner denne, starter vi med å se på hver Pin som er deaktivert for ikke å overholde retningslinjene, i en rapporteringsperiode. Deretter teller vi hvor mange unike brukere som så hver av Pinsene (før de ble deaktivert) i minst ett sekund i løpet av rapporteringsperioden. Tallene avrundes, så det er ikke sikkert at summen for rekkevidden for ulike retningslinjekategorier er 100 %.

Brukere kan rapportere Pins de mener bryter retningslinjene våre ved å klikke på de tre små prikkene på en Pin og deretter på «Rapportér Pin». Når vi har bekreftet at et element bryter retningslinjene våre for bruk og vi treffer egnede tiltak, anser vi rapporten for å være en rapport som ligger til grunn for tiltak.

Det totale antallet rapporter som ligger til grunn for tiltak, er en annen viktig indikator for brukeropplevelsen på Pinterest. Det samme er antallet innsendere av rapporter: Under 0,03 % av alle månedlig aktive brukere rapporterte en Pin som førte til deaktivering av en Pin, i første kvartal av 2023.

Når brukere finner Pins de liker eller vil finne tilbake til, kan de lagre dem på tavler de har laget selv. Med tiden har brukerne våre laget flere milliarder tavler. 

Når en tavle deaktiveres fordi den er i strid med retningslinjene, blir alle Pinsene på den også deaktivert. Hvis vi deaktiverer en hel konto, blir den aktuelle brukerens tavler også deaktivert. For å unngå at deaktiveringer telles dobbelt, omfatter ikke antallet tavler som er deaktivert fra brukerkontoer som er deaktivert.

Du kan tenke på «kontoer» på Pinterest som «profiler» eller – vanligvis – som enkeltbrukere. Hvis noen lagrer Pins og oppretter tavler, blir innholdet knyttet til kontoen deres – enten de har en individuell brukerkonto eller en konto for en bedrift, annonsør, selger eller skaper. Tavler og Pins kan være private, deles med et begrenset antall andre kontoer eller være synlige for alle.

Alle slags kontoer, uavhengig av personverninnstillinger, kan bli deaktivert for brudd på retningslinjene våre. Når en konto deaktiveres, blir alle Pinsene og tavlene til kontoen også deaktivert. Det betyr at hvis du søker etter brukeren eller klikker på en gammel link til brukerens profil, vises ikke profilen lenger. Brukerens Pins vises ingen steder på Pinterest. Og den deaktiverte brukeren har heller ikke tilgang til sine egne Pins eller tavler.

Hvis folk mener at kontoene deres er deaktivert på grunn av en feiltakelse, kan de gå gjennom en klageprosess for å få kontoene sine gjenopprettet. Vi går gjennom klager og gjenoppretter kontoer hvis vi kommer frem til at vi har gjort en feil. I noen tilfeller gjør vi det også for å gi folk en ny sjanse til å overholde retningslinjene for bruk.

Vi behandler også klager for deaktiverte Pins og tavler, og vi planlegger å inkludere data om dette i denne rapporten i fremtiden.

Rapporteringen om håndheving av retningslinjene våre for bruk i denne åpenhetsrapporten omfatter første halvdel av 2023, fra januar til og med juni 2023. Vi har delt opp denne perioden i to rapporteringsperioder: første og andre kvartal.

Q1 omhandler årets første kvartal, som er januar til og med mars, mens Q2 omhandler årets andre kvartal, som er april til og med juni. Av og til nevner vi også Q3 (som er juli til og med september) eller Q4 (som er oktober til og med desember) når vi snakker om trender fra kvartal til kvartal.

Pinterest er ikke et sted for pornografi. Vi vil gjennomføre tiltak mot innhold som bryter retningslinjene våre om voksent innhold, og vi viser ikke resultater for søk vi mener bryter disse retningslinjene. Vi gjør så godt vi kan for å skille mellom pornografi og annet innhold som kan involvere en viss grad av nakenhet. Vi vil for eksempel ikke forby brukere å lagre innhold om amming eller mastektomier.

Nylige trender

Vi deaktiverte færre Pins for brudd på disse retningslinjene i første kvartal av 2023 enn i andre kvartal av 2023. Av Pinsene vi deaktiverte i andre kvartal, ble 98 % sett av 100 eller færre brukere i denne rapporteringsperioden. Vi har utvidet arbeidet vårt med å identifisere flere brudd på kontonivå i denne perioden, noe som førte til flere kontodeaktiveringer, inkludert noen feilaktige deaktiveringer som senere ble reversert.

Rekkevidden* av Pins som er deaktivert for å bestå av innhold for voksne

* Se delen om metodologien vår ovenfor for å finne ut mer om hvordan vi beregner rekkevidde.

I første kvartal av 2023 deaktiverte vi 2 439 235 unike bilder, noe som utgjorde 29 396 667 Pins, på grunn av brudd på disse retningslinjene. 93 % av disse Pinsene ble sett av under 10 brukere i denne rapporteringsperioden. Vi deaktiverte under 1 % manuelt og over 99 % med hybridverktøy. Vi iverksatte tiltak på bakgrunn av 102 282 brukerrapporter, som førte til at en Pin ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 42 679 tavler og 29 703 kontoer. Vi mottok 4544 kontoklager og gjenopprettet 3511 kontoer.

I andre kvartal av 2023 deaktiverte vi 874 125 unike bilder, noe som utgjorde 47 644 063 Pins, på grunn av brudd på disse retningslinjene. 94 % av disse Pinsene ble sett av under 10 brukere i denne rapporteringsperioden. Vi deaktiverte under 1 % manuelt og over 99 % med hybridverktøy. Vi iverksatte tiltak på bakgrunn av 54 787 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 49 262 tavler og 17 172 kontoer på grunn av brudd på disse retningslinjene. Vi mottok 3409 kontoklager og gjenopprettet 1769 kontoer.

Vi forbyr tjenester for seksuelle tjenester for voksne på Pinterest. Tjenester for seksuelle tjenester for voksne kan omfatte seksuell utnyttelse eller seksuelle tjenester som en del av kommersiell virksomhet, som for eksempel eskortetjenester, sexkameraer eller kjøp og salg av sex eller nakenhet.

Nylige trender

Vi deaktiverte flere tavler i andre kvartal av 2023 enn i første kvartal av 2023. Lanseringen av de nye rapporteringsalternativene for tavler førte til en økning i deaktiveringer av tavler i denne kategorien, og en tilsvarende reduksjon i deaktiveringer av individuelle Pins. Selv om alle Pins på en deaktivert tavle også blir deaktivert, inkluderer vi dem ikke i beregningen av totalt antall deaktiverte Pins for å unngå dobbelttellinger i denne rapporten. Av Pinsene vi deaktiverte i andre kvartal, ble mer enn 99 % sett av under 10 brukere i denne aktuelle rapporteringsperioden.

Rekkevidden for Pins som ble deaktivert for å tilby seksuelle tjenester av voksne

I første kvartal av 2023 deaktiverte vi 25 449 unike bilder, noe som utgjorde 324 748 Pins, på grunn av brudd på disse retningslinjene. 91 % av disse Pinsene ble sett av under 10 brukere i denne rapporteringsperioden. Vi deaktiverte under 1 % manuelt og over 99 % med hybridverktøy. Vi iverksatte tiltak på bakgrunn av 142 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 88 tavler og 365 kontoer. Vi mottok 9 kontoklager og gjenopprettet 1 konto.

I andre kvartal av 2023 deaktiverte vi 8308 unike bilder, noe som utgjorde 10 045 Pins, for brudd på disse retningslinjene. 99 % av disse Pinsene ble sett av under 10 brukere i denne rapporteringsperioden. Vi deaktiverte under 1 % manuelt og over 99 % ved hjelp av hybridverktøy. Vi iverksatte tiltak på bakgrunn av 80 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 2837 tavler og 955 kontoer på grunn av brudd på disse retningslinjene. Vi mottok 153 kontoklager og gjenopprettet 7 kontoer.

Pinterest har nulltoleranse for all slags materiell som har å gjøre med seksuell utnytting av barn. Det betyr at vi håndhever strenge retningslinjer for alt slags innhold – inkludert bilder, videoer og tekster – eller kontoer som kan utnytte mindreårige eller utsette dem for fare. Å oppdage og fjerne denne typen innhold er av ytterste viktighet, og vi fortsetter å investere tungt på dette området. 

Pinterests retningslinjer for barnesikkerhet forbyr ikke bare innhold som er knyttet til seksuell utnytting av barn (CSAM), men går enda et skritt lenger ved å forby alt innhold som bidrar til seksualisering av mindreårige. Vi forbyr for eksempel bevisst misbruk av innhold som viser mindreårige i ikke-seksualiserte aktiviteter, som fremvisning av klær eller deltakelse i idrett. Vi tolerer også ikke innhold som antyder seksualisering av mindreårige i form av tegnefilmer eller anime. 

Vi leter proaktivt etter bilder og videoer som er knyttet til seksuell utnyttelse av barn, ved å benytte både våre egne interne ressurser og felles bransjeverktøy som PhotoDNA, som bruker en delt hash-database over kjent materiale med seksuelt misbruk av barn. For å identifisere videoinnhold bruker vi også CSAI Match. I tillegg samarbeider vi tett med National Center for Missing and Exploited Children (NCMEC) for å bekjempe slik aktivitet, og vi rapporterer lovbrudd ​​i innhold i henhold til gjeldende lov og rett. Fra januar til juni 2023 sto spesialistteamet vårt bak 34 203 CyberTipline-rapporter til NCMEC.

En merknad om hva vi rapporterer, og hvorfor vi gjør det

Seksuell utnytting av barn er blant de mest alvorlige forholdene som håndteres av Trust and Safety-teamene hos Pinterest – samt på internett generelt. På grunn av dette legger vi ekstra ressurser i arbeidet med å avgjøre hvordan vi presenterer informasjonen i denne rapporten. Etter å ha rådført oss med bransjeeksperter, besluttet Pinterest til slutt å inkludere alle de samme beregningene for innhold som er knyttet til seksuell utnytting av barn, som for andre innholdsretningslinjer – inkludert rekkevidde og brukerrapporter som har ført til tiltak. Disse beregningstypene er indikatorene våre på hvordan innhold som bryter retningslinjene, påvirker brukeropplevelsen på nettstedet. Vi vil imidlertid gjøre en ting veldig klart: Deling av informasjon om rekkevidde og brukerrapporter som har ført til tiltak, for innhold som er tilknyttet seksuell utnytting av barn, betyr absolutt ikke at vi på noen måte antyder at skaden barna påføres, reduseres ved at færre personer ser innholdet. Slikt innhold er galt uansett hvor mange som ser det. Vi deler dataene utelukkende for å være åpne om tiltakene vi treffer for å fjerne innhold som er tilknyttet seksuell utnytting av barn, fra plattformen vår. 

Vi teller også alle deaktiveringer av innhold som er tilknyttet seksuell utnytting av barn, uansett hvilke andre tiltak som allerede kan ha vært truffet mot den aktuelle Pinnen, tavlen eller brukeren. Eksempel: Hvis en Pin er deaktivert automatisk – noe som betyr at ingen på plattformen kan se den – fordi den er i strid med retningslinjene våre om nettsøppel, og vi senere finner ut at den inneholder materiale som er i strid med retningslinjene om innhold som er tilknyttet seksuell utnytting av barn, inkluderes Pinnen i tallene for deaktivering både på grunn av nettsøppel og på grunn av seksuell utnytting av barn. Selv om Pinnen ikke var synlig eller tilgjengelig på Pinterest, må vi treffe egnede tiltak, for eksempel ved å sende en rapport til NCMEC hvis vi kommer frem til at bildet er ulovlig materiale som er tilknyttet seksuelt misbruk av barn. Vi har tatt med disse deaktiveringene i rapporteringen vår om CSE for å gi mer nøyaktig innsikt i disse bruddene, selv om det noen ganger kan føre til at en Pin telles under to forskjellige kategorier av retningslinjer. Det er også viktig å merke seg at høyere frekvenser av gjenoppretting av konto kan bli funnet innenfor dette området, fordi retningslinjene våre er å være proaktive og deaktivere kontoer når problemet vedrører barnesikkerhet, og å håndtere eventuelle klager deretter.

I løpet av første halvdel av 2023 la vi til flere ressurser til barnesikkerhetstiltakene våre, inkludert utvidelse av modereringsstøtten vår. Vi gjør hele tiden vårt ytterste for å finne og fjerne slikt innhold, men det dukker hele tiden opp noe nytt – og vi er forpliktet til å fortsette dette viktige arbeidet.

Rekkevidden for Pins som ble deaktivert for å inneholde seksuell utnytting av barn

I første kvartal av 2023 deaktiverte vi 8393 unike bilder, noe som utgjorde 1 846 326 Pins, på grunn av brudd på retningslinjene om innhold knyttet til seksuell utnytting av barn. Av disse fastslo vi at 2348 unike bilder, noe som utgjorde 23 479 Pins, var ulovlig materiale knyttet til seksuelt misbruk av barn, og vi rapporterte dette til NCMEC. Av alle Pinsene vi deaktiverte i dette kvartalet på grunn av seksuell utnytting av barn, ble 91 % sett av under 10 brukere i den aktuelle rapporteringsperioden. Vi deaktiverte under 1 % manuelt og over 99 % med hybridverktøy. Vi iverksatte tiltak på bakgrunn av 5726 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 17 715 tavler og 63 761 kontoer. Vi mottok 8524 kontoklager og gjenopprettet 3925 kontoer. 

I andre kvartal av 2023 deaktiverte vi 9691 unike bilder, noe som utgjorde 3 877 286 Pins, på grunn av brudd på retningslinjene om innhold knyttet til seksuell utnytting av barn. Av disse fastslo vi at 1071 unike bilder, noe som utgjorde 16 336 Pins, var ulovlig materiale knyttet til seksuelt misbruk av barn, og vi rapporterte dette til NCMEC. Av alle Pinsene vi deaktiverte i dette kvartalet på grunn av seksuell utnytting av barn, ble 97 % sett av under 10 brukere i den aktuelle rapporteringsperioden. Vi deaktiverte under 1 % manuelt og over 99 % med hybridverktøy. Vi iverksatte tiltak på bakgrunn av 3896 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 48 039 tavler og 172 633 kontoer på grunn av brudd på disse retningslinjene. Vi mottok 20 136 kontoklager og gjenopprettet 9874 kontoer.

Retningslinjene om misvisende informasjon om samfunnsdeltakelse inngår i en gruppe retningslinjer for bruk som forbyr misinformasjon og villedende informasjon på Pinterest. Disse retningslinjene forbyr falskt eller villedende innhold på Pinterest som påvirker integriteten av valg eller personers eller gruppers samfunnsdeltakelse, deriblant registrering for å stemme, stemming og deltakelse i folketellinger. Siden 2018 har vi også forbudt politiske annonser, og vi tjener heller ikke penger på valgrelatert innhold.

Nylige trender

Bekjempelse av feilinformasjon er komplisert og metodene vi benytter utvikles kontinuerlig. Tallene for håndhevelse av innhold innenfor dette området av retningslinjene er spesielt utsatt for svingninger fra kvartal til kvartal, avhengig av virkelige hendelser, som for eksempel regionale valg. Av Pinsene vi deaktiverte i første kvartal, ble mer enn 99 % sett av under 10 brukere i denne aktuelle rapporteringsperioden.

Rekkevidden for Pins som ble deaktivert på grunn av feilinformasjon om samfunnsdeltakelse

I første kvartal av 2023 deaktiverte vi 93 unike bilder, noe som utgjorde 2545 Pins, for brudd på disse retningslinjene. 98 % av disse Pinsene ble sett av under 10 brukere i denne rapporteringsperioden. Vi deaktiverte 20 % av Pinsene manuelt og 80 % ved hjelp av hybridverktøy. Vi iverksatte tiltak på bakgrunn av 39 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 6 tavler og 3 kontoer. Vi mottok 1 kontoklager og gjenopprettet 0 kontoer.

I andre kvartal av 2023 deaktiverte vi 162 unike bilder, noe som utgjorde 1425 Pins, for brudd på disse retningslinjene. 93 % av disse Pinsene ble sett av under 10 brukere i denne rapporteringsperioden. Vi deaktiverte 12 % av Pinsene manuelt og 88 % ved hjelp av hybridverktøy. Vi iverksatte tiltak på bakgrunn av 80 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 46 tavler og 15 kontoer på grunn av brudd på disse retningslinjene. Vi mottok 5 kontoklager og gjenopprettet 3 kontoer.

Retningslinjene våre for klimainformasjon forbyr innhold som benekter klimaendringenes eksistens eller virkninger, samt falskt eller villedende innhold om naturkatastrofer og ekstreme værhendelser. Retningslinjene våre for feilinformasjon om klimaemnet er nok et skritt i Pinterests reise for å bekjempe feilinformasjon og skape et trygt sted å være på internett. Vi samarbeider med klimaeksperter, deriblant Climate Disinformation Coalition og Conscious Advertising Network, for å bidra til å informere vår politikk og håndhevingspraksis basert på vanlige feilinformasjonstemaer de ser på tvers av plattformer.

Nylige trender

Vi deaktiverte flere Pins på grunn av brudd på retningslinjene våre for klimarelatert feilinformasjon i første kvartal av 2023 enn i andre kvartal av 2023. 

Vi fant ut at fire av de unike bildene som ble deaktivert i første kvartal av 2023 og tre av de unike bildene som ble deaktivert i andre kvartal av 2023, ble deaktivert på feil grunnlag, og vi gjenopprettet innholdet etter at vi hadde identifisert feilen. Av Pinsene vi mener ble deaktivert riktig i andre kvartal, ble 16 sett av 100 eller færre brukere i denne rapporteringsperioden.

Disse falske positive treffene er inkludert i dataene om håndheving i første og andre kvartal, men vi har ikke tatt dem med i beregningen av rekkevidde for disse retningslinjene. Vi har gjort det på denne måten for å gi et mer nøyaktig innblikk i hvor mange brukere som så en Pin som faktisk var i strid med disse retningslinjene, før Pinnen ble deaktivert.

Rekkevidden for Pins som ble deaktivert på grunn av feilinformasjon om klima

I første kvartal av 2023 deaktiverte vi 126 unike bilder, noe som utgjorde 136 Pins, for brudd på disse retningslinjene. 32 % av disse Pinsene ble sett av 100 eller færre brukere i denne rapporteringsperioden. Vi deaktiverte 98 % av Pinsene manuelt og 2 % med hybridverktøy. Vi iverksatte tiltak på bakgrunn av 19 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 133 tavler og 1 kontoer for brudd på disse retningslinjene. Vi har mottatt 0 kontoklager.

I andre kvartal av 2023 deaktiverte vi 37 unike bilder, noe som utgjorde 41 Pins, for brudd på disse retningslinjene. 39 % av disse Pinsene ble sett av 100 eller færre brukere i denne rapporteringsperioden. Vi deaktiverte 100 % manuelt. Vi iverksatte tiltak på bakgrunn av 10 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 10 tavler og 13 kontoer for brudd på disse retningslinjene. Vi mottok 3 kontoklager og gjenopprettet 2 kontoer.

Retningslinjene om konspirasjonsteorier inngår i en gruppe retningslinjer for bruk som forbyr misvisende og villedende informasjon på Pinterest. Konspirasjonsteorier omfatter innhold som gjør eller oppfordrer til å gjøre enkeltpersoner, grupper, steder eller organisasjoner til mål for trakassering eller fysisk vold, for eksempel hatbaserte konspirasjonsteorier og feilinformasjon om grusomheter mot masser.

Nylige trender

Vi deaktiverte flere Pins på grunn av brudd på retningslinjene våre om konspirasjonsteorier i første kvartal av 2023 enn i andre kvartal av 2023. Av Pinsene vi deaktiverte i første kvartal, ble mer enn 97 % sett av under 10 brukere i denne aktuelle rapporteringsperioden. Endringen vår som forenklet rapporteringen av kontoer, førte til en økning i antallet kontoer som ble deaktivert.

Rekkevidden for Pins som ble deaktivert på grunn av konspirasjonsteorier

I første kvartal av 2023 deaktiverte vi 641 unike bilder, noe som utgjorde 4412 Pins, for brudd på disse retningslinjene. 91 % av disse Pinsene ble sett av 0 brukere i denne rapporteringsperioden. Vi deaktiverte 69 % av Pinsene manuelt og 31 % med hybridverktøy. Vi iverksatte tiltak på bakgrunn av 64 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 37 tavler og 3 kontoer. Vi mottok 7 kontoklager og gjenopprettet 3 kontoer.

I andre kvartal av 2023 deaktiverte vi 510 unike bilder, noe som utgjorde 2404 Pins, for brudd på disse retningslinjene. 94 % av disse Pinsene ble sett av 0 brukere i denne rapporteringsperioden. Vi deaktiverte 16 % av Pinsene manuelt og 84 % med hybridverktøy. Vi iverksatte tiltak på bakgrunn av 53 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 41 tavler og 36 kontoer på grunn av brudd på disse retningslinjene. Vi mottok 14 kontoklager og gjenopprettet 6 kontoer.

Pinterest er ikke et sted for kjøp og salg av farlige varer eller deltakelse i farlige aktiviteter. Farlige varer er produkter eller stoffer som kan føre til skade når de brukes, manipuleres eller fremstilles på en uforsvarlig måte. Farlige aktiviteter – inkludert det å vise frem eller oppfordre til farlige aktiviteter – er heller ikke noe vi vil ha på Pinterest. I tillegg inkluderer denne kategorien innhold som legger til rette for salg av ville dyr eller beskyttet og truet dyreliv og andre typer dyreutnyttelse. Pinterest samarbeider med World Wildlife Fund og Coalition to End Wildlife Trafficking Online for å håndtere kjøp og salg av dyr og for å få tilbakemeldinger på tilnærminger vi kan anvende for å fortsette å bekjempe slike ugjerninger.

Nylige trender

Vi deaktiverte flere Pins på grunn av brudd på retningslinjene våre for farlige varer og aktiviteter i første kvartal av 2023 enn i andre kvartal av 2023, delvis på grunn av fokus på proaktive kontroller, samt flere treff som ble identifisert og var gjenstand for tiltak ved bruk av hybridverktøyene våre i første kvartal. 

Vi fant ut at seks av de unike bildene som ble deaktivert i første kvartal av 2023 og fem av de unike bildene som ble deaktivert i andre kvartal av 2023, ble deaktivert på feil grunnlag, og vi gjenopprettet innholdet etter at vi hadde identifisert feilen. Av Pinsene vi mener ble deaktivert på riktig grunnlag i første kvartal, ble 99 % sett av 10 eller færre brukere i denne rapporteringsperioden.

Disse falske positive treffene er inkludert i dataene om håndheving i første og andre kvartal, men vi har ikke tatt dem med i beregningen av rekkevidde for disse retningslinjene. Vi har gjort det på denne måten for å gi et mer nøyaktig innblikk i hvor mange brukere som så en Pin som faktisk var i strid med disse retningslinjene, før Pinnen ble deaktivert.

Rekkevidden for Pins som ble deaktivert på grunn av farlige varer og aktiviteter

I første kvartal av 2023 deaktiverte vi 12 050 unike bilder, noe som utgjorde 1 214 227 Pins, på grunn av brudd på disse retningslinjene. 91 % av disse Pinsene ble aldri sett av brukere i denne rapporteringsperioden. Vi deaktiverte 11 % manuelt, under 1 % automatisk og 89 % med hybridverktøy. Vi iverksatte tiltak på bakgrunn av 2575 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 445 tavler og 858 kontoer. Vi mottok 34 kontoklager og gjenopprettet 7 kontoer.

I andre kvartal av 2023 deaktiverte vi 7079 unike bilder, noe som utgjorde 71 961 Pins, på grunn av brudd på disse retningslinjene. 97 % av disse Pinsene ble sett av under 10 brukere i denne rapporteringsperioden. Vi deaktiverte 6 % av Pinsene manuelt, 10 % automatisk og 84 % ved bruk av hybridverktøy. Vi iverksatte tiltak på bakgrunn av 2049 brukerrapporter som førte til at en Pin ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 472 tavler og 667 kontoer på grunn av brudd på disse retningslinjene. Vi mottok 52 kontoklager og gjenopprettet 28 kontoer.

Vi tillater ikke grafisk vold eller trusler på Pinterest. Dette omfatter det meste av innhold som viser bruk av vold, trusler og språk som forherliger vold.

Nylige trender

Vi deaktiverte flere Pins på grunn av brudd på retningslinjene våre for grafisk vold og trusler i første kvartal av 2023 enn i andre kvartal av 2023. Av Pinsene vi deaktiverte i første kvartal, ble mer enn 98 % sett av under 10 brukere i denne aktuelle rapporteringsperioden. 

Rekkevidden for Pins som ble deaktivert på grunn av grafisk vold og trusler

I første kvartal av 2023 deaktiverte vi 22 692 unike bilder, noe som utgjorde 824 035 Pins, på grunn av brudd på disse retningslinjene. 98 % av disse Pinsene ble sett av under 10 brukere i denne rapporteringsperioden. Vi deaktiverte 2 % av Pinsene manuelt og 98 % ved hjelp av hybridverktøy. Vi iverksatte tiltak på bakgrunn av 7872 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 1041 tavler og 116 kontoer. Vi mottok 47 kontoklager og gjenopprettet 23 kontoer.

I andre kvartal av 2023 deaktiverte vi 31 213 unike bilder, noe som utgjorde 262 823 Pins, for brudd på disse retningslinjene. 97 % av disse Pinsene ble sett av under 10 brukere i denne rapporteringsperioden. Vi deaktiverte 3 % av Pinsene manuelt og 97 % ved hjelp av hybridverktøy. Vi iverksatte tiltak på bakgrunn av 4396 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 1232 tavler og 265 kontoer på grunn av brudd på disse retningslinjene. Vi mottok 84 kontoklager og gjenopprettet 51 kontoer.

Pinterest er ikke et sted for trakassering, og vi tillater ikke innhold som fornærmer, sårer eller provoserer enkeltpersoner eller grupper. Dette omfatter manipulerte bilder hvor hensikten er å nedverdige eller skjemme ut andre, utskjemming av andre på grunn av kropp eller seksuell eller romantisk historikk, seksuelle bemerkninger om andres kropp, forespørsler eller tilbud om seksuelle handlinger og hån av personer som opplever tristhet, sorg, tap eller sinne.

Nylige trender

Vi har kommet frem til at fem unike bilder som ble deaktivert i første kvartal av 2023, og at flere enn 95 000 Pins som ble deaktivert på bakgrunn av å være matchende treff, ble deaktivert på feil grunnlag, og vi gjenopprettet innholdet etter at vi hadde identifisert feilen. Av Pinsene vi mener ble deaktivert riktig i første kvartal, ble 96 % sett av 10 eller færre brukere i denne rapporteringsperioden.

Disse falske positive treffene er inkludert i dataene om håndheving i første kvartal, men vi har ikke tatt dem med i beregningen av rekkevidde for disse retningslinjene. Vi har gjort det på den måten for å gi et mer nøyaktig innblikk i hvor mange brukere som så en Pin som faktisk var i strid med disse retningslinjene, før Pinnen ble deaktivert.

Rekkevidden for Pins som ble deaktivert på grunn av trakassering og kritikk

I første kvartal av 2023 deaktiverte vi 2615 unike bilder, noe som utgjorde 482 401 Pins, på grunn av brudd på disse retningslinjene. 96 % av disse Pinsene ble sett av under 10 brukere i denne rapporteringsperioden. Vi deaktiverte 17 % av Pinsene manuelt og 83 % ved hjelp av hybridverktøy. Vi iverksatte tiltak på bakgrunn av 2012 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 386 tavler og 192 kontoer. Vi mottok 61 kontoklager og gjenopprettet 36 kontoer.

I andre kvartal av 2023 deaktiverte vi 2327 unike bilder, noe som utgjorde 89 215 Pins, for brudd på disse retningslinjene. 92 % av disse Pinsene ble sett av under 10 brukere i denne rapporteringsperioden. Vi deaktiverte 2 % av Pinsene manuelt og 98 % ved hjelp av hybridverktøy. Vi iverksatte tiltak på bakgrunn av 1673 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 331 tavler og 284 kontoer på grunn av brudd på disse retningslinjene. Vi mottok 83 kontoklager og gjenopprettet 62 kontoer.

Vi tillater ikke hatsk innhold eller folk og grupper som promoterer hatske aktiviteter på Pinterest. Hatske aktiviteter omfatter nedsettende uttrykk og negative stereotyper, karikaturer og generaliseringer, foruten støtte for hatgrupper og folk som fremmer hatske aktiviteter.

Vi mener at alle mennesker fortjener å ha et trygt sted hvor de kan dyrke interessene sine og finne inspirasjon – uavhengig av etnisitet, kaste, innvandrerstatus, fødested, religion eller tro, kjønn eller kjønnsidentitet, seksuell legning, uførhet eller medisinsk tilstand.

Nylige trender

Vi deaktiverte færre unike bilder – men flere Pins – i første kvartal av 2023 enn i andre kvartal av 2023 for brudd på retningslinjene våre for hatske aktiviteter takket være det økte antallet treff som ble identifisert og gjort gjenstand for tiltak ved bruk av hybridverktøyene våre i første kvartal. Vårt oppdaterte rapporteringsskjema, som gjorde det enklere for brukere å rapportere innhold på tavle- og kontonivå, førte til en økning i antallet kontoer og tavler som ble deaktivert. Av Pinsene vi deaktiverte i første kvartal, ble mer enn 90 % sett av under 10 brukere i denne rapporteringsperioden.

Rekkevidden for Pins som ble deaktivert på grunn av hatske aktiviteter

I første kvartal av 2023 deaktiverte vi 12 927 unike bilder, noe som utgjorde 172 732 Pins, på grunn av brudd på disse retningslinjene. 90 % av disse Pinsene ble sett av under 10 brukere i denne rapporteringsperioden. Vi deaktiverte 21 % av Pinsene manuelt og 79 % ved hjelp av hybridverktøy. Vi iverksatte tiltak på bakgrunn av 3608 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 1244 tavler og 228 kontoer. Vi mottok 84 kontoklager og gjenopprettet 27 kontoer.

I andre kvartal av 2023 deaktiverte vi 19 492 unike bilder, noe som utgjorde 109 206 Pins, for brudd på disse retningslinjene. 91 % av disse Pinsene ble sett av under 10 brukere i denne rapporteringsperioden. Vi deaktiverte 6 % av Pinsene manuelt og 94 % med hybridverktøy. Vi iverksatte tiltak på bakgrunn av 2274 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 1761 tavler og 1087 kontoer på grunn av brudd på disse retningslinjene. Vi mottok 274 kontoklager og gjenopprettet 176 kontoer. 

Retningslinjene om medisinsk feilinformasjon inngår i en gruppe retningslinjer for bruk som forbyr misvisende og villedende informasjon på Pinterest. Disse retningslinjene forbyr helsepåstander uten medisinsk grunnlag, som fører til risiko for offentlighetens helse og sikkerhet. Dette omfatter fremming av falske kurer, råd om ikke å vaksinere seg eller feilinformasjon om nødssituasjoner knyttet til offentlig helse eller sikkerhet. Vi bruker informasjon fra nasjonalt og internasjonalt anerkjente institusjoner, inkludert CDC (Centers for Disease Control) og Verdens helseorganisasjon, for å finne ut om innhold bryter disse retningslinjene. 

Nylige trender

Vi deaktiverte flere Pins for brudd på disse retningslinjene i andre kvartal av 2023 enn i første kvartal av 2023. Av Pinsene vi deaktiverte i andre kvartal, ble mer enn 99 % sett av under 10 brukere i denne aktuelle rapporteringsperioden.

Rekkevidden for Pins som ble deaktivert på grunn av medisinsk feilinformasjon

I første kvartal av 2023 deaktiverte vi 2444 unike bilder, noe som utgjorde 10 602 Pins, på grunn av brudd på disse retningslinjene. 97 % av disse Pinsene ble sett av under 10 brukere i denne rapporteringsperioden. Vi deaktiverte 8 % av Pinsene automatisk, 9 % manuelt og 82 % med hybridverktøy. Vi iverksatte tiltak på bakgrunn av 196 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 89 tavler og 8 kontoer. Vi mottok 3 kontoklager og gjenopprettet 2 kontoer.

I andre kvartal av 2023 deaktiverte vi 3336 unike bilder, noe som utgjorde 43 319 Pins, for brudd på disse retningslinjene. 93 % av disse Pinsene ble sett av 0 brukere i denne rapporteringsperioden. Vi deaktiverte 2 % av Pinsene automatisk, < 1 % manuelt og 98 % med hybridverktøy. Vi iverksatte tiltak på bakgrunn av 110 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 85 tavler og 17 kontoer på grunn av brudd på disse retningslinjene. Vi mottok 7 kontoklager og gjenopprettet 6 kontoer.

Vi ønsker at Pinterest skal ha en positiv rolle i folks liv, og derfor er det viktig for oss å bekjempe selvskading. Innhold som viser, rasjonaliserer eller oppfordrer til selvmord, selvskading, spiseforstyrrelser eller rusmisbruk, er ikke noe vi vil ha på plattformen vår. Dette omfatter veiledning til selvskading, sensitive bilder og tanker og sitater om selvmord. Vi vil også blokkere søkeord som er relaterte til selvskading.

Vårt pågående partnerskap med Samaritans, som er en organisasjon som jobber for å forebygge selvmord ved å lytte til og støtte mennesker og lokalsamfunn der det er behov for hjelp, fortsetter å bidra til arbeidet vårt med å takle innhold knyttet til selvskading, og gjør Pinterest til et tryggere sted for alle. Slike partnerskap gjør det mulig for oss å heve ekspertledet forskning og utvikling innen psykisk helse, slik at folk som trenger det, kan få hjelp – uansett hvilken app eller hvilket nettsted de bruker. Vi har også valgt å samarbeide med tredjeparts tjenester for innholdssikkerhet for å teste moderasjonsarbeidet uavhengig av hverandre på dette og andre viktige områder.

Nylige trender

Vi fortsetter arbeidet vårt med å forbedre innholdsmodereringen vår av innhold med selvskading. Vi så færre Pins som ble deaktivert totalt i første halvdel av 2023 enn i siste halvdel av 2022, og av Pinsene vi deaktiverte i løpet av denne halvdelen, ble 95 % sett av under 10 brukere i denne rapporteringsperioden.

Rekkevidden for Pins som ble deaktivert på grunn av selvskading eller skadelig atferd

I første kvartal av 2023 deaktiverte vi 72 015 unike bilder, noe som utgjorde 10 997 375 Pins, på grunn av brudd på disse retningslinjene. 95 % av disse Pinsene ble sett av under 10 brukere i denne rapporteringsperioden. Vi deaktiverte under 1 % av Pinsene automatisk, under 1 % manuelt og 98 % med hybridverktøy. Vi iverksatte tiltak på bakgrunn av 1814 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 1977 tavler og 177 kontoer. Vi mottok 70 kontoklager og gjenopprettet 23 kontoer.

I andre kvartal av 2023 deaktiverte vi 61 014 unike bilder, noe som utgjorde 11 556 880 Pins, for brudd på disse retningslinjene. 95 % av disse Pinsene ble sett av under 10 brukere i denne rapporteringsperioden. Vi deaktiverte under 1 % manuelt og over 99 % ved hjelp av hybridverktøy. Vi iverksatte tiltak på bakgrunn av 1716 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 1439 tavler og 251 kontoer på grunn av brudd på disse retningslinjene. Vi mottok 79 kontoklager og gjenopprettet 45 kontoer.

Vi vil at inspirasjonen og ideene på Pinterest skal ha høy kvalitet og nytteverdi, og derfor deaktiverer vi nettsøppel når vi finner det. Målet til personer som sprer nettsøppel, er å tjene penger, og den beste måten å få til det på, er å sende ut nettsøppel i store mengder av gangen. Det handler om å maksimere sjansene for å lykkes, så en million e-poster med nettsøppel er mye mer effektivt enn bare én. Det samme kan forekomme på distribusjonsplattformer for innhold, deriblant Pinterest. Plattformenes interaksjoner med aktører som sprer nettsøppel, er vanligvis både konfliktsøkende, og gjentas hyppig, og de går ofte ut på at brukere bevisst prøver å omgå systemet og hele tiden oppdaterer teknikkene sine. 

Nylige trender

Hos Pinterest bruker vi det siste innen maskinlæring til å bygge automatiserte modeller som raskt gjenkjenner og iverksetter tiltak mot all slags nettsøppel. Vi gjentar disse modellene med jevne mellomrom ved å legge til nye data og utforske nye tekniske gjennombrudd for å enten opprettholde eller forbedre ytelsen deres over tid for å effektivt adressere nettsøppel. Gitt at bekjempelse av nettsøppel til syvende og sist er konfliktsøkende og hyppig gjentakelse, kan tallene for håndhevelse av innhold variere sterkt fra kvartal til kvartal.

Vi deaktiverte flere kontoer i første kvartal av 2023 enn i fjerde kvartal av 2022. Denne volumsvingningen er typisk for nettsøppel, og det totale antallet brudd på retningslinjene blir svært høyt i denne kategorien. Av Pinsene vi deaktiverte i første kvartal, ble mer enn 97 % sett av under 10 brukere i denne aktuelle rapporteringsperioden.

Rekkevidden for Pins som ble deaktivert på grunn av nettsøppel

I første kvartal av 2023 deaktiverte vi 45 333 unike bilder, noe som utgjorde 94 327 Pins, på grunn av brudd på disse retningslinjene. 97 % av disse Pinsene ble sett av under 10 brukere i denne rapporteringsperioden. Vi deaktiverte 100 % av Pinsene automatisk. Vi deaktiverte også 7 500 856 kontoer på grunn av brudd på disse retningslinjene. Vi mottok 128 725 kontoklager og gjenopprettet 100 594 kontoer.

I andre kvartal av 2023 deaktiverte vi 39 490 unike bilder, noe som utgjorde 88 638 Pins, for brudd på disse retningslinjene. 96 % av disse Pinsene ble sett av under 10 brukere i denne rapporteringsperioden. Vi deaktiverte 100 % av Pinsene automatisk. Vi deaktiverte også 3 463 510 kontoer på grunn av brudd på disse retningslinjene. Vi mottok 78 331 kontoklager og gjenopprettet 56 352 kontoer.

Pinterest er ikke et sted for voldelig innhold, grupper eller personer. Vi begrenser distribusjonen av eller fjerner innhold og kontoer som oppmuntrer til, lovpriser, fremmer eller bidrar til farlige aktører eller grupper og deres aktiviteter. Dette inkluderer ekstremister, terrororganisasjoner og gjenger og andre kriminelle organisasjoner. Vi samarbeider med bransje- og sikkerhetseksperter samt myndigheter, som hjelper oss med å identifisere disse gruppene. Siden 2019, har for eksempel Pinterest vært medlem av Global Internet Forum to Counter Terrorism (GIFCT), en ikke-statlig organisasjon som er utformet for å hindre terrorister og voldelige ekstremister i å utnytte digitale plattformer. 

Nylige trender

Vi deaktiverte flere Pins for brudd på disse retningslinjene i første kvartal av 2023 enn i andre kvartal av 2023. Av Pinsene vi deaktiverte i første kvartal, ble mer enn 95 % sett av under 10 brukere i denne rapporteringsperioden. 

Rekkevidden for Pins som ble deaktivert på grunn av voldelige aktører

I første kvartal av 2023 deaktiverte vi 2506 unike bilder, noe som utgjorde 178 484 Pins, på grunn av brudd på disse retningslinjene. 95 % av disse Pinsene ble sett av under 10 brukere i denne rapporteringsperioden. Vi deaktiverte under 1 % manuelt og over 99 % ved hjelp av hybridverktøy. Vi iverksatte tiltak på bakgrunn av 1300 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 465 tavler og 109 kontoer. Vi mottok 12 kontoklager og gjenopprettet 2 kontoer.

I andre kvartal av 2023 deaktiverte vi 684 unike bilder, noe som utgjorde 95 604 Pins, for brudd på disse retningslinjene. 94 % av disse Pinsene ble sett av under 10 brukere i denne rapporteringsperioden. Vi deaktiverte under 1 % manuelt og over 99 % ved hjelp av hybridverktøy. Vi iverksatte tiltak på bakgrunn av 270 brukerrapporter som førte til at Pins ble deaktivert for brudd på disse retningslinjene. Vi deaktiverte også 295 tavler og 51 kontoer på grunn av brudd på disse retningslinjene. Vi mottok 3 kontoklager og gjenopprettet 1 konto.

Pinterest respekterer andres åndsverk, og vi forventer at brukerne av Pinterest også gjør dette. Ifølge retningslinjene våre kan vi deaktivere innhold som svar på fullstendige og gyldige påstander om krenkelse, og under visse omstendigheter deaktivere kontoene til folk som gjentatte ganger bryter eller gjentatte ganger blir anklaget for å bryte opphavsretten eller andre rettigheter knyttet til åndsverk. Retningslinjene våre når det gjelder spørsmål knyttet til opphavsrett og varemerker er uttrykt i våre retningslinjer for opphavsrett og retningslinjer for varemerker.

Pinterest har flere mekanismer for eiere av IP-rettigheter til å sende meldinger som hevder brudd på immaterielle rettigheter. Den første finner du i produktet rett ved siden av det aktuelle innholdet. Rettighetshavere eller deres autoriserte representanter kan rapportere Pins de mener krenker deres immaterielle rettigheter ved å klikke på de tre små prikkene på en Pin og deretter velge «Rapportér Pin», som tar dem til en lenke for rapportering av IP-brudd. Vi tilbyr også frittstående, offentlig tilgjengelige rapporteringsskjemaer og dedikerte e-postadresser, samt vår fysiske adresse, for innsending av meldinger om immaterielle rettigheter, som er gjort lett tilgjengelig på nettstedet vårt for retningslinjer. 

Rettighetshavere kan identifisere ett eller flere innholdselementer. Vi går gjennom alle innholdselementene som er identifiserte i en innsending, og når vi anser at en rapport er fullført og gyldig, vil vi snarest behandle rapporten og gjennomføre nødvendige tiltak. Hvis vi trenger mer informasjon om innsenderen eller noen av de identifiserte innholdselementene, kontakter vi personen eller enheten som sendte inn innholdet, for å gi dem muligheten til å sende inn den aktuelle informasjonen. Hvis de sender inn en fullstendig og gyldig rapport med påstander om krenkelser av åndsverk, vil Pinterest behandle rapporten og deaktivere det identifiserte innholdet.

Vi kan anse varsler for å være ugyldige og nekte å deaktivere identifisert innhold der dette er aktuelt, for eksempel for varsler som

 

Fordi saker om immaterielle rettigheter er kompliserte, har vi derfor inkludert en rekke tall for å gi bedre innsikt i tiltakene vi treffer for å gå gjennom innsendinger knyttet til åndsverk og kommunisere med personene eller enhetene som sender dem inn.

Når en brukers innhold deaktiveres som følge av et varsel knyttet til åndsverk, sender vi brukeren en e-post med informasjon om hvordan vedkommende eventuelt kan klage på tiltakene våre. Vi evaluerer klager, som kan sendes inn i form av innsigelser i henhold til den amerikanske DMCA-loven (Digital Millennium Copyright Act), og vi retter opp i situasjonen hvis vi kommer frem til at klagen er berettiget. Som med varsler knyttet til åndsverk kontakter vi ved behov personen eller enheten som har sendt inn klagen, for å få mer informasjon. Hvis de sender inn en fullstendig og gyldig klage på et hvilket som helst tidspunkt, treffer Pinterest egnede tiltak for å rette opp i situasjonen.

Pinterest har alltid vært et sted hvor innholdsskapere, merker og utgivere fra hele verden kan fremheve innhold og opparbeide seg verdi. Mange skapere laster opp eget innhold eller oppfordrer brukere til å gjøre det ved å bruke knapper på nettstedene deres som er utarbeidet for å gjøre det lettere å lagre innholdet på Pinterest, og de setter pris på eksponeringen og brukertrafikken som genereres når brukere lagrer bilder. Vi jobber hardt for å gi skapere kontroll over sitt eget innhold, blant annet ved at de kan angi hvilke nettsteder som skal tilknyttes og få trafikk fra lagrede bilder, bruke funksjoner som «Ingen Pin»-kode hvis de vil begrense lagringen fra nettstedene deres, eller gjøre krav på innhold på Pinterest via Content Claiming Portal. 

Vi har også flere mekanismer for fjerning av innhold, som rettighetshavere kan bruke hvis de ikke vil at innholdet deres skal vises på Pinterest. Opphavsrettseiere og personer som er autorisert til å handle på vegne av dem, kan rapportere angivelige brudd på opphavsretten ved å bruke mekanismene våre for rapportering knyttet til opphavsrett, deriblant rapporteringsalternativet i produktet eller rapporteringsskjemaet. De kan også sende en e-post til copyright [at] pinterest.com (copyright[at]pinterest[dot]com). Når vi har vurdert et varsel som er knyttet til opphavsrett, treffer vi egnede tiltak. Dette kan innebære å fjerne det rapporterte innholdet fra Pinterest. Vi har også Content Claiming Portal. Dette er et verktøy vi lanserte i 2021, som rettighetshavere kan bruke for å gjøre krav på sitt eget innhold og bestemme om og hvordan det skal vises på Pinterest. Når vi treffer tiltak basert på varsler som er knyttet til opphavsrett, eller basert på informasjon som samles inn fra Content Claiming Portal, varsler vi de berørte brukerne og informerer dem om hvordan de eventuelt kan klage på tiltakene.

Opphavsrett og andre typer åndsverkrettigheter innebærer unike utfordringer når det gjelder innholdsmoderering. Når det gjelder innhold som bryter andre retningslinjer, for eksempel de som er knyttet til innhold for voksne eller trusler, kan moderatorer ofte identifisere dette ved bare å se på innholdet, men dette er ikke tilfellet for innhold som bryter opphavsretten. For å identifisere brudd på opphavsretten trengs det ofte ekstra kunnskap om innholdets opprinnelse, juridiske status, eierskap, lisensiering eller annen informasjon som ikke er tydelig med en gang – for eksempel om eieren har gitt en annen part autorisasjon til å bruke innholdet gjennom avtaler Pinterest ikke har kjennskap til. Derfor er det bare rettighetshavere som kan vite om spesifikk bruk er autorisert eller ikke. Varslingsprosessen er en løsning hvor rettighetshaverne kan oppgi slik nødvendig informasjon til Pinterest. Opphavsrett er også et unikt tema, siden det korrekte tiltaket ved brudd ikke alltid er å deaktivere innholdet. Noen rettighetshavere velger kanskje å deaktivere innholdet, mens andre foretrekker å la det være på Pinterest, men å korrigere tilskrivningen eller legge til en link til sitt eget nettsted. 

Av disse grunnene er det ikke alltid mulig å sammenligne modereringsprosessen vår og dataene som rapporteres her, direkte med tiltak knyttet til de andre avsnittene våre om håndheving av retningslinjene for bruk. Derfor har vi for eksempel lagt til beregninger, for eksempel antall meldinger vi behandlet, basert på den første innsendingen og antallet ganger vi søkte mer informasjon, og vi utelot beregningen vår som viser rekkevidden til deaktiverte Pins. Vi jobber hardt for å være enda mer åpne om hva vi gjør for å ivareta beskyttelsen av åndsverk på Pinterest, og vi kommer til å fortsette å inkludere dette i denne rapporten fremover der det er anvendelig.

I første kvartal av 2023 mottok vi 18 660 innsendinger gjennom mekanismene våre for rapportering knyttet til opphavsrett. Av disse innsendingene fastslo vi at 1113 var å regne som søppelpost. Disse ble forkastet. Vi fastslo at ytterligere 248 var forespørsler som ikke var relatert til åndsverk, og vi videresendte disse til de relevante teamene til Pinterest. Vi vurderte 12 307 for å være fullstendige ved innsending, og vi behandlet alt innhold som ble identifisert i varslene. Vi ba om informasjon for ytterligere 4447 innsendinger, som vi vurderte for å være ufullstendige, og til slutt behandlet vi 627 av disse innsendingene. Totalt behandlet vi 12 934 varsler og deaktiverte 49 249 unike bilder, som utgjorde 16 652 995 Pins, i henhold til retningslinjene våre om opphavsrett. Vi deaktiverte under 1 % av Pinsene manuelt og over 99 % ved hjelp av hybridverktøy. Vi deaktiverte 828 kontoer som følge av brudd på retningslinjene våre for gjentatte overtredelser. Vi mottok 892 klager, anså 352 av dem for å være fullstendige og gyldige, og iverksatte egnede tiltak.

Vi mottok også 2029 forespørsler via vår Content Claiming Portal i første kvartal av 2023. Vi behandlet 1755 forespørsler, deriblant om deaktivering av 8088 unike bilder, som utgjorde 159 582 Pins. Vi mottok 16 klager i forbindelse med innhold som ble deaktivert på denne måten, vurderte 10 av dem for å være fullstendige og gyldige, og iverksatte egnede tiltak.

I andre kvartal av 2023 mottok vi 16 795 innsendinger gjennom mekanismene våre for rapportering knyttet til opphavsrett. Av disse innsendingene fastslo vi at 1153 var å regne som søppelpost. Disse ble forkastet. Vi fastslo at ytterligere 518 var forespørsler som ikke var relatert til åndsverk, og vi videresendte disse til de relevante teamene til Pinterest. Vi vurderte 10 002 for å være fullstendige ved innsending, og vi behandlet alt innhold som ble identifisert i varslene. Vi ba om informasjon for ytterligere 4432 innsendinger, som vi anså for å være ufullstendige, og til slutt behandlet vi 536 av disse innsendingene. Totalt behandlet vi 10 538 varsler og deaktiverte 38 103 unike bilder, som utgjorde 9 900 675 Pins, i henhold til retningslinjene våre om opphavsrett. Vi deaktiverte under 1 % av Pinsene manuelt og 99 % med hybridverktøy. Vi deaktiverte 874 kontoer for brudd på retningslinjene våre for gjentatte overtredelser. Vi mottok 1017 klager, anså 427 av dem for å være fullstendige og gyldige, og iverksatte egnede tiltak. 

Vi mottok også 2790 forespørsler via vår Content Claiming Portal i andre kvartal av 2023. Vi behandlet 2364 forespørsler, deriblant om deaktivering av 6675 unike bilder, som utgjorde 133 981 Pins. Vi mottok 6 klager i forbindelse med innhold som ble deaktivert på denne måten, vurderte 3 av dem for å være fullstendige og gyldige, og iverksatte egnede tiltak.

Pinterest respekterer andres varemerkerettigheter. Varemerkeeiere kan kontakte oss via mekanismene våre for rapportering knyttet til varemerker, for eksempel alternativet for rapportering i produktet eller skjemaet for klager knyttet til varemerker. De kan også sende oss en e-post på trademark [at] pinterest.com (trademark[at]pinterest[dot]com) hvis de er bekymret for at innhold på Pinterest krenker varemerkerettighetene deres. Vi går gjennom innsendinger vi mottar, og iverksetter egnede tiltak, inkludert fjerning av det aktuelle innholdet fra Pinterest.

Som også er tilfellet for opphavsrett, er det ikke alltid mulig å sammenligne modereringsprosessen vår og dataene som rapporteres her, direkte med tiltak knyttet til håndheving av de andre retningslinjene våre for bruk. Derfor har vi for eksempel lagt til beregninger, for eksempel antall meldinger vi behandlet, basert på den første innsendingen og antallet ganger vi søkte mer informasjon, og vi utelot beregningen vår som viser rekkevidden til deaktiverte Pins.

Vi utvidet fokuset vårt på deaktiveringer på kontonivå for salg av forfalskede varer i rapporteringsperioden, noe som førte til en økning i antallet deaktiverte kontoer.

I første kvartal av 2023 mottok vi 4723 innsendinger gjennom mekanismene våre for rapportering knyttet til varemerker. Av disse innsendingene fastslo vi at 813 var å regne som søppelpost. Disse ble forkastet. Vi fastslo at ytterligere 8 var forespørsler som ikke var relatert til åndsverk, og vi videresendte disse til de korrekte teamene hos Pinterest. Vi vurderte 1477 for å være fullstendige ved innsending, og vi behandlet alt innhold som ble identifisert i varslene. Vi ba om informasjon om ytterligere 1934 innsendinger, som vi anså for å være ufullstendige, og til slutt behandlet vi 135 av disse innsendingene. Totalt behandlet vi 1612 varsler og deaktiverte 31 179 unike bilder, som utgjorde 39 732 Pins, i henhold til retningslinjene våre knyttet til varemerker. Vi deaktiverte 100 % av disse Pinsene manuelt. Vi deaktiverte 135 tavler og 466 kontoer i henhold til retningslinjene våre knyttet til varemerker og relaterte temaer. Vi mottok 5 klager, vurderte 1 av dem for å være fullstendig og gyldig, og iverksatte egnede tiltak. 

I andre kvartal av 2023 mottok vi 3854 innsendinger gjennom mekanismene våre for rapportering knyttet til varemerker. Av disse innsendingene fastslo vi at 370 var å regne som søppelpost. Disse ble forkastet. Vi fastslo at ytterligere 29 var forespørsler som ikke var relatert til åndsverk, og vi videresendte disse til de relevante teamene til Pinterest. Vi anså 1427 for å være fullstendige ved innsending, og vi behandlet alt innholdet som var identifisert i hvert varsel. Vi ba om informasjon for 1651 innsendinger til, som vi anså for å være ufullstendige, og til slutt behandlet vi 132 av disse innsendingene. Totalt behandlet vi 1559 varsler og deaktiverte 25 270 unike bilder, som utgjorde 29 321 Pins, i henhold til retningslinjene våre knyttet til varemerker og relaterte temaer. Vi deaktiverte 100 % av disse Pinsene manuelt. Vi deaktiverte 43 tavler og 582 kontoer i henhold til retningslinjene våre knyttet til varemerker og relaterte temaer. Vi mottok 4 klager, men anså 0 for å være fullstendige og gyldige.

I denne delen får du innsikt i hvor mange forespørsler om informasjon og deaktivering vi mottok fra politimyndigheter og offentlige myndigheter i løpet av første halvdel av 2023, fra januar til og med juni 2023. Du finner mer informasjon om hvordan vi svarer på forespørsler om kontoinformasjon, i retningslinjene for politimyndigheter.

Pinterest mottar juridiske forespørsler fra politimyndigheter og offentlige myndigheter om informasjon om Pinterest-kontoer. Vi går nøye gjennom alle slike forespørsler og oppgir bare data der forespørslene oppfyller kravene i henhold til gjeldende lov og retningslinjene våre. Retningslinjene våre innebærer at vi varsler brukere om forespørsler fra offentlige myndigheter om kontoinformasjon før vi utleverer den, med unntak ved spesifikke omstendigheter, som for eksempel der dette er forbudt ved lov i nødssituasjoner.

USA 

* Forespørsler fra politimyndigheter, f.eks. anmodninger om avlytting, overvåking av kommunikasjon, «trap and trace» og anmodninger om opplysninger i nødstilfeller.

** Kontoeieren ble varslet før utlevering. Dette inkluderer ikke situasjoner der kontoeiere ble varslet senere etter utlevering av kontoinformasjonen der den lovpålagte taushetspliktperioden var utløpt. 

 

Internasjonal

* Forespørsler fra politimyndigheter, som for eksempel anmodninger om utlevering av informasjon i nødstilfeller og forespørsler utstedt i henhold til lokal lovgivning.

** Eierne av de aktuelle kontoene ble varslet før data ble overlevert. Dette inkluderer ikke situasjoner der kontoeiere ble varslet på et senere tidspunkt etter utlevering av kontoinformasjonen, når den lovpålagte taushetspliktperioden hadde utløpt.

 

Forespørsler i forbindelse med nasjonal sikkerhet*

* Enhver henvendelse eller kjennelse om brukerinformasjon utstedt etter den amerikanske Foreign Intelligence Surveillance Act-loven.

Vi mottar forespørsler fra offentlige myndigheter om å deaktivere innhold på Pinterest fordi det kan være ulovlig i landet deres og/eller bryter retningslinjene våre for bruk. Vi går gjennom slike henvendelser for å avgjøre om det aktuelle innholdet faktisk bryter retningslinjene for bruk eller lokal lovgivning. Teamene våre iverksetter tiltak ved brudd på retningslinjene, og dette kan strekke seg fra å deaktivere innholdet globalt til å blokkere tilgangen til innholdet innenfor det relevante landet. Det sistnevnte kan vi gjøre hvis innholdet er i strid med lokal lovgivning, men som ikke bryter retningslinjene våre. 

Pinterest mottok totalt 13 785 forespørsler om fjerning av innhold fra offentlige myndigheter fra januar til og med juni 2023, alle fra utenfor USA. Vi deaktiverte innholdet for 11 544 av disse forespørslene for brudd på retningslinjene våre for bruk og begrenset innholdet for ytterligere 1534 forespørsler. Innholdet i 633 forespørsler var allerede inaktivt da vi gikk gjennom det som svar på forespørselen fra offentlige myndigheter om å fjerne innholdet. Dette kan for eksempel skje hvis innholdet ble deaktivert på grunn av en brukerrapport som ble mottatt før Pinterest mottok fjerningsforespørselen fra offentlige myndigheter.

* Innhold som brøt retningslinjene for bruk og som ble fjernet fra plattformen.

** Innhold som ble rapportert av offentlige myndigheter, men som ikke brøt retningslinjene for bruk og som bare ble blokkert for visning i landet som forespørselen stammet fra, i henhold til lokal lovgivning.

*** Innhold som ikke var tilgjengelig på plattformen da det ble gjennomgått som følge av fjerningsforespørslene fra offentlige myndigheter.

Et positivt sted på nettet blir ikke til av seg selv. Det skjer via proaktive avgjørelser knyttet til retningslinjer og produkter. Vi har bransjeledende standarder for innholdssikkerhet, og disse er basert på informasjon og råd fra eksterne eksperter, samfunnet som helhet og myndighetene. Vi investerer også tungt i tiltak som maskinlæringsteknologi for å ivareta internettet som et sikkert og positivt sted for brukerne. Vi er stolte av arbeidet vårt for å holde Pinterest trygt, samt for å være med på å løfte hele bransjen fremover. 

La oss jobbe sammen for å skape et tryggere og mer inspirert internett.