2024 m. gruodžio 5 d.

2024 m. gruodžio 5 d.

Mes skelbiame šią skaidrumo ataskaita du kartus per metus, kad suteiktume įžvalgų apie „Snap“ saugumo pastangas. Mes esame įsipareigoję šiomis pastangomis ir nuolat stengiamės, kad šios ataskaitos būtų išsamesnės ir informatyvesnės daugybei suinteresuotųjų šalių, kurios nuoširdžiai rūpinasi mūsų turinio moderavimu, teisėsaugos praktika bei „Snapchat“ bendruomenės saugumu ir gerove. 

Ši skaidrumo ataskaita apima pirmąją 2024 metų pusę (nuo sausio 1 d. iki birželio 30 d.). Kaip ir ankstesnėse ataskaitose, dalijamės duomenimis apie pasaulinį programėlės turinio kiekį ir pranešimus apie paskyrų veiklą, kuriuos gavo ir įgyvendino mūsų Pasitikėjimo ir Saugumo komandos, nagrinėdamos tam tikras Bendruomenės gairių pažeidimų kategorijas. Taip pat pateikiame informaciją, kaip reagavome į teisėsaugos ir vyriausybių prašymus; Ir kaip mes reagavome į autorių teisių ir skiriamojo ženklo pažeidimų pranešimus. Taip pat pateikiame konkrečioms šalims skirtą informaciją failuose, kurie yra susieti šio puslapio apačioje.

Siekdami nuolat tobulinti savo skaidrumo ataskaitas, taip pat pristatome naujus duomenis, kurie pabrėžia mūsų aktyvias pastangas nustatyti ir imtis veiksmų prieš platesnį mūsų  Bendruomenės gairių pažeidimų spektrą. Šiame pranešime įtraukėme duomenis tiek pasauliniu, tiek šalies lygmeniu ir toliau tai darysime ateityje. Mes taip pat ištaisėme ženklinimo klaidą ankstesnėse ataskaitose: vietoje ankstesnio pavadinimo „Visas įgyvendintas turinys“ dabar naudojame terminą „Visi vykdymai“, siekdami tiksliau atspindėti tai, kad atitinkamuose stulpeliuose pateikti duomenys apima tiek turinio lygio, tiek paskyros lygio vykdymus.

Daugiau informacijos apie mūsų politiką, skirtą kovai su galimomis internetinėmis grėsmėmis, ir planus toliau tobulinti mūsų pranešimų teikimo praktiką rasite mūsų naujausiame Saugumo ir Veiklos intensyvumo tinklaraštyje apie šią skaidrumo ataskaitą. Jei norite rasti papildomų išteklių apie saugą ir privatumą „Snapchat“ platformoje, žr. skirtuką Apie skaidrumo ataskaitas, esantį šio puslapio apačioje.

Prašome atkreipti dėmesį, kad naujausia šios skaidrumo ataskaitos versija yra prieinama EN-US kalbomis.

Mūsų Pasitikėjimo ir Saugumo komandos vykdo mūsų Bendruomenės gaires tiek proaktyviai (naudodami automatizuotas priemones), tiek reaguojant (atsižvelgdami į pranešimus), kaip išsamiau aprašyta šio pranešimo pateiktose tolesnėse dalyse. Šiuo ataskaitiniu laikotarpiu (2024 m. I pusmetis) mūsų Pasitikėjimo ir Saugumo komandos ėmėsi šių vykdymo veiksmų: 

Žemiau pateikiama analizė pagal kiekvieną su Bendruomenės gairių taisyklių pažeidimu susijusią rūšį, įskaitant vidutinį laiką nuo pažeidimo (arba aktyviai, arba gavus pranešimą) iki galutinio veiksmo atlikimo dėl atitinkamo turinio ar paskyros:

Per ataskaitinį laikotarpį stebėjome pažeidžiamų peržiūrų rodiklį (VVR) 0,01 proc., kas reiškia, kad iš kiekvienų 10 000 Snap ir Istorijų peržiūrų „Snapchat“ programoje, 1 buvo su turiniu, kuris buvo pripažintas pažeidžiančiu mūsų Bendruomenės gaires.

Nuo 2024 m. sausio 1 d. iki birželio 30 d., reaguodamos į programėlėje pateiktus mūsų Bendruomenės gairių pažeidimų pranešimus, „Snap“ Pasitikėjimo ir Saugos komandos visame pasaulyje atliko iš viso 6 223 618 vykdymo veiksmus, įskaitant priemones prieš 3 842 507 unikalias paskyras. Vidutinė mūsų Pasitikėjimo ir Saugos komandos reakcijos trukmė, priimant veiksmus dėl šių pranešimų, buvo ~24 minutės. Žemiau pateikiamas suskirstymas pagal ataskaitų kategorijas. 

Mūsų bendra ataskaitų apimtis 2024 m. pirmąjį pusmetį išliko gana stabili, palyginus su ankstesniais šešiais mėnesiais. Šiame cikle pastebėjome, kad visų vykdymų ir unikalių paskyrų, kurioms buvo taikytos priemonės, skaičius padidėjo maždaug 16%.

Per paskutinius 12 mėnesių „Snap“ pristatė naujas ataskaitų teikimo sistemas vartotojams, kurios atsižvelgia į pokyčius mūsų pranešimų ir įgyvendinimų apimtyse, taip pat padidėjusias apdorojimo laikų trukmes šiuo ataskaitiniu laikotarpiu (2024 m. I pusmetis). Konkrečiai:

• Grupės pokalbio pranešimas: pristatėme grupės pokalbio pranešimų sistemą spalio mėnesio 13 dieną 2023 m., leidžiančią vartotojams pranešti apie piktnaudžiavimą kuris vyksta bendruose pokalbiuose. Šis pokytis paveikė mūsų rodiklių struktūrą pagal ataskaitų kategorijas (nes kai kurie galimi pavojai labiau tikėtini pokalbio kontekste) ir padidino ataskaitų veiksnumą. 

• Paskyrų ataskaitų patobulinimai: mes taip pat patobulinome mūsų paskyrų ataskaitų funkciją, suteikdami ataskaitų vartotojams galimybę pateikti pokalbių įrodymus, kai pranešama apie paskyrą, kuri gali būti valdoma nepageidaujamo asmens. Šis pokytis, kuris suteikia mums daugiau įrodymų ir konteksto vertinant paskyrų ataskaitas, buvo pristatytas 2024 metų vasario 29 dieną. 

Pokalbių ataskaitos, ir ypač grupės pokalbių ataskaitos, yra vienos iš sudėtingiausių ir daugiausia laiko reikalaujančios peržiūrėti, dėl to visur padidėjo peržiūrėjimo laikai. 

Pranešimai apie įtariamą vaikų seksualinį išnaudojimą ir prievartavimą (CSEA), priekabiavimą ir patyčias, bei neapykantos kalbą buvo ypač paveikti dviejų aukščiau aprašytų pokyčių ir platesnių ekosistemos pokyčių. Konkrečiai:

• CSEA: Mes pastebėjome CSEA susijusių ataskaitų ir vykdymų augimą 2024 m. pirmąjį pusmetį. Konkrečiai, pastebėjome 64% padidėjimą bendrame vartotojų pateiktų ataskaitų skaičiuje, 82% padidėjimą bendrame vykdymo atvejų skaičiuje ir 108% padidėjimą bendrame unikalių paskyrų, kurioms buvo taikomos sankcijos, skaičiuje. Šie padidėjimai daugiausia yra įtakojami grupės pokalbių ir paskyrų ataskaitų funkcijų įdiegimo. Atsižvelgiant į šio moderavimo pobūdžio jautrumą, speciali komanda, sudarytą iš aukštos kvalifikacijos agentų, priskiriama tikrinimams pranešimų apie galimus su CSEA susijusius pažeidimus. Papildomų ataskaitų antplūdis, kartu su mūsų komandų prisitaikymu prie naujų mokymų, lėmė padidėjusią paslaugų atlikimo trukmę. Toliau judėdami į priekį, mes žymiai padidinome savo pasaulinių tiekėjų komandų dydį, siekdami sutrumpinti atsako laiką ir tiksliai reaguoti į galimų CSEA atvejų pranešimus. Tikimės, kad mūsų 2024 m. antrojo pusmečio skaidrumo ataskaita atspindės šių pastangų vaisius su reikšmingai pagerėjusiu atsakymo laiku. 
  

• Priekabiavimas ir Patyčios: Remiantis ataskaitomis, pastebėjome, kad priekabiavimas ir patyčios neproporcingai dažnai vyksta pokalbiuose, o ypač grupės pokalbiuose.
  
  Patobulinimai, kuriuos įdiegėme grupės pokalbių ataskaitų teikimui ir paskyrų ataskaitų teikimui, padeda mums imtis išsamesnių veiksmų vertinant pranešimus šioje ataskaitų kategorijoje. Be to, nuo šio laikotarpio reikalaujame, kad naudotojai pateiktų komentarą, teikdami pranešimą apie priekabiavimus ir patyčias. Mes peržiūrime šį komentarą, kad suteiktume kontekstą kiekvienai ataskaitai. Šie pokyčiai kartu lėmė reikšmingą bendro vykdymo priemonių skaičiaus (+91%), unikalių nubaustų paskyrų skaičiaus (+82 %) ir atitinkamų pranešimų apdorojimo laiko (+245 min.) padidėjimą. 
  

• Neapykantos kalba: 2024 metų pirmoje pusėje pastebėjome praneštos medžiagos, bendrų įgyvendinimų ir neapykantos kalbos apdorojimo laiko padidėjimą. Konkrečiai, mes pastebėjome 61 % padidėjimą pranešimų programėlėje, 127 % padidėjimą visų vykdymų ir 125 % padidėjimą visų unikalių paskyrų, kurioms taikyti vykdymai. Tai buvo iš dalies dėl mūsų pokalbio ataskaitų mechanizmų patobulinimų (kaip anksčiau aptarta), o dar labiau pablogėjo dėl geopolitinės aplinkos, ypač tęsiantis Izraelio ir Hamas konfliktui. 

Šiuo ataskaitiniu laikotarpiu pastebėjome maždaug 65 % sumažėjimą bendrų įvykdytų priemonių ir maždaug 60 % sumažėjimą unikalių paskyrų, kurioms buvo taikytos priemonės, reaguojant į įtariamus šlamšto ir piktnaudžiavimo pranešimus, kas atspindi mūsų prevencinio aptikimo ir vykdymo įrankių tobulėjimą. Mes pastebėjome panašius sumažėjimus bendruose vykdymuose reaguojant į pranešimus apie turinį, susijusį su savižudybėmis ir savižalojimu (~80 % sumažėjimas), atspindinčius mūsų atnaujintą į auką centrizuotą požiūrį, pagal kurį mūsų Pasitikėjimo ir Saugumo komandos, atsižvelgdamos į atitinkamas situacijas, vartotojams siunčia savipagalbos išteklius, o ne imasi veiksmo priemonių prieš tuos vartotojus. Šis požiūris buvo grindžiamas mūsų Saugos patariamosios tarybos komiteto narių, įskaitant pediatrijos profesorių ir medicinos daktarą, kurie specializuojasi interaktyviojoje medijoje ir interneto sutrikimuose, nuomone.

Mes diegiame automatizuotas priemones, kad proaktyviai aptiktume ir, kai kuriais atvejais, užtikrintume taisyklių pažeidimų prevenciją pagal mūsų Bendruomenės Gaires. Šie įrankiai apima maišos atitikimo įrankius įskaitant PhotoDNA ir Google vaikų seksualinės prievartos vaizdų (CSAI) atitikmenį), žeminančios kalbos aptikimo įrankius (kurie aptinka ir taiko pagal identifikuotą ir reguliariai atnaujinamą žeminančių raktinių žodžių bei emocijų sąrašą), ir daugiakanalę dirbtinio intelekto / mašininio mokymosi technologiją. 

2024 m. pirmąjį pusmetį mes ėmėmės šių vykdymo priemonių, po to, kai proaktyviai nustatėme, naudodami automatizuotus įrankius, mūsų Bendruomenės Gairių pažeidimus:

Seksualinis bet kurio mūsų bendruomenės nario, o ypač nepilnamečių, išnaudojimas yra neteisėtas, pasibjaurėtinas ir draudžiamas pagal mūsų Bendruomenės gaires. Prevencija, nustatymas ir vaikų seksualinio išnaudojimo bei smurto (CSEA) išnaikinimas mūsų platformoje yra pagrindinis „Snap“ prioritetas, be to, mes nuolat tobuliname savo galimybes kovoje su šiomis ir kitomis nusikalstamomis veikomis.

Mes naudojame aktyvius technologinius įrankius, tokius kaip PhotoDNA tvirto atitikimo pagal hasho metodą ir „Google“ vaikų seksualinės prievartos vaizdų (CSAI) atitikimo įrankį, kad identifikuotume žinomus neteisėtus vaikų seksualinio išnaudojimo vaizdus ir vaizdo įrašus. Be to, kai kuriais atvejais mes naudojame elgesio signalus, kad kovotume su kitomis galimai neteisėtomis CSEA veiklomis. Mes pranešame apie CSEA susijusį turinį JAV Nacionaliniam dingusių ir išnaudojamų vaikų centrui (NCMEC), kaip reikalaujama pagal įstatymą. Tada NCMEC, kaip reikalaujama, koordinuoja veiklą su vietos ir tarptautinėmis teisėsaugos institucijomis.

2024 metų pirmoje pusėje mes ėmėmės šių veiksmų, nustatę CSEA (vaikų seksualinio išnaudojimo ir prievartos) „Snapchat“ platformoje (kaip prevencinį veiksmą arba gavę pranešimą):

Mums labai rūpi „Snapchat“ naudotojų, kurie informavo ir toliau informuoja, psichinė sveikata bei gera savijauta, todėl tai lemia mūsų sprendimus dėl kitokio „Snapchat“ platformos kūrimo. Kaip platforma, skirta tikrų draugų bendravimui, mes tikime, kad „Snapchat“ gali atlikti unikalią rolę, įgalindama draugus padėti vieni kitiems sunkiomis akimirkomis. Todėl mes sukūrėme išteklius ir paramą „Snapchat“ naudotojams, kuriems jos reikia. 

Mūsų Čia dėl tavęs paieškos įrankis rodo išteklius iš vietinių partnerių ekspertų, kai vartotojai ieško tam tikrų temų susijusių su psichine sveikata, nerimu, depresija, stresu, savižudiškomis mintimis, liūdesiu ir patyčiomis. Mes taip pat sukūrėme puslapį skirtą finansiniam seksualiniam išnaudojimui ir kitiems seksualiniams pavojams bei žalingumui, siekiant padėti nelaimėje esantiems žmonėms. Mūsų pasaulinės saugos išteklių sąrašas yra viešai prieinamas visiems „Snapchat“ vartotojams mūsų Privatumo, Saugos ir Politikos centre. 

Kai mūsų Pasitikėjimo ir Saugumo komandos sužino apie „Snapchatter“, kuriam kyla pavojus, jos gali perduoti savižudybių prevencijos ir pagalbos išteklius, bei, kai tai yra tinkama, pranešti skubios pagalbos tarnyboms. Ištekliai, kuriais dalijamės, pateikiami mūsų visuotiniame saugos išteklių sąraše ir yra viešai prieinami visiems „Snapchat“ naudotojams.

Žemiau pateikiame informaciją apie apeliacijas, kurias gavome iš vartotojų, prašančių peržiūrėti mūsų sprendimą užrakinti jų paskyrą:

Ši dalis pateikia mūsų Pasitikėjimo ir Saugumo komandų veiksmų apžvalgą, kaip jos įgyvendina mūsų Bendruomenės gaires tiek proaktyviai, tiek atsakydamos į pranešimus apie pažeidimus programėlėje, pasirinktuose geografiniuose regionuose. Mūsų bendruomenės gairės taikomos visam turiniui „Snapchat“ platformoje ir visiems „Snapchat“ vartotojams visame pasaulyje, nepriklausomai nuo vietos.

Informaciją apie atskiras šalis, įskaitant visas ES valstybes nares, galite atsisiųsti pridėtame CSV faile.

„Snap“ įsipareigoja užtikrinti, kad visi skelbimai visiškai atitiktų mūsų reklamavimo politika. Laikomės atsakingo ir pagarbaus požiūrio į reklamavimą, užtikrindami saugų ir malonų naudojimąsi platforma visiems mūsų naudotojams. Visi skelbimai peržiūrimi ir patvirtinti mūsų. Be to, mes pasiliekame teisę pašalinti skelbimus, įskaitant atsakymus į naudotojų atsiliepimus, kuriuos mes vertiname rimtai. 

Žemiau pateikiame įžvalgą apie mūsų moderavimą už mokamas reklamas, kurios buvo praneštos mums po jų paskelbimo „Snapchat“ platformoje. Atminkite, kad skelbimai platformoje „Snapchat“ gali būti pašalinti dėl įvairių priežasčių, nurodytų „Snap“ reklamavimo politikoje, įskaitant apgaulingą turinį, suaugusiesiems skirtą turinį, smurtinį ar trikdantį turinį, neapykantos kalbą ir intelektinės nuosavybės pažeidimą. Be to, nuo šiol galite rasti „Snapchat“ reklamos galeriją šios skaidrumo ataskaitos naršymo juostoje.