Meta se spolupodílí na vytvoření nástroje k zastavení šíření porna z pomsty
Společnost Meta se spolu se svou irskou pobočkou zařadila mezi 50 soukromých organizací na celém světě, které se připojily k projektu StopNCII.org. Jeho cílem je zabránit šíření intimních snímků bez souhlasu (NCII), často označované jako pornografie z pomsty.
Podle tiskové zprávy společnosti Meta je nástroj StopNCII.org první globální iniciativou svého druhu pomáhající lidem, kteří se setkali s tím, že jejich intimní snímky byly sdíleny bez jejich souhlasu.
Nástroj funguje tak, že osoba, která se obává o svou bezpečnost a soukromí vytvoří na stránkách StopNCII.org tzv. případ, do kterého nahraje fotografie. Platforma obrázky neobdrží, ale pouze oskenuje jejich obsah, aby vygenerovala jedinečnou číselnou kombinaci, tzv. hash, a sdílela ji se zúčastněnými platformami pro účely sledování.
Každá zúčastněná společnost by pomocí technologie porovnávání hashů zkontrolovala, zda byly na její platformy nahrány obrázky odpovídající hashům. Pokud by zjistily shodu, moderátoři obsahu na platformách by obrázky přezkoumali, aby se ujistili, že porušují jejich zásady. Pokud by obrázky nebo videa jejich zásady porušovaly, odstranily by je a zablokovaly by pokusy o jejich opětovné nahrání.
Je důležité zmínit, že ačkoliv zúčastněné společnosti používají hash, který obdrží od StopNCII.org k identifikaci obrázků, které někdo sdílel nebo se snaží sdílet na jejich platformách, původní obrázek nikdy neopustí zařízení dané osoby.
Program se od původního pilotního projektu, který Facebook spustil v Austrálii v roce 2017, hodně liší. Tehdy Facebook požádal uživatele, aby jim posílali své snímky, které by následně přezkoumali lidští „moderátoři”. To vyvolalo značné obavy o ochranu soukromí a kritiku, přestože Facebook tvrdil, že snímky budou uloženy pouze na krátkou dobu.
Boj o vývoj technologií pro tento účel pokračoval i v roce 2019, kdy Facebook oznámil spuštění nástroje umělé inteligence, který by pomohl odhalit nahé fotografie a umožnil jejich rychlé odstranění. Aktuální verze navazuje na oba předchozí programy, přičemž se výrazně liší v přístupu k boji proti pomstychtivé pornografii.
„Jádrem práce na vývoji StopNCII.org byly potřeby všech poškozených obětí. Nástroj jim poskytuje kontrolu, aniž by museli ohrožovat své soukromí. Stránka byla navržena tak, aby byla jednoduchá a snadno použitelná, s podrobným rozcestníkem na další podporu a poradenství. Pomůže někomu v době, kdy se může cítit naprosto bezmocný," říká Sophie Mortimer, manažerka britské linky pomoci pro oběti pomsty.
Ačkoli je pornografie z pomsty v některých zemích nezákonná, její šíření se i přesto děje. Četnost výskytu revenge porna a neschopnost některých technologických společností dostatečně rozkrýt stávající systémy vyvolává obavy již řadu let. Například společnost Telegram odmítla přijmout opatření proti lidem zveřejňujícím intimní snímky, což vedlo k dlouhým bojům. Nástroj společnosti Meta, který lze považovat za krok správným směrem, doufá, že posílí úsilí společnosti NCII v boji proti šíření tohoto velmi zraňujícího obsahu. A upřímně, je velmi dobře, že se domácí porno materiál lidí v obavách z pomstychtivých partnerů neocitne přímo na serverech Meta (Facebooku). S celou řadou jeho skandálů s únikem uživatelských dat by to pravděpodobně nepůsobilo příliš důvěryhodně.
