Instagram vás upozorní na potenciálně urážlivý text u příspěvků

Instagram přichází s dalším krokem na cestě k bezpečnější platformě. Nyní oznámil, že spouští nový nástroj založený na umělé inteligenci. Ten by měl pomoci analyzovat popisky příspěvků předtím, než jsou publikovány.

Pokud je Instagram vyhodnotí jako potenciálně urážlivé, automaticky ukáže notifikaci upozorňující uživatele, který v tu chvíli publikuje příspěvek, že daný text „vypadá podobně jako jiné, které byly nahlášeny“.

Tato notifikace zároveň prozrazuje i systém, dle kterého pracuje: porovnává právě tvořené popisky s tisící jinými, které už byly v minulosti nahlášeny. Nejde přitom o plnou stopku publikaci. Uživatel bude nadále schopen příspěvek zveřejnit. Jde jen o jakýsi mezikrok navíc, který ho má přimět k zamyšlení.

Instagram uvádí, že funkce se nyní zavádí ve vybraných zemích. Globálně se rozšíří „během příštích měsíců“.

Kam dál? 

Instagram reagoval již v létě na kritiku ohledně sociálních sítí za nízkou regulaci nenávistných komentářů a spící odboj proti kyberšikaně. Vizuální platforma tehdy připravila dva nové nástroje, jeden z nich je přitom zaměřen na pisatele urážlivých komentářů a funguje na stejném principu jako ten představený v tomto článku.