Новий алгоритм допоможе очистити «Вконтакте» від забороненого контенту

18

Від автора: для аналізу «правомірності» вмісту графічного контенту «Вконтакте» запустив алгоритм, який «вміє» розпізнавати зображені на картинках предмети і текст.

Представники соціальної мережі повідомили, що алгоритм використовується для ранжирування картинок. В результаті чого зображення повністю блокуються (не допускаються до публікації) або не потрапляє в видачу та у стрічку новин.

Перш за все, дію функціоналу розраховане на виявлення і блокування незаконного контенту. Створений алгоритм працює на базі нейронної мережі, що складається з декількох тисяч класів, згідно котороым відбувається сортування зображень і їх оцінка. Остаточне рішення про «правомірність» відсіяних малюнків приймають модератори соціальної мережі.

Нова технологія повністю розроблена фахівцями «Вконтакте». Нейронна мережа «вміє» не тільки визначати предмети і сутності, відображені на зображенні, але і виявляти прихований контекст різних символів (групи смерті, свастика та інші заборонені до публікації «атрибути»).

При цьому окремий («категоричний») сценарій алгоритму спрямований на боротьбу з контентом, популяризирующиь суїцид. Пости і фото з цієї тематики видаляються з соцмережі автоматично, а їх автори блокуються.