Распознавание нежелательного контента от ВКонтакте

Вeдущaя рoссийскaя сoциaльнaя сeть ВКoнтaктe рaзрaбoтaлa и нaчaлa испoльзoвaть сoбствeнный «oбучaeмый» aлгoритм, кoтoрый будeт присвaивaть кaртинкaм спeциaльный рeйтинг.Дaнный рeйтинг будет использоваться для определения того содержится ли в публикуемых картинках противоправный или «опасный» контент или нет.По словам представителей ведущей российской социальной сети в результате работы нового обучаемого алгоритма «запрещенный» контент либо просто не попадет в внутреннюю поисковую выдачу ВКонтакте и «умную» новостную ленту, либо будет полностью заблокирован.Помимо всего прочего, разработанный специалистами ВКонтакте алгоритм способен действительно качественно анализировать текстовые надписи на изображениях.Нейросеть, применяемая в работе запущенного алгоритма, позволяет определять предметы и сущности, представленные на публикуемых графических материалах. Если же фотография или иной графический материал будет расценен специализированным алгоритмом как «умеренно опасный», то он исчезнет из внутренней поисковой выдачи ВКонтакте, а также получит гораздо более низкий приоритет в новостной ленте.Подобный механизм призван самым активным образом противодействовать распространению спама, мошенничества, детской порнографии, разнообразных нелегальных услуг, а также любой другой противоправной деятельности или попыткам ее осуществления в рамках ведущей российской социальной сети ВКонтакте.Кроме того уже функционирует специальный сценарий работы нового алгоритма, направленный на выявление и борьбу с контентом, который так или иначе провоцирует совершение самоубийств. Она способна распознать не только простейшие понятия такие как «человек», «ребенок», «животное», «растение», но и сможет определить, например, предмет одежды или символ так называемых «групп смерти».В общей сложности, применяемая в новом алгоритме нейросеть, включает в себя несколько тысяч классов, которые будут присваиваться анализируемым графическим материалам — от до 1 по нескольким параметрам.Если новый алгоритм оценит тот или иной графический материал (фотографию) как «опасный», то он будет незамедлительно отправлен на дополнительную проверку модераторам ведущей российской социальной сети. Записи и графические материалы, связанные с подобной тематикой уже удаляются в полностью автоматическом режиме, а опубликовавшие их авторы наказываются вечной блокировкой аккаунта в социальной сети ВКонтакте.Комментируя начало работы нового алгоритма, руководитель направления Big Data и Machine Learning ВКонтакте Андрей Зконов подчеркнул, что используемая в его работе нейросеть будет анализировать графические материалы, предназначенные для общего доступа, а не те которыми пользователи ведущей российской социальной сети обмениваются в рамках личных сообщений.Кроме того было отмечено, что благодаря «обучаемости» нового алгоритма уже совсем скоро он позволит гораздо более эффективно бороться со спамом и мошенничеством. Примечательно, что первоначальное «обучение» нейросети, применяемой в работе нового алгоритма, происходило на основе жалоб рядовых пользователей социальной сети ВКонтакте на самый разнообразный контент.

Комментирование и размещение ссылок запрещено.

Комментарии закрыты.