В «Одноклассниках» ограничили пользователей, которые пишут оскорбительные комментарии

ML-модель была обучена на 400 тысячах высказываний

Команда «Одноклассников» начала временно ограничивать пользователей, которые пишут оскорбительные комментарии. Как рассказали в пресс-службе, разработка на основе машинного обучения позволила сократить долю и количество негативных высказываний под публикациями, фотографиями и видео на 47%.

Сгенерировано нейросетью Dall-E

В соцсети внедрили модель машинного обучения, позволяющую автоматически выявлять токсичные комментарии и ограничивать их авторов в написании новых на определённый промежуток времени — от одного часа до 24 часов, в зависимости от того, как часто пользователь оставляет негативные высказывания в адрес других.

Иллюстрация: «Одноклассники»

ML-модель была обучена на 400 тысячах высказываний, которые можно описать как недружелюбные или провоцирующие негативную дискуссию. 

Иллюстрация: «Одноклассники»

Ранее в 2024 году соцсеть начала автоматически обнаруживать на платформе нецензурные слова и скрывать их, а также размывать изображения эротического характера.