Социальная сеть «Вконтакте» будет бороться с враждебными высказываниями. На данный момент для этого тестируют нейросеть.
«Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний», — уточнили там.
Чтобы усилить модерацию по теме языка ненависти и обучить искусственный интеллект, «ВКонтакте» добавила новую категорию жалоб — «Враждебные высказывания». Она позволит точнее откалибровать уже существующие инструменты и собрать набор данных для новых решений на основе нейросетей.
Кроме того, модераторы соцсети проводят проактивный внутренний мониторинг, в частности с помощью механизмов автоматического поиска, технологии цифровых отпечатков и нейронных сетей.
За первую половину 2020 года «ВКонтакте» удалила 520 тыс. единиц контента по теме разжигания вражды и ненависти, а также заблокировала более 1 тыс. профилей и почти 2,5 тыс. сообществ, распространяющих враждебные высказывания.
Жаль только, что сарказм или шутку такие системы, скорее всего, не определят. А потому чтоит сто раз подумать, что писать.
По материалам «ТАСС».
Начать дискуссию