Ученые ТГУ создали алгоритм, который выявляет у школьников и студентов во «ВКонтакте» подписки на сообщества с потенциально опасным контентом: ненависть, насилие, экстремизм и другие. Они составили список из 3050 групп с подобным содержанием. Оказалось, что у 37% пользователей в возрасте 14-17 лет встречаются подписки на группы с потенциально опасным для психики содержанием, а в возрасте 18-23 года – у 42%. Об этом сообщает пресс-служба университета.
В вузе отметили, что федеральный закон «О защите детей от информации, причиняющей вред их здоровью и развитию» выделяет три вида информации, запрещенной для распространения среди детей. К первому виду (запрещенный контент) относятся сообщения, побуждающие к причинению вреда своему здоровью, употреблению одурманивающих веществ и подобным действиям. Ко второму виду (вредный контент) относятся изображения или описания жестокости, физического или психического насилия и другие. Третья же категорию это «преступный контент», размещение которого образует состав преступления и влечет уголовную ответственность.
«Доступ к обнаруженному запрещенному и преступному контенту оперативно блокируется, в отличие от вредного. Последнее – материалы ограниченного доступа, не являющиеся прямым нарушением норм права, но способные причинить вред пользователям», – рассказал участник проекта, зав. лабораторией компьютерных средств обучения Института дополнительного образования ТГУ Артем Фещенко.
Первоначальный поиск групп с «вредным» контентом осуществлялся при помощи системы мониторинга социальных медиа «Крибрум» с использованием лингвистических маркеров, например, «колумбайн»*, «наркотики», «депрессия», «одиночество», «боль», «ненависть» и других. Таким образом, учёные выявили 436 сообществ, затем при помощи метода «снежный ком» (найденные в сообществах администраторы и активисты, ведущие к другим потенциальным опасным группам) их число было расширено до 3050.
«Текстовых данных в сообществах содержится мало, а в качестве популярного контента можно отметить фотографии с изображением крови на теле или кровавых луж (прокусанные губы, кровь из носа и прочее), фотографии с оружием, фотографии с синяками, таблетки и сигареты», – рассказал Фещенко.
После анализа сообществ ученые выявили 12 тематических направлений, среди них «жесть» (кровь, избиение, окровавленные органы, эстетика безобразного в культуре), «национализм» (превосходство своей нации над другими, шовинизм, ксенофобия, фашизм), «оружие» (покупка и продажа оружия, описание характеристик, изображение пистолетов, револьверов, винтовок) и другие.
«Наиболее анонимными оказались администраторы сообщества категории «Скулшутинг». Из 45 сообществ только в одном удалось получить контактные данные организатора. В остальных сообщества либо заблокированы администрацией «ВКонтакте», либо закрыты для входа без приглашения», — добавил он.
С помощью разработанного алгоритма ученые проанализировали около 60000 пользователей «ВКонтакте» – это школьники 14-17 лет и группа в возрасте 18-23 года. Для возможности сравнения степени проявления интереса была рассчитана доля «вредного» контента. Индикатором интереса является подписка на 1 сообщество из любой категории, если же число подписок превышает 10% от общего числа, то человеку может понадобиться психологическая помощь. Эти значения можно использовать для выявления школьников и студентов из группы риска с неблагополучным психоэмоциональном состоянием.
«Сравнение данных показывает, что потребления потенциально «вредного» контента пользователями в возрасте 14-23 года является достаточно распространенным явлением, так как у 37% наблюдаемых людей в возрасте 14-17 лет встречаются подписки на сообщества с токсичным для психики содержанием. При этом девушки чаще интересуются «вредным» контентом, чем юноши. В возрастной группе 18-23 года 42% пользователей подписаны на опасные сообщества, и уровень интереса у девушек снижается, а у юношей, наоборот, возрастает», — подытожил Фещенко.
Напомним, ранее мы рассказывали об этом проекте ученых ТГУ, который реализует команда психологов, социологов, историков и программистов вуза, руководитель – доцент факультета психологии Валерия Мацута. На реализацию этого проекта выделено 5 миллионов рублей.
*движение признано террористическим, его деятельность запрещена в России
