Правовые механизмы противодействия деструктивному контенту и вовлечению в противоправную деятельность через онлайн-сообщества. Монография

А. В. Минбалеев, В. Д. Никишин

Правовые механизмы противодействия деструктивному контенту и вовлечению в противоправную деятельность через онлайн-сообщества

Рецензенты:

Бессонов А. А., доктор юридических наук, доцент, ректор Московской академии Следственного комитета имени А. Я. Сухарева, генерал-майор юстиции;

Полякова Т. А., доктор юридических наук, профессор, Заслуженный юрист Российской Федерации, Почетный работник юстиции России, заведующий сектором информационного права и международной информационной безопасности Института государства и права Российской академии наук, действительный государственный советник юстиции Российской Федерации 3-го класса.

Под редакцией доктора юридических наук, профессора, заведующего кафедрой информационного права и цифровых технологий Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) А. В. Минбалеева, кандидата юридических наук, директора Института информационной и медиабезопасности, доцента кафедры информационного права и цифровых технологий Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) В. Д. Никишина.

© Коллектив авторов, 2025

© ООО «Проспект», 2025

Сведения об авторах

Минбалеев Алексей Владимирович, доктор юридических наук, профессор, заведующий кафедрой информационного права и цифровых технологий Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) – введение (в соавт. с В. Д. Никишиным, В. В. Палий, Г. А. Грищенко); § 1.1 главы 1 (в соавт. с В. Д. Никишиным); заключение (в соавт. с В. Д. Никишиным, Г. А. Грищенко);

Никишин Владимир Дмитриевич, кандидат юридических наук, директор Института информационной и медиабезопасности, доцент кафедры информационного права и цифровых технологий Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) – введение (в соавт. с А. В. Минбалеевым, В. В. Палий, Г. А. Грищенко); § 1.1 главы 1 (в соавт. с А. В. Минбалеевым); § 1.2 главы 1 (в соавт. с Д. П. Осиповым); § 1.3, 1.4 главы 1; § 2.1 главы 2; § 2.2 главы 2 (в соавт. с Т. А. Сааковым, В. В. Палий); § 2.3 главы 2 (в соавт. с Г. А. Грищенко); заключение (в соавторстве с А. В. Минбалеевым, Г. А. Грищенко);

Грищенко Галина Андреевна, кандидат юридических наук, доцент кафедры информационного права и цифровых технологий Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) – Введение (в соавт. с А. В. Минбалеевым, В. Д. Никишиным, В. В. Палий); § 2.3 главы 2 (в соавт. с В. Д. Никишиным); § 2.4, 2.6 главы 2; § 2.5 главы 2 (в соавт. с А. В. Никишиной); Заключение (в соавторстве с А. В. Минбалеевым, В. Д. Никишиным);

Палий Виктория Владимировна, кандидат юридических наук, доцент кафедры уголовного права Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) – введение (в соавт. с А. В. Минбалеевым, В. Д. Никишиным, Г. А. Грищенко); § 2.2 главы 2 (в соавт. с В. Д. Никишиным, Т. А. Сааковым); § 3.1–3.7 главы 3;

Рубцова Александрина Сергеевна, кандидат юридических наук, доцент кафедры уголовного права Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) – § 3.8–3.9 главы 3);

Никишина Анастасия Вячеславовна, старший консультант-аналитик отдела перспективных проектов Научно-технического центра ФГУП «ГРЧЦ»; аспирант кафедры информационного права и цифровых технологий Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) – § 2.5 главы 2 (в соавт. с Г. А. Грищенко);

Сааков Тигран Артемович, кандидат юридических наук, старший лейтенант юстиции, старший научный сотрудник Института информационной и медиабезопасности Московского государственного юридического университета имени О. Е. Кутафина (МГЮА), старший преподаватель кафедры судебно-экспертной и оперативно-разыскной деятельности Московской академии Следственного комитета имени А. Я. Сухарева – § 2.2 главы 2 (в соавт. с В. Д. Никишиным, В. В. Палий).

Осипов Даниил Павлович, стажер-исследователь Института информационной и медиабезопасности Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) – § 1.2 главы 1 (в соавт. с В. Д. Никишиным).

Введение

В условиях современных геополитических, социальных и культурных вызовов, использования информационных технологий в гибридной войне, активного использования социальных медиа для деструктивного воздействия на интернет-пользователей, в том числе для культивации насилия, пропаганды экстремистско-террористической, депрессивно-суицидальной и иной деструктивной идеологии, возрастает актуальность совершенствования правовых механизмов обеспечения информационно-психологической безопасности (прежде всего, несовершеннолетних).

Интернет способствовал появлению и росту различных деструктивных онлайн-сообществ и субкультур, которые пропагандируют деструктивное поведение, а также установки, которые идут вразрез с традиционными российскими духовно-нравственными ценностями. Вовлечение в онлайн-сообщества происходит через «погружение» интернет-пользователей в «информационные колодцы», предполагающие поступательное, постепенно радикализующее информационно-психологическое воздействие.

Фактически через массовые информационные вбросы в полумаргинальные и псевдоюмористические паблики и сообщества и постепенный пропуск через иерархическую воронку сообществ осуществляется нормализация неприемлемых идей, в т. ч. связанных с применением насилия, по модели «окна Овертона»[1].

Используемый фото-, аудио- и видеоконтент на первых этапах «воронок вовлечения» не подпадает под формальные юридические запреты, т. е. не содержит прямой пропаганды терроризма или иных радикальных идей, но имеет деструктивный характер, т. к. снимает табу на запретные темы, неприемлемые идеи и привлекает внимание пользователей к деструктивным течениям.

Манипуляторы активно используют и контент, сгенерированный с использованием искусственного интеллекта, в т. ч. для распространения дипфейков, правдоподобность которых постоянно растет. Кроме того, содействуют более активному вовлечению интернет-пользователей в радикальные сообщества и рекомендательные технологии, которые «подсовывают» пользователю интернет-сервисов (социальных сетей, видеохостингов и т. д.) контент, тематика которого соответствует ранее проявленным интересам пользователя. Иными словами, вокруг пользователя, выразившего, например, интерес к национализму или просто тематике межэтнических конфликтов, может создаваться «информационный кокон» из контента, который посвящен именно этой тематике и становится все более радикальным, переходя в тематику неонацизма, расизма, мизантропии и т. п.

В современном цифровом мире дети являются наиболее уязвимой аудиторией пользователей в сети «Интернет». Данный факт объясняется тем, что когнитивные способности и навыки критического мышления детей только находятся в стадии формирования, а огромное количество негативной (деструктивной) информации в сети «Интернет» и чрезмерное доверие к популярным блогерам и другим лидерам Интернет-пространства приводят к тому, что, во-первых, зачастую размываются (а порой и стираются) границы реальной и виртуальной жизни, а во-вторых, размываются границы социальных норм, пределы дозволенного и противоправного[2].

По мере роста числа несовершеннолетних пользователей Интернета в стране увеличивается количество таких проблем, как распространение незаконного сетевого контента, противоправное получение и использование персональных данных детей, их вовлечение в деструктивные сообщества (группы).

На данный момент интернет-медиа (социальные сети, блоги, видеохостинги, мессенджеры и др.) являются средой практически неконтролируемого распространения информации, в том числе деструктивно-агрессивной направленности. При этом использование Интернета становится все более распространенным в повседневной жизни, дети все чаще используют его для различных целей, таких как образование, развлечения и социальное взаимодействие. Такое повышенное воздействие делает их более уязвимыми к столкновению с деструктивной информацией и онлайн-сообществами, которые могут негативно повлиять на их психологическое и социальное благополучие.

Дети как интернет-пользователи, не имеющие сложившуюся устойчивую ценностно-позитивную систему и достаточно сформированное критическое мышление, не владеющие навыками цифровой гигиены и медиаграмотности, становятся жертвами манипуляторов различного толка, попадают под влияние экстремистских, депрессивно-суицидальных, криминальных, человеконенавистнических, сатанистских, оккультных и иных деструктивных онлайн-сообществ, направленных на культивацию идей насилия и ненависти либо к окружающим (собственно агрессивные сообщества), либо к самому себе (аутодеструктивные сообщества).

По результатам различных социологических исследований (ВЦИОМ, Лига безопасного Интернета, Лаборатория Касперского и др.), более половины несовершеннолетних детей практически постоянно находятся в сети «Интернет» (более 60 % лиц возраста 13–16 лет), при этом количество проводимого времени в данном виртуальном пространстве с каждым годом увеличивается (до 8–10 часов в сутки). Доля детей дошкольного и младшего школьного возраста в общей статистике по количеству проводимого времени в Интернете тоже с каждым годом возрастает, что свидетельствует о повышении значимости данной формы коммуникации в современном обществе[3].

Очевидно, что контент, распространяемый в сети «Интернет», может быть как положительным (образовательные платформы, просветительские фото- и аудиоматериалы и т. п.), так и отрицательным (различные виды «вредной» (деструктивной, токсичной, вредоносной), в т. ч. фейковой информации). В связи с этим становится необходимым уделить особое внимание формированию у детей навыков по анализу информации, ее адекватной оценке и использованию в жизни, а также правильному реагированию на возможные угрозы, поступающие из сети «Интернет». Далеко не всякая информация может способствовать формированию у ребенка правильных морально-нравственных ориентиров и способствовать его развитию[4].

Неумелое пользование возможностями сети «Интернет», например, социальными сетями, может отразиться на психическом и физическом здоровье детей. Информация, с которой ребенок сталкивается в социальных сетях, может представлять собой реальную угрозу, являться мощнейшим аппаратом манипуляционного действия. Насыщенность современной информационной среды деструктивной, вредной для развития детей информацией приобретает на сегодняшний день катастрофические масштабы[5].

Что касается распространения деструктивного («антиценностного») контента, в последние годы в интернет-медиа наблюдается стремительный рост объема контента, направленного на вовлечение в криминальные субкультуры, аутодеструктивные (в т. ч. суицидальные) сообщества, (псевдо)неоязыческие и иные тоталитарные культы, организации и движения экстремистско-террористической направленности (в т. ч. колумбайн (скулшутинг)[6], М.К. У.[7], «чистильщики», инцелы, NS/WP[8] и т. д.); пропагандирующего употребление наркотических и психотропных веществ, «опасные хобби» (руферство, зацеперство, диггерство и т. п.); унижающего человеческое достоинство лиц на основании их социально-демографических характеристик; пропагандирующего женоненавистничество, эйблизм[9], насилие в отношении детей / родителей / пожилых лиц / беременных женщин и т. д.; героизирующего маньяков, серийных убийц и т. д., продвигающего субкультуру сатанистов; пропагандирующего каннибализм, антисемейные ценности, зоофилию, инцест, другие виды половых девиаций и т. д.

В данном аспекте уместно говорить о необходимости обеспечения информационной безопасности детей, т. е. состояния защищенности детей, при котором отсутствует риск, связанный с причинением информацией вреда их здоровью и (или) физическому, психическому, духовному, нравственному развитию (п. 4 ст. 2 Федерального закона от 29 декабря 2010 г. № 436-ФЗ «О защите детей от информации, причиняющей вред их здоровью и развитию»[10] (далее – ФЗ о защите детей от информации).

В юридической литературе высказывается мнение, что информационную безопасность несовершеннолетних необходимо рассматривать в контексте национальной безопасности государства[11], что представляется весьма обоснованным.

Информационной безопасности несовершеннолетних, превентивным мерам по их защите в цифровой среде от деструктивных ценностей и мировоззрений (антисемейные ценности, антиобщественные стереотипы поведения, распространение аморального образа жизни, вседозволенности и насилия, употребление алкоголя и наркотиков, отрицание российской самобытности, ослабление общероссийской гражданской идентичности и единства многонационального народа России, создание условий для межнациональных и межрелигиозных конфликтов, подрыв доверия к институтам государства, дискредитация идеи служения Отечеству, формирование негативного отношения к воинской службе и государственной службе в целом и др.) уделяется особое внимание на государственном уровне.

Обеспечение информационной безопасности детей является важной задачей семьи, общества и государства в целом, политика которого должна быть направлена на исключение (минимизацию) угроз распространения деструктивного контента в сети «Интернет». В связи с этим очевидна актуальность исследования теории и практики обеспечения информационной безопасности детей в сети «Интернет» на предмет создания эффективных механизмов по предупреждению распространения негативной (деструктивной) информации.

Выработка эффективных подходов по вопросам информационной безопасности детей в контексте ее правовой регламентации на протяжении последних лет является одной из наиболее обсуждаемых тем не только в масштабах отдельной страны, но и всего мирового сообщества, что подтверждается соответствующими концептуальными и стратегическими нормативными правовыми актами[12].

В Российской Федерации приняты нормативные правовые акты, целью которых является защита детей от информации, причиняющей вред их здоровью и развитию. Среди таких актов, прежде всего, следует отметить ФЗ о защите детей от информации, Федеральный закон от 24 июля 1998 г. № 124-ФЗ «Об основных гарантиях прав ребенка в Российской Федерации»[13] (далее – ФЗ об основных гарантиях прав ребенка), устанавливающие базовые принципы обеспечения безопасности детей в Интернет-среде.

Отдельные вопросы реализации общественных отношений, связанных с оборотом разного рода информации, регулируются федеральными законами от 27 июля 2006 г. № 149-ФЗ «Об информации, информационных технологиях и о защите информации»[14] (далее – ФЗ об информации) и от 27 июля 2006 г. № 152-ФЗ «О персональных данных»[15].

Особое внимание хотелось бы обратить на Концепцию информационной безопасности детей в Российской Федерации, утвержденную Распоряжением Правительства Российской Федерации от 28 апреля 2023 г. № 1105-р[16], которая определяет принципы обеспечения информационной безопасности детей и приоритетные задачи, а также механизмы реализации государственной политики в данной сфере.

Несмотря на сформировавшуюся в целом систему нормативно-правового регулирования по вопросам обеспечения информационной безопасности детей в сети «Интернет», остается много нерешенных проблем в данной области. Наличие пробелов в праве, стремительное развитие информационных (цифровых) технологий, недостаточный уровень цифровой грамотности обусловливают необходимость совершенствования правовых норм, направленных на обеспечение информационной безопасности несовершеннолетних.

На состоянии законности в сфере защиты детей от деструктивной информации негативно сказывается неразвитость системы профилактики деструктивного информационного воздействия, в том числе несформированность системы информационной безопасности детей в субъектах Российской Федерации, включающей обучение несовершеннолетних разных возрастных групп, их родителей, педагогов и воспитателей основам медиаграмотности и медиабезопасности детей[17], формирование у них навыков и опыта ответственного и безопасного поведения в Интернете, отсутствие надлежащего межведомственного взаимодействия между органами государственной власти, осуществляющими контроль в сфере защиты детей от информации, причиняющей вред их здоровью и развитию, правоохранительными органами и органами системы профилактики безнадзорности и правонарушений несовершеннолетних[18].

Из-за пробелов в российском законодательстве, не позволяющих учитывать особенности доступа к сети «Интернет» несовершеннолетних (например, отсутствие контроля по регистрации в социальных сетях, когда дети сознательно завышают свой возраст), на практике могут возникнуть ситуации, практически не контролируемые государством с позиции получения информации, не предназначенной для данной возрастной аудитории.

При этом следует отметить, что законодатель предпринимает некоторые шаги по распределению зон ответственности за размещаемый в Интернете контент, возложив соответствующие обязанности на владельцев социальных сетей (ст. 10.6 ФЗ об информации), а также по конкретизации юридической ответственности за некоторые правонарушения (например, в части треш-стримов).

В настоящей монографии обосновывается, что дальнейшее совершенствование правового регулирования в части противодействия распространению деструктивного контента должно выстраиваться в направлении, прежде всего, введения в российское законодательство категории «деструктивная информация» («деструктивный контент»).

Также следует отметить актуальность проблематики обеспечения противодействия вовлечению в противоправную деятельность через онлайн-сообщества, прежде всего, несовершеннолетних.

В настоящее время достаточно распространенным направлением уголовной политики является включение в Особенную часть Уголовного кодекса РФ составов преступлений, предусматривающих самостоятельную ответственность за склонение, вербовку или иное вовлечение в противоправную деятельность. При этом возникают сложности в толковании вовлечения и его форм, в связи с тем, что несмотря на синонимичность терминов, описывающих преступное деяние, законодатель различным образом наполняет содержание данных преступных посягательств. Особенно остро встает вопрос, когда в законе объективная сторона выражена вовлечением, например, ст. 240 УК РФ (вовлечение в занятие проституцией) либо склонением – ст. 230 УК РФ (склонение к потреблению наркотических средств, психотропных веществ или их аналогов), но отсутствует описание способов преступного деяния. Кроме того, при регламентации соответствующих составов преступлений законодатель использует различную терминологию, в одних случаях указывает в качестве преступного деяния только вовлечение (либо только склонение); в других их совокупность – склонение или иное вовлечение (либо склонение, вербовка или иное вовлечение). Однако возникает вопрос, чем же обусловлен и насколько оправдан такой процесс использования уголовно-правовых конструкций?

Конструирование специальных составов преступлений в Особенной части УК РФ, в которых подстрекатели становятся исполнителями преступлений, породило в правоприменительной практике смешение понятий «вовлечение» и «склонение»; «вовлечение» и «посредственное исполнение»; «склонение» и «содействие». Также неоднозначным является вопрос о видах конструкций данных составов преступлений, а соответственно и о моменте признания преступлений оконченными. В этой части достаточно спорными и противоречивыми являются правовые позиции Пленума Верховного Суда РФ относительно квалификации и определения момента юридического окончания преступлений, предусматривающих ответственность за вовлечение и склонение в противоправную деятельность. Кроме того, в правоприменительной практике сложилось неоднозначное мнение по отношению к тенденции появления в УК РФ статей, предусматривающих самостоятельную ответственность для вовлекателей. А именно сложились две противоположные позиции: по мнению одних, это было стремление выделить в уголовном законе специальные виды подстрекательства, что, собственно, и до этого обеспечивалось институтом соучастия; по мнению других, это связано прежде всего с желанием законодателя отступить от традиционных правил института соучастия.

В современном мире действенным фактором вовлечения в противоправную деятельность являются виртуальные сети, преимущественно путем продуцирования «деструктивного контента». Тем самым у злоумышленников есть возможность через различные онлайн-сообщества воздействовать на очень широкую аудиторию, в числе которой несовершеннолетние. Однако до сих пор на законодательном уровне нерешенным остается вопрос о признаках деструктивного контента и критериях его оценки.

Воздействие через онлайн-сообщества в большинстве случаев используется для вовлечения других лиц в экстремистскую и иную противоправную деятельность. В сети «Интернет» размещаются материалы террористических и экстремистских организаций, призывы к массовым беспорядкам, осуществлению экстремистской деятельности, участию в массовых (публичных) мероприятиях, проводимых с нарушением установленного порядка, совершению самоубийства, осуществляется пропаганда криминального образа жизни, потребления наркотических средств и психотропных веществ, размещается иная противоправная информация[19]. В Стратегии противодействия экстремизму в Российской Федерации года сказано, что «участились случаи привлечения в ряды экстремистских организаций несовершеннолетних лиц, поскольку они не только легче поддаются идеологическому и психологическому воздействию, но и при определенных обстоятельствах не подлежат уголовной ответственности»[20].

Не случайно Президентом Российской Федерации В. В. Путиным особо отмечена необходимость превентивных мер в области противодействия терроризму, в связи с чем необходимо не только «… активно выявлять и блокировать деятельность террористических групп, ликвидировать их финансовую базу, пресекать деятельность эмиссаров из-за рубежа.», но и минимизировать «их подрывную деятельность в Интернете, учитывать при этом российский и международный опыт в этой сфере»[21].

Информация в современном мире стала инструментом, с помощью которого возможно с высокой эффективностью изменять поведение как отдельного человека, так и группы людей. В связи с чем в уголовном законе признак использования электронных или информационно-телекоммуникационных сетей, в том числе сети «Интернет», был введен законодателем в качестве конститутивного или квалифицирующего признака определенных составов преступлений, связанных с призывами, склонением, незаконным оборотом предметов и материалов. Это в свою очередь породило ряд проблемных вопросов, возникающих в судебной практике при применении уголовно-правовых норм о таких преступлениях, в том числе о правильном определении момента окончания данных посягательств, их разграничении между собой и отграничении от смежных составов преступлений. Так, в частности, возникают проблемы в отграничении вовлечения в террористическую и экстремистскую деятельность от публичных призывов, а также от пропаганды терроризма и экстремизма. Все это снижает уровень уголовно-правовой охраны общественных отношений в сфере правомерного использования информационно-телекоммуникационных сетей.

В связи с тем, что основным объектом деструктивного воздействия является молодежь, необходимо показать некоторые проблемы противодействия вовлечению именно несовершеннолетних в преступную или иную деструктивную деятельность через онлайн-сообщества. В УК РФ уже содержатся нормы о привлечении к уголовной ответственности за вовлечение в такие деструктивные группы, целью которых является осуществление террористической, экстремистской либо диверсионной деятельности. При этом ответственность предусмотрена за вовлечение в такие группы как детей, так и взрослых. Однако, как показывают современные реалии, этого недостаточно для защиты безопасности несовершеннолетнего.

Во-первых, в законодательстве отсутствуют нормы, которые бы предусматривали ответственность за вовлечение детей в деструктивные группы, которые представляют реальную опасность для физического и психического здоровья несовершеннолетнего, их нравственного и духовного развития, но не признаны официально судом экстремистскими либо террористическими. Например, это околокриминальные группы, которые популяризируют через сеть «Интернет» сексуальное насилие, травлю, насилие над животными, расстройство пищевого поведения, антиматеринство и др.[22]

Во-вторых, отсутствуют специальные (точечные) нормы, которые бы предусматривали ответственность за пропаганду именно среди детей противоправной и иной деструктивной деятельности через онлайн-сообщества. В данном случае объектом правовой охраны в первую очередь должна выступать личность несовершеннолетнего.