1. Введение

Быстрая цифровая трансформация и внедрение искусственного интеллекта (ИИ) в различные сферы создают новые возможности и вызовы для правопорядка. В России наблюдается рекордный рост ИТ-преступности, которая составляет 40% от общего числа преступлений. Использование автономных систем, способных к самообучению, усложняет выявление и квалификацию преступлений, что требует переосмысления традиционных правовых институтов.

Возникает «правовой вакуум» в уголовном законодательстве РФ относительно действий автономных ИИ-систем. Классическая конструкция субъекта преступления неэффективна из-за непрозрачности решений нейросетей. Отсутствие четких критериев ответственности между разработчиком, владельцем и пользователем ИИ создаёт риски безнаказанности, что требует новых подходов к определению субъектного состава преступления.

Цель исследования — комплексный анализ правовой природы ИИ как участника уголовных отношений и разработка предложений по совершенствованию субъектного состава преступлений в Уголовном кодексе Российской Федерации (далее — УК РФ)

[1]

2. Методы и принципы исследования

Методология исследования базируется на синтезе общенаучных и специальных юридических методов, среди которых ключевую роль играют формально-юридический метод, позволивший проанализировать действующие нормы уголовного законодательства, метод системно-структурного анализа, направленный на выявление места ИИ-технологий в системе объектов уголовно-правовой охраны, а также компаративистский (сравнительно-правовой) метод, обеспечивший глубокое изучение зарубежных доктрин «электронного лица», что в совокупности гарантирует комплексность и научную обоснованность выводов относительно трансформации субъектного состава преступления.

3. Основные результаты

Вопрос дефиниции искусственного интеллекта (ИИ) в рамках современной уголовно-правовой доктрины, справедливости ради, уже давно перерос рамки сугубо технического дискурса, прочно утвердившись в статусе фундаментальной проблемы права. Чтобы корректно определить место ИИ в иерархии уголовного закона, представляется необходимым провести глубокое сопоставление его ключевых свойств, таких как автономность и способность к самообучению, с доктринальными признаками орудий и средств совершения преступления.

Традиционно, как известно, под орудиями преступного деяния принято понимать лишь предметы материального мира, которые субъект использует для прямого воздействия на объект посягательства. Однако технологии ИИ, по нашему глубокому убеждению, обладают настолько выраженной спецификой, что их полное отождествление с привычным механическим инструментом в современных реалиях выглядит явно недостаточным. Как отмечает И. В. Савельев, в определенных ситуациях ИИ может выступать не просто как пассивное средство в руках виновного, а как активный элемент: «ИИ как орудие (способ) совершения преступления; ИИ как элемент обстановки совершения преступления...; ИИ как бесконтрольный актор...; ИИ как предмет преступления»

[2, С. 482]

Автономность — вот что действительно осложняет уголовно-правовую оценку в первую очередь. Классические программы работают по жестко заданному алгоритму, системы же ИИ способны принимать решения в условиях неопределенности, и это принципиальное различие. Концепция «орудия» здесь дает сбой: между волей человека и преступным результатом возникает промежуточное звено, которое может самостоятельно трансформировать собственное поведение, причем непредсказуемым образом.

Самообучаемость только усугубляет картину. Результат работы такой системы порой не осознает даже ее создатель — не потому что он некомпетентен, а потому что архитектура модели (так называемый «черный ящик») объективно не позволяет отследить логику конкретного вывода. Надо сказать, что именно здесь возникает прямое столкновение с институтом вины: уголовное право требует от субъекта осознания характера своих действий и предвидения последствий, тогда как техническая природа ИИ делает подобное предвидение практически недостижимым.

Криминологические риски, создаваемые развитием ИИ, нуждаются в систематизации, без неё трудно выстроить какую-либо внятную государственную политику реагирования. В научной литературе принято разграничивать две базовые группы угроз. Первая охватывает прямые риски, то есть случаи, когда ИИ целенаправленно применяется как инструмент совершения преступлений. Как подчеркивают А. С. Талан и М. В. Талан, современные угрозы включают в себя «отравление данных (Data Poisoning)» и «использование ИИ для генерации вредоносного программного кода»

[3, С. 237][4, С. 467]

Феномен непредсказуемости итогового результата, как представляется, несет в себе исключительную сложность, что во многом детерминировано запутанной архитектурой современных нейронных сетей. В ситуации, когда создатель изначально программирует систему на достижение общественно полезных целей, но ИИ в ходе автономного самообучения выбирает противоправный вектор их реализации, возникает, выражаясь метафорично, своего рода юридический тупик. Именно в этой связи, по нашему глубокому убеждению, приобретает особую актуальность точка зрения М. Г. Амировой и А. Г. Таиловой. Авторы, в частности, настаивают на детальном изучении концепции «опосредованной причинности»

[5, С. 4]

С учетом изложенного, искусственный интеллект, рассматриваемый как источник криминологических рисков, нуждается не только в технологическом мониторинге, но и в оперативном внедрении законодательных правил «алгоритмической осторожности». Несоблюдение данных регламентов, полагаем, должно неизбежно выступать правовым основанием для персональных уголовно-правовых последствий для тех физических лиц, на которых возложен контроль за функционированием системы

В классической парадигме отечественного уголовного права субъектом преступления признаётся исключительно вменяемое физическое лицо, достигшее установленного возраста уголовной ответственности. Внедрение технологий ИИ разрушает привычную цепочку «субъект — деяние — результат»: возникает реальная трудность с тем, как распределить ответственность между разработчиком алгоритма, владельцем системы (провайдером) и тем, кто непосредственно ею воспользовался.

Среди исследователей, обратившихся к этой проблеме, выделяется позиция М. Г. Амировой и А. Г. Таиловой. Нужно сказать, они предлагают анализировать подобные правоотношения через концепцию «опосредованной причинности». Суть в следующем: при совершении преступления посредством ИИ человек нередко не совершает никаких активных действий в момент причинения вреда, он лишь создал условия, при которых такой вред стал возможен. Правда, насколько это условие достаточно для вменения ответственности, авторы оговаривают отдельно. Как отмечают исследователи, «лицо, использующее технологию ИИ как инструмент для совершения преступления, должно нести ответственность как исполнитель, даже если техническая реализация задачи была полностью делегирована алгоритму».

Основная коллизия, как кажется, заключается в распределении ответственности: в то время как разработчик де-юре может отвечать за технические ошибки алгоритма в рамках небрежности, на пользователя ложится бремя соблюдения правил эксплуатации системы. Однако в ситуации, когда искусственный интеллект, в силу своей автономности, обретает в процессе самообучения девиантные «навыки», которые изначально не были заложены в его архитектуру, юридическая фиксация вины конкретного субъекта превращается в трудноразрешимую задачу. В данном случае, справедливости ради, происходит фактическая деформация интеллектуального элемента вины, поскольку предвидеть подобные атипичные последствия для человека, по нашему убеждению, не представляется возможным.

Правоприменитель сегодня вынужден адаптировать действующие нормы УК РФ на ситуации, которые законодатель явно не предвидел, и получается это далеко не всегда. Один из рабочих вариантов квалификации — обращение к ст. 238 УК РФ, охватывающей производство, хранение, выполнение работ или оказание услуг, не отвечающих требованиям безопасности.

А. Д. Померанец и В. В. Коленцова рассматривают ситуации, когда вред жизни или здоровью граждан причиняется автономными системами (беспилотный транспорт — наиболее показательный пример). По их позиции, ответственность в подобных случаях допустимо возлагать на тех, кто непосредственно выводил продукт на рынок, то есть на лиц, принявших решение о его введении в оборот. Авторы указывают: «в современных условиях ст. 238 УК РФ становится своего рода универсальным механизмом привлечения к ответственности разработчиков ИИ за дефекты программного обеспечения, повлекшие тяжкие последствия»

[6, С. 276]

Вместе с тем детальный анализ положений главы 28 УК РФ, посвященной преступлениям в сфере компьютерной информации, позволяет выявить весьма существенные правовые пробелы. Современные редакции статей 272–274 УК РФ, справедливости ради, изначально проектировались для противодействия вредоносному коду человеческого происхождения и совершенно не адаптированы к специфике функционирования автономных ИИ-агентов. Как совершенно обоснованно подчеркивают А. С. Талан и М. В. Талан, в условиях полной технологической независимости системы классические составы де-факто бессильны перед ситуациями, когда алгоритм проактивно генерирует алгоритмы реализации системных ошибок или радикально трансформирует логику собственных действий. В подобном контексте вменение «создания вредоносных программ» в его традиционной доктринальной трактовке, вероятно, становится юридически недоказуемым.

Параллельно с этим нельзя не упомянуть о такой острой криминологической аномалии, как феномен «электронной вуали». Данная дефиниция, выражаясь точнее, описывает специфическую обстановку, в которой архитектурная сложность и непрозрачность решений ИИ намеренно эксплуатируются злоумышленниками. Цель подобных манипуляций, как показывает практика, заключается в эффективном сокрытии собственного участия в преступлении и попытке переложить ответственность на «технический сбой» системы. А. Д. Померанец и В. В. Коленцова акцентируют внимание на том, что «существует реальный риск использования сложности ИИ-технологий как формы «щита», позволяющего виновным лицам избегать ответственности, ссылаясь на непредсказуемость самообучающейся системы». В таких случаях ИИ становится способом анонимизации преступника.

Следователи нередко оказываются в тупике: доказать умысел крайне сложно, когда подозреваемый настаивает на том, что «система сработала сама». Эта проблема, назовём её «электронной вуалью», в действительности требует пересмотра инструментария цифровой криминалистики. Мало того, вероятно, стоит рассмотреть законодательное закрепление презумпции ответственности за владельцем ИИ-системы в тех случаях, когда причинённый ущерб стал следствием её неконтролируемой работы, а участие третьих лиц при этом не установлено.

Классическая схема «разработчик — владелец — пользователь» в условиях автономных систем перестаёт быть линейной. Когда орудие способно самостоятельно выбирать траекторию действий, привычные уголовно-правовые конструкции дают сбой, и это требует переосмысления самой природы субъекта преступления.

Уголовное право традиционно связывает ответственность с тем, кто держит орудие в руках. Но что если орудие действует само? Здесь применима концепция опосредованного исполнительства: разработчик или пользователь рассматривается как «интеллектуальный виновник» даже тогда, когда конкретное преступное действие не было им запрограммировано напрямую. Правда, на практике разграничить умысел и бездействие в таких случаях крайне непросто.

Ответственность «человеческого звена» дифференцируется в зависимости от роли. Разработчик несёт её за архитектурные просчёты — отсутствие фильтрации данных, недостаточные ограничители поведения системы. Если алгоритм в результате отравления обучающей выборки начал совершать атаки, вина лежит на создателе (ст. 238 или 274 УК РФ). Совсем иная логика у оператора. Здесь показателен случай с водителем Uber, отвлёкшимся на видео в момент, когда система требовала контроля: субъектом выступает физическое лицо, допустившее неосторожное деяние. Формально разные ситуации, однако в обоих случаях речь идёт о провале человеческого надзора.

Отдельную проблему представляет так называемый «чёрный ящик». Решения нейронной сети формируются в скрытых слоях, недоступных для внешнего анализа, и это создает правовой тупик: вред зафиксирован, а доказать умысел или небрежность конкретного лица невозможно, поскольку логика системы принципиально непрозрачна. Выходом могло бы стать введение алгоритмической ответственности для компаний-владельцев как самостоятельного правового института. Насколько это реализуемо в действующей системе уголовного права — вопрос, который пока остаётся открытым.

В рамках современной юридической науки дискуссия о присвоении искусственному интеллекту статуса субъекта права (известного под термином «электронная личность»), безусловно, окончательно покинула область футуристических абстракций, перейдя в плоскость сугубо прагматичных правовых дискуссий. Сторонники идеи признания субъектности ИИ, как правило, апеллируют к его уникальной способности к автономному целеполаганию — качеству, которое, с теоретических позиций, максимально сближает алгоритм с субъектами человеческой деятельности.

Тем не менее, ключевым и, как представляется, непреодолимым препятствием на пути к признанию ИИ полноценным участником уголовно-правовых отношений остается полное отсутствие у него психического отношения к содеянному. Как совершенно резонно указывает в своих работах И. Н. Мосечкин, категория правосубъектности генетически детерминирована понятием вины, которая в доктрине отечественного уголовного права традиционно интерпретируется, и это важно подчеркнуть, исключительно как специфическое психологическое состояние физического лица. Автор подчеркивает: «пока ИИ не обладает самосознанием, он остается объектом (вещью), а не субъектом». Применение мер уголовного наказания к программе, таких как «отключение от сети» или удаление алгоритма, не может рассматриваться как полноценное наказание, поскольку оно «не выполняет целей исправления осужденного и восстановления справедливости в их классическом понимании». Антропоцентрическая модель уголовного права закономерно отвергает идею признания ИИ субъектом преступления, и причина здесь вполне конкретная: ни интеллектуальный, ни волевой элемент вины у него попросту не формируется. Нынешний уровень технологий, надо сказать, этого не допускает.

Вне зависимости от существующих доктринальных противоречий, в актуальном научном дискурсе, тем не менее, продолжает активно получать распространение идея формирования концепции «искусственного лица», выстраиваемая по прямой аналогии с институтом юридического лица. Подобный вектор развития, представляется обоснованным, базируется на признании специфической фикции правосубъектности. Это, в конечном счете, открыло бы легальную возможность для реализации в отношении интеллектуальных систем особых мер уголовно-правового воздействия, которые были бы максимально адаптированы именно к цифровой архитектуре совершаемых посягательств. Приверженцы этой идеи указывают на возможность применения к ИИ таких санкций, как «принудительное перепрограммирование, удаление данных или ликвидация системы (цифровая смертная казнь)». Подобный подход, как принято считать в определенных кругах, позволил бы достичь максимально оперативной нейтрализации тех угроз, источником которых выступает автономный алгоритм. Вместе с тем справедливости ради, предложенная концепция сталкивается с весьма жесткой критической аргументацией. В качестве одного из наиболее существенных рисков, сопряженных с признанием ИИ квазисубъектом, очевидно, выступает уже затронутая ранее опасность формирования «электронной вуали».

Проведенный анализ наглядно демонстрирует, что наделение программного кода статусом «искусственного лица», по сути, способно превратиться в деструктивный инструмент в руках транснациональных технологических гигантов. Подобная трансформация правосубъектности, представляется неоспоримым, несет в себе скрытую угрозу легализации механизмов ухода от персональной ответственности за счет делегирования вины неодушевленной цифровой сущности. Как отмечается в ряде исследований, «если мы признаем ИИ субъектом и начнем «наказывать» программу, это даст корпорациям легальный способ снимать с себя ответственность за ошибки своих продуктов». Подобная «трансляция» ответственности на программный алгоритм, вероятно, неизбежно приведет к стагнации механизмов защиты прав потерпевших и спровоцирует возникновение режима системной безответственности со стороны бенефициаров разработки. В отечественных правовых реалиях, принимая во внимание традиционный консерватизм российской уголовно-правовой доктрины, наиболее конструктивным вектором развития видится не наделение ИИ искусственной субъектностью, а существенное расширение границ ответственности физических лиц. Речь идет, прежде всего, об усилении контроля за эксплуатацией создаваемых «интеллектуальных» инструментов и установлении жестких санкций за ненадлежащий мониторинг их функционирования.

Уголовное законодательство движется медленно и это становится проблемой там, где технологии меняются быстрее, чем успевают реагировать правовые институты. Один из конкретных шагов, которые необходимы в рамках реформирования УК РФ, — введение нового квалифицирующего признака: совершение преступления с использованием технологий искусственного интеллекта.

Почему это нужно — вопрос, на который есть достаточно прямой ответ. Самообучающиеся алгоритмы дают преступнику возможности, недоступные при ручном исполнении: атаки масштабируются, жертвы отбираются автоматически, а эффективность мошеннических схем или кибердиверсий возрастает многократно. Всё это повышает общественную опасность деяния, причём существенно. По тому же принципу, по которому в статьи Особенной части уже вписан признак «с использованием информационно-телекоммуникационных сетей», аналогичная ИИ-составляющая позволила бы судам точнее разграничивать ответственность в зависимости от реального инструментария преступника.

Исследователи, работающие с этой темой, обращают внимание на следующее: подобная мера фиксирует не просто технический способ совершения преступления, а качественное преимущество, которое виновный получает, опираясь на «интеллект» алгоритма в обходе систем защиты. Надо сказать, это вписывается в более широкую картину — цифровизация уголовного закона идёт, пусть и непоследовательно, и введение ИИ-признака стало бы логичным ответом на усложнение киберпреступного инструментария. Однако, вопрос правоприменения здесь остаётся открытым.

Помимо насущной модернизации уже действующих норм, представители научного сообщества, включая таких признанных экспертов, как И. В. Савельев и М. В. Талан, аргументированно доказывают потребность в криминализации ряда специфических деяний, ранее не находивших отражения в отечественном праве. Ключевым вектором дискуссии, таким образом, становится вопрос о дополнении главы 28 УК РФ специализированными составами.

В частности, профессором М. В. Талан выдвигается инициатива по введению в уголовный закон статьи 273.1, ориентированной на пресечение инновационных форм атак на интеллектуальные системы. Речь идет, прежде всего, о феномене «отравления данных» (Data Poisoning) — преднамеренном искажении обучающих выборок, провоцирующем ИИ на принятие деструктивных или общественно опасных решений. Стоит признать, что действующая статья 273 УК РФ де-факто не способна охватить подобные манипуляции, поскольку «информационное отравление» далеко не всегда коррелирует с внедрением вредоносного кода в его традиционном техническом понимании.

Развивая данную концепцию, И. В. Савельев предлагает внедрить в законодательный оборот еще более комплексный состав — статью 273.2 («Преступный оборот и использование технологий ИИ»). Данная норма, по замыслу автора, призвана обеспечить правовое регулирование ответственности за конструирование ИИ-агентов, исходно нацеленных на совершение преступлений, а также за неправомерный перехват управления автономными объектами. Кроме того, полагаем, критически важным является установление ответственности за эксплуатацию систем, заведомо не соответствующих стандартам безопасности. Все указанные инициативы, в конечном счете, преследуют единую цель — ликвидацию пробелов закона в тех случаях, когда непосредственный вред причиняется действиями автономного агента. Вместе с тем, как справедливо подчеркивают С. А. Юрков и С. А. Опалева, эффективная борьба с подобными угрозами невозможна без качественной трансформации деятельности правоохранительных органов

[7, С. 56] [8, С. 86].

Если говорить прямо, точечные изменения в УК РФ – введение новых квалифицирующих признаков и специальных составов (ст. 273.1 и 273.2) представляют собой наиболее взвешенный путь развития законодательства. Такой подход позволяет обойтись без сомнительных экспериментов с наделением ИИ правосубъектностью, что, надо признать, создало бы куда больше проблем, чем решило.

4. Заключение

Результаты проведенного нами анализа, охватывающего как фундаментальные теоретические аспекты, так и прикладные коллизии уголовной ответственности за деяния, сопряженные с эксплуатацией ИИ-технологий, позволяют подвести итог и артикулировать ряд концептуальных выводов. Представленное исследование, справедливости ради, наглядно демонстрирует, что традиционная доктрина в настоящее время сталкивается с вызовами, требующими не только фрагментарной коррекции, но и глубокой содержательной трансформации. Признание искусственного интеллекта самостоятельным субъектом преступления на современном этапе развития науки выглядит явно преждевременным. Современные ИИ-агенты, при всей их автономности, лишены сознания и воли в том смысле, который вкладывают в эти понятия психология и право

[9, С. 165][10, С. 67]

Между тем куда более обоснованным направлением остаётся сосредоточение уголовно-правового регулирования на «человеческом факторе». Речь идёт не о борьбе с программным кодом это, в общем-то, тупик, а о регламентации поведения разработчиков, владельцев и операторов ИИ-систем. Нужно, во-первых, законодательно закрепить специальные правила эксплуатации высокотехнологичных систем, нарушение которых влечёт ответственность за неосторожные преступления. Во-вторых, требует модернизации Глава 28 УК РФ: в литературе уже предлагается введение специализированных составов (в частности, статей 273.1 и 273.2), которые охватывали бы такие посягательства, как «отравление обучающих данных» и незаконное использование автономных ИИ-агентов, и эти предложения заслуживают серьёзного внимания.

В-третьих, представляется критически важным имплементировать в Особенную часть УК РФ универсальный квалифицирующий признак «совершение преступления с использованием технологий искусственного интеллекта». Подобный шаг, очевидно, гарантирует необходимую дифференциацию ответственности, позволяя судам в полной мере учитывать ту повышенную общественную опасность, которую несут в себе деяния, сопряженные с эксплуатацией высокотехнологичных алгоритмов.

Резюмируя изложенное, важно подчеркнуть, что правовая система обязана развиваться проактивно, формируя эффективные барьеры на пути современной киберпреступности. Тем не менее, любая законодательная модернизация должна, как видится, базироваться на нерушимом фундаменте личной виновной ответственности индивида. Полагаем, что делегирование правосубъектности неодушевленным технологическим сущностям недопустимо, а фокус внимания законодателя должен оставаться на человеке как единственном реальном субъекте права.

The additional file for this article can be found as follows: