Развитие искусственного интеллекта: угрозы и возможности для экономической безопасности России
Развитие искусственного интеллекта: угрозы и возможности для экономической безопасности России
Аннотация
Маловероятно, что в настоящее время остались сферы жизнедеятельности, которые цифровизация обошла стороной, но, даже учитывая такие успехи, процесс не собирается останавливаться и дальше, проникая все глубже в жизни людей и работу предприятий. Это происходит, в том числе, за счет разработок технологии искусственного интеллекта, которая призвана повысить эффективность человеческой деятельности, а в некоторых случаях – заменить ее полностью. И если еще 5 лет назад такие механизмы были сугубо прерогативой крупных компаний и государств для решения узких внутренних задач, то сейчас каждый может использовать подобные модели даже для бытовых вопросов. В данной статье приводится упрощенное объяснение разработки и функционирования искусственного интеллекта, рассматриваются некоторые существующие варианты применения нейросетей субъектами экономической деятельности, а также потенциальные возможности и угрозы от их использования, включая вопросы «профайлинга» и технологической безработицы.
1. Введение
Одной из ключевых тенденций современного мира является развитие искусственного интеллекта (ИИ). Данная технология, скорее всего, станет первоочередным аспектом четвертой промышленной революции, для которой будет характерным повсеместное использование кибер-физических систем, совмещающих физическую сущность и компьютерные или кибер-компоненты . Искусственный интеллект является не чем иным, как попыткой симулировать поведение человека, добавляя к этому преимущества компьютерных систем, первоочередным из которых являются вычислительные мощности. Электронно-вычислительные машины с каждым днем наращивают свою мощь, однако для получения качественных результатов необходимо правильно ей воспользоваться. Целью данной статьи является рассмотрение вопроса влияния развития искусственного интеллекта с упором на возможности и угрозы от его использования для экономической безопасности России. Результаты работы могут быть учтены при создании и использовании технологий на основе нейронных сетей.
2. Основная часть
В сущности, современный ИИ, доступный широкой общественности, представляет собой модель, которая создана для решения конкретной задачи (написание текста, генерация изображений, постановка диагноза и прочее) и натренирована на подготовленном массиве данных. Из такой формулировки может показаться, что искусственный интеллект не создает какую-либо новую информацию, однако это не совсем так. Для того чтобы разобраться с этим вопросом, стоит понять принцип создания ИИ.
Рисунок 1 - Схема этапов создания искусственного интеллекта
Особой категорией выступают модели, строящиеся на основе искусственных нейронных сетей, а именно – глубоких нейронных сетей. Основой данного типа моделей выступают искусственные нейроны – перцептроны, представляющие собой эквивалент структурно-функциональной единицы человеческой нервной системы. Схема такого механизма сравнительно проста и состоит из: входных сигналов с весами, функции активации, которая определяет достаточен ли Вес для включения в работу нейрона, и конечного вывода. И сила всей сети тем выше, чем большее количество таких структур в нее помещено, более детально данная идея в статье организации 3Blue1Brown на примере распознавания рукописных чисел . Затем выбранную модель начинают тренировать на отобранном массиве информации, а натренированную модель, прежде, чем начать использовать, тестируют различными метриками: точность – доля правильных предсказаний модели относительно общего числа предсказаний, полнота – отношение числа правильно классифицированных положительных примеров к общему числу положительных примеров, средняя абсолютная ошибка для регрессий и многие другие.
И мир искусственного интеллекта примечателен тем, что с каждым днем появляется все большей идей и подходов к их созданию и оптимизации, тому подтверждением служат модели диффузии для генерации изображений и генеративно-состязательная модель . Но чем же ИИ полезен для экономической безопасности и экономических агентов? Рассмотрим наиболее интересные аспекты.
Личности и домохозяйствам искусственный интеллект позволяет автоматизировать рутину, повышать качество жизни, а также принимать решения. Одним из наиболее распространенных устройств сегодня является смартфон , который вовлечен практически во все сферы жизнедеятельности человека – от покупки продуктов до операций с финансами. И, естественно, такое положение дел привело к большому интересу со стороны производителей к механизмам с задействованием искусственного интеллекта, так как он позволяет более гибко настраивать взаимодействие устройства с человеком. К примеру, у смартфонов Iphone от компании Apple имеется отдельный физический чип, который ответственен за работу именно нейронных сетей и предназначен для корректной работы системы безопасности Face ID, распознающей лицо владельца при различных обстоятельствах, обработки фотографий, получения релевантной информации по запросу, виртуального помощника Siri и многого другого. Все эти функции призваны улучшить опыт использования смартфона, делая его использование более комфортным и удобным, тем самым привязывая индивида к определенному устройству, ведь у конкурентных моделей их может не оказаться. Отдельно стоит сказать про виртуальных помощников: сейчас ИИ такого рода обладает широким функционалом – создание резюме, написание программного кода, получение интересующей информации, оформление записи на прием – все это им уже подвластно, хотя и с существенной долей условности, так как далеко не всегда результат получается таким, какой была задумана идея.
Рисунок 2 - Примеры моделей искусственного интеллекта для развития малого бизнеса
Уже сейчас крупные игроки рынка активно экспериментируют с искусственным интеллектом и его внедрением в свои бизнес-процессы, и, прежде всего, это происходит с замещением низкоквалифицированных должностей и оптимизацией работы остальных. Так, например, компания Amazon с 2012 года использует все больше роботов на своих складах – ключевом звене для онлайн-ретейлера – для перемещения, сортировки и укомплектования заказов. А McDonald’s заменяет кассиров автоматизированными киосками и умными помощниками, анализирующими время дня, текущую корзину клиента, загруженность отделения, популярность позиций и погодные условия для того, чтобы затем спрогнозировать и предложить наиболее подходящие товары покупателю . В то же время Carbon Robotics разработали установку, которая за счет связки искусственного интеллекта и лазерного оборудования позволяет уничтожать сорняки без использования химикатов и ручного труда, что позволяет, с одной стороны, повысить качество выращиваемых сельскохозяйственных продуктов, а, с другой – снизить издержки на ручной труд, в случаях, когда используется ручное выкапывание .
Также стоит отметить и отношение государства к искусственному интеллекту. В России действует Указ о развитии искусственного интеллекта в Российской Федерации , который предназначен для ускоренного развития технологий такого типа в нашей стране, однако само внедрение ИИ государством началось раньше. Пожалуй, всем отечественным автовладельцам знакомы системы камер на дорогах общего пользования, которые определяют нарушение тех или иных Правил дорожного движения, а иногда и их совокупности, и сам процесс с момента фиксации нарушения общественного порядка до получения уведомления нарушителем о выписанном штрафе. Конечно, такая система не может быть эффективной без модуля компьютерного зрения, который не только распознает факт нарушения, но и регистрационный знак нарушившего автомобиля. Такая система не идеальна ввиду того, что нейросеть оперирует категорией «весов», которые дают результат с какой-то долей уверенности, то есть существует и обратная вероятность – совершить ошибки первого и второго порядка: к примеру не распознать нарушение, когда в действительности оно было, или же распознать нарушение, но неправильно распознать номерной знак автомобиля, из-за чего штраф будет выписан водителю, не являющимся нарушителем.
Помимо камер, которые в определенной степени эволюционировали и работают не только с распознаванием автомобилей, но и лиц людей , государство не отстает от прогресса банков в финансовой безопасности, используя передовые разработки в данной области для отслеживания сомнительных криптовалютных операций . Схема действия системы «Прозрачный блокчейн» не опубликована, и вряд ли станет таковой в ближайшей перспективе, однако предполагаем, что она строится на принципе «профайлинга», то есть создания профиля злоумышленника за счет анализа его поведения. Также как лицо имеет свои особенные черты, отличающие одного человека от другого, цифровой след большинства людей имеет свои частные характеристики. Этим могут быть часы активности, географическая локация, использования конкретного «миксера» криптовалюты и другие параметры, иначе такие вещи называют «почерком», когда говорят про преступников.
Такое положение дел подводит нас к вопросу вызовов и угроз, которые развитие технологии искусственного интеллекта может побудить. Во-первых, это риски кибербезопасности и распространения дезинформации. Уже существует прецендент использования чат-ботов для взлома учетных записей, посредством «инъекции запроса»
. Хоть в данном случае человек и использовал метод на своих данных, сам факт наличия такой возможности может привести к увеличению числа людей, пытающихся посягнуть на персональную информацию других. Также искусственный интеллект смог сгенерировать лицензионные ключи операционной системы Windows , что ставит под угрозу уже интересы коммерческих компаний, ввиду того, что многие цифровые продукты предоставляются на основе подтверждения покупки за счет этих самых ключей. Но даже это не такая большая проблема, ведь разработчики публичных ИИ имеют возможность своевременно закрывать бреши, получая информацию, но ситуация может измениться с увеличением вычислительных мощностей и локальными ИИ. Прямо сейчас Вы можете загрузить локального чат-бота, который будет работать только за счет Вашего устройства, то есть даже если издатель выпустит обновление, запрещающее те или иные операции, Вы сможете его не устанавливать, оставляя возможность использовать нелегальные функции, в том числе создание продвинутого способа кибератаки или сбора информации об интересующем лице для дальнейшего нарушения личных прав. Кажется, что решение данного вопроса должно осуществляться системами безопасности компаний, предоставляющих информацию и цифровые товары, так как предполагаем, что попытка регулирования оборота таких программ будет иметь низкую эффективность, схожую с ограничением использования нелицензионного программного обеспечения в России.Говоря об информации, также важно отметить и возможное развитие «профайлинга» в рамках государственных органов, ведь если этот метод применяется для отслеживания правонарушителей, то в будущем, с развитием технологий, такая практика может распространиться и на всех граждан, так как это позволит предугадывать поведение людей, выделяя группы наиболее подверженных к совершению преступлений, то есть повысит эффективность превентивной функции. Однако снова возникает вопрос безопасности и этичности такого механизма: во-первых, должно быть четкие ограничения в том, кто и какую информацию сможет получить.
Рисунок 3 - Схема работы механизма цифровых профилей
Развивая идею дезинформации, стоит упомянуть и возможность автоматизированных информационных атак. Последние годы все чаще встречаются проявления манипуляций, посредством распространения ложных данных в СМИ, не проверяющих фактические данные в угоду оперативных публикаций, и социальных сетях, где контроль за качеством и распространением информации в значительной степени затруднен. И если деятельность первых регламентирована, включая штрафы и необходимость публичного опровержения, то социальные сети, а, в особенности, мессенджеры – сравнительно новое направление, которое Россия только начинает модерировать. Ключевой проблемой в данном случае является отсутствие установленной связи между профилем и реальным человеком – в настоящее время любой может приобрести виртуальный номер и зарегистрировать аккаунт, оставаясь анонимным. При чем такие услуги продаются не только поштучно, ввиду чего злоумышленники могут генерировать тысячи учетных записей для дальнейшего распространения выгодной им информации, к примеру через купленную базу номеров или логинов, вводя людей в заблуждение и сея панические настроения. Конечно, подобная ситуация возможна и без задействования ИИ, однако именно его использование позволит создавать сложные массовые схемы диалогов между несуществующими людьми или провокационные сообщения в секции комментариев, которые сложно будет отличить от реальных, ведь еще в 2022 году модель искусственного интеллекта смогла пройти тест Тьюринга , считавшегося особенно важным для отличия программы от человека. Естественным решением данного вопроса считаем введение либо полного ограничения работы профилей, у которых отсутствуют паспортные или иные данные, позволяющей однозначно установить связь между аккаунтом и человеком, либо частичное ограничение функций доступных без подтверждения личности.
Другой важной проблемой, следующей за развитием рассматриваемой технологии, является потеря рабочих мест гражданами, вследствие их замены программным обеспечением с нейронными сетями и роботизированными системами на их основе. Конечно, любая промышленная революция сопровождается опасениями касательно технологической безработицы, однако данный вопрос остается дискуссионными, что показывает и вышеописанный пример компании Amazon , в котором указывается появление более 700 новых категорий работ с начала внедрения роботов в бизнес-процессы, а общее число сотрудников увеличилось больше, чем на миллион. Такой частный случай вряд ли может отражать общую перспективу взаимодействия передовых технологий и социума, однако показывает, что применение робототехники в работе коммерческих предприятий может не сокращать штат сотрудников, а, наоборот, создавать новые рабочие места.
Наиболее вероятным кажется вариант, при котором часть рабочих мест будет замещаться технологиями, но их обслуживание, контроль и управление также будут требовать человеческих ресурсов, порождая новую работу. Принятие технологий происходит неравномерно, ввиду чего полагаем, что часть сотрудников, не имеющих возможности или желания для получения навыков, требуемым для перехода на возникшие позиции, смогут трудоустроиться в компаниях с консервативной политикой. Но даже если предположить, что все игроки какого-либо рынка решат единовременно перейти к использованию какой-либо технологии, это не будет однодневным процессом, так как он подразумевает приобретение необходимых благ, настройку под нужды организации, тестирование механизма, отладку и только потом – эксплуатацию. Совокупность этих этапов редко занимает дни и, в лучшем случае, ограничится неделями, что зависит от сложности новшества и размеров компании, а также даст время сотрудникам, находящимся под угрозой замещения, для поиска нового места работы или повышения квалификации, в чем не последнюю роль может сыграть и наше государство, уже проводившее проект «Цифровые профессии» в 2022 году, целью которого было обучение востребованным профессиям цифровой сферы на льготных условиях .
3. Заключение
Так или иначе, вероятность того, что развитие искусственного интеллекта будет остановлено, низка, и предполагается, что к 2030 году мировой валовый внутренний продукт увеличится на 14% именно за счет разработки и внедрения ИИ , в связи с чем Россия и ее коммерческие компании активно занимают данную нишу, находя в ней большой потенциал. Тем не менее не стоит оставлять на заднем плане вопросы безопасности, так как, при отсутствии им должного внимания, в лучшем случае компания понесет убытки от получения лицензионных копий без оплаты, а в худшем – личные данные людей или другая конфиденциальная информация попадет в руки неавторизованных лиц, порождая угрозы для всех уровней экономической безопасности. В результате данной работы был рассмотрен вопрос влияния развития искусственного интеллекта на экономическую безопасность России, однако данная область обширна, что открывает возможности для дальнейших исследований по данному вопросу в отдельных сферах жизнедеятельности и отраслях экономики, а также с задействованием статистической информации, формированием показателей и индикаторов.