1. Введение

Искусственный интеллект, вне зависимости от наших пожеланий и предпочтений, стремительно внедряется во все сферы жизни и в значительной степени меняет различные отрасли человеческой деятельности. Касается это и сферы образования. Для нового цифрового поколения это понятный мир, возможности которого впечатляют уже сейчас и далее будут только расширяться.

В 2018 году Правительством Российской Федерации был утвержден национальный проект «Цифровая экономика Российской Федерации». В рамках работы над национальным проектом были разработаны девять дорожных карт по развитию «сквозных» цифровых технологий во всех государственных сферах, в том числе и в образовании

[1][2]

Стремительное развитие технологий искусственного интеллекта и активное внедрение интеллектуальных систем в различные сферы человеческой деятельности являются ключевым фактором экономического, технологического и социального прогресса России.

Инструменты искусственного интеллекта в цифровой образовательной среде позволяют учиться и развиваться по-новому. Уже сегодня школьники используют сервисы и технологии ИИ, умные колонки и нейросетевые технологии для выполнения домашних заданий. С помощью ИИ ученикам открывается доступ к широкому спектру образовательных ресурсов (онлайн-курсы, видеоуроки и интерактивные задания). Инструменты ИИ позволяют структурировать и анализировать большие объемы данных, прокачивать предметные навыки, адаптировать системы обучения к потребностям и уровню знаний каждого учащегося, предоставляя мгновенную обратную связь для анализа ошибок и улучшения навыков.

Педагогам ИИ может помочь автоматизировать рутинные задачи, такие как проверка домашних заданий и тестов, а также прогнозировать успеваемость учащихся на основе анализа данных об их предыдущих результатах.

Использование искусственного интеллекта, виртуальной и дополненной реальности в цифровой образовательной среде позволяют создавать учебные среды, в которых школьники погружаются. Это может улучшить понимание материала и сделать обучение более увлекательным.

Искусственный интеллект делает учебный процесс более эффективным, доступным и интересным для обучающихся и преподавателей. Однако важно помнить о необходимости баланса между использованием ИИ и сохранением человеческого элемента в образовании.

ИИ — это всего лишь инструмент, который должен использоваться в сочетании с традиционными методами обучения и под руководством опытных педагогов.

Позиция профильного министерства просвещения в вопросе использования искусственного интеллекта в образовании полностью отвечает требованиям времени: Министр просвещения РФ Сергей Кравцов на финале Чемпионата высоких технологий в Великом Новгороде заявил, что школьников важно знакомить с наиболее востребованными и перспективными направлениями в сфере высоких технологий, к которым, в числе прочих, относится искусственный интеллект

[3]

В конце 2024 года министр также сообщил о подготовке единого учебника по информатике, в котором будут отражены отечественные инновации в сфере цифровых технологий, описаны новые языки программирования, рассказано об отечественном программном обеспечении. При этом Сергей Кравцов подчеркивал, что развитие технологий ИИ не отменит борьбу за умы талантливых и одаренных детей, которая в мире с каждым годом будет только возрастать. Об этом министр сказал в середине прошлого года на встрече с педагогами-участниками международного педагогического форума «Евразийская перемена»

[4]

Однако, в федеральных государственных образовательных стандартах общего и среднего образования с изменениями в 2021 и 2022 гг. технологии, сервисы и направления ИИ в явном виде не сформулированы, а в требованиях указаны лишь образовательные результаты: «понимание возможностей, ограничений и трендов технологического развития ИИ»

[5]

В настоящее время тема «Искусственный интеллект» упоминается лишь в нескольких учебниках по информатике, причем в большинстве случаев — в качестве ознакомительного с направлениями ИИ, обзора основных методов анализа больших данных и приемов их реализации.

В примерной рабочей программе по информатике для 10-11 классов (базовый уровень) автора Угринович Н.Д. в содержание учебного предмета добавлен раздел «Тенденции развития средств ИКТ», в рамках которого дается общий обзор темы «Искусственный интеллект»

[6, С. 155]

В учебнике для 10 класса базового уровня, авторами которого являются А. Г. Гейна, А. Б. Ливчака, А. И. Сенокосова и Н. А. Юнерман, изучается область исследования искусственного интеллекта — экспертные системы. В параграфе «Базы знаний и экспертные системы» затрагивается программирование экспертных систем на языке Пролог

[7]

Для учащихся 9–11 классов авторский коллектив Московского педагогического государственного университета под руководством Самылкиной Н.Н. разработал практикум по искусственному интеллекту, который знакомит школьников с основами искусственного интеллекта и его применением в различных областях. Авторы пособия предлагают читателям серию практических заданий и упражнений, направленных на развитие навыков работы с алгоритмами, нейронными сетями и другими инструментами искусственного интеллекта

[8]

Таким образом, проанализировав современные учебно-методические комплексы по Информатике, можно сделать вывод, что основная тенденция, характеризующая состояние обучения в области искусственного интеллекта в российских школах, на данный момент, заключается в формировании специальных предметных компетенций, связанных с понимаем значения понятий: «большие данные», «наука о данных», «искусственный интеллект», его основные задачи и области применения.

В дальнейшем развитие технологий ИИ открывает новые возможности для создания индивидуализированных образовательных траекторий обучения и внедрения адаптивных систем контроля и самообучения в цифровой образовательной среде.

В то же время сфера образования должна быть максимально подготовленной к грамотной интеграции стремительно развивающихся технологий, ведь с новыми возможностями приходят и потенциальные риски. И, помимо набирающей обороты борьбы за умы, это еще и ряд как педагогических, так и этических аспектов.

Все большую тревогу вызывает стремительно происходящая трансформация функций педагога в цифровой образовательной среде, изменение когнитивных способностей детей при массовом и неконтролируемом использовании технологий и сервисов ИИ. Среди потенциальных рисков также можно выделить нарушение конфиденциальности данных, предвзятость и ошибки алгоритмов ИИ.

Перед многими исследователями и учеными сегодня поставлен вопрос: что делать с массовыми процессами цифровизации общества, широким внедрением ИИ в образовательную практику школ, вузов, учреждений среднего профессионального образования, какие этические последствия мы будем наблюдать через 20–30 лет? Одним из опасений российских педагогов является то, что все более усложняющиеся и совершенствующиеся технологии искусственного интеллекта заменят традиционное обучение.

Кроме того, возникают вопросы развития «цифровой зависимости», снижение пытливости, творческого поиска, памяти и даже, в целом, когнитивных и креативных способностей обучающихся.

На сегодняшний день назрела острая необходимость перестройки российской системы образования и корректировка методов обучения «с оглядкой» на все явственнее наступающие искусственные технологии.

Очень важно именно сегодня продолжать исследования для развития безопасной цифровой среды в образовательных организациях с применением технологий искусственного интеллекта.

Цель данного исследования заключается в исследовании факторов риска и угроз информационной безопасности личности обучающегося вследствие применения систем искусственного интеллекта в качестве инструмента образовательных технологий в цифровой образовательной среде, а также разработка комплекса цифровых образовательных ресурсов по программам повышения квалификации учителей и практические рекомендации для школьников в целях повышения уровня цифровой культуры и этики при использовании искусственного интеллекта.

Это актуально в связи с активным развитием и внедрением ИИ в образовательные процессы, что требует особого внимания к вопросам обеспечения информационной безопасности личности цифровой этики в данных вопросах.

Научная новизна исследовательского проекта заключается в теоретическом обосновании и разработке модели угроз личности обучающихся при применении систем искусственного интеллекта, что может стать значительным вкладом в развитие теории и практики обеспечения информационной безопасности в образовательной организации.

Цели реализации данного научно-исследовательского проекта не достигнуты пока в полном объеме, так как проект в начальной стадии реализации.

Материал и методы исследования: сравнительно-исторические методы (историко-логический); общетеоретические методы научного познания: междисциплинарный анализ и синтез научной и методической литературы по теме исследования и передового педагогического опыта, формализация, моделирование; изучение результатов практической деятельности учителей и учащихся, интервью с участниками образовательного процесса, такими как учителя, разработчики образовательных платформ и специалисты в области искусственного интеллекта.

2. Основные результаты

Для решения вышеобозначенных вопросов с сентября 2024 года в ТГПУ им. Л.Н. Толстого под руководством профессора, доктора педагогических наук Юлии Игоревны Богатыревой реализуется исследовательский проект «Снижение рисков и угроз личности обучающихся при использовании искусственного интеллекта в образовании». Проект победил в конкурсе исследовательских проектов «Школа как институт развития человека» благотворительного фонда «Вклад в будущее».

Авторы проекта провели анализ существующих и перспективных технологий, инструментов и сервисов ИИ, особенностей и практик их применения в условиях федеральных государственных стандартов. Проанализировали нормативно-правовые акты, регулирующие применение технологий и инструментов ИИ в школьной практике. Разработали модель угроз личности обучающихся при применении систем ИИ и начали работу по апробации ее в опытно-экспериментальной работе.

Общая схема реализации данного научно-исследовательского проекта включала в себя несколько этапов:

1. Сбор данных: исследование началось с анализа предметной области использования ИИ в образовании и нормативно-правовых актов, регулирующих применение технологий искусственного интеллекта в российском образовании. Были рассмотрены дорожные карты развития «сквозных» цифровых технологий, федеральные законы и правительственные документы, касающиеся внедрения искусственного интеллекта.

Проведенный анализ основных нормативных правовых, отраслевых и иных актов, как отечественных, так и международных, устанавливающих и регламентирующие использование инструментария искусственного интеллекта в образовании, дает возможность рекомендовать внести в соответствующие НПА федерального (ведомственного) уровня положения о необходимости разработки и внедрения стандартов использования ИИ в образовательных учреждениях общего образования.

В настоящее время в Российской Федерации действуют всего два национальных стандарта, регламентирующих использования ИИ в образовательных учреждениях именно довузовского уровня, работающих с детьми: ГОСТ Р 59896-2021 Образовательные продукты с алгоритмами искусственного интеллекта для адаптивного обучения в общем образовании. Требования к учебно-методическим материалам и ГОСТ Р 59899-2021 Образовательные продукты с алгоритмами искусственного интеллекта для адаптивного обучения в общем образовании. Технические требования

[9][10]

Эти стандарты, безусловно, весьма значимы, именно они определяют требования, и методические, и технические, к образовательным продуктам с алгоритмами искусственного интеллекта для адаптивной работы с учащимися.

Так же видится целесообразным, в свете стремительно меняющихся реалий, ввести на уровне регионального законодательства в штатные расписания образовательных учреждений общего образования должность ответственного за внедрение и использование технологий ИИ, который будет следить за соблюдением всех аспектов применения таких технологий.

Сделан вывод о необходимости более жесткого законодательного регулирования сектора, связанного с применением искусственным интеллектом в образовании.

Использование ИИ в обучении, оценивании и управлении образовательными процессами требует особого внимания к вопросам защиты личной информации, конфиденциальности данных и формирования безопасного цифрового поведения.

2. Анализ существующих практик использования ИИ в образовании: исследовались текущие методики преподавания искусственного интеллекта, существующие учебные пособия и материалы, представлены конкретные примеры использования ИИ на уроках различных предметов, а также проекты, реализуемые в рамках национального проекта «Цифровая экономика Российской Федерации». Технологии и сервисы ИИ должны быть использованы учителями и педагогами для создания учебных материалов, автоматического оценивания результатов и во внеурочной деятельности. Это позволяет более рационально использовать время преподавателей, повысить доступность и качество учебных материалов, а также стимулировать интерес и мотивацию школьников к обучению.

В дальнейшем развитие технологий ИИ открывает новые возможности для создания индивидуализированных образовательных траекторий обучения и внедрения адаптивных систем контроля и самообучения.

3. На основе собранных данных были сделаны выводы о текущем состоянии использования искусственного интеллекта на уроках в школах, сформулированы рекомендации в НПА по улучшению образовательного процесса через механизмы повышения уровня информационной безопасности личности обучающегося.

Разработана модель угроз личности обучающихся, возникающих при использовании систем искусственного интеллекта в образовательном процессе, включающая следующие угрозы:

УЛ-1. Угроза получения обучающимися недостоверной, неправомерной и фейковой информации.

УЛ-2. Угроза конфиденциальности информации обучающегося, предоставленной системе искусственного интеллекта для дальнейшей обработки.

УЛ-3. Угроза получения противоправной или запрещенной к просмотру несовершеннолетними информации.

УЛ-4. Угроза совершения ошибки при анализе цифрового следа и выборе неправильного образовательного маршрута для обучающегося.

УЛ-5. Угроза модификации ответов системы искусственного интеллекта со стороны сервиса, предоставляющего доступ к данной системе.

УЛ-6. Угроза недобросовестного использования систем искусственного интеллекта обучающимися при решении учебных задач поискового характера.

УЛ-7. Угроза чрезмерного использования систем искусственного интеллекта обучающимися при разработке проектов.

УЛ-8. Угроза чрезмерного использования систем искусственного интеллекта обучающимися при решении творческих и научных задач.

УЛ-9. Угроза цифрового неравенства обучающихся, не имеющих доступ к системам искусственного интеллекта, и других обучающихся в учреждениях, где у большинства субъектов образовательного процесса есть такой доступ.

УЛ-10. Угроза чрезмерного использования педагогом материалов, сгенерированных с применением систем искусственного интеллекта, в образовательном процессе.

Каждая из угроз подробно описана с примерами из исследований, показывающими реальные случаи негативных последствий использования искусственного интеллекта в образовании. Например, угроза получения недостоверной информации иллюстрируется случаями, когда системы искусственного интеллекта предоставляли неверные или фейковые данные

[11, С. 74]

В рамках проведенного исследования сформулированы и предложены меры по предотвращению негативных последствий угроз, например, развитие критического мышления у обучающихся, контроль за действиями систем искусственного интеллекта, использование только проверенных и надежных систем, а также ограничение времени использования таких систем в образовательном процессе.

Реализация угроз может привести к различным негативным последствиям, включая деградацию навыков самостоятельного поиска информации, снижение мотивации к творчеству и обучению, ухудшение качества дальнейшей деятельности обучающихся и другие проблемы.

Несмотря на возможные угрозы и факторы риска, считаем, что системы искусственного интеллекта являются полезным и перспективным инструментом, способным повысить эффективность образовательного процесса при правильном использовании и соблюдении определенных норм и ограничений. Технологии, сервисы и системы ИИ в цифровой образовательной среде должны применяться педагогическими работниками осознанно в целях минимизации рисков и повышения качества и доступности образования

[12][13]

Также в рамках реализации проекта будет разработан онлайн ресурс для учителей и педагогических работников «Снижение рисков и угроз при использовании искусственного интеллекта в образовании».

3. Обсуждение

Результаты подобного исследовательского проекта стали фундаментом для создания комплексной системы обеспечения информационной безопасности личности обучающихся, в частности, будут использованы для реализации стратегического проекта «Экосистема подготовки кадров для цифрового развития региона» программы академического и стратегического лидерства «Приоритет 2030» в целях повышения показателей развития ИТ-образования в Тульском регионе

[14, С. 5]

По итогам полученных результатов исследования сформулирована гипотеза для дальнейшего исследования: развитие готовности педагогических работников к снижению рисков и угроз личности обучающихся в цифровой образовательной среде, повышение информационной безопасности обучающихся при использовании технологий и систем искусственного интеллекта в учебном процессе будет более эффективным, если будет предложена комплексная система обеспечения информационной безопасности личности обучающихся в условиях использования систем искусственного интеллекта как элемент цифровой образовательной среды образовательных организаций. Данную гипотезу предлагается проверить в ходе опытно-экспериментального исследования, продолженного в рамках следующего этапа исследования.

4. Заключение

В дальнейшем предлагается разработать и внедрить этические нормы и правила использования ИИ в образовательных учреждениях, включая: принципы прозрачности в использовании алгоритмов ИИ; обязанность информировать обучающихся о том, как используются их данные и какие алгоритмы применяются; учета интересов и прав обучающихся и педагогических работников при разработке и внедрении ИИ-технологий.

Практическая ценность данного исследования заключается в том, что разработаны конкретные предложения по минимизации рисков и угроз внедрения ИИ в образовательный процесс. Возможностями искусственного интеллекта, потенциалом цифровых технологий необходимо не просто учиться пользоваться, но и делать это максимально эффективно, грамотно, и, что главное, бережно по отношению к учащимся и педагогам, чтобы сохранить и приумножить лучшие традиции и сильные стороны российского образования.

The additional file for this article can be found as follows: