ПЕДАГОГИЧЕСКИЕ АСПЕКТЫ ПРИМЕНЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ОБРАЗОВАНИИ: ФАКТОРЫ РИСКА И УГРОЗЫ В ЦИФРОВОЙ ОБРАЗОВАТЕЛЬНОЙ СРЕДЕ

Искусственный интеллект, вне зависимости от наших пожеланий и предпочтений, стремительно внедряется во все сферы жизни и в значительной степени меняет различные отрасли человеческой деятельности. Касается это и сферы образования. Для нового цифрового поколения это понятный мир, возможности которого впечатляют уже сейчас и далее будут только расширяться.

В 2018 году Правительством Российской Федерации был утвержден национальный проект «Цифровая экономика Российской Федерации». В рамках работы над национальным проектом были разработаны девять дорожных карт по развитию «сквозных» цифровых технологий во всех государственных сферах, в том числе и в образовании

Стремительное развитие технологий искусственного интеллекта и активное внедрение интеллектуальных систем в различные сферы человеческой деятельности являются ключевым фактором экономического, технологического и социального прогресса России.

Инструменты искусственного интеллекта в цифровой образовательной среде позволяют учиться и развиваться по-новому. Уже сегодня школьники используют сервисы и технологии ИИ, умные колонки и нейросетевые технологии для выполнения домашних заданий. С помощью ИИ ученикам открывается доступ к широкому спектру образовательных ресурсов (онлайн-курсы, видеоуроки и интерактивные задания). Инструменты ИИ позволяют структурировать и анализировать большие объемы данных, прокачивать предметные навыки, адаптировать системы обучения к потребностям и уровню знаний каждого учащегося, предоставляя мгновенную обратную связь для анализа ошибок и улучшения навыков.

Педагогам ИИ может помочь автоматизировать рутинные задачи, такие как проверка домашних заданий и тестов, а также прогнозировать успеваемость учащихся на основе анализа данных об их предыдущих результатах.

Использование искусственного интеллекта, виртуальной и дополненной реальности в цифровой образовательной среде позволяют создавать учебные среды, в которых школьники погружаются. Это может улучшить понимание материала и сделать обучение более увлекательным.

Искусственный интеллект делает учебный процесс более эффективным, доступным и интересным для обучающихся и преподавателей. Однако важно помнить о необходимости баланса между использованием ИИ и сохранением человеческого элемента в образовании.

ИИ — это всего лишь инструмент, который должен использоваться в сочетании с традиционными методами обучения и под руководством опытных педагогов.

Позиция профильного министерства просвещения в вопросе использования искусственного интеллекта в образовании полностью отвечает требованиям времени: Министр просвещения РФ Сергей Кравцов на финале Чемпионата высоких технологий в Великом Новгороде заявил, что школьников важно знакомить с наиболее востребованными и перспективными направлениями в сфере высоких технологий, к которым, в числе прочих, относится искусственный интеллект

В конце 2024 года министр также сообщил о подготовке единого учебника по информатике, в котором будут отражены отечественные инновации в сфере цифровых технологий, описаны новые языки программирования, рассказано об отечественном программном обеспечении. При этом Сергей Кравцов подчеркивал, что развитие технологий ИИ не отменит борьбу за умы талантливых и одаренных детей, которая в мире с каждым годом будет только возрастать. Об этом министр сказал в середине прошлого года на встрече с педагогами-участниками международного педагогического форума «Евразийская перемена»

Однако, в федеральных государственных образовательных стандартах общего и среднего образования с изменениями в 2021 и 2022 гг. технологии, сервисы и направления ИИ в явном виде не сформулированы, а в требованиях указаны лишь образовательные результаты: «понимание возможностей, ограничений и трендов технологического развития ИИ»

В настоящее время тема «Искусственный интеллект» упоминается лишь в нескольких учебниках по информатике, причем в большинстве случаев — в качестве ознакомительного с направлениями ИИ, обзора основных методов анализа больших данных и приемов их реализации.

В примерной рабочей программе по информатике для 10-11 классов (базовый уровень) автора Угринович Н.Д. в содержание учебного предмета добавлен раздел «Тенденции развития средств ИКТ», в рамках которого дается общий обзор темы «Искусственный интеллект»

В учебнике для 10 класса базового уровня, авторами которого являются А. Г. Гейна, А. Б. Ливчака, А. И. Сенокосова и Н. А. Юнерман, изучается область исследования искусственного интеллекта — экспертные системы. В параграфе «Базы знаний и экспертные системы» затрагивается программирование экспертных систем на языке Пролог

Для учащихся 9–11 классов авторский коллектив Московского педагогического государственного университета под руководством Самылкиной Н.Н. разработал практикум по искусственному интеллекту, который знакомит школьников с основами искусственного интеллекта и его применением в различных областях. Авторы пособия предлагают читателям серию практических заданий и упражнений, направленных на развитие навыков работы с алгоритмами, нейронными сетями и другими инструментами искусственного интеллекта

Таким образом, проанализировав современные учебно-методические комплексы по Информатике, можно сделать вывод, что основная тенденция, характеризующая состояние обучения в области искусственного интеллекта в российских школах, на данный момент, заключается в формировании специальных предметных компетенций, связанных с понимаем значения понятий: «большие данные», «наука о данных», «искусственный интеллект», его основные задачи и области применения.

В дальнейшем развитие технологий ИИ открывает новые возможности для создания индивидуализированных образовательных траекторий обучения и внедрения адаптивных систем контроля и самообучения в цифровой образовательной среде.

1.1. Потенциальные риски новых возможностей

В то же время сфера образования должна быть максимально подготовленной к грамотной интеграции стремительно развивающихся технологий, ведь с новыми возможностями приходят и потенциальные риски. И, помимо набирающей обороты борьбы за умы, это еще и ряд как педагогических, так и этических аспектов.

Все большую тревогу вызывает стремительно происходящая трансформация функций педагога в цифровой образовательной среде, изменение когнитивных способностей детей при массовом и неконтролируемом использовании технологий и сервисов ИИ. Среди потенциальных рисков также можно выделить нарушение конфиденциальности данных, предвзятость и ошибки алгоритмов ИИ.

Перед многими исследователями и учеными сегодня поставлен вопрос: что делать с массовыми процессами цифровизации общества, широким внедрением ИИ в образовательную практику школ, вузов, учреждений среднего профессионального образования, какие этические последствия мы будем наблюдать через 20–30 лет? Одним из опасений российских педагогов является то, что все более усложняющиеся и совершенствующиеся технологии искусственного интеллекта заменят традиционное обучение.

Кроме того, возникают вопросы развития «цифровой зависимости», снижение пытливости, творческого поиска, памяти и даже, в целом, когнитивных и креативных способностей обучающихся.

На сегодняшний день назрела острая необходимость перестройки российской системы образования и корректировка методов обучения «с оглядкой» на все явственнее наступающие искусственные технологии.

Очень важно именно сегодня продолжать исследования для развития безопасной цифровой среды в образовательных организациях с применением технологий искусственного интеллекта.

Цель данного исследования заключается в исследовании факторов риска и угроз информационной безопасности личности обучающегося вследствие применения систем искусственного интеллекта в качестве инструмента образовательных технологий в цифровой образовательной среде, а также разработка комплекса цифровых образовательных ресурсов по программам повышения квалификации учителей и практические рекомендации для школьников в целях повышения уровня цифровой культуры и этики при использовании искусственного интеллекта.

Это актуально в связи с активным развитием и внедрением ИИ в образовательные процессы, что требует особого внимания к вопросам обеспечения информационной безопасности личности цифровой этики в данных вопросах.

Научная новизна исследовательского проекта заключается в теоретическом обосновании и разработке модели угроз личности обучающихся при применении систем искусственного интеллекта, что может стать значительным вкладом в развитие теории и практики обеспечения информационной безопасности в образовательной организации.

Цели реализации данного научно-исследовательского проекта не достигнуты пока в полном объеме, так как проект в начальной стадии реализации.

Материал и методы исследования: сравнительно-исторические методы (историко-логический); общетеоретические методы научного познания: междисциплинарный анализ и синтез научной и методической литературы по теме исследования и передового педагогического опыта, формализация, моделирование; изучение результатов практической деятельности учителей и учащихся, интервью с участниками образовательного процесса, такими как учителя, разработчики образовательных платформ и специалисты в области искусственного интеллекта.

Для решения вышеобозначенных вопросов с сентября 2024 года в ТГПУ им. Л.Н. Толстого под руководством профессора, доктора педагогических наук Юлии Игоревны Богатыревой реализуется исследовательский проект «Снижение рисков и угроз личности обучающихся при использовании искусственного интеллекта в образовании». Проект победил в конкурсе исследовательских проектов «Школа как институт развития человека» благотворительного фонда «Вклад в будущее».

Авторы проекта провели анализ существующих и перспективных технологий, инструментов и сервисов ИИ, особенностей и практик их применения в условиях федеральных государственных стандартов. Проанализировали нормативно-правовые акты, регулирующие применение технологий и инструментов ИИ в школьной практике. Разработали модель угроз личности обучающихся при применении систем ИИ и начали работу по апробации ее в опытно-экспериментальной работе.

Общая схема реализации данного научно-исследовательского проекта включала в себя несколько этапов:

1. Сбор данных: исследование началось с анализа предметной области использования ИИ в образовании и нормативно-правовых актов, регулирующих применение технологий искусственного интеллекта в российском образовании. Были рассмотрены дорожные карты развития «сквозных» цифровых технологий, федеральные законы и правительственные документы, касающиеся внедрения искусственного интеллекта.

Проведенный анализ основных нормативных правовых, отраслевых и иных актов, как отечественных, так и международных, устанавливающих и регламентирующие использование инструментария искусственного интеллекта в образовании, дает возможность рекомендовать внести в соответствующие НПА федерального (ведомственного) уровня положения о необходимости разработки и внедрения стандартов использования ИИ в образовательных учреждениях общего образования.

В настоящее время в Российской Федерации действуют всего два национальных стандарта, регламентирующих использования ИИ в образовательных учреждениях именно довузовского уровня, работающих с детьми: ГОСТ Р 59896-2021 Образовательные продукты с алгоритмами искусственного интеллекта для адаптивного обучения в общем образовании. Требования к учебно-методическим материалам и ГОСТ Р 59899-2021 Образовательные продукты с алгоритмами искусственного интеллекта для адаптивного обучения в общем образовании. Технические требования

Эти стандарты, безусловно, весьма значимы, именно они определяют требования, и методические, и технические, к образовательным продуктам с алгоритмами искусственного интеллекта для адаптивной работы с учащимися.

Так же видится целесообразным, в свете стремительно меняющихся реалий, ввести на уровне регионального законодательства в штатные расписания образовательных учреждений общего образования должность ответственного за внедрение и использование технологий ИИ, который будет следить за соблюдением всех аспектов применения таких технологий.

Сделан вывод о необходимости более жесткого законодательного регулирования сектора, связанного с применением искусственным интеллектом в образовании.

Использование ИИ в обучении, оценивании и управлении образовательными процессами требует особого внимания к вопросам защиты личной информации, конфиденциальности данных и формирования безопасного цифрового поведения.

2. Анализ существующих практик использования ИИ в образовании: исследовались текущие методики преподавания искусственного интеллекта, существующие учебные пособия и материалы, представлены конкретные примеры использования ИИ на уроках различных предметов, а также проекты, реализуемые в рамках национального проекта «Цифровая экономика Российской Федерации». Технологии и сервисы ИИ должны быть использованы учителями и педагогами для создания учебных материалов, автоматического оценивания результатов и во внеурочной деятельности. Это позволяет более рационально использовать время преподавателей, повысить доступность и качество учебных материалов, а также стимулировать интерес и мотивацию школьников к обучению.

В дальнейшем развитие технологий ИИ открывает новые возможности для создания индивидуализированных образовательных траекторий обучения и внедрения адаптивных систем контроля и самообучения.

3. На основе собранных данных были сделаны выводы о текущем состоянии использования искусственного интеллекта на уроках в школах, сформулированы рекомендации в НПА по улучшению образовательного процесса через механизмы повышения уровня информационной безопасности личности обучающегося.

Разработана модель угроз личности обучающихся, возникающих при использовании систем искусственного интеллекта в образовательном процессе, включающая следующие угрозы:

УЛ-1. Угроза получения обучающимися недостоверной, неправомерной и фейковой информации.

УЛ-2. Угроза конфиденциальности информации обучающегося, предоставленной системе искусственного интеллекта для дальнейшей обработки.

УЛ-3. Угроза получения противоправной или запрещенной к просмотру несовершеннолетними информации.

УЛ-4. Угроза совершения ошибки при анализе цифрового следа и выборе неправильного образовательного маршрута для обучающегося.

УЛ-5. Угроза модификации ответов системы искусственного интеллекта со стороны сервиса, предоставляющего доступ к данной системе.

УЛ-6. Угроза недобросовестного использования систем искусственного интеллекта обучающимися при решении учебных задач поискового характера.

УЛ-7. Угроза чрезмерного использования систем искусственного интеллекта обучающимися при разработке проектов.

УЛ-8. Угроза чрезмерного использования систем искусственного интеллекта обучающимися при решении творческих и научных задач.

УЛ-9. Угроза цифрового неравенства обучающихся, не имеющих доступ к системам искусственного интеллекта, и других обучающихся в учреждениях, где у большинства субъектов образовательного процесса есть такой доступ.

УЛ-10. Угроза чрезмерного использования педагогом материалов, сгенерированных с применением систем искусственного интеллекта, в образовательном процессе.

Каждая из угроз подробно описана с примерами из исследований, показывающими реальные случаи негативных последствий использования искусственного интеллекта в образовании. Например, угроза получения недостоверной информации иллюстрируется случаями, когда системы искусственного интеллекта предоставляли неверные или фейковые данные

В рамках проведенного исследования сформулированы и предложены меры по предотвращению негативных последствий угроз, например, развитие критического мышления у обучающихся, контроль за действиями систем искусственного интеллекта, использование только проверенных и надежных систем, а также ограничение времени использования таких систем в образовательном процессе.

Реализация угроз может привести к различным негативным последствиям, включая деградацию навыков самостоятельного поиска информации, снижение мотивации к творчеству и обучению, ухудшение качества дальнейшей деятельности обучающихся и другие проблемы.

Несмотря на возможные угрозы и факторы риска, считаем, что системы искусственного интеллекта являются полезным и перспективным инструментом, способным повысить эффективность образовательного процесса при правильном использовании и соблюдении определенных норм и ограничений. Технологии, сервисы и системы ИИ в цифровой образовательной среде должны применяться педагогическими работниками осознанно в целях минимизации рисков и повышения качества и доступности образования

Также в рамках реализации проекта будет разработан онлайн ресурс для учителей и педагогических работников «Снижение рисков и угроз при использовании искусственного интеллекта в образовании».

Результаты подобного исследовательского проекта стали фундаментом для создания комплексной системы обеспечения информационной безопасности личности обучающихся, в частности, будут использованы для реализации стратегического проекта «Экосистема подготовки кадров для цифрового развития региона» программы академического и стратегического лидерства «Приоритет 2030» в целях повышения показателей развития ИТ-образования в Тульском регионе

По итогам полученных результатов исследования сформулирована гипотеза для дальнейшего исследования: развитие готовности педагогических работников к снижению рисков и угроз личности обучающихся в цифровой образовательной среде, повышение информационной безопасности обучающихся при использовании технологий и систем искусственного интеллекта в учебном процессе будет более эффективным, если будет предложена комплексная система обеспечения информационной безопасности личности обучающихся в условиях использования систем искусственного интеллекта как элемент цифровой образовательной среды образовательных организаций. Данную гипотезу предлагается проверить в ходе опытно-экспериментального исследования, продолженного в рамках следующего этапа исследования.

В дальнейшем предлагается разработать и внедрить этические нормы и правила использования ИИ в образовательных учреждениях, включая: принципы прозрачности в использовании алгоритмов ИИ; обязанность информировать обучающихся о том, как используются их данные и какие алгоритмы применяются; учета интересов и прав обучающихся и педагогических работников при разработке и внедрении ИИ-технологий.

Практическая ценность данного исследования заключается в том, что разработаны конкретные предложения по минимизации рисков и угроз внедрения ИИ в образовательный процесс. Возможностями искусственного интеллекта, потенциалом цифровых технологий необходимо не просто учиться пользоваться, но и делать это максимально эффективно, грамотно, и, что главное, бережно по отношению к учащимся и педагогам, чтобы сохранить и приумножить лучшие традиции и сильные стороны российского образования.