Участие нейронных сетей технологий GPT-4 и GPT-5 в исполнении библиотеками функции коммуникации и защиты от киберугрозы недостоверной информации
Участие нейронных сетей технологий GPT-4 и GPT-5 в исполнении библиотеками функции коммуникации и защиты от киберугрозы недостоверной информации
Аннотация
Объектом работы являются нейронные сети языковых моделей поколений GPT-4 и GPT-5, а предметом – изучение применения в библиотеках их возможностей коммуницировать с пользователями и защищать их от киберугрозы недостоверной информации. Рассматривается возможность применения функционала нейронной сети GPT-5 в рамках библиотечной сферы для защиты граждан от киберугрозы недостоверной информации, фейков путем отсеивания ложных данных, недопущения ознакомления пользователей с ними. Затронут вопрос применения нейронной сети в машинном судебно-лингвистическом анализе с использованием библиотечных ресурсов. Рассматривается возможность расширения функционала библиотек с помощью коммуникативных способностей нейронной сети GPT-4. Областью применения статьи является работа по совершенствованию и цифровизации современных библиотек, а также работа по обеспечению безопасности граждан от недостоверной информации. Методическую базу составляют следующие методы: всеобщий диалектический метод, общенаучные методы сравнения, моделирования, анализа, синтеза, а также метод исторического анализа и описания. Новизна работы состоит в рассмотрении возможностей применения новых технологий GPT-4 и GPT-5 для выполнения библиотеками функции коммуникации и обеспечения кибербезопасности. Выводы работы сводятся к следующему:
1. Недостоверная информация часто становилась предметом спекуляции на протяжении всей истории жизни общества;
2. В настоящее время имеется острая социальная потребность в защите от недостоверной информации (фейков), которая преследует граждан на протяжении всей жизни;
3. Языковая модель GPT-5 может быть использована библиотеками при обеспечении функции защиты граждан от недостоверной информации, отсеивании ложных данных и недопущения проникновения их в сознание людей;
4. Языковая модель GPT-4 может быть использована библиотеками при осуществлении ими коммуникативной функции.
1. Введение
Современные технологии в области информационно-коммуникационных систем продолжают активно развиваться. В связи с этим растет необходимость в навыках информационной гигиены у пользователей. По мнению ведущих библиотековедов России, человечество всё больше окружает себя символами и образами, создаваемыми средствами массовой информации, рекламой, кино- и видеопродукцией, а также компьютерными технологиями и интернетом. Эти факторы погружают пользователей в виртуальный мир искусственных и ложных смыслов, которые порой далеки от понятий нравственности и гуманизма, что и составляет основную проблему данной работы . Иными словами, актуальность работы заключается в потребности общества в обеспечении библиотеками функции коммуникации и защиты от недостоверной информации.
Тема информационной гигиены действительно становится все более актуальной по мере развития информационно-коммуникационных технологий. В условиях современного информационного пространства пользователи сталкиваются с огромным количеством данных, не всегда достоверных и полезных. Средства массовой информации, реклама, киноиндустрия и интернет создают множество образов и символов, которые могут формировать искаженное восприятие реальности.
Библиотеки играют важную роль в этом контексте, так как они традиционно являются центрами знаний и культуры. Они могут служить не только хранилищами информации, но и посредниками между пользователями и информационными потоками. Библиотекари обладают необходимыми компетенциями для того, чтобы помогать пользователям ориентироваться в море информации, отделять полезное от бесполезного и защищать их от недостоверных сведений.
Таким образом, актуальность исследования заключается в необходимости разработки эффективных методов обеспечения информационной безопасности и защиты пользователей от негативного влияния недостоверной информации. Это особенно важно в современном обществе, где информация играет ключевую роль в формировании общественного мнения и принятии решений.
2. Методы и принципы исследования
Новизна работы состоит в рассмотрении возможностей применения новых технологий GPT-4 и GPT-5 для выполнения библиотеками функции коммуникации и обеспечения кибербезопасности. Таким образом, объектом нашей работы являются нейронные сети поколений GPT-4 и GPT-5, а предметом – изучение применения в библиотеках их возможностей коммуницировать с пользователями и защищать их от киберугрозы недостоверной информации. Методическую базу составляют следующие методы: всеобщий диалектический метод, общенаучные методы сравнения, моделирования, анализа, синтеза, а также метод исторического анализа и описания.
Статья представляет собой исследование, направленное на использование современных технологий, таких как нейросети GPT-4 и GPT-5, для решения задач, связанных с коммуникацией и обеспечением кибербезопасности в библиотеках. Рассмотрим ключевые аспекты предложенного подхода.
Новизна работы.
Применение нейросетей поколения GPT (Generative Pre-trained Transformer) для библиотечных функций является новаторским подходом. Использование этих технологий может значительно улучшить взаимодействие с пользователями, повысить качество предоставляемых услуг и обеспечить защиту от киберугроз, связанных с недостоверной информацией.
Объект и предмет исследования.
Объект исследования – это нейросети GPT-4 и GPT-5, а предмет – возможности их использования в библиотеках для улучшения коммуникации с пользователями и защиты от киберугроз. Такой фокус позволяет сосредоточиться на конкретных аспектах применения передовых технологий в рамках библиотечной деятельности.
Методы исследования.
Выбранная методическая база включает широкий спектр подходов, каждый из которых имеет свою ценность:
Всеобщий диалектический метод помогает рассматривать явления в их взаимосвязях и развитии, что полезно при анализе сложных систем, таких как библиотеки и информационные потоки.
Общенаучные методы.
Сравнение: используется для оценки эффективности различных технологий и подходов к решению проблем.
Моделирование: позволяет создавать модели процессов и систем, что поможет лучше понять, как новые технологии могут быть интегрированы в работу библиотек.
Анализ и синтез: используются для разложения сложных явлений на составляющие части и последующего объединения полученных результатов для формирования целостной картины.
Метод исторического анализа и описания: полезен для изучения эволюции технологий и их применения в прошлом, что может дать ценные уроки для будущего.
Таким образом, исследование направлено на решение актуальных задач в сфере информационных технологий и библиотечного дела. Применение нейросетей GPT-4 и GPT-5 для повышения качества коммуникаций и обеспечения кибербезопасности может стать важным шагом вперед в развитии библиотек как центров знаний и культуры.
3. Основные результаты
Ложная информация, или «фейковые» новости, в цифровом пространстве становятся новой формой пропаганды. Этот термин охватывает множество значений. В научных исследованиях его чаще всего используют для обозначения искажённых фактов и дезинформации, воспринимаемой как истина. Дезинформация создаётся с целью формирования ложного впечатления и применяется для воздействия на определённые группы, чтобы побудить их к действию или бездействию.
Такие явления, как «информационное загрязнение», «информационный шум», «информационный стресс» и «информационная перегрузка», становятся предметом изучения философов, социологов, журналистов и лингвистов. Информационная экология рассматривается как доктрина выживания человечества в условиях глобализации, которая влияет на политику, экономику и безопасность государств и народов, а также на понятия гуманности и гуманизма . Явления, такие как «информационное загрязнение», «информационный шум», «информационный стресс» и «информационная перегрузка», становятся предметом исследования для философов, социологов, журналистов и лингвистов. Информационная экология рассматривается как важная концепция для выживания человечества в условиях глобализации, которая влияет на политику, экономику и безопасность стран и народов, а также на идеи гуманности и гуманизма. С появлением печатного станка в Европе начали выходить первые газеты. Издатели постоянно искали новые новости и, чтобы заполнить страницы, публиковали фантастические истории о чудовищах, морских сиренах и других мифических существах, утверждая, что они действительно существуют.
Ложные сообщения вызывали сильные эмоции и воспринимались как правдивые. Существует также психологический феномен, о котором говорил Фрэнсис Бэкон, известный как предвзятость восприятия. Он описывал его следующим образом: «Ложные представления, которые уже завладели человеческим разумом, настолько поглощают умы людей, что затрудняют восприятие истины...» . Существует также психологический феномен, о котором говорил Фрэнсис Бэкон, известный как предвзятость восприятия. Он описывал его следующим образом: «Ложные представления, которые уже завладели человеческим разумом, настолько поглощают умы людей, что затрудняют восприятие истины...» . Дж. Ф. Купер обличал «грубость американской прессы», «нравственную ложь», «искажение истины, смешение правды и лжи в информации». Нельзя не упомянуть издателя и журналиста Джозефа Пулитцера, излюбленными приёмами которого были драматизация новостей, использование шокирующих заголовков . Известный соперник Пулитцера, Уильям Рэндольф Херст, мастерски использовал психологию широкой аудитории. Он полагал, что основными чувствами, которые движут массами, являются инстинкт самосохранения, любовь и тщеславие: «Материалы, содержащие хотя бы один из этих элементов, хороши. Если присутствуют два элемента, они становятся лучше. А если все три, то это уже первоклассный информационный продукт» . Ярким примером бесчеловечного отношения к аудитории и влияния СМИ на массовое сознание является случай с радиопостановкой «Войны миров» Г. Уэллса в 1938 году. Режиссёр Джордж Орсон Уэллс представил спектакль в формате прямого репортажа о вторжении инопланетян, что вызвало массовую панику в Америке. Эта истерия возникла не столько из-за самой радиопередачи, сколько благодаря воздействию средств массовой информации. В ходе ретроспективного анализа мы выявили, что случаи распространения ложной информации наблюдаются на протяжении всей истории.
С развитием Интернета скорость, с которой фейковые новости распространяются, достигла угрожающих масштабов. Для привлечения внимания к вымышленным фактам в сети активно используются кликбейты, дипфейки, кибербуллинг, онлайн-мошенничество и другие подобные методы. Большая часть информации в Интернете не только не имеет ценности, но и может причинить вред пользователям. При этом вероятность распространения фейковых новостей значительно выше, чем у достоверной информации. Феномен фейков также проявляется в их быстром распространении. Виртуальное пространство становится особенно важным, так как оно может удовлетворить потребности каждого человека . Однако существует множество примеров из судебной практики, когда подобные утверждения разрушали жизни тех, кто попался на крючок громких и ложных заголовков различных материалов, или стал жертвой фотомонтажа, видеомонтажа, преследований или обмана в интернете. На наш взгляд, общество не готово к переходу от традиционного информационного пространства, где действуют устоявшиеся механизмы проверки достоверности, к безграничным социальным медиа.
Обычные пользователи не стремятся искать правдивую информацию, а наоборот, склонны распространять фейки, поскольку они больше соответствуют их восприятию реальности. Индустрия фейков насчитывает миллионы читателей, каждый из которых фактически становится журналистом. Поэтому борьба с дезинформацией становится крайне сложной, превращаясь в противостояние с самими потребителями информации, которые выступают в роли распространителей ложных сведений. На борьбу с фейковыми новостями уходит много ресурсов и усилий. Значимость информации и её динамика развития стали основой для формирования движения за информационную грамотность, в которое активно вовлекаются библиотеки. Создание информационного иммунитета к фейкам – это задача библиотечных специалистов, прежде всего библиографов. Российский библиограф О.П. Коршунов выделил три основные функции библиографии: поисковую, коммуникативную и оценочную .
В данной работе мы сосредоточимся на двух последних. В условиях борьбы с дезинформацией оценочная функция становится особенно важной. Современные библиографы стремятся обучить пользователей эффективно ориентироваться в разнообразии информации, критически её оценивать и анализировать, проверять источники, а также развивать навыки информационной грамотности и безопасности. Ключевым аспектом такой грамотности является критическое мышление. Миссия библиотек заключается в просвещении и популяризации его значимости. Библиотеки действуют в соответствии с «Перечнем информационных ресурсов, регулярно распространяющих недостоверную информацию», который размещён на сайте Федеральной службы по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор) . Научный руководитель Библиотеки Российской академии наук В.П. Леонов подчеркивает, что библиография может и должна играть важную роль в борьбе с дезинформацией. В её распоряжении находятся как традиционные, проверенные временем методы анализа и синтеза документов, так и современные подходы, характерные для современных медиатехнологий .
Библиографическая деятельность фокусируется на проверке достоверности информации. Библиограф управляет и координирует информационные потоки, проводит своевременную проверку материалов, анализирует данные, выявляет репутационные риски интернет-ресурсов и оценивает надежность и правдивость контента. Мы уверены, что развитие информационной экологии является профессиональной обязанностью библиографа . Обучение методам информационного поиска и использованию поисковых стратегий с применением различных наборов ключевых слов также имеет значительное значение. Фейковые новости в первую очередь касаются тех пользователей, которые обращают внимание лишь на первые строки результатов поиска. Умение правильно формулировать поисковые запросы – это важный навык для нахождения актуальной информации в сети. Библиограф должен уметь анализировать текст, находя гармонию между фактами и их эмоциональным восприятием. В материалах фейковой информации часто используются экспрессивно-выразительные языковые средства, такие, как метафора, эпитет, гипербола и др. Соотношение нормирования на тематическом, содержательном, лексическом и синтаксическом уровнях даёт оценить достоверность информации при помощи анализа элементов поликодового текста: цитат, внешних ссылок, иллюстраций и пр.
В ключе потребности общества в обеспечении информационной безопасности граждан следует обратить внимание на новые технологии. GPT – нейронная сеть, языковая модель, работающая на основе архитектуры трансформер – способности на основе анализа предыдущих языковых элементов генерировать следующие . На момент написания настоящей статьи старшим из разработанных и находящихся в открытом пользовании поколением GPT является четвертое. Пятое поколение на данный момент находится на стадии разработки и бета-тестирований. Как отмечается в различных источниках, технология GPT-5 будет содержать широкий функционал, к которому можно отнести умение общаться с пользователями на узкоспециализированные темы (например, медицина, юриспруденция), создавать прогнозы, способствовать быстрому обнаружению киберугроз и реагированию на них, предлагая надежную защиту конфиденциальных данных от хакеров и злоумышленников . Таким образом, указанная технология оказала бы библиотекам существенную помощь в борьбе с фейками. Обученная на проверенных текстах, модель GPT-5 могла бы применяться в библиотечном деле при выявлении фейковой информации. Кроме того, данная технология могла бы осуществлять помощь пользователям в поиске узкоспециализированной информации, например, информации о медицинских диагнозах . Применение такого подхода – есть значительный вклад в снижении влияния недостоверной информации на общество и отдельных людей.
При этом, мы считаем, что при предоставлении нейронной сетью пользователям узкоспециализированной информации, важно выносить предупреждение о важности решения вопросов с помощью специалистов. Такой политики придерживалась и компания «Яндекс» при создании нейросети GPT-3 «Балабоба». Кроме предупреждения о возрастном ограничении (18+), перед началом работы пользователь ознакамливается с призывом компании помнить об отсутствии у нейронной сети сознания и осмысленности высказываний. Верным решением будет создание неких Школ или Центров информационной безопасности в библиотеках, которые будут базироваться на искусственном интеллекте, чтобы помочь человеку, независимо от возраста, стать критичным и ответственным потребителем информации.
Отдельно затронем вопрос лингвистического анализа текста нейронной сетью. Наиважнейшее прикладное значение имеет именно судебно-лингвистический анализ текста, то есть, анализ поступившего на экспертизу текста с целью извлечения из него важной для следствия информации. При анализе эксперт-лингвист, используя свои специальные лингвистические знания, отвечает на поставленные перед ним вопросы, которые могут касаться наличия в тексте негативной информации в форме мнения, утверждения или оценки, наличия побудительных к противоправным действиям высказываний, речевой провокации, речевой угрозы, признаков разжигания вражды, оскорбительных высказываний и др. Лингвистическая экспертиза проводится с опорой на методические рекомендации, разнообразные словари, научную литературу, Национальный корпус русского языка, справочные материалы, научные статьи и прочие библиотечные ресурсы. В настоящее время такой анализ проводится экспертами государственных органов и частных организаций вручную, с использованием, разве что, только электронных словарей. На наш взгляд, данный процесс можно оптимизировать с помощью нейронной сети GPT-5. Используя нейронную сеть указанного поколения, с помощью библиотечных ресурсов эксперт сможет быстро и просто находить достоверную информацию, что не только оптимизирует производство экспертиз и повысит их качество и объективность, но и сделает лингвистические экспертизы, а значит и правосудие более доступным большему количеству граждан ввиду удешевления стоимости такого анализа.
4. Обсуждение
Использование нейросети GPT-4 для реализации коммуникативной функции библиотек открывает широкие перспективы для модернизации взаимодействия с читателями. Можно рассмотреть этот аспект подробнее.
— Коммуникация через GPT-4
GPT-4, будучи мощным инструментом обработки естественного языка, способна вести диалог с пользователями на самые разные темы. Она может отвечать на вопросы, давать рекомендации, обсуждать произведения литературы и многое другое. Это делает её идеальным помощником для библиотекарей, позволяя им автоматизировать часть своей работы и сделать процесс общения с читателями более удобным и интерактивным.
— Интерактивность и обсуждение произведений
Одним из ключевых преимуществ использования GPT-4 в библиотеках является возможность создания интерактивного опыта для читателей. После прочтения книги пользователь может обратиться к нейросети с вопросами или комментариями, обсудить сюжет, персонажей, стилистические особенности текста. GPT-4 может предоставить литературный анализ, дополнительную информацию об авторе или даже порекомендовать другие произведения, связанные с темой обсуждения.
— Персонализированные рекомендации
Нейросеть способна учитывать интересы, возраст, образование, настроение и другие параметры пользователя, чтобы предлагать ему наиболее подходящие книги. Это позволит библиотекам индивидуализировать свои услуги, делая их более привлекательными для разных категорий читателей. Например, если читатель интересуется классической литературой, GPT-4 может предложить ему список книг, соответствующих его вкусам, а также предоставить краткий обзор каждой из них.
— Оптимизация работы библиотек
Автоматизация некоторых задач с помощью GPT-4 поможет библиотекарям сосредоточиться на более важных и творческих аспектах своей работы. Нейросеть может взять на себя рутинные задачи, такие как поиск информации, предоставление справок и рекомендаций, что освободит время для более глубокого взаимодействия с читателями.
— Повышение интереса к чтению
Интеграция современных технологий в работу библиотек может привлечь новую аудиторию, особенно молодое поколение, которое привыкло к интерактивному взаимодействию с цифровыми устройствами. Возможность обсудить прочитанное произведение с умной системой, получить персонализированные рекомендации и участвовать в онлайн-дискуссиях сделает посещение библиотеки более привлекательным и интересным занятием.
Таким образом, использование нейросети GPT-4 для выполнения коммуникативной функции библиотек представляет собой инновационный шаг в развитии этой сферы. Такая технология не только облегчит работу библиотекарей, но и повысит уровень обслуживания читателей, сделав библиотеки более современными и доступными для широкой аудитории.
В качестве завершения можно прийти к итогам рассмотрения вопроса исполнения библиотеками коммуникативной функции при помощи нейронной сети GPT-4. GPT-4 представляет собой чат или же с пользователем на различные темы. Пользователь задает нейронной сети вопросы и получает на них развернутые ответы, тем самым участвуя в коммуникации. На наш взгляд, нейронная сеть указанного поколения будет полезной при осуществлении библиотеками коммуникативной функции, то есть, функции передачи информации, доведения сведений до адресата. Работу нейронной сети можно представить в виде интерактива, когда пользователь, прочитав то или иное произведение, может обсудить его с GPT-4: задать вопросы по произведению, поделиться эмоциями, прочитать литературный анализ, получить дополнительные знания об авторе. Также на основе интересов, возраста, образования, настроения и др. нейронная сеть сможет предложить пользователю выбрать в библиотеке ту или иную книгу, а также узнать отзывы о ней. Такой подход оптимизирует работу библиотек, сделает их технологичнее, интереснее для читателей.
5. Заключение
Исходя из вышесказанного, можно прийти к следующим выводам:
1. Недостоверная информация часто становилась предметом спекуляции на протяжении всей истории жизни общества.
2. В настоящее время имеется острая социальная потребность в защите от недостоверной информации (фейков), которая преследует граждан на протяжении всей жизни.
3. Языковая модель GPT-5 может быть использована библиотеками при обеспечении функции защиты граждан от недостоверной информации.
4. Языковая модель GPT-4 может быть использована библиотеками при осуществлении ими коммуникативной функции.
Основными результатами исследования можно назвать:
Историческое значение проблемы недостоверной информации: Недостоверная информация была и остается постоянным вызовом для общества на протяжении всей его истории. Спекуляция на теме фейковых новостей и дезинформации существовала во все времена, однако современные информационно-коммуникационные технологии усилили эту проблему.
Актуальная социальная потребность: Сегодня существует острая социальная потребность в защите от недостоверной информации, которая сопровождает людей на всех этапах их жизни. Развитие цифровых технологий и интернета привело к тому, что фейки стали повсеместным явлением, требующим эффективного противодействия.
Роль языковых моделей в защите от фейков: Языковые модели, такие как GPT-5, могут использоваться библиотеками для обеспечения функции защиты граждан от недостоверной информации. Эти модели способны анализировать тексты, выявлять признаки фейков и предоставлять пользователям проверенную информацию.
Коммуникативная функция библиотек с использованием GPT-4: Языковая модель GPT-4 может применяться библиотеками для осуществления коммуникативной функции. Эта модель позволяет автоматизировать взаимодействие с читателями, предоставляя персонализированные рекомендации, обсуждая литературу и помогая находить нужную информацию.
Эти выводы подчеркивают важность внедрения современных технологий в деятельность библиотек для повышения их роли в обществе и улучшения качества предоставляемых услуг.