Involvement of neural networks of GPT-4 and GPT-5 technologies in libraries' function of communication and defence against the cyber threat of misleading information
Involvement of neural networks of GPT-4 and GPT-5 technologies in libraries' function of communication and defence against the cyber threat of misleading information
Abstract
The object of the work is neural networks of linguistic models of GPT-4 and GPT-5 generations, and the subject is the study of their application in libraries to communicate with users and protect them from the cyber threat of inaccurate information. The possibility of applying the functionality of neural network GPT-5 within the library sphere to protect citizens from cyber threat of inaccurate information, fakes by screening out false data and preventing users from familiarizing themselves with them is discussed. The question of application of neural network in machine forensic-linguistic analysis with the use of library resources is touched upon. The opportunity of extending the functionality of libraries with the help of communicative abilities of neural network GPT-4 is studied. The area of application of the article is the work on improvement and digitalization of modern libraries, as well as the work on ensuring the safety of citizens from unreliable information. The following methods form the methodological basis: the universal dialectical method, general scientific methods of comparison, modelling, analysis, synthesis, as well as the method of historical analysis and description. The novelty of the work consists in considering the possibilities of application of new technologies GPT-4 and GPT-5 to fulfil the function of communication and cybersecurity by libraries. The conclusions of the work are summarized as follows:
1. Inaccurate information has often been the subject of speculation throughout the history of society;
2. Currently, there is an acute social necessity to protect against inaccurate information (fakes) that haunts citizens throughout their lives;
3. The GPT-5 language model can be used by libraries in providing the function of protecting citizens from misleading information, screening out false data and preventing it from entering the minds of people;
4. The GPT-4 language model can be used by libraries in their communicative function.
1. Введение
Современные технологии в области информационно-коммуникационных систем продолжают активно развиваться. В связи с этим растет необходимость в навыках информационной гигиены у пользователей. По мнению ведущих библиотековедов России, человечество всё больше окружает себя символами и образами, создаваемыми средствами массовой информации, рекламой, кино- и видеопродукцией, а также компьютерными технологиями и интернетом. Эти факторы погружают пользователей в виртуальный мир искусственных и ложных смыслов, которые порой далеки от понятий нравственности и гуманизма, что и составляет основную проблему данной работы . Иными словами, актуальность работы заключается в потребности общества в обеспечении библиотеками функции коммуникации и защиты от недостоверной информации.
Тема информационной гигиены действительно становится все более актуальной по мере развития информационно-коммуникационных технологий. В условиях современного информационного пространства пользователи сталкиваются с огромным количеством данных, не всегда достоверных и полезных. Средства массовой информации, реклама, киноиндустрия и интернет создают множество образов и символов, которые могут формировать искаженное восприятие реальности.
Библиотеки играют важную роль в этом контексте, так как они традиционно являются центрами знаний и культуры. Они могут служить не только хранилищами информации, но и посредниками между пользователями и информационными потоками. Библиотекари обладают необходимыми компетенциями для того, чтобы помогать пользователям ориентироваться в море информации, отделять полезное от бесполезного и защищать их от недостоверных сведений.
Таким образом, актуальность исследования заключается в необходимости разработки эффективных методов обеспечения информационной безопасности и защиты пользователей от негативного влияния недостоверной информации. Это особенно важно в современном обществе, где информация играет ключевую роль в формировании общественного мнения и принятии решений.
2. Методы и принципы исследования
Новизна работы состоит в рассмотрении возможностей применения новых технологий GPT-4 и GPT-5 для выполнения библиотеками функции коммуникации и обеспечения кибербезопасности. Таким образом, объектом нашей работы являются нейронные сети поколений GPT-4 и GPT-5, а предметом – изучение применения в библиотеках их возможностей коммуницировать с пользователями и защищать их от киберугрозы недостоверной информации. Методическую базу составляют следующие методы: всеобщий диалектический метод, общенаучные методы сравнения, моделирования, анализа, синтеза, а также метод исторического анализа и описания.
Статья представляет собой исследование, направленное на использование современных технологий, таких как нейросети GPT-4 и GPT-5, для решения задач, связанных с коммуникацией и обеспечением кибербезопасности в библиотеках. Рассмотрим ключевые аспекты предложенного подхода.
Новизна работы.
Применение нейросетей поколения GPT (Generative Pre-trained Transformer) для библиотечных функций является новаторским подходом. Использование этих технологий может значительно улучшить взаимодействие с пользователями, повысить качество предоставляемых услуг и обеспечить защиту от киберугроз, связанных с недостоверной информацией.
Объект и предмет исследования.
Объект исследования – это нейросети GPT-4 и GPT-5, а предмет – возможности их использования в библиотеках для улучшения коммуникации с пользователями и защиты от киберугроз. Такой фокус позволяет сосредоточиться на конкретных аспектах применения передовых технологий в рамках библиотечной деятельности.
Методы исследования.
Выбранная методическая база включает широкий спектр подходов, каждый из которых имеет свою ценность:
Всеобщий диалектический метод помогает рассматривать явления в их взаимосвязях и развитии, что полезно при анализе сложных систем, таких как библиотеки и информационные потоки.
Общенаучные методы.
Сравнение: используется для оценки эффективности различных технологий и подходов к решению проблем.
Моделирование: позволяет создавать модели процессов и систем, что поможет лучше понять, как новые технологии могут быть интегрированы в работу библиотек.
Анализ и синтез: используются для разложения сложных явлений на составляющие части и последующего объединения полученных результатов для формирования целостной картины.
Метод исторического анализа и описания: полезен для изучения эволюции технологий и их применения в прошлом, что может дать ценные уроки для будущего.
Таким образом, исследование направлено на решение актуальных задач в сфере информационных технологий и библиотечного дела. Применение нейросетей GPT-4 и GPT-5 для повышения качества коммуникаций и обеспечения кибербезопасности может стать важным шагом вперед в развитии библиотек как центров знаний и культуры.
3. Основные результаты
Ложная информация, или «фейковые» новости, в цифровом пространстве становятся новой формой пропаганды. Этот термин охватывает множество значений. В научных исследованиях его чаще всего используют для обозначения искажённых фактов и дезинформации, воспринимаемой как истина. Дезинформация создаётся с целью формирования ложного впечатления и применяется для воздействия на определённые группы, чтобы побудить их к действию или бездействию.
Такие явления, как «информационное загрязнение», «информационный шум», «информационный стресс» и «информационная перегрузка», становятся предметом изучения философов, социологов, журналистов и лингвистов. Информационная экология рассматривается как доктрина выживания человечества в условиях глобализации, которая влияет на политику, экономику и безопасность государств и народов, а также на понятия гуманности и гуманизма . Явления, такие как «информационное загрязнение», «информационный шум», «информационный стресс» и «информационная перегрузка», становятся предметом исследования для философов, социологов, журналистов и лингвистов. Информационная экология рассматривается как важная концепция для выживания человечества в условиях глобализации, которая влияет на политику, экономику и безопасность стран и народов, а также на идеи гуманности и гуманизма. С появлением печатного станка в Европе начали выходить первые газеты. Издатели постоянно искали новые новости и, чтобы заполнить страницы, публиковали фантастические истории о чудовищах, морских сиренах и других мифических существах, утверждая, что они действительно существуют.
Ложные сообщения вызывали сильные эмоции и воспринимались как правдивые. Существует также психологический феномен, о котором говорил Фрэнсис Бэкон, известный как предвзятость восприятия. Он описывал его следующим образом: «Ложные представления, которые уже завладели человеческим разумом, настолько поглощают умы людей, что затрудняют восприятие истины...» . Существует также психологический феномен, о котором говорил Фрэнсис Бэкон, известный как предвзятость восприятия. Он описывал его следующим образом: «Ложные представления, которые уже завладели человеческим разумом, настолько поглощают умы людей, что затрудняют восприятие истины...» . Дж. Ф. Купер обличал «грубость американской прессы», «нравственную ложь», «искажение истины, смешение правды и лжи в информации». Нельзя не упомянуть издателя и журналиста Джозефа Пулитцера, излюбленными приёмами которого были драматизация новостей, использование шокирующих заголовков . Известный соперник Пулитцера, Уильям Рэндольф Херст, мастерски использовал психологию широкой аудитории. Он полагал, что основными чувствами, которые движут массами, являются инстинкт самосохранения, любовь и тщеславие: «Материалы, содержащие хотя бы один из этих элементов, хороши. Если присутствуют два элемента, они становятся лучше. А если все три, то это уже первоклассный информационный продукт» . Ярким примером бесчеловечного отношения к аудитории и влияния СМИ на массовое сознание является случай с радиопостановкой «Войны миров» Г. Уэллса в 1938 году. Режиссёр Джордж Орсон Уэллс представил спектакль в формате прямого репортажа о вторжении инопланетян, что вызвало массовую панику в Америке. Эта истерия возникла не столько из-за самой радиопередачи, сколько благодаря воздействию средств массовой информации. В ходе ретроспективного анализа мы выявили, что случаи распространения ложной информации наблюдаются на протяжении всей истории.
С развитием Интернета скорость, с которой фейковые новости распространяются, достигла угрожающих масштабов. Для привлечения внимания к вымышленным фактам в сети активно используются кликбейты, дипфейки, кибербуллинг, онлайн-мошенничество и другие подобные методы. Большая часть информации в Интернете не только не имеет ценности, но и может причинить вред пользователям. При этом вероятность распространения фейковых новостей значительно выше, чем у достоверной информации. Феномен фейков также проявляется в их быстром распространении. Виртуальное пространство становится особенно важным, так как оно может удовлетворить потребности каждого человека . Однако существует множество примеров из судебной практики, когда подобные утверждения разрушали жизни тех, кто попался на крючок громких и ложных заголовков различных материалов, или стал жертвой фотомонтажа, видеомонтажа, преследований или обмана в интернете. На наш взгляд, общество не готово к переходу от традиционного информационного пространства, где действуют устоявшиеся механизмы проверки достоверности, к безграничным социальным медиа.
Обычные пользователи не стремятся искать правдивую информацию, а наоборот, склонны распространять фейки, поскольку они больше соответствуют их восприятию реальности. Индустрия фейков насчитывает миллионы читателей, каждый из которых фактически становится журналистом. Поэтому борьба с дезинформацией становится крайне сложной, превращаясь в противостояние с самими потребителями информации, которые выступают в роли распространителей ложных сведений. На борьбу с фейковыми новостями уходит много ресурсов и усилий. Значимость информации и её динамика развития стали основой для формирования движения за информационную грамотность, в которое активно вовлекаются библиотеки. Создание информационного иммунитета к фейкам – это задача библиотечных специалистов, прежде всего библиографов. Российский библиограф О.П. Коршунов выделил три основные функции библиографии: поисковую, коммуникативную и оценочную .
В данной работе мы сосредоточимся на двух последних. В условиях борьбы с дезинформацией оценочная функция становится особенно важной. Современные библиографы стремятся обучить пользователей эффективно ориентироваться в разнообразии информации, критически её оценивать и анализировать, проверять источники, а также развивать навыки информационной грамотности и безопасности. Ключевым аспектом такой грамотности является критическое мышление. Миссия библиотек заключается в просвещении и популяризации его значимости. Библиотеки действуют в соответствии с «Перечнем информационных ресурсов, регулярно распространяющих недостоверную информацию», который размещён на сайте Федеральной службы по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор) . Научный руководитель Библиотеки Российской академии наук В.П. Леонов подчеркивает, что библиография может и должна играть важную роль в борьбе с дезинформацией. В её распоряжении находятся как традиционные, проверенные временем методы анализа и синтеза документов, так и современные подходы, характерные для современных медиатехнологий .
Библиографическая деятельность фокусируется на проверке достоверности информации. Библиограф управляет и координирует информационные потоки, проводит своевременную проверку материалов, анализирует данные, выявляет репутационные риски интернет-ресурсов и оценивает надежность и правдивость контента. Мы уверены, что развитие информационной экологии является профессиональной обязанностью библиографа . Обучение методам информационного поиска и использованию поисковых стратегий с применением различных наборов ключевых слов также имеет значительное значение. Фейковые новости в первую очередь касаются тех пользователей, которые обращают внимание лишь на первые строки результатов поиска. Умение правильно формулировать поисковые запросы – это важный навык для нахождения актуальной информации в сети. Библиограф должен уметь анализировать текст, находя гармонию между фактами и их эмоциональным восприятием. В материалах фейковой информации часто используются экспрессивно-выразительные языковые средства, такие, как метафора, эпитет, гипербола и др. Соотношение нормирования на тематическом, содержательном, лексическом и синтаксическом уровнях даёт оценить достоверность информации при помощи анализа элементов поликодового текста: цитат, внешних ссылок, иллюстраций и пр.
В ключе потребности общества в обеспечении информационной безопасности граждан следует обратить внимание на новые технологии. GPT – нейронная сеть, языковая модель, работающая на основе архитектуры трансформер – способности на основе анализа предыдущих языковых элементов генерировать следующие . На момент написания настоящей статьи старшим из разработанных и находящихся в открытом пользовании поколением GPT является четвертое. Пятое поколение на данный момент находится на стадии разработки и бета-тестирований. Как отмечается в различных источниках, технология GPT-5 будет содержать широкий функционал, к которому можно отнести умение общаться с пользователями на узкоспециализированные темы (например, медицина, юриспруденция), создавать прогнозы, способствовать быстрому обнаружению киберугроз и реагированию на них, предлагая надежную защиту конфиденциальных данных от хакеров и злоумышленников . Таким образом, указанная технология оказала бы библиотекам существенную помощь в борьбе с фейками. Обученная на проверенных текстах, модель GPT-5 могла бы применяться в библиотечном деле при выявлении фейковой информации. Кроме того, данная технология могла бы осуществлять помощь пользователям в поиске узкоспециализированной информации, например, информации о медицинских диагнозах . Применение такого подхода – есть значительный вклад в снижении влияния недостоверной информации на общество и отдельных людей.
При этом, мы считаем, что при предоставлении нейронной сетью пользователям узкоспециализированной информации, важно выносить предупреждение о важности решения вопросов с помощью специалистов. Такой политики придерживалась и компания «Яндекс» при создании нейросети GPT-3 «Балабоба». Кроме предупреждения о возрастном ограничении (18+), перед началом работы пользователь ознакамливается с призывом компании помнить об отсутствии у нейронной сети сознания и осмысленности высказываний. Верным решением будет создание неких Школ или Центров информационной безопасности в библиотеках, которые будут базироваться на искусственном интеллекте, чтобы помочь человеку, независимо от возраста, стать критичным и ответственным потребителем информации.
Отдельно затронем вопрос лингвистического анализа текста нейронной сетью. Наиважнейшее прикладное значение имеет именно судебно-лингвистический анализ текста, то есть, анализ поступившего на экспертизу текста с целью извлечения из него важной для следствия информации. При анализе эксперт-лингвист, используя свои специальные лингвистические знания, отвечает на поставленные перед ним вопросы, которые могут касаться наличия в тексте негативной информации в форме мнения, утверждения или оценки, наличия побудительных к противоправным действиям высказываний, речевой провокации, речевой угрозы, признаков разжигания вражды, оскорбительных высказываний и др. Лингвистическая экспертиза проводится с опорой на методические рекомендации, разнообразные словари, научную литературу, Национальный корпус русского языка, справочные материалы, научные статьи и прочие библиотечные ресурсы. В настоящее время такой анализ проводится экспертами государственных органов и частных организаций вручную, с использованием, разве что, только электронных словарей. На наш взгляд, данный процесс можно оптимизировать с помощью нейронной сети GPT-5. Используя нейронную сеть указанного поколения, с помощью библиотечных ресурсов эксперт сможет быстро и просто находить достоверную информацию, что не только оптимизирует производство экспертиз и повысит их качество и объективность, но и сделает лингвистические экспертизы, а значит и правосудие более доступным большему количеству граждан ввиду удешевления стоимости такого анализа.
4. Обсуждение
Использование нейросети GPT-4 для реализации коммуникативной функции библиотек открывает широкие перспективы для модернизации взаимодействия с читателями. Можно рассмотреть этот аспект подробнее.
— Коммуникация через GPT-4
GPT-4, будучи мощным инструментом обработки естественного языка, способна вести диалог с пользователями на самые разные темы. Она может отвечать на вопросы, давать рекомендации, обсуждать произведения литературы и многое другое. Это делает её идеальным помощником для библиотекарей, позволяя им автоматизировать часть своей работы и сделать процесс общения с читателями более удобным и интерактивным.
— Интерактивность и обсуждение произведений
Одним из ключевых преимуществ использования GPT-4 в библиотеках является возможность создания интерактивного опыта для читателей. После прочтения книги пользователь может обратиться к нейросети с вопросами или комментариями, обсудить сюжет, персонажей, стилистические особенности текста. GPT-4 может предоставить литературный анализ, дополнительную информацию об авторе или даже порекомендовать другие произведения, связанные с темой обсуждения.
— Персонализированные рекомендации
Нейросеть способна учитывать интересы, возраст, образование, настроение и другие параметры пользователя, чтобы предлагать ему наиболее подходящие книги. Это позволит библиотекам индивидуализировать свои услуги, делая их более привлекательными для разных категорий читателей. Например, если читатель интересуется классической литературой, GPT-4 может предложить ему список книг, соответствующих его вкусам, а также предоставить краткий обзор каждой из них.
— Оптимизация работы библиотек
Автоматизация некоторых задач с помощью GPT-4 поможет библиотекарям сосредоточиться на более важных и творческих аспектах своей работы. Нейросеть может взять на себя рутинные задачи, такие как поиск информации, предоставление справок и рекомендаций, что освободит время для более глубокого взаимодействия с читателями.
— Повышение интереса к чтению
Интеграция современных технологий в работу библиотек может привлечь новую аудиторию, особенно молодое поколение, которое привыкло к интерактивному взаимодействию с цифровыми устройствами. Возможность обсудить прочитанное произведение с умной системой, получить персонализированные рекомендации и участвовать в онлайн-дискуссиях сделает посещение библиотеки более привлекательным и интересным занятием.
Таким образом, использование нейросети GPT-4 для выполнения коммуникативной функции библиотек представляет собой инновационный шаг в развитии этой сферы. Такая технология не только облегчит работу библиотекарей, но и повысит уровень обслуживания читателей, сделав библиотеки более современными и доступными для широкой аудитории.
В качестве завершения можно прийти к итогам рассмотрения вопроса исполнения библиотеками коммуникативной функции при помощи нейронной сети GPT-4. GPT-4 представляет собой чат или же с пользователем на различные темы. Пользователь задает нейронной сети вопросы и получает на них развернутые ответы, тем самым участвуя в коммуникации. На наш взгляд, нейронная сеть указанного поколения будет полезной при осуществлении библиотеками коммуникативной функции, то есть, функции передачи информации, доведения сведений до адресата. Работу нейронной сети можно представить в виде интерактива, когда пользователь, прочитав то или иное произведение, может обсудить его с GPT-4: задать вопросы по произведению, поделиться эмоциями, прочитать литературный анализ, получить дополнительные знания об авторе. Также на основе интересов, возраста, образования, настроения и др. нейронная сеть сможет предложить пользователю выбрать в библиотеке ту или иную книгу, а также узнать отзывы о ней. Такой подход оптимизирует работу библиотек, сделает их технологичнее, интереснее для читателей.
5. Заключение
Исходя из вышесказанного, можно прийти к следующим выводам:
1. Недостоверная информация часто становилась предметом спекуляции на протяжении всей истории жизни общества.
2. В настоящее время имеется острая социальная потребность в защите от недостоверной информации (фейков), которая преследует граждан на протяжении всей жизни.
3. Языковая модель GPT-5 может быть использована библиотеками при обеспечении функции защиты граждан от недостоверной информации.
4. Языковая модель GPT-4 может быть использована библиотеками при осуществлении ими коммуникативной функции.
Основными результатами исследования можно назвать:
Историческое значение проблемы недостоверной информации: Недостоверная информация была и остается постоянным вызовом для общества на протяжении всей его истории. Спекуляция на теме фейковых новостей и дезинформации существовала во все времена, однако современные информационно-коммуникационные технологии усилили эту проблему.
Актуальная социальная потребность: Сегодня существует острая социальная потребность в защите от недостоверной информации, которая сопровождает людей на всех этапах их жизни. Развитие цифровых технологий и интернета привело к тому, что фейки стали повсеместным явлением, требующим эффективного противодействия.
Роль языковых моделей в защите от фейков: Языковые модели, такие как GPT-5, могут использоваться библиотеками для обеспечения функции защиты граждан от недостоверной информации. Эти модели способны анализировать тексты, выявлять признаки фейков и предоставлять пользователям проверенную информацию.
Коммуникативная функция библиотек с использованием GPT-4: Языковая модель GPT-4 может применяться библиотеками для осуществления коммуникативной функции. Эта модель позволяет автоматизировать взаимодействие с читателями, предоставляя персонализированные рекомендации, обсуждая литературу и помогая находить нужную информацию.
Эти выводы подчеркивают важность внедрения современных технологий в деятельность библиотек для повышения их роли в обществе и улучшения качества предоставляемых услуг.