Key issues in cognitive systems' theory

Развитие информационных технологий, достигнутое в последнее десятилетие, выявило возможность формирования в среднесрочной перспективе новой цивилизации – цивилизации когнитивных технологий. Эта цивилизация представляет собой очередную эволюционную форму организации общества, при которой замещение людей машинами происходит не только в хозяйственной деятельности, связанной с физическим трудом или (что наблюдалось с 1940-х годов до настоящего времени) решением неинтеллектуальных (главным образом вычислительных) задач управления, но и в интеллектуальном управлении машинами

Когнитивные системы будут играть ключевую роль в цивилизации когнитивных технологий. Это делает приоритетной задачу создания теории когнитивных систем, в рамках которой могут быть получены ответы на ряд ключевых вопросов, определяющих будущее цивилизации.

По мнению авторов, определяющими для формирования концептуальных основ теории когнитивных систем являются следующие вопросы:

Во-первых, вопрос о содержании и связи понятий сознания, самосознания и субъектности. В настоящее время имеет место неопределенность в формулировках этих понятий, их смешение и неверная интерпретация.

Во-вторых, вопрос о различии естественной и искусственной когнитивных систем, в частности, человеческого и искусственного интеллекта.

В-третьих, вопрос об уровнях когнитивных систем в зависимости от обладания рассудком, разумом и способности к творчеству

В-четвертых, вопрос о специфике реализации когнитивных систем, которая уже наглядно проявляется в сложных информационно-вычислительных системах

2.1. Сознание, самосознание и субъектность

Расширение представлений о когнитивных системах предполагает формирование новой интерпретации ключевых понятий, связанных с мышлением, таким образом, чтобы выйти за пределы исключительно естественных (живых) когнитивных систем, и описывать когнитивные системы любой природы. К числу ключевых понятий, связанных с мышлением, через которые определяются все прочие понятия, относятся сознание, самосознание и субъектность.

Великие философы прошлого в процессе осмысления содержания этих понятий отталкивались от мыслительной деятельности человека, обладающего одновременно сознанием, самосознанием и субъектностью. В следствие этого у Гегеля, например, происходит отожествление сознания с самосознанием и субъектностью: «Как душа дух имеет форму абстрактной всеобщности; как сознание – форму обособления; как для себя сущий дух — форму единичности … душа, посредством отрицания своей телесности, поднимается уже до чистого идеального тождества с собой, становится сознанием, становится «я»»

И. Кант не дает прямого определения понятия «сознание». Вместо него он использует понятия рассудок, апперцепция и мышление. Возможной интерпретацией, следующей из анализа «Критики чистого разума», является квалификация сознания как субъекта, в котором находится многообразие в созерцании и происходит мышление

Для представления требуемой расширенной интерпретации понятия сознания наилучшим образом подходит информационная концепция сознания. Наиболее общим определением сознания в рамках данной концепции, по мнению авторов, «…является его представление как информационной среды, в которой реализуется расширенная модель реальности. Расширенная модель реальности коррелируется с реальным миром, но не является его отражением: наряду с искажениями реальности, обусловленными неизбежным расхождением знаний о бытии и самого бытия, модель реальности «расширена» объектами, которых нет в реальном мире. Информационная среда – система, образованная из информационных объектов, представляющих собой отражения (фиксированные или обновляемые) свойств реальных объектов. Информационные объекты сами не могут быть источником процессов в информационной среде. Для этого требуется изменение свойств реальных объектов, которые отражаются в виде информационных объектов»

Из предлагаемого определения сознания следует его распространенность и доступность. Для обладания сознанием не требуется способность к решению сложных интеллектуальных задач, не обязательно быть живым или даже автономным. Любая система, в которой формируется и поддерживается информационная среда, протекают процессы преобразования информации (условно можно назвать это мышлением), имеется сознание (в предлагаемой нами интерпретации). Таким сознанием обладает человек, все животные, растения (в зачаточном состоянии, соответствующем крайне низкой интенсивности процессов преобразования информации), вычислительные машины.

Более сложным в рамках информационной концепции сознания является определение самосознания. Самосознание – это осознание самого себя, отделение себя от других. В части осознания самого себя самосознание реализуется как единство информационных объектов, формирующих сознание. Это единство проявляется в виде их взаимосвязи: изменения одних информационных объектов влекут за собой изменения других. Отделение себя от других реализуется в виде локализации носителя сознания (человека, животного, вычислительной машины) в многомерном пространстве состояний исходных реальных объектов. Эта локализация обеспечивается посредством задействования обратных связей. Те исходные реальные объекты, информационные отражения которых демонстрируют связанное поведение в процессе целенаправленных изменений, относятся к «Я», прочие – к «не-Я». При такой идентификации возможны некоторые неточности, возникающие, например, у водителя, ощущающего машину частью себя (т.е. частью носителя сознания).

Наличие самосознания согласно предлагаемому определению, как и наличие сознания, не является чем-то уникальным, доступным только человеку. Самосознанием обладают все животные (это необходимое условие выживания: невозможно выжить, не обладая способностью отделять себя от других). Также самосознанием могут быть наделены вычислительные машины, даже сравнительно несложные. Например, способностью локализовать своего носителя обладает система автоматической парковки автомобиля – она способна отличать свой автомобиль от других автомобилей и пешеходов, определять и целенаправленно изменять свое положение относительно них.

Для формирования самосознания необходимо наличие сознания, однако каких-либо количественных требований к сознанию, в котором формируется самосознание, нет. Суперкомпьютер, обладающий огромной вычислительной мощностью, может не иметь самосознания, а система автоматической парковки автомобиля или автопилот самолета – имеет.

Сравнение живых и неживых систем по вычислительной мощности затруднительно ввиду существенно различающихся механизмов мышления. Допустимым (хотя и не вполне точным) является сравнение искусственных и естественных нейронных сетей по числу нейронов. У мыши в мозге 71 млн. нейронов, у крысы – 200 млн., у макаки – 6,4 млрд., у человека – 86 млрд. нейронов

Наличие сознания и самосознания не означает наличия субъектности. При этом, однако, для формирования субъектности наличие сознания и самосознания являются необходимыми условиями, точнее для возникновения самосознания необходимо сознание, а наличие самосознание является условием формирования субъектности. Субъектность, по мнению авторов, следует понимать как способность быть субъектом активности, в том числе в отношении объектов познания. Такое понимание субъектности приближает ее к самости – способности субъекта выйти из-под власти внешних причин и создать воспроизводящийся порядок жизни, детерминируемый изнутри

В предыдущей работе

Почему субъект становится инициатором активности (изменений, детерминирующих локализацию)? Потому что у него есть желания. Желания, в свою очередь, обуславливаются потребностями, причем не потребностями, констатируемыми извне («автомобилю нужен бензин», «компьютеру нужно электричество» и т.д.), а осознаваемыми потребностями, порождающими желания и побуждающими к активности.

Наличие субъектности является необходимым для животных. Все животные являются инициаторами собственной активности, движимой желаниями и направленной на удовлетворение потребностей. Поэтому и муравей, и комар, и мышь, и человек – все обладают субъектностью. Искусственно созданные когнитивные системы субъектностью не обладают: их формирование и последующее существование инициируются не ими, а их создателем – человеком. Это, однако, не означает, что искусственные когнитивные системы невозможно наделить субъектностью. Другой вопрос: следует ли это делать? Есть ли в этом необходимость и какие риски это может создать?

Может возникнуть обоснованный вопрос относительно целесообразности предлагаемой корректировки интерпретаций понятий сознания, самосознания и субъектности, значительно их расширяющей и предполагающей повсеместную их распространенность для различных естественных и искусственных систем. Попытаемся ответить на этот вопрос.

Формирование и определение понятий для реализации познавательной деятельности обычно ограничено некоторой «средней» степенью обобщения. Понятия, относящиеся к одному или крайне ограниченной группе явлений или объектов, малопродуктивны для познания. Столь же малопродуктивны понятия, относящиеся ко всем или очень большому разнообразию явлений или объектов. Понятия сознания, самосознания и субъектности в своей используемой до последнего времени интерпретации, следующей из их отожествления исключительно с человеческим мышлением, оказываются слишком узкими, что обуславливает их низкую продуктивность для познания, в том числе познания процессов преобразования информации в когнитивных системах любой природы. Предлагаемая интерпретация данных понятий (в рамках информационной концепции сознания) существенно их расширяет, не делая их при этом применимыми ко всем системам. Получаемая степень общности, по мнению авторов, соответствует продуктивному познанию когнитивных систем поскольку оставляет пространство для конъюнктивного многопараметрического анализа таких систем, предполагающего рассмотрение составного профиля каждой единицы анализа. Если используемые для познания понятия достаточно общие, то область познания, доступная описанию посредством этих понятий, представляющая собой их конъюнкцию, оказывается не нулевой и не слишком малой.

2.2. Естественные и искусственные когнитивные системы

Для определения путей развития искусственных когнитивных систем необходимо выявить их отличия от естественных, определить значимость этих отличий, а также перспективы (возможности или опасности) их преодоления.

Говоря о естественных когнитивных системах, мы имеем в виду разум (или рассудок) человека и животных, а говоря об искусственных когнитивных системах – искусственный интеллект, реализуемый техническими средствами (в виде обычной вычислительной машины или искусственной нейронной сети), поэтому одним из возможных ракурсов рассмотрения вопроса о различии естественных и искусственных когнитивных систем является сравнение исходя из того, является система живой (человек и животные) или неживой (вычислительные машины и искусственные нейронные сети).

Необходимым, но недостаточным отличием живых систем от неживых являются реализуемые механизмы обеспечения устойчивости: для неживых систем это в основном механизмы устойчивого равновесия, а для живых – механизмы устойчивого неравновесия

Различие систем с устойчивым равновесием от систем с устойчивым неравновесием заключается в том, что является содержанием системы: элементы и структуры (случай устойчивого равновесия) или процессы (случай устойчивого неравновесия). В последнем случае, условием поддержания процесса является перманентное наличие в системе неравновесия (разности параметров), активирующей этот процесс.

Проведенные исследования

Как можно видеть, разделение живого и неживого по реализуемым механизмам устойчивости не является однозначным. На основе одного только данного критерия разделить живое и неживое невозможно. Фильтр эволюционного характера формирования системы также не является достаточном для отделения естественных систем от искусственных. Более того, по мере развития искусственных когнитивных систем, характер их формирования будут становиться все более эволюционным (т.е. внешнее влияние человека-создателя будет сокращаться), а формируемые системы будут приобретать черты автономности и многоуровневой устойчивости, присущей естественно эволюционирующим живым системам.

Итак, принципиальных структурных или организационных различий между искусственными и естественными системами (в том числе когнитивными) нет. Подобно тому, как невозможно провести четкую границу между физическими и химическими системами, химическими и биологическим, биологическими и социальными и т.д., также невозможно однозначно выявить границу между живым и неживым, эволюционным и искусственно созданным.

Это, однако не значит, что мы не можем формально отделить живые системы от неживых: живые системы – системы, сформировавшиеся в процессе биологической эволюции, или надсистемы, образованные из таких систем. Однако, такое формальное разделение ничего не объясняет и никак не расширяет наши знания.

2.3. Характеристика мышления

Для построения градации когнитивных систем по уровню мыслительных способностей необходимо однозначно определить ключевые понятия, используемые для характеристики мышления.

Мышление в рамках информационной концепции сознания определяется как процесс реализации (построения и функционального использования) расширенной информационной модели реальности, имеющий одной из основных своих задач познание реального мира. Процессы в информационной среде, соответствующие мышлению, являются отражением реальных процессов, происходящих в носителе сознания (например, человеческом мозге или человеке в целом).

Мыслительные процессы происходят в сознании, которое условно можно разделить на несколько основных областей: разум, созерцание и накопленные знания.

Созерцание – область, включающая в себя рождающиеся и исчезающие информационные объекты в информационной среде, соответствующие изменениям реальности, транслируемым через носителя сознания, отражающимся, но не фиксируемым в информационной среде.

Накопленные знания существуют в информационной среде как постоянные или обновляемые информационные объекты, в совокупности формирующие «постоянную память».

Разум – область сознания, определяющая способность к мышлению, в том числе творческому. Частью разума является рассудок – часть сознания, определяющая способность к систематизации и использованию существующего знания. Иногда из всей области, соответствующей разуму, выделяют ум, включающий в себе из общего объема информационных объектов только формализованные, служащие для решения интеллектуальных задач, в том числе творческих. Ум характеризуется уровнем интеллекта и его способностью к решению творческих задач. Интеллект, в свою очередь, может быть креативным (способным к решению творческих задач) или тривиальным (неспособным к решению творческих задач, ограниченный возможностями рассудка).

Следует заметить, что предложенные нами определения в значительной степени являются внешними, оценочными и не детерминируют содержания различий рассудочного от разумного или креативного от тривиального.

Если исходить из предположения об иррациональной природе творчества и, соответственно, невозможности детерминировать механизмы интуиции, прозрения и т.д., то желаемая детерминация содержания различий рассудочного от разумного (креативного от тривиального) невозможна. Мы констатируем, что эти различия существуют. При этом никого пути их преодоления нет и не может быть.

Иначе выглядит ситуация если исходить из рациональности механизмов творчества. По мнению авторов, творчество – процесс, качественно не отличающийся от любой другой мыслительной деятельности, в том числе рассудочной. При этом инструментарий творческого мышления отличается определенной спецификой, которая требует использования специальных методов. Эти методы соответствуют логике общей теории систем, построенной вокруг принципа изоморфизма и целостности представления мироздания.

Применительно к творчеству в научной деятельности Л. Фон Берталанфи писал: «…сходные и даже тождественные по своей структуре рассуждения применяются к явлениям самых различных видов и уровней – от сетей химических реакций в клетке до популяций животных, от электротехники до социальных наук… во многих случаях имеется формальное соответствие, или изоморфизм, общих принципов и даже специальных законов. Одно и то же математическое описание может применяться к самым различным явлениям... общая теория систем, помимо всего прочего, облегчает также научные открытия: ряд принципов может быть перенесен из одной области в другую без необходимости дублирования работы, как это часто происходило в науке прошлого»

В процессе творчества человек задействует заложенный от природы механизм мультисистемной интеграции

Творчество предполагает рождение нового материального или интеллектуального объекта. То, каким будет этот объект, определяется знанием, заимствованным из реального мира. Рождаемый объект создается подобным тому, что уже есть в мире (по форме, законам, структуре), при этом степень и характер подобия могут быть различными: от идентичности до общности логики построения. Ничего качественно нового, не соответствующего существующим паттернам форм и законов, в совокупности определяющих изоморфизм мироздания, не может появиться. Если же в каком-либо отдельном случае это наблюдается, значит обнаружен новый паттерн, для которого в дальнейшем будут найдены другие примеры реализации.

2.4. Специфика реализации искусственных когнитивных систем 

Основной областью практического применения искусственных когнитивных систем является интеллектуальное управление машинами для производства материальных благ. Такие искусственные когнитивные системы представляют собой системы управления, относящиеся к управлению движением (например, интеллектуальное управление рабочим органом станка, робота-манипулятора, управление движущимся техническим средством и т.д.), управлению преобразованием энергии (например, управление тепловыми, атомными, гидроэлектростанциями и т.д.) или управлению обработкой информации (управление серверами, базами данных, облачными хранилищами и т.д.).

Проблематика создания искусственных когнитивных систем управления складывается из нескольких основных составляющих.

Во-первых, такие системы, подобно живым, осуществляют управление в реальном времени. Воздействие со стороны системы управления на объект управления осуществляется дискретно, через малые временные интервалы, длительность которых зависит от интенсивности изменений объекта управления и требуемой точности управления. Временной интервал (обычно имеющий постоянную продолжительность) определяет цикл управления, за который должен быть выполнен необходимый комплекс операций управления. Для того, чтобы «успеть» выполнить все операции, их по возможности следует выполнять параллельно, что реализуется только при условии их высокой автономности и адаптивном характере согласования последовательности выполнения операций и их распределении по потокам исполнения исходя из имеющихся у системы вычислительных ресурсов.

Математическое и программное представление таких распределенных систем, состоящих из квазиавтономных элементов, успешно реализуется на основе акторной модели

Во-вторых, значимым фактором, влияющим на функциональность искусственных когнитивных систем управления, является выбор программной или аппаратной их реализации

До недавнего времени, выбор программной реализации предполагался по умолчанию. Интеллектуальные системы управления строятся на базе искусственных нейронных сетей, которые квалифицируются обычно не как физические объекты (технические устройства, аппаратные средства), а как математическая модель, рассматриваемая независимо от ее физической реализации. Такая нейронная сеть может формироваться как виртуальный объект, генерируемый в процессе работы компьютера (как обычного, так и использующего нейроморфные или квантовые процессоры).

Главным недостатком программной реализации является сложность обеспечения работы в реальном времени. При использовании обычного компьютера создание сколько-нибудь сложной интеллектуальной системы реального времени невозможно, при использовании нейроморфных процессоров возможности создания таких систем расширяются, однако значительные функциональные ограничения остаются. Что касается использования квантовых компьютеров, то их практическое освоение – задача, неактуальная в краткосрочной, а, возможно, и в среднесрочной перспективе.

Аппаратная реализация искусственных когнитивных систем управления имеет несколько основных вариантов: на базе сигнального, нейросигнального, систолического процессора, процессора с каскадной архитектурой, на базе аналоговых СБИС (сверхбольших интегральных схем) и на базе программируемых пользователем вентильных матриц (ПЛИС)

В-третьих, значимым фактором, влияющим на функциональность искусственных когнитивных систем управления, является характер обеспечения их устойчивости. Как мы уже констатировали, для динамических эволюционирующих систем (в том числе живых) характерным является обеспечение устойчивости в виде устойчивого неравновесия. Искусственные когнитивные системы, служащие для управления в реальном времени сложными объектами (станками, роботами, транспортными средствами, цифровыми предприятиями и т.д.), могут быть корректно описаны только посредством формирующих их процессов, а не статических взаимосвязанных элементов. А это означает, что искусственные когнитивные системы обеспечивают свое существование на основе устойчивого неравновесия. Более того, именно такой характер устойчивости создает условия для синергетики искусственных когнитивных систем. Исследования Г. Хакена выявили возможность синергетической интерпретации когнитивной деятельности

Реализация синергетики искусственных когнитивных систем возможна как при программной, так и при аппаратной ее реализации, как при симуляционной, так и при инструментальной реализации акторов. Однако условие функционирования искусственной когнитивной системы в реальном времени делает варианты реализации неравноценными. Действительные децентрализация системы, параллельность выполнения операций управления (в той мере, в которой это не противоречит логическим связям между операциями) возможны только в случае аппаратной реализации системы и инструментальной реализации акторов (элементов-функций, ответственных за выполнение операций управления). Программная реализация всегда будет лишь имитацией, иногда весьма полезной (например, цифровые двойники предприятий), но несопоставимой по сложности (числу элементов и связей) с системой, в которой каждый актор коррелируется с реальным физическим объектом или процессом.

В-четвертых, ключевым фактором, определяющим функциональность искусственных когнитивных систем управления, является формализация универсальной методологии творчества, доступной для использования искусственными когнитивными системами. Она должна базироваться на логике общей теории систем, построенной вокруг принципа изоморфизма и целостности представления мироздания. Важной составляющей такой методологии будет инструментарий мультисистемной интеграции для искусственных когнитивных систем. В настоящее время теоретические основы для такой методологии создаются. В частности, методы машинного обучения нейронных сетей являются одним из элементов начальной стадии формирования указанных теоретических основ. По мнению авторов, перспективной концепцией, которая может быть положена в основу целостного представления мироздания, складывающегося в результате задействования искусственной когнитивной системой мультисистемной интеграции, являются нейронные схемы

Резюмируем проведенное в статье исследование:

1. В настоящее время общество находится на стадии перехода к новой форме своей организации – цивилизации когнитивных технологий, основой которых является использование когнитивных систем. Это актуализирует задачу построения теории когнитивных систем.

2. К числу важнейших вопросов теории когнитивных систем относится определение понятий сознание, самосознание и субъектность. Необходимое определение может быть дано в рамках информационной концепция сознания, существенно дополненной и расширенной авторами. Согласно авторским представлениям, при локализации сознания в пространстве состояний носителя сознания оно приобретает свойство самосознания, частным случаем которого (в случае, когда инициатором изменений, детерминирующих локализацию, является носитель сознания) является самосознание, наделенное субъектностью.

3. По мнению авторов, между естественными и искусственными когнитивными системами нет принципиальных структурных или организационных различий: ни основанных на разделении по механизмам обеспечения устойчивости (устойчивое равновесие / устойчивое неравновесие), ни на разделении эволюционный / не эволюционный. Развитие сложных искусственных когнитивных систем предполагает использование механизмов устойчивого неравновесия и эволюционного формирования таких систем. При этом искусственные когнитивные системы могут, но не должны быть наделены субъектностью.

4. Обладание искусственной когнитивной системы разумом, т.е. способностью решать не только тривиальные задачи (доступные рассудку), но и творческие, не требует ее подобия естественной когнитивной системе (человеческому разуму), в том числе, наличия субъектности. Если исходить из предполагаемой авторами рациональности творчества, то лежащие в его основе механизмы не должны качественно отличаться от механизмов решения вычислительных или логических задач. Проведенные авторами исследования показывают, что различаются лишь используемые методы решения задач, которые для творческих задач должны опираться на представление о целостности мироздания, проявлявшейся в виде изоморфизма, формализуемое посредством общей теории систем.

5. Реализация искусственных когнитивных систем отличается от прочих вычислительных систем выраженной спецификой, обусловленной применение таких систем для интеллектуального управления машинами в реальном времени, требующего параллельности выполнения операций, децентрализации и автономности формирующих такие системы элементов. Также для искусственных когнитивных систем управления необходимо формирование алгоритмов и средств технической реализации механизмов мультисистемой интеграции во множество надсистем, реализуемое с использованием методов машинного обучения и предлагаемого авторами инструментария в виде нейронных схем.

Авторский вклад в формирование теории когнитивных систем заключается: в универсальном определении базовых понятий сознания, самосознания и субъектности, а также характеристики механизмов мышления (включая мультисистемную интеграцию знаний и фиксацию связей посредством нейронных схем), не привязанных к человеческому сознанию; в констатации отсутствия принципиальных структурных или организационных различий между естественными и искусственными когнитивными системами, а значит, возможности построения достоверной теории когнитивных систем; в переосмыслении в рамках представлений о детерминированном мироздании механизмов творчества и уровнях мощности (силы) искусственного интеллекта; в определении специфики технической реализации искусственных когнитивных систем как сложных информационно-вычислительных систем реального времени, определяемой основной областью их применения – в качестве систем интеллектуального управления различными машинами (техническими средствами).