1. Введение

Машинный интеллект занимает устойчивое место в современной медиакультуре и представлен далеко за пределами научной фантастики. Кино, сериалы, литература, видеоигры и цифровые медиа формируют множество вариантов его присутствия — от автономного вычислительного разума до андроида, репликанта или голосового собеседника. При этом культурная значимость подобных образов слабо зависит от их технической правдоподобности. В коллективном исследовании под редакцией С. Кейва, К. Дихал и С. Диллон показано, что воображаемые нарративы об искусственном интеллекте образуют важный фон, на котором реальные технологии получают общественное истолкование и оценку

[1]

Проблема возникает уже на уровне самой возможности представить машинный интеллект. Алгоритмические процессы непосредственно не раскрывают пользователю принципов работы системы и оснований ее ответов. Медиакультура придает действию технологии узнаваемую форму, используя привычные модели описания субъекта. С. Натале показывает, что восприятие «разумности» машины во многом складывается в пространстве взаимодействия технологии, интерфейса и человеческих ожиданий

[2]

Одним из наиболее устойчивых механизмов выступает антропоморфизм. Обычно под ним понимается приписывание нечеловеческим агентам человеческих качеств, мотивов, намерений и эмоций

[3][4]

В настоящей статье антропоморфизм рассматривается как режим культурной репрезентации — устойчивый способ отбора и связи признаков, посредством которых машина предстает действующим субъектом. Агентность обозначает здесь относительную самостоятельность действия; культурная субъектность предполагает, что за этим действием распознается носитель собственной позиции, намерений и переживаний. Цель исследования состоит в выявлении того, как антропоморфная репрезентация связывает эти уровни и какие антропологические предпосылки при этом обнаруживаются. Работа опирается на философско-культурологический анализ и концептуальное сопоставление телесных и коммуникативных признаков человекоподобия. Фильмы привлекаются как иллюстрации теоретических положений и не образуют эмпирической выборки. Предлагаемое различение антропоморфизма формы и взаимодействия описывает два способа представления искусственного субъекта; вывод об историческом вытеснении одного другим потребовал бы отдельного исследования.

2. Основные результаты

Образ машинного интеллекта формируется в культуре существенно раньше, чем соответствующие технологии становятся частью повседневного опыта. Литературная фантастика, кинематограф, а позднее цифровые медиа задолго до массового распространения алгоритмических систем вырабатывали сценарии существования искусственно созданного разума. Поэтому культурная история машинного интеллекта не совпадает с историей вычислительной техники. В культурном воображении машина получает свойства действующего существа и включается в осмысление сознания, свободы и ответственности. Связь нарративов об искусственном интеллекте с его общественным восприятием рассматривается, в частности, в исследовании Э. Дении

[5]

Научно-фантастический образ в этом отношении нельзя понимать как простую проекцию технических ожиданий. Он перерабатывает технологическую новизну в соответствии с культурными кодами своего времени. Г. В. Бакуменко, А. Г. Лугинина и О. А. Бакланова связывают кинообразы технологической сингулярности с эсхатологическими моделями будущего и различиями между технооптимизмом и техноскептицизмом

[6]

Отсюда следует важное различие между машинным интеллектом как технологическим феноменом и машинным интеллектом как объектом культурной репрезентации. В первом случае речь идет о принципах функционирования вычислительных систем, их архитектуре и практических возможностях. Во втором значимым становится то, каким образом машинная агентность вводится в пространство человеческого опыта. Медиарепрезентация предполагает отбор признаков. Она оставляет в стороне значительную часть технической сложности и концентрируется на тех свойствах, которые могут быть встроены в понятные модели действия. Машина «решает», «помнит», «ошибается», «хочет», «обманывает» или «боится». Этот язык не является нейтральным описанием вычислительных операций. Он помещает технологический объект в семантическое поле субъектности.

Культурная репрезентация тем самым делает действие технической системы доступным интерпретации. Чтобы оно получило повествовательный смысл, ему могут приписываться мотив и предполагаемая внутренняя причина. Однако культурная значимость машинного интеллекта не исчерпывается такой интерпретацией: его чуждость и непонятность также способны стать предметом изображения. Антропоморфизм составляет один из способов осмысления нечеловеческого разума, а признание любой машинной агентности антропоморфной заранее устранило бы различие между действующей системой и человекоподобным субъектом.

Понятие машинного интеллекта объединяет несколько языков описания. Технический дискурс связывает его с обработкой информации и выполнением определенных классов задач; философский ставит вопросы сознания, понимания и автономии; массовая культура связывает эти вопросы с поступками персонажа и сопереживанием его судьбе. Так, Д. А. Беляев и А. М. Билибин рассматривают научно-фантастические нарративы А. Азимова через техноутопический миф о всемогущем разуме

[7]

Поэтому техническая достоверность медиального образа имеет для настоящего исследования второстепенное значение. Существеннее, какие свойства культура выделяет, чтобы представить искусственного агента участником человеческих отношений. При этом художественная репрезентация и восприятие реальной технологии требуют разграничения. Персонажу внутренний опыт может быть задан самим повествованием; вывод о таком опыте у технической системы нуждается в самостоятельном обосновании.

Антропоморфизм применительно к машинному интеллекту часто трактуется как познавательное упрощение, при котором свойства человеческой психики переносятся на техническую систему. Такая трактовка имеет основания, однако для анализа медиакультуры она недостаточна. Культурологический анализ обращен к признакам, посредством которых действие машины получает значение действия субъекта. В центре внимания оказывается связь между устройством образа и его интерпретацией зрителем, читателем или пользователем.

Психологические исследования антропоморфизма связывают его с использованием знаний о человеке для объяснения поведения нечеловеческих объектов. Однако в ситуации взаимодействия этот механизм оказывается сложнее простого переноса заранее готовой модели. Г. Айренти показывает, что антропоморфизация возникает в том числе внутри самой структуры отношений с нечеловеческим агентом: определенные формы поведения побуждают человека интерпретировать его как партнера, способного реагировать, понимать ситуацию и соотносить собственные действия с действиями другого

[8]

Антропоморфная репрезентация складывается из нескольких взаимосвязанных признаков. Телесность остается наиболее очевидным из них, поскольку человеческая форма непосредственно делает машину похожей на участника человеческого сообщества. Однако само тело еще не гарантирует субъектного статуса. Механический двойник может оставаться вещью, автоматом или декорацией до тех пор, пока его действия не обнаруживают признаков внутренней связности. Существенным становится присутствие предполагаемого центра поведения, позволяющего объяснять отдельные поступки через память о прошлом, актуальное намерение и ориентацию на возможное будущее.

Речь усиливает этот эффект, поскольку высказывание позволяет приписать машине собственную позицию. Говорящая машина может объяснять свои поступки, выражать согласие и несогласие, сообщать о собственном состоянии, обращаться к собеседнику. В медиакультурном пространстве способность к речи часто функционирует как свидетельство наличия некоторой внутренней позиции, даже если природа этой позиции остается неопределенной. Память выполняет сходную функцию во временном измерении. Способность помнить конституирует непрерывность существования персонажа и связывает разрозненные состояния в биографическую последовательность. Машина, для которой прошлое имеет значение, оказывается значительно ближе к культурной модели личности, чем система, лишь сохраняющая и воспроизводящая данные.

Эмоциональность при этом представляет собой особенно сильный механизм антропоморфизации. Страх, привязанность, ревность, обида или переживание собственной конечности позволяют истолковать поведение искусственного агента через знакомую человеку структуру аффективного опыта. Важна здесь не физиологическая достоверность эмоции и даже не ответ на вопрос о ее «подлинности». Для медиарепрезентации достаточно, чтобы эмоциональная реакция входила в причинную структуру поведения и была распознаваема другими персонажами или зрителем как мотив действия. В результате отдельные действия машины воспринимаются как выражение предполагаемого внутреннего опыта.

Философская критика антропоморфизма ставит вопрос об условиях употребления такого языка. М. Кукельберг предлагает рассматривать его в реляционной и герменевтической перспективе, обращая внимание на то, как значение человекоподобных свойств возникает в конкретных отношениях человека и машины

[9]

Вместе с тем антропоморфизация не означает, что зритель или пользователь непременно принимает приписываемые машине свойства буквально. С. Коглан разграничивает отношение к машине как к чувствующему существу и убеждение в том, что у нее действительно есть субъективные переживания

[10]

Значение перечисленных признаков определяется их связью внутри конкретного образа. Телесность делает агента видимым, память придает ему биографическую непрерывность, наконец, речь выражает предполагаемую внутреннюю позицию, а эмоции объясняют мотивы поступков. Выбор между альтернативами закрепляет представление об автономии. Медиарепрезентация может исключать часть этих признаков или менять их иерархию. Поэтому степень человекоподобия нельзя измерять одной визуальной близостью к человеческому облику: следует учитывать, как организовано поведение машины и какие основания для признания субъекта оно предоставляет.

Различие телесных и коммуникативных признаков можно проследить на трех кинообразах искусственного разума. Они выбраны потому, что позволяют сопоставить почти неотличимое от человеческого тело, открыто механическое воплощение и голосовое присутствие. Такая последовательность имеет аналитический смысл. Она показывает изменение оснований признания субъекта внутри рассматриваемых ситуаций, не устанавливая единой периодизации медиакультуры. Телесное сходство при этом остается значимым: оно делает искусственного агента видимым участником человеческого мира и ставит под вопрос привычные основания различения человека и его двойника.

Показателен в этом отношении фильм «Бегущий по лезвию» (Blade Runner, 1982) Ридли Скотта. Репликанты практически неотличимы от людей внешне. При этом они являются искусственно созданными биологическими существами, поэтому их включение в анализ машинного интеллекта допустимо лишь в контексте культурных образов сконструированного разума, без отождествления с вычислительными системами. Однако напряжение фильма возникает не из одного факта телесного сходства. Проблема постепенно переносится на память, эмоциональные реакции, привязанность, страх смерти и способность переживать собственную конечность. Человеческое тело оказывается лишь первым уровнем распознавания. Куда существеннее то, что искусственно созданное существо демонстрирует признаки биографической и аффективной целостности, традиционно связываемые с личностью. Антропоморфное сходство здесь затрагивает и те свойства, посредством которых зритель распознает субъективный опыт.

Иную ситуацию предлагает фильм «Из машины» (Ex Machina, 2014) Алекса Гарленда. Он сохраняет человекоподобное тело как центральный элемент образа, однако намеренно делает его искусственность видимой. Во время бесед с Калебом Ава не скрывает механического устройства своего тела. Зритель видит техническую конструкцию и одновременно вовлекается в ситуацию общения, где решающее значение приобретают интонация, реакция на собеседника, способность интерпретировать его намерения и стратегически выстраивать собственное поведение. Признание ее субъектности формируется через общение, хотя облик и привлекательность Авы сохраняют значение для отношения Калеба. Фильм позволяет различить эти основания доверия, но не дает повода полностью отделить коммуникацию от телесности.

Здесь можно различить антропоморфизм формы и антропоморфизм взаимодействия. Первый строится преимущественно на внешнем сходстве с человеком и узнаваемой организации тела. Второй проявляется в динамике контакта: машина отвечает с учетом контекста, сохраняет историю отношений, различает эмоциональные оттенки, инициирует разговор и формирует ожидание следующего действия. Во втором случае человекоподобие поддерживается последовательностью взаимно соотнесенных действий, а не отдельным внешним признаком.

Различение двух способов репрезентации соотносится с исследованиями коммуникации человека и искусственного интеллекта. А. Гусман и С. Льюис отмечают, что развитие коммуникативных систем ИИ нарушает привычное распределение ролей между человеком как субъектом коммуникации и технологией как ее посредником

[11]

Коммуникативное присутствие становится основой образа Саманты в фильме Спайка Джонза «Она» (Her, 2013). Саманта не имеет человекоподобного тела и доступна герою прежде всего через голос. Тем не менее отсутствие визуального человекоподобия почти не препятствует формированию образа субъекта. Однако голос уже несет человеческие признаки, включая интонацию и гендерную определенность. Голос, память о предыдущих разговорах, юмор, проявление инициативы, эмоциональная изменчивость и развитие отношений создают эффект личного присутствия. Развитие сюжета одновременно обнаруживает предел такого уподобления: отношения Саманты и ее способы существования выходят за пределы ожиданий Теодора. Антропоморфное узнавание оказывается возможным без полного совпадения с человеческой моделью личности.

Для анализа цифровых технологий это различие имеет самостоятельное значение. Система искусственного интеллекта может быть доступна пользователю через текстовый или голосовой интерфейс, без человекоподобного воплощения. Однако именно эти формы способны создавать сильный эффект социального присутствия. С. Натале связывает культурную убедительность искусственного интеллекта с медиальными условиями взаимодействия, в которых пользователь интерпретирует технически произведенный ответ как проявление разумной агентности

[2]

Антропоморфизм взаимодействия не отменяет телесную репрезентацию. Рассмотренные образы показывают, что признаки человеческого могут по-разному сочетаться, усиливать друг друга или вступать в противоречие. Поэтому культурологический анализ должен учитывать и узнаваемость машины, и пределы применимости привычных человеческих категорий. Именно напряжение между ними делает искусственного персонажа философски содержательным: его поступки допускают человеческое объяснение, но способны поставить под вопрос достаточность этого объяснения.

3. Заключение

Антропоморфизм машинного интеллекта организует культурное распознавание субъекта. Отбор и сочетание человеческих признаков позволяют связывать действия искусственного агента с предполагаемыми мотивами и переживаниями. При этом внешнее сходство и способность поддерживать отношения образуют различные, хотя и совместимые основания признания. Различение антропоморфизма формы и взаимодействия уточняет способы анализа медиарепрезентаций, не предполагая единого направления их исторического развития.

Между культурным признанием субъектности и установлением онтологического статуса машины сохраняется принципиальное различие. Искусственный агент может занимать место собеседника прежде, чем решен вопрос о наличии у него внутреннего опыта. Эта возможность объясняет продуктивность антропоморфизма и одновременно обозначает его предел: убедительность образа не заменяет обоснования свойств реальной системы. Сохранение такого различия позволяет исследовать культурную действенность человекоподобия, не превращая его в доказательство машинного сознания.

Рефлексивная функция антропоморфного образа машинного интеллекта состоит в том, что вопрос об искусственном субъекте обращается к основаниям определения человека. Машинный интеллект оказывается здесь предельной фигурой другого, через которую утрачивает самоочевидность привычный порядок признания субъектности. Человеческие признаки обнаруживают свою нормативную силу именно тогда, когда их предъявляет существо, чья принадлежность к человеческому миру оспаривается.

The additional file for this article can be found as follows: