"Social Scoring" as a Factor in Violation of the Right to Privacy
"Social Scoring" as a Factor in Violation of the Right to Privacy
Abstract
The article examines the phenomenon of social scoring – the process of monitoring, evaluation and prediction of the behaviour of subjects of law on the basis of their social characteristics. Its correlation with scoring used in the financial sphere (credit, insurance) is analysed. The conclusion is made that social scoring poses a threat to the violation of the right to privacy. Principles on which the legal regulation of social scoring should be based have been formulated. In particular, the regulation of social scoring should be based on the principles of technological neutrality, informing citizens about the use of social scoring technologies, providing citizens with information about the mechanism of its operation, the possibility to challenge the evaluation results.
1. Введение
Развитие цифровых технологий открывает созидательные возможности для реализации одних прав личности и создает новые способы нарушения других . Так, ускоренное развитие цифровых технологий порождает проблемы охраны частной жизни граждан Российской Федерации , в то время как обеспечение этого права является одним из национальных интересов, предусмотренных Доктриной информационной безопасности Российской Федерации.
В свете этого вызывает опасение распространение технологий автоматизированного мониторинга поведения и ранжирования субъектов права по определенным социально значимым признакам. В научной литературе и публицистике данное явление именуется «скоринг».
2. Основные результаты
Данный термин произошел от английского слова «scoring», которое буквально означает «подсчет очков» и используется при характеристике применения балльно-рейтинговой оценки для принятия того или иного решения. Первые скоринговые системы для оценки платежеспособности, добросовестности контрагентов появились в 40-е гг. прошлого века в США (тогда баллы выставлялись на основе небольшого количества характеристик клиента путем заполнения им анкеты) .
В настоящее время данная методика распространена в банковском деле при принятии решения о предоставлении кредита заемщику: автоматизированная система учитывает такие факторы, как возраст, пол, семейное положение, уровень образования, размер ежемесячного дохода, наличие движимого и недвижимого имущества, кредитную историю заемщика и ряд других факторов . В качестве дополнительного инструмента банки прибегают и к анализу доступных открытых источников, среди которых профили клиентов в социальных сетях . Для скоринга банки нередко используют фотографии, активность в Интернете, содержание СМС, геолокацию , то есть данные, относящиеся к частной жизни человека. Неслучайно неправомерные запросы, сделанные банками и иными кредитными организациями в Бюро кредитных историй, суды квалифицируют как нарушение права на охрану частной жизни лица .
По словам представителей банковского сектора, преимуществами использования данной технологии является снижение издержек и времени обработки заявок, снижение случаев мошенничества, исключение «коррупционных» факторов .
В настоящее время проведение скоринга предусмотрено некоторыми нормативными правовыми актами. Преимущественно они направлены на урегулирование отношений в банковской сфере. На законодательном уровне данная процедура упомянута в федеральном законе «О кредитных историях». Он предусматривает, что в основной части кредитной истории может содержаться кредитная оценка (скоринг) субъекта кредитной истории, рассчитанная на основании оценочных методик, утвержденных соответствующим бюро кредитных историй. Данный акт также дает право бюро кредитных историй на разработку методик расчета кредитных оценок.
Термин «скоринг» используется и в подзаконных актах. В частности, в Концепции развития государственной информационной системы промышленности (утверждена постановлением Правительства РФ) под скорингом понимается система оценки кредитоспособности физического или юридического лица.
В региональном законодательстве данный термин также нашел отражение. К примеру, среди услуг, оказываемых Региональным центром поддержки предпринимательства Владимирской области, названо консультирование по результатам проведения расширенной оценки (скоринга) количественных и качественных показателей деятельности субъекта малого и среднего предпринимательства .
Таким образом, в настоящее время термин «скоринг» используется в законодательстве, регулирующим банковскую сферу и деятельность некоторых иных коммерческих организаций. Представляется, что такое понимание весьма ограниченно. Известно, что в настоящее время множество компаний и государственных органов широко применяют автоматизированное профилирование, то есть систематический и целенаправленный процесс сбора, фиксации и классификации всех возможных данных о гражданах. На основании полученных данных производится оценка личности и ранжирование граждан по определенным критериям. Отнесение к той или иной группе позволяет им иметь определенные преимущества или возможности . Иными словами, применение скоринга не ограничивается финансовой сферой.
В связи с этим целесообразно разграничивать «кредитный скоринг», предусматривающий оценку платежеспособности заемщика, и «социальный скоринг», подразумевающий мониторинг и прогнозирование поведения на основе социальных характеристик гражданина . Иными словами, «социальный скоринг» (называемый в некоторых источниках «репутационным») и кредитный скоринг отличаются критериями, параметрами и целями оценки индивида .
Таким образом, «социальный скоринг» и «кредитный скоринг» могут соотноситься как общее и частное, при этом кредитный скоринг на сегодняшний день является более урегулированным, чем социальный, явлением.
Необходимость правового регулирования данного явления объясняется тем, что результаты мониторинга поведения граждан могут быть использованы в как в положительных целях, так и в негативных, включающих дискриминацию. Кроме того, использование систем социального скоринга может повлечь нарушение права на неприкосновенность частной жизни, поскольку личная информация о гражданине становится «датафицированной» без осознанного согласия субъекта .
Система «репутационного» скоринга на государственном уровне реализована в Китайской Народной Республике. Механизм основан на том, что система собирает онлайн-данные для оценки добросовестности граждан и предприятий и соответственно вознаграждает или наказывает их. Информация о жизни граждан дает возможность составить их психологический и морально-этический портрет. Таким образом, каждому присваивается рейтинг «социального доверия» на основании данных о его социальном поведении. Обладатели высокого рейтинга получат социальные и экономические льготы, обладатели низкого могут подвергнуться ограничениям. По своей сути система социального рейтинга (кредита) подразумевает прямую взаимосвязь поощрений за одобряемые действия объекта оценивания и санкций – за отрицательные. Такая модель общественной организации характеризуется как «демократический социализм с китайской спецификой, конструируемый без гражданского общества» .
В некотором смысле аналогичное категорирование проявляется в цифровых экосистемах (например, при использовании меток для «подтверждённых» аккаунтов в социальных сетях, определении рейтингов в мобильных приложениях-агрегаторах такси и пр.). Эти инициативы ни технически, ни содержательно не связаны с китайской моделью. Тем не менее они имеют нечто общее с системой социального скоринга, поскольку дают понять лицам, принимающим решения, что один человек заслуживает большего доверия, чем другой.
Опасность системы социального скоринга во многом связана с непрозрачностью данной системы. Неясно, какие факторы влияют на балл оцениваемого лица, и поэтому те, у кого низкий балл, могут столкнуться с ограничениями, не зная причин. В результате определенные формы контроля могут оказать реальное влияние на жизнь людей из-за сложившихся в них «предрассудков», а также ошибок системы.
Кроме того, с точки зрения охраны права на частную жизнь важно, что источниками информации для социального скоринга является персональная информация, по смыслу действующего регулирования относящаяся к сфере частной жизни. Индивиды оцениваются по социальным характеристикам, в результате чего человек относится к той или иной категории . Данное обстоятельство позволяет некоторым экспертам сделать вывод об опасности использования скоринга с точки зрения нарушения конфиденциальности частной жизни . Исходя из этого, следует согласиться с тем, что граждане должны иметь возможность ясно понимать, какие данные могут быть использованы в социальном скоринге, какие данные могут рассматриваться как общедоступные, каким образом ограничить доступ к информации .
3. Заключение
Таким образом, поскольку в настоящее время данные о гражданах, в том числе относящиеся к сфере их частной жизни, собираются в беспрецедентных масштабах, требования к прозрачности, подотчетности функционирования данных систем должны стать магистральными и в целях определенности правового регулирования их следует закрепить в нормативных правовых актах, регулирующих данную сферу. Регламентация социального скоринга должна базироваться на принципах технологической нейтральности, информирования граждан об использовании технологий социального скоринга, ознакомления граждан с информацией о механизме его работы, возможности оспаривания результатов оценки. Также целесообразно определить те источники информации о частной жизни лица, которые не могут быть использованы для оценки его поведения.