06 апреля 2024 года в рамках ХI Московского международного юридического форума «Формирование многополярного мира: вызовы и перспективы» в Университете имени О.Е. Кутафина (МГЮА) состоялся Круглый стол «Этические факторы трансформации права при цифровизации экономики России». Мероприятие организовано кафедрой предпринимательского и корпоративного права.
С приветственным словом к участникам стратегической сессии обратилась руководитель Круглого стола, профессор кафедры предпринимательского и корпоративного права, доктор юридических наук, профессор Ксения Беликова. Она подчеркнула, что из этики как учебной дисциплины мы можем заключить, как минимум, что этика сопровождается существенным снижением инвариантности регулирования и повышением влияния формализующих нормы этики общественных институтов, включая государство, тогда как право, будучи еще одним из видов регуляторов общественных отношений, представляет собой (в зависимости от типа правопонимания) систему социальных норм, основанных либо на механизмах государственного принуждения (напр., Г. Кельзен), либо на принципе формального равенства (напр., В.С. Нерсесянц) и проч. Есть мнения, что цифровизация привнесет в эти механизмы свои черты: цифровая этика принесет ослабление влияния национального фактора (напр., этический эксперимент-размышление, получивший название ‘Trolley Problem’); цифровое право будет основано на так называемых «сфероидах» (по аналогии со сфероидами в биопечати) права (машиночитаемого в основном), утилитарно предназначенные для практического решения того или иного правового вопроса; на пересечении этика и право в условиях цифровизации будут направлены на обеспечение безопасности и конфиденциальности персональных данных, защиту свободы слова и противодействия киберпреступности на основе новых законов и регуляторов, которые будут учитывать особенности цифровой среды; появится ряд вопросов, требующих насущного решения: универсальна ли рассматриваемая этика или относима лишь к отдельным технологиям, развиваемым сейчас на благо экономики, - ведь есть сквозные технологии, например, технология искусственного интеллекта; насколько сильно различия в этике – российской, англо-саксонской, арабской и др. – повлияют на подходы права при цифровизации экономики?
Дискуссию открыл фундаментальный доклад руководителя Организационного управления Ассоциации юристов России (Москва) Алана Лазарова, который осветил этико-правовые аспекты внедрения и использования современных информационных технологий, подчеркнув текущую тенденцию к деглобализации с усилением суверенизации Российской Федерации во всех сферах (экономической, социальной и др.), выделив три силы – государство, общество (народ), бизнес, – действующие в любой политической системе, перейдя к оценке системы рейтингования и акцентировав ряд этических проблем – будет ли нарушено право на частную жизнь (правда ли, что «Жить за стеклом неприятно первые пять минут» и др.), подчеркнул необходимость оценки ценности персональных данных и достижение консенсуса указанных трех акторов относительно этих вопросов; уделил внимание плюсам и минусам цифрового (информационного) кодекса; универсальности правового регулирования (на примере использования искусственного интеллекта при нотариальных действиях, в медицине, более простых действиях).
В фундаментальном докладе доктора юридических наук, проректора по стратегическому развитию, цифровой трансформации, воспитательной работе и молодежной политике, Российского государственного университета правосудия (Москва) Ульяны Филатовой были освещены и детально проанализированы основания переосмысления системы прав человека при цифровизации и цифровой трансформации общества и экономики. Были систематизированы риски и угрозы: 1) манипуляций с использованием алгоритмов искусственного интеллекта (ИИ) на основе анализа поведения пользователей в сети Интернет и больших данных для предоставления персонализированного контента, в т.ч. с учетом эмоционального состояния пользователей, создания у пользователей привычки или зависимостей, влияния на решения пользователей; 2) целеполагания ИИ, учитывая, что «Даже если конечные цели ИИ представляются невинными, промежуточные цели, необходимые для их достижения, могут нести в себе риски», 3) создания ИИ на основе оригинальных произведений контента, не имеющего маркировки «Сделано ИИ», и размывания тем самым ценности авторских работ, создания угрозы креативным профессиям и трансформации индустрии программного обеспечения (ПО) за счет способности генеративных алгоритмов создавать или модифицировать ПО; 4) появления т.н. «усиленных людей», которые смогут иметь несправедливое преимущество в образовании, работе или спорте, что подрывает честность и равенство возможностей, включая доступ к ИИ и социальную изоляцию таких людей.
В фундаментальном докладе доктора юридических наук, доцента, заведующей кафедрой гражданского и предпринимательского права Казанского инновационного университета имени В.Г. Тимирясова (Казань, Республика Татарстан) Альбины Пановой были детально рассмотрены smart-стандарты как инструменты цифровой трансформации экономики. Концепция умных SMART-стандартов отвечает на вопрос «Как должны выглядеть нормативные документы, чтобы не тормозить цифровизацию экономики, а подталкивать её?» и является способом автоматизировать выполнение и проверку нормативных требований, что необходимо для реального сектора экономики. Приняты 01.02.2024 ПНСТ 864-2023 Умные (SMART) стандарты. Общие положения, которых являются предварительными и предназначены для апробации в среде бизнес-сообщества, прежде всего, среди предприятий реального сектора. Эти стандарты приняты на ограниченный срок (3 года), их положения не могут изменяться, а в случае положительной апробации на их основе может быть принят национальный стандарт России. Впервые закрепляется понятие смарт-стандарта (как совокупности данных, содержащихся в документе по стандартизации для машинного понимания, интерпретирования, т.е. в специфическом формате), содержание (будет отражать три уровня цифровой зрелости: машиночитаемое, машиноинтерпретируемое, машинопонимаемое), информационная структура (информационные блоки, такие как атрибуты, сопутствующие данные и т.п.; информационные элементы – таблицы, формулы, графики 2 и 3D-моделирования и проч.) и среда его функционирования (специальная, информационная – по разработке, распространению и применению смарт-стандартов с помощью в т.ч. смарт-сервисов по работе с содержимым смарт-стандартов) с целью обеспечения: управления оборудованием, станками, их датчиками; проведения проверок соблюдения обязательных требований в отношении производства и товаров и моделирования новых видов продукции т.д., что будет способствовать трансформации права, от которого потребуется дать правовую оценку феномену смарт-стандарта, определить место смарт-стандарта в системе правовой и технико-правовой документации, содействовать при помощи правовых средств его эффективному внедрению.
Кандидат юридических наук, доцент Приволжского филиала РГУП (Нижний Новгород, Нижегородская область) Елена Малышева в своем докладе очертила новую методологию конструирования норм и исследований, новую систему источников права (отказ от отраслевого деления) и этические контуры техноправа, которое требует, по ее мнению, признания себя в качестве отдельного раздела нашей правовой системы, что, в свою очередь, требует методологии, например, возможно, в виде акторно-сетевой теории – направления, призванного сфокусировать внимание…исследования на производстве научных фактов и технологических артефактов, убирающее (со)отношение объекта и субъекта, поскольку основной объект исследования здесь – это действие (такой метод противоположен принятому сейчас системному, рассматривающему элементы системы) – и выхода на междисциплинарность, которую здесь никто не отрицает. Технологии в качестве родового понятия, как категория, требуют изменения законодательства: не части четвертой ГК, а статьи 128 ГК, что снимет вопрос правосубъектности искусственного интеллекта, например. Этические нормы должны быть четкие императивные – «нельзя»; в части 1 ГК должен быть пересмотрен предмет, принципы, юридические факты, источники и проч.; многоэлементность объекта правоотношения, теория правоотношения сейчас могут стать опять полезны, по мнению докладчика.
В докладе кандидата юридических наук, доцента кафедры гражданско-правовых дисциплин Университета прокуратуры РФ (Москва) Натальи Макарчук были представлены социально-этические аспекты государственного регулирования цифровой экономики, обозначен вопрос, насколько этично говорить о возможности внедрения цифровых технологий в систему государственного регулирования (цифровые технологии там уже есть, в т.ч. на уровне регионов, например, государственный надзор и контроль, лицензирование, федеральная программа о господдержке субъектов малого бизнеса и др.), что удобно бизнесу (ускорение и др.); проанализировано дело, находящееся на рассмотрении ФАС РФ, в сфере госзакупок (система внесла участника закупок в систему недобросовестных поставщиков, в результате чего он не может подать жалобу в системе и должен обращаться в суд для защиты своих прав); приведены некоторые негативные последствия внедрения систем, принимающих решения в автоматизированном режиме: представлен пример, когда система не лицензирована и может привести к многочисленным ошибкам, что влечет необходимость защищать права бизнеса с помощью возможности бизнеса не подвергаться административным решениям, принимаемым с использованием таких систем и автоматизированному принятию решений таких систем.
Ряд аспектов трансформации правовых регуляторов при цифровизации экономики Китая был освещен в докладе кандидата юридических наук, координатора международных образовательных программ и обмена специалистами Российско-Китайской палаты Нелли Бевеликовой. Китай имеет 1 млрд 092 млн интернет-пользователей, 30 тыс. станций 5G, 40% мирового рынка электронной торговли принадлежит Китаю, действует Great Firewall, страна продолжает быть закрытой для иностранцев, Китай исходит не из фундаментальной теории, а из практики, поэтому эффективность экономико-правовых регуляторов очень высока, все находится в динамике, конечно, есть стратегии, партийные директивы, законы, подзаконное регулирование, но то, что сейчас мы обсуждаем можно назвать «меняющиеся требования к праву», – какими правовыми регуляторами пользуются в Китае, чтобы реализовать политические задачи, и будут ли эти механизмы эффективны? Здесь важность приобретают механизмы разрешения споров, включая интернет-суды (это Пекин, Шанхай, Ханьчжоу – штаб-квартира Alibaba др.). С позиции прогнозов будущее – это машиночитаемое право (законодательство в электронной форме) - для регулирования технологий ИИ; цифровые библиотеки – для разработки смарт-контрактов, которые потребуют развития различных языков программирования, для чего потребуются особые образовательные навыки юристов (понимание программного кода, ситуаций, возникающих в процессе автоматизированного исполнения права); усиление интеграционных проектов с участием Китая (например, «Один пояс один путь», цифровой Шелковый путь, включая формирование большого правового пространства).
Различные аспекты влияния технологии дипфейк на развитие гражданского права обозначены в докладе кандидата юридических наук, доцента кафедры интеллектуальных прав Университета имени О.Е. Кутафина (МГЮА) (Москва) Александры Ёрш. Было отмечено, что «В основе дипфейка лежит нейросеть, которая детально изучает лицо человека либо его голос, а затем подставляет к исходному файлу другое лицо или голос, с максимальной реалистичностью «оживляя» человека и заставляя его говорить и делать то, что он не делал и не говорил.»; приведена статистика по дипфейкам. А.В. Ёрш рассказала о правовых способах борьбы с дипфейками, практикуемых в зарубежных странах: обязательная маркировка; уголовная ответственность создателя (порно)дипфейка; обязанность платформ и сервисов, которые подпадают под действие законодательства о безопасности в интернете, удалять спорные материалы и др., докладчик представила цивилистический аспект дипфейка с позиции доводов за и против рассмотрения дипфейков в качестве производного либо неохраноспособного произведения.
Следующим спикером – кандидатом юридических наук, адвокатом Рафаэлем Мартинсом Диасом (Федеративная Республика Бразилия) – был проведен анализ такой непростой грани работы алгоритмов искусственного интеллекта, как их непрозрачность на примере скандала на онлайн-платформе для игры в шахматы Chess.com и поднятия проблемы нечестной игры вообще и в шахматной партии между игроками Карлсеном и Ниманном в частности. Суть скандала состояла в том, что возникло подозрение в нечестной игре в примерно 100 партиях на Chess.com, после чего ведущий игрок Ниманн был на Chess.com заблокирован. Была проведена проверка на предмет нечестной игры, по итогу которой был представлен некий отчет, после чего данный игрок был на онлайн-платформе восстановлен. Однако вопросы пользователей (например, алгоритм не эффективен? приняли нечестного игрока обратно? и т.п.) остались, что ставит эти вопросы также и перед юристами и практиками.
Кандидат юридических наук, доцент кафедры предпринимательского и корпоративного права Университета имени О.Е. Кутафина (МГЮА) (Москва) Ольга Короткова затронула в своем докладе вопрос этики и безопасности искусственного интеллекта в условиях цифровизации экономики РФ, подчеркнув, что переход к цифровой экономике открывает перед бизнесом, обществом и государством новые возможности для развития, однако вместе с тем накладывает определенные обязательства по обеспечению: этичного взаимодействия с ИИ; гарантированию безопасного применения ИИ, поскольку последний пока не может рассматриваться законодателем как субъект права. Вместе с тем имеющееся на уровне нормативной документации описание ИИ уже намечает контуры для обсуждения множества этических проблематик, в частности, вопросов, касающихся ответственности: кто будет принимать на себя ответственность за действия или результаты деятельности, которые в своей эффективности не уступают, а порой и превосходят, результаты деятельности, осуществляемые человеком? Одновременно докладчик подметила присутствие в научном дискурсе наряду с понятием ИИ понятия «интеллектуальные технические системы» (ИТС), которое, по ее мнению, более адекватно отражает технологическую суть ИИ.
Актуальному вопросу междисциплинарности в образовании современных специалистов на примере межвузовских мероприятий для студентов юридического, инженерного и экономического профиля в контексте формирования этико-правовых норм и универсальных компетенций XXI века, был посвящен доклад кандидата педагогических наук, доцента, доцента Московского государственного юридического университета имени О.Е. Кутафина (МГЮА)», Московского государственного технического университета им. Н.Э. Баумана (национальный исследовательский университет)» Татьяны Емельяновой.
В фундаментальном докладе доктора юридических наук, профессора Сибирского университета потребительской кооперации (Новосибирская область) Екатерины Кудряшовой были освещены вопросы финансово-цифровой грамотности и ее значение для развития права. Докладчик отметила утверждающийся в последнее время в праве социокультурный подход, учитывающий как то, как нормы права воздействуют на общественные отношения, так и уровень развития общества и индивида и уровень принятия общества в создаваемую законодателем правовую среду, в русле которого находится и вопрос финансово-цифровой грамотности, важный для полноценного участия в правоотношениях. Само понятие непростое, оно обсуждалось на уровне отдельных стран, и со временем на международном уровне с позиции противоборства двух подходов – более широкого – всеобщей грамотности и более узкого – функциональной грамотности. Второй подход победил и получил определение на уровне ЮНЕСКО с акцентом на минимум навыков и распространение внутри «своей общины» – той, в которой индивид функционирует и живет. Названное понятие дифференцировалось за счет появления правовой, экономической, информационной, финансовой (финансово-цифровой) и др. грамотности (ФЦГ). Повышение интереса к ФЦГ в нашей стране связано с появлением цифрового рубля, которое повлекло появление упоминаний о ФЦГ и в актах ЦБ РФ., более глубокое осознание важности этого вопроса пришло в 2021 г. с поднятием вопроса на уровень национальных целей. Опрос населения 2022 г. показал, что только 14% РФ намерено пользоваться цифровым рублем, 36% населения возможно будут им пользоваться, 22% не будут и т.д., т.к. многие аспекты этой технологии не ясны специалистам. Будет ли введение цифрового рубля жестким? Насколько этична всеобщая финансовая цифровизация? Эти и другие вопросы очерчивают контур также и будущих этико-правовых исследований поставленного вопроса. Здесь требуется, вероятно, переходный период, больший, чем до 2025 г., так как имеющиеся исследования демонстрируют, что в том случае, если пользователи цифровых финансовых услуг не в состоянии в полной мере пользоваться такими услугами, финансовая система сначала приходит к деградации, а потом в упадок.
Главный специалист ПАО «Уралкалий», аспирант кафедры предпринимательского и корпоративного права, Университет имени О.Е. Кутафина (МГЮА) Святослав Богусевич продолжил важную тему пределов автоматизации и этики принятия юридически значимых решений в контексте защиты основных прав и свобод граждан на примере решения Конституционного совета Франции (Décision n° 2018-765 DC du 12/08/2018).
Заместитель руководителя, ООО «Бюро юридических решений» (Московская область), аспирант кафедры предпринимательского и корпоративного права, Университет имени О.Е. Кутафина (МГЮА) (Москва) Сергей Поеров в своем докладе акцентировал внимание на философском аспекте этики и права при цифровизации в контексте реалий современности. Он отметил, что надлежащее регулирование и контроль процесса цифровизации способны обеспечить возможность максимального снижения ее отрицательного воздействия.
Управляющий партнер юридической фирмы VK Partners, адвокат, преподаватель ВШЭ, аспирант кафедры предпринимательского и корпоративного права Университета имени О.Е. Кутафина (МГЮА) Вадим Конюшкевич рассказал о таком явлении в экономике России как big data, акцентировав вопросы развития законодательства (на примере Проекта Федерального закона № 571124-7 (внесен 23.10.2018) и др.), практики его применения (напр., Постановление СИП от 24.07.2018 по делу № А40-18827/2017 по делу Вконтакте vs Дабл, Постановление 9ААС от 23.05.2016 по делу № А40-14902/16 (МГТС vs Роскомнадзор), этики (пределы обработки Big Data?) и правовых барьеров. Докладчик отметил такое конституционное право, как тайна связи, коснулся вопроса персональных данных, цифровых следов и цифровых теней и др.
Аспирант кафедры предпринимательского и корпоративного права, Университет имени О.Е. Кутафина (МГЮА) Диана Согоян затронула в своем выступлении вопрос цифровизации института несостоятельности (банкротства) в правовом и моральной-этическом контексте на примере цифровизации проведения и работы собраний и комитетов кредиторов, оптимизации реализации имущества должника и появления новых сервисов и платформ, которые оптимизируют работу арбитражных управляющих.
Аспирант кафедры предпринимательского и корпоративного права Университета имени О.Е. Кутафина (МГЮА) Дмитрий Фарков коснулся этических и правовых вопросов цифрового моделирования в строительстве, указав на важность предъявления требований к морально-нравственным качествам субъектов соответствующей деятельности, обозначив как неэтичное поведение разработчиков и продавцов ПО, уходящих с российского рынка под влиянием антироссийских западных санкций.
С заключительным словом о важности учета этических факторов при цифровизации экономики России выступила модератор секции Ксения Беликова. Спикер еще раз обратила внимание на объективность происходящей цифровизации. Подводя итоги мероприятия, организатор поблагодарила докладчиков и слушателей за плодотворную работу, подчеркнули важность формирования стратегии дальнейшего развития правового регулирования и доктринального развития цифровизации экономики России.
