Право машин. Как привлечь робота к ответственности
Кто в ответе за аварию беспилотного автомобиля Tesla и за гибель в ней человека? Как квалифицировать отношения людей с участием машин и отношения машин без участия человека? Где границы реального и виртуального миров? Вытеснят ли роботы людей с рынков труда? Наверняка вы задавали себе эти вопросы.
Идея сотворения живого из неживого имеет древнюю историю. Полярность мнений на тему прав роботов и их места в мире людей содержит разные подтексты: от амбиций человека на роль Создателя до его природного страха перед лицом реального конкурента. В рассказе писателя-фантаста Айзека Азимова «Я-робот» (1950) в философском споре с человеком робот заявил, что Создание не может превзойти своего Создателя. По этой причине робот как создание, которое во всем превосходит человека, отказался признавать его своим Создателем. В условиях ускоряющегося технологического прогресса мысль, что человек — высшая ценность, приобретает для человеческой цивилизации значение охранной грамоты, которое сложно переоценить.
Законы для роботов
Никола Тесла предсказывал, что в ХХI веке автоматы займут место, которое рабский труд занимал в древней цивилизации, и тогда человечество освободится для реализации своих высших чаяний. Сегодня роботы и искусственный интеллект — объективная реальность и предмет научных дискуссий во всем мире.
Что почитать:
• Резолюция Европарламента от 16.02.2017 на основе рекомендаций для Европейской комиссии относительно норм гражданского права о робототехнике (2015/2013 (INL);
• Незнамов А. В., Наумов В. Б. Вопросы развития законодательства о робототехнике в России и в мире // Юридические исследования. — 2017. — № 8. — С. 14–25;
• Предварительный отчет Европейского парламента от 31.05.2016 № 2015/2103 (INL) на основе рекомендаций Комиссии по гражданско-правовым правилам по робототехнике.
Ряд стран (США, Европейский союз, Россия) предпринимают попытки нормативно-правового регулирования робототехники. Пока такие попытки ограничиваются либо регулированием узких сфер (беспилотный транспорт, медицина, доставка товаров), либо разработкой правовых концепций и общих подходов. В рамках некоторых из них роботов наделяют особым статусом электронной личности или робота-агента, которые предполагают определенный набор прав, обязанностей, оснований ответственности.
В основе этого то, что в ХХI веке роботы — это не только механические помощники человека, которые освободили его от тяжелого физического труда. Благодаря способности принимать решения и внедрять их независимо от внешнего влияния и контроля, роботы перестают быть простыми инструментами в руках человека. Интеллект, автономность и самообучаемость современных роботов ставят вопрос: нужно ли относить их к индивидуальным лицам, юридическим лицам, животным или предметам или нужно создать новую категорию?
Разработка «права машин» должна проходить в рамках тесного междисциплинарного взаимодействия юристов и специалистов самых разных областей знаний: IT-технологий, техники, математики, кибернетики, психологии, нейрофизиологии, социологии, философии, биологии и прочих наук. Только таким образом будет возможно создать жизнеспособную систему правовых норм, которая должна оградить человечество от непредсказуемых последствий развития искусственного интеллекта, но в то же время способствовать научно-техническому прогрессу.
В США есть общественные организации, которые приравнивают человеческий и искусственный разум и выступают за защиту прав последнего. Любое разумное существо, даже созданное искусственно, имеет право на существование, независимость, общение, получение знаний и защиту. Эти права следуют из факта создания и существования искусственного разума, а не возникают по воле его создателя (roboting.ru). Такие подходы создают опасную почву для межвидовой конкуренции между человеком и искусственным интеллектом. В биологическом мире такая конкуренция приводит к угнетению вида среди популяций, имеющих сходные биологические потребности (закон конкурентного исключения, советский микробиолог Г. Ф. Гаузе). В контексте уравнивания прав машины и человека этот закон мог бы звучать так: два разных вида не могут существовать в одном местообитании, если их «правовые потребности» идентичны.
По прогнозам футуролога Рэймонда Курцвейла, законы, которые регулируют отношения людей и роботов, появятся в США и в Европе в 2022 году (inforesist.org). Какими будут законы завтра, юристы решают сегодня.
Концепция «Умный робот»
Главное в статье СкрытьЮридическое определение «умный робот» — первая задача, с которой сталкиваются эксперты при разработке понятийного аппарата. Стоит отметить, что в сфере технического регулирования понятие «разумный робот» широко применяется. В 2012 году Международная организация по стандартизации (International Organization for Standardization, ISO) утвердила международный стандарт ИСО 8373:2012 «Роботы и роботизированные устройства. Термины и определения» (ISO 8373:2012 «Robots and robotic devices. Vocabulary»).
Робот —
приводной механизм, имеющий некоторую степень автономности, движущийся внутри своей рабочей среды и выполняющий задачи по предназначению (п. 2.2 ГОСТ Р ИСО 8373–2014 «Роботы и робототехнические устройства. Термины и определения»).
В России действует аналогичный стандарт — ГОСТ Р ИСО 8373–2014 «Роботы и робототехнические устройства. Термины и определения» (утв. приказом Федерального агентства по техническому регулированию и метрологии от 26.11.2014 № 1863-ст). В стандарте «разумный робот» или «робот с элементами искусственного интеллекта» (п. 2.28) определяется как робот, который выполняет работу путем считывания данных из окружающей среды, взаимодействия с внешними источниками и адаптации своего поведения. В объективной реальности именно эти функции делают робота похожим на разумное существо, что, в свою очередь, ставит вопросы о его правовой природе и квалификации отношений с его участием.
Никола Тесла еще в позапрошлом веке писал, что для разумного поведения автомата требуется «элемент, соответствующий мозгу, который бы управлял всеми его движениями и функциями, побуждал бы его действовать в любом непредвиденном случае, который может представиться, со знанием, разумом, суждением и опытом». Сегодня таким элементом является программная начинка робота — совокупность технических и программных средств (база знаний, решатель задач и интеллектуальный интерфейс), которые являются признаком интеллектуальности системы.
Из этого следуют два важных вывода. Во-первых, основной фокус внимания права в сфере регулирования робототехники необходимо направить на программную составляющую умного робота, то есть на сферу программирования. Во-вторых, предметом правового регулирования должны стать отношения с участием умных машин, функционал или сбои в работе которых могут быть опасными для людей, угрожать общественным и государственным интересам.
В связи с этим под умными роботами следует понимать интеллектуальные системы, умные программы и иные аналогичные категории, которые составляют программный интеллект робота, способный самостоятельно принимать решения и выбирать модель своего поведения. Физическая оболочка робота факультативна и может определять особенности правового регулирования среды (сферы), в которой он функционирует (например, правила о движении беспилотного автотранспорта по выделенным дорогам, ограничения по грузоподъемности летательных аппаратов-курьеров и т. д.).
Ученые расходятся во мнениях о перспективах создания в ближайшем будущем искусственного интеллекта, который будет равен человеческому. Но уже сегодня существуют программы, которые способны частично воспроизводить интеллектуальную деятельность человека. В их числе системы распознавания речи и текстов; проверки грамматики; переводчики; поисковые системы в сети Интернет. Сначала программы научились складывать числа, затем — бесконечные числа. В 1997 году компьютер Deep Blue победил в шахматах Гарри Каспарова, а в марте 2016 года программа AlphaGo победила в игре го Ли Седоля.
В узкофункциональных задачах программы давно превзошли человека. За миллисекунды они обрабатывают колоссальные объемы информации, которую человеческий мозг обработать не в состоянии. Но мозг человека — это «биологический компьютер», у которого другие задачи. Его главная забота — выживание человеческого вида и конкретного человека.
Что читать:
• Э. Ньюберг, Ю. Д. Аквили, В. Рауз «Тайна Бога и наука о мозге. Нейробиология веры и религиозного опыта»;
• Архипов В. В., Наумов В. Б. «О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности» («Закон», 2017, № 5).
И в этом, по мнению американского нейробиолога, профессора в области религиоведения Эндрю Ньюберга, принципиальное отличие «мозга» робота от мозга человека. Человеческий мозг способен собрать «миллиарды битов разрозненных данных в единое, динамичное и устойчивое представление о „мире“, в котором может целенаправленно и безопасно передвигаться отдельный организм».
Мозг робота не способен так гибко следить за изменениями реального мира и адаптироваться под них. Даже минимальные изменения в окружающей действительности для робота тотальны — для него появляется совершенно незнакомая реальность, с которой каждый раз надо учиться обращаться заново. В таком контексте самообучаемость робота можно определить как способность переносить опыт «старого» мира в мир «новый», что позволит его реальности плавно перетекать из одного момента в другой.
Когда это случится, к роботу придет сила. Поэтому вопрос о юридической природе умных роботов (субъект, объект правоотношений, иное) из философских переходит в категорию первостепенных вопросов государственной значимости. При этом рассматривать его следует исключительно с позиции человека как высшей ценности (принцип гуманизма, ст. 2 Конституции РФ). Это должно быть отправной точкой любой концепции при создании «права машин». Главное в статье Скрыть
Концепция «Робот-субъект»
Из истории мы знаем примеры, когда человек не признавался субъектом права. В рабовладельческих обществах рабы рассматривались как вещь. Некое подобие правоспособности и дееспособности признавалось за рабами, когда это было необходимо в интересах их хозяев. Для таких целей создавались юридические фикции. Например, раб рассматривался как приобретательный орган или как орудие, которое обладает даром речи.
ASPCR —
Американское общество за предотвращение жестокости по отношению к роботам (American Society for the Prevention of Cruelty to Robots), основано в 1999 году.
Известны и обратные конструкции, когда субъектом права является не человек, а юридическая сущность — юридическое лицо. Ряд авторов предлагают использовать теорию юридической фикции, которая заложена в основу статуса юридических лиц, для обоснования частичной правосубъектности роботов.
Со времен Древнего Рима юридические лица действительно стали привычным участником общественных отношений. Их правовой статус не оспаривается. Как объединение людей, капитала, трудовых ресурсов юридическое лицо прошло долгий путь эволюции, обусловленный историческими, экономическими, политическими предпосылками на определенном этапе развития человеческого общества.
Правосубъектность юридического лица по своему содержанию соответствует целям и задачам деятельности юридического лица, которые чрезвычайно разнообразны. На первый взгляд, в этом контексте аналогия правосубъектности юридического лица и робота видится возможной.
Специальная правосубъектность робота могла бы определяться его предназначением, сферой применения и возможностями программно-технического функционала. Иными словами, появилась бы «функциональная» правосубъектность.
Очевидно, что для робота-беспилотника, робота-учителя и робота, заключающего сделки, она должна быть разной. Но для правового регулирования такой правосубъектности потребуется огромное количество правовых норм, определяющих правомочия и ответственность роботов в зависимости от их вида, функций и сфер. Это, вероятно, повлечет неоправданное «раздутие» права. Кроме того, применение аналогии с юридическими лицами потребует пересмотра фундаментальных правовых институтов, подходов и принципов, что особенно очевидно в контексте робота как самостоятельного ответчика.
Вред, который робот способен причинить, может быть как имущественным, так и физическим (личным). Если инструменты возмещения имущественного вреда возможно найти (например, закрепленный за роботом лицевой счет, страхование ответственности роботов), то вопрос об ответственности робота-субъекта за физический (личный) вред остается открытым.
В концепции юридического лица, ответственность которого по большей части имущественная, данный вопрос решается за счет административной или уголовной ответственности лиц, которые непосредственно виновны в причинении физического вреда (например, смерти людей в пассажирских перевозках).
Это позволяет восстановить социальную справедливость и предупредить нарушение закона. Признание робота самостоятельным имущественным ответчиком без комплексного правового регулирования ответственности за его действия выглядит как основание освобождения от ответственности виновных лиц. С точки зрения законности оно крайне спорно. Реализация такого подхода создаст почву для злоупотреблений и «подрыва» общественной безопасности.
В связи с этим обоснование правосубъектности для робота не должно строиться исключительно на гипотетической возможности частичной аналогии с другим субъектом права. Статус субъекта права должен базироваться на совокупности многих факторов и условий, таких как: объективная необходимость, экономическая целесообразность, последствия предоставления статуса, социальные настроения, техническая готовность, вопросы безопасности, сохранение духовных устоев, соблюдение основополагающих принципов права.
Наделение роботов правами даже в усеченном варианте лишено объективных предпосылок. Если при разработке нормативно-правового регулирования этого не учитывать, революции в праве не избежать. В свою очередь, это запустит процесс конкуренции между человеком и машиной, победителя в которой предсказать невозможно. Не слишком ли велика цена для правового эксперимента?
Робот — объект с элементами интеллекта
Основатель компаний SpaceX и Tesla Илон Маск назвал искусственный интеллект «самым большим риском, с которым мы (человечество) сталкиваемся как цивилизация» (журнал Fortune, июль 2017). Он призвал правительства вмешаться в ситуацию, сложившуюся в технологической отрасли.
Что читать:
• Nicola Tesla «A machine to End War», Liberty, 09.02.1935;
• «Проблема увеличения человеческой энергии», журнал The Century Illustrated Monthly Magazine, июнь 1890;
• «Толковый словарь по искусственному интеллекту» в ред. А. Н. Аверкина, М. Г. Гаазе-Раппопорта, Д. А. Поспелова, 1992.
Выбранные сегодня подходы правового регулирования в прямом смысле определят дальнейшую судьбу человечества. С этих позиций охранительная функция права приобретает ключевое значение. Наилучшим образом она реализуется в рамках концепции робота-объекта.
В текущем гражданско-правовом регулировании умный робот может выступать в нескольких статусах — как предмет товарооборота (вещь), объект авторских прав (программа), источник повышенной опасности (потенциально опасная вещь). Однако действующие нормы права не учитывают, что умный робот своими «целенаправленными» действиями способен создавать юридически значимые права и обязанности для других лиц. Также не регулируются связанные с этим последствия. Например, недействительность сделки, заключенной программой.
В рамках предлагаемой концепции действия умного робота считаются совершенными его владельцем/пользователем и в их интересах. За роботом всегда должно стоять лицо, которое способно быть реальным ответчиком в зависимости от вида и степени тяжести причиненного вреда. При этом владелец/пользователь робота несет риски такого владения и пользования в соответствии с правилами приобретения и эксплуатации робота.
Такие риски должны минимизироваться законодательными ограничениями по созданию и программированию роботов для неправомерных целей. Проблема возмещения вреда, включая личный, в результате сбоя в работе робота решается за счет разграничения ответственности разработчиков робота, программистов, продавцов, владельцев в зависимости от «точки сбоя».
Реализация данной концепции не потребует революции в праве. Нужна реформа. Изменения должны коснуться норм о возникновении прав и обязанностей, положений об обязательствах и сделках, возмещении вреда и прочих институтов.
Безусловно, поправок в Гражданский кодекс РФ будет недостаточно. Требуется разработка концепции специального законодательства о программировании умных роботов. В новом законодательстве необходимо определить правила создания, эксплуатации, особенности оборота умных роботов, а также основные принципы, методы и пределы правового регулирования.
Системный и глубокий предметный анализ и развитие дискуссии о том, какой правовой статус целесообразно придать роботам и киберфизическим системам, в целом являются сейчас одной из самых ярких и сложных задач, которые стоят перед международным юридическим сообществом. Исследование Руслана Ибрагимова и Елены Сурагиной профессионально и наглядно раскрывает тот вопрос, на который придется отвечать: разумный робот — это объект или субъект? Или, может быть, достаточно, используя исторический опыт развития юридической мысли, повторить путь регулирования юридических лиц или рабов?
Россия является одним из лидеров правовых исследований в данной сфере. Например, в декабре 2016 года были предложены подходы к гражданско-правовому регулированию отношений, представленные в законе о роботах. Данный закон инициировал IT-бизнесмен Дмитрий Гришин, который занимается развитием робототехники в мире. Еще один пример — деятельность в рамках программы «Цифровая экономика» тематической рабочей «Киберфизические системы» при Центре компетенции «Сколково». Среди прочих сообщество сейчас активно обсуждает идеи разработки концепции развития робототехники в стране и основ предметного законодательства, поскольку представляется, что потребуется специальное регулирование как создания и использования киберфизических систем, так и отдельных видов роботов, например на транспорте.
Помимо основополагающих теоретических вопросов потребуется определить приоритеты государственной политики отрасли и выработать механизмы государственного контроля. Несомненно, требуется глубокая междисциплинарная проработка проблематики и предложение моделей не только регулирования робототехники, но и разработка этических правил о создании роботов в соответствии с социально-экономическими потребностям человечества, государства и общества на современном этапе их развития и на ближайшее столетие.
В этом процессе особо следует подчеркнуть роль научного сообщества, которое лучше разбирается в природе и возможностях технологий будущего и имеет другую систему ценностей и представлений, что наряду с позицией юристов и бизнеса обязательно должно быть учтено при любых нормотворческих инициативах.
Закон конкурентного исключения