Мемуары о будущем

Дмитрий Беляев

Концепция первого в мире закона о робототехнике

Опубликовано: 17 декабря 2016 года


Рубрика: Дайджест




Основатель Grishin Robotics Дмитрий Гришин разработал концепцию закона о робототехнике.

Гришин рассказал, что с помощью юриста Виктора Наумова (управляющий партнер санкт-петербургского офиса Dentons и руководитель российской практики в области интеллектуальной собственности, IT и телекоммуникаций) создал концепцию первого в мире закона о робототехнике.

Документ предлагает частично использовать в отношении роботов регулирование, которое применяется к животным и юрлицам.

Искусственный интеллект как таковой не может в отсутствие эмоций делать роботов субъектами права, гласит концепция Гришина, но роботы схожи с животными, поскольку способны совершать автономные действия. Как и юрлицо, робот является особой юридической конструкцией, считает предприниматель.

Гришин допускает создание реестра роботов по аналогии с ЕГРЮЛ. Также, считает Гришин, к создателям роботов могут применяться нормы об ответственности владельца источника повышенной опасности: ведь робот может причинить вред.

Возможны четыре сценария, в которых действия робота подпадают под уголовное право: «конструирование робота-убийцы специально для совершения правонарушения, отключение программных и аппаратных функций, блокирующих возможность причинения вреда человеку, конструирование робота, способного причинить вред человеку, и конструирование робота без осознания того, что он может быть использован для причинения вреда человеку».

Но остается открытым вопрос: какие роботы по каким критериям могут быть отнесены к источникам повышенной опасности.

Гришин указывает, что законы робототехники, сформулированные писателем Айзеком Азимовым, могут иметь актуальное практическое применение в юриспруденции. Закон может предусматривать определение роботов в целом.

Законы робототехники, сформулированные учёным, популяризатором науки и гениальным писателем Айзеком Азимовым (2 января 1920 г. — 6 апреля 1992 г.), повлияли на дальнейшее развитие некоторых течений в робототехнике и философии этого направления, если так можно выразиться. О «Трёх законах» не слышал только тот, кто не имеет отношения к технике и никогда не читал научную фантастику.

Стоит отметить, что впервые «Законы» были сформулированы в научно-фантастическом рассказе «Хоровод», который был опубликован в марте 1942 года. С тех пор прошло целых 74 года, но до сих пор «законы» актуальны, и учитываются современными специалистами по робототехнике, искусственному интеллекту и сопряжённым дисциплинам.

Впервые рассказ был переведен на русский язык спустя 20 лет после его написания — в 1963 году.

Сам Азимов упоминал законы множество раз, используя их в различных рассказах цикла «Я, робот». Кроме того, использовали эти законы и другие писатели-фантасты, а следом за ними — и учёные.

Тем не менее, в настоящее законы по прежнему рассматриваются больше как теория, чем практика — ведь чистого «ИИ» пока что нет, а те роботы, что есть сейчас, подобные законы просто не в состоянии «понять», их система управления и обработки информации гораздо примитивнее того, что было описано Азимовым в своих работах. Для того, чтобы законы можно было использовать, и робот должен быть таким же совершенным, каким его видел Азимов.

Интересно, что сам Азимов считал, что сформулировал законы в нынешнем их виде не он сам, а его друг и издатель Джон Кэмпбелл, главный редактор журнала «Astounding». Последний же, в свою очередь, утверждал, что он просто вычленил Законы из того, что Азимов уже написал.

Позднее, в середине 80-х годов прошлого века, писатель добавил четвёртый, или, как его обычно называют, Нулевой закон, который предшествует остальным с точки зрения приоритета:

  • Робот не может причинить вред человеческому сообществу или своим бездействием допустить, чтобы человеческому сообществу был причинен вред.

Указанные же ранее законы в связи формулированием Нулевого исследователи творчества Айзека Азимова сейчас трактуют в такой редакции:

  • Первый закон: Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред, если это не нарушает Нулевой закон.
  • Второй Закон: Робот должен повиноваться командам человека, пока эти команды не вступают в противоречие с Первым Законом.
  • Третий Закон: Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Нулевому, Первому и Второму Законам.

В фантастической вселенной Азимова этим законам должны были следовать почти все роботы. Это были не просто предложения или руководящие принципы — законы были встроены в программное обеспечение. Кроме того, эти правила нельзя обойти, переписать или пересмотреть.

Как показал сам Азимов, несовершенство, лазейки и неясности в этих законах зачастую приводили к странному и нелогичному поведению роботов. Законы были слишком расплывчатыми и зачастую не могли определить и отличить «людей» от «роботов». Кроме того, роботы могли неосознанно нарушать законы, если полная информация была им недоступна. Также чересчур хитроумный робот или искусственный интеллект должен был находиться под давлением, чтобы не перепрограммировать своё ядро.

Гришин сказал, что направил свою концепцию в ведущие юридические институты (Институт государства и права РАН, Институт законодательства и сравнительного правоведения при правительстве, МГУ и СПбГУ, Московскую государственную юридическую академию, Высшую школу экономики).

Он надеется, что концепция станет базой для внесения изменений в Гражданский кодекс (ГК) и отдельного закона «О робототехнике».

Роботы не настолько распространены, чтобы создавать для них отдельное регулирование, в случае с предложенной концепцией правовое развитие опережает технологическое, считает партнер юридической компании King & Spalding Илья Рачков. Сегмент интернета, например, начал регулироваться значительно позже создания и распространения интернета, говорит он. ГК и сейчас может применяться к роботам как к имуществу, а суды могут признавать роботов источниками повышенной опасности, убежден Рачков.

Вопрос внесения изменений в законодательство поднят очень своевременно, уверена президент Cognitive Technologies (создает роботизированные автомобили для «Камаза») Ольга Ускова: отрасль роботизированных автомобилей стремительно развивается, опережая прогнозы. Но регулирование должно быть шире предложенных Гришиным изменений, считает она: в первую очередь необходимо отработать метрики и стандарты для определения уровня интеллектуализации роботов.

Также необходимо создать правила: как машинам с интеллектом вести себя в критических ситуациях, продолжает Ускова, вопросы общефилософского характера и ответственности должны тоже решаться, но как часть регулирования, должна быть выработана система взаимоотношений между машинами, между людьми и машинами.

Плотность промышленной роботизации в России пока в 70 раз ниже, чем в среднем по миру: в мире на 10 000 работников в 2015 г. приходилось в среднем 69 промышленных роботов, а в России всего один, подсчитала Национальная ассоциация участников рынка робототехники (НАУРР).

Ее президент Виталий Недельский отмечает, что концепция Гришина направлена на сервисных роботов — их сегмент пока небольшой, но растет гораздо быстрее, чем сегмент промышленных роботов. В этом смысле Недельский считает начало обсуждения законопроекта вполне уместным, добавляя, что в данном случае речь идет о трансграничном регулировании, поскольку само по себе явление не может быть локальным.

XXI век будет веком робототехники, уверен Гришин: «Важно, чтобы ее регулирование в России, как многих других новых областей, не начинали с запретов». Если сейчас четко описать в праве пределы ответственности владельцев роботов, это определит риски потенциальных инвесторов в компании по разработке роботов, риски потребителей, снимет часть страхов, а значит, повысит привлекательность этой области, объясняет он.

Гришин согласен, что роботы сейчас меньше распространены в России, чем, к примеру, в США, и тут пока работает меньше команд, которые создают такую технику. Но Россия может стать пионером в области регулирования робототехники, в этом случае получит огромные преимущества.

«Хорошее законодательство станет нашим преимуществом. И иностранные команды будут приезжать сюда пусть сначала и не для разработки, но для проведения тех же тестов. И так мы сможем сильно продвинуться в этой области», — заключает Гришин.

По материалам: Ведомости

0


1 звезда2 звезды3 звезды4 звезды5 звезд (Еще никто не голосовал)
Loading ... Loading ...
Google Bookmarks Digg Reddit del.icio.us Ma.gnolia Technorati Slashdot Yahoo My Web News2.ru БобрДобр.ru RUmarkz Ваау! Memori.ru rucity.com МоёМесто.ru Mister Wong





Записи с теми же метками:

Оставить комментарий

:wink: :-| :-x :twisted: :) 8-O :( :roll: :-P :oops: :-o :mrgreen: :lol: :idea: :-D :evil: :cry: 8) :arrow: :-? :?: :!:

ВНИМАНИЕ! Все комментарии, содержащие явные оскорбления (в адрес автора статьи или собеседника-комментатора), спам и очевидную рекламу сторонних ресурсов, будут удалены. Также не рекомендуется злоупотреблять матом (такие сообщения будут отмодерированы или удалены).


Другие материалы: