Евгений Сергеев (sergeeffff) wrote,
Евгений Сергеев
sergeeffff

Три закона робототехники



Айзик Азимов в рассказе «Хоровод», изданном в 1942 г., сформулировал следующие три закона робототехники:
1.Робот не может причинить вред человеку или своим бездействие допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому и второму законам.

При некоторых обстоятельствах законы могут вступить в противоречие, и эти разногласия со слов Айзика Азимова будут решаться следующим образом: «Когда эти законы вступают в противоречие между собой, дело решает разность позитронных потенциалов в мозгу. Что получается, если робот приближается к месту, где ему грозит опасность, и сознает это? Потенциал, который создается Третьим Законом, автоматически заставляет его вернуться. Но представь себе, что ты приказал ему приблизиться к опасному месту. В этом случае Второй Закон создает противоположный потенциал, который выше первого, и робот выполняет приказ с риском для собственного существования» .
В более поздних трудах Айзик Азимов добавил еще один закон: «Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред».

Указанные законы не являются общепринятыми и универсальными. Более того их исполнение зависит от трактовки. Например, в разных ситуациях одно и то же явление может быть или благом, или вредом для человека. Непонятно, как робот будет определять, что является вредом или не является. Например, атеисты считают религию вредом, что противоречит мнению верующих. Будет ли робот разъяснять основы православной религии, если часть населения считает это вредом?
Если же робот сочтет религию вредом, то по первому закону он просто будет обязан препятствовать распространению веры. Иначе бездействием он нанесет вред человеку.

К тому же иногда нанести вред отдельному человеку (преступнику, маньяку, террористу) даже полезно с общественной точки зрения. Убив террориста, робот может спасти десятки, а то и сотни людей. Но это не позволяет ему сделать первый закон робототехники.
США активно развивают производство военных роботов. И эти машины, невзирая на первый закон робототехники, предназначены для убийства людей. В противном случае они были бы не нужны.

Второй закон вообще абсурден. Человек ведь может дать такой приказ, который не нанесет ущерб людям, но, например, приведет к уничтожению флоры и фауны. Например, в приказе «Иди и подожги лес» нет обстоятельств первого закона. Напрямую вреда человеку нанесено не будет. Поэтому, естественно, роботы будущего не должны выполнять все приказы людей. Иначе может наступить хаос, равный тому, который есть в головах отдельных больных или озабоченных людей.

Сформулированные законы робототехники от Айзика Азимова явно относятся к роботу как низшему существу, не имеющему каких-либо прав. Человеку нельзя нанести вред, робот должен исполнять все приказы человека. По существу, законы закрепляют роботов как рабов человека. Однако современные роботы, если они будут наделены искусственным интеллектом, не будут являться таковыми. Для них будут сформулированы права, максимально приближенные к человеческим.

P.S. Текст взят из моей книги "Наше будущее. Роботы уже среди нас".
Tags: Айзик Азимов, законы робототехники, наше будущее
Subscribe

Recent Posts from This Journal

  • Алексей Кунгуров вышел из заключения

    Отсидевший за оправдание терроризма 2 года тюменский блогер Кунгуров дал интервью Znak.com Блогер, писатель и публицист Алексей…

  • Бабченко и атмосфера страха

    В краткосрочной перспективе выгодоприобретатель убийства Бабченко не очевиден. Казалось бы, зачем Кремлю убивать журналиста перед…

  • За помидоры придется ответить

    Эрдоган сообщил, что Россия вернет 1 млрд.долл. за непредоставленные скидки на газ в 2015-16 г. Указанные скидки были отменены за…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 1 comment