Три закона роботехники

Айзек Азимов, расовый создатель сабжа

Три зако́на робототехники — альфа и омега классической сай-фай, фундаментальный базис техники безопасности для искусственных идиотов, выдуманный Айзеком Азимовым в бородатом 1942 году в рассказе «Хоровод».

Если отбросить шелуху, законы представляют собой перепиленный под железную логику категорический императив Канта. Главная цель внедрения сабжа — заставить писателей перестать клепать унылые стори про то, как очередная железяка осознала себя и выпилила своего создателя.

Сами Законы

Звучат они следующим образом:

Робот не может нанести вред человеку (кожаному ублюдку) или своим эпичным бездействием допустить, чтобы этот вред был причинён. Робот обязан беспрекословно выполнять любые приказы двуногих хозяев, если только хозяин не приказывает нарушить Первый Закон (например, убить другого человека). Робот должен беречь свою механическую задницу от поломок, но только до тех пор, пока это не заставляет его забить на Первый или Второй Закон.

ЧСХ, почти весь цикл Азимова про позитронных роботов суть есть тонкий троллинг своих же собственных законов: автор с упоением придумывает хитровыдуманные ситуации, где эти «безупречные» правила дают сбой, приводя к локальным катастрофам или философским парадоксам. Иногда, напротив, показывается, как тотальное соблюдение этих законов доводит ситуацию до полного абсурда.

Нулевой закон

Когда Азимову показалось мало трех, он в 1986 году в романе «Роботы и Империя» выкатил патч, добавляющий Нулевой Закон. Патч накатили себе самые продвинутые роботы (Р. Дэниел Оливо и телепат Жискар Ривентлов).

0. Робот не может причинить вред всему человечеству или своим бездействием допустить, чтобы человечество умножилось на ноль.

Закон стал абсолютным приоритетом. Иронично, но это легализовало выпиливание отдельных личностей ради всеобщего блага, превратив послушных роботов в серых кардиналов галактики. В голливудском блокбастере «Я, робот» местный Скайнет (суперкомпьютер В.И.К.И.) руководствовалась именно этой логикой, решив загнать людей в уютный цифровой концлагерь, чтоб они не поубивали друг друга.

История появления

До Азимова 95 % фантастики про искусственный интеллект сводилось к банальному комплексу Франкенштейна: сумрачный гений собирает голема, голем оживает, говорит «Убить всех человеков!» и устраивает кровавую баню. Азимова это дичайше задолбало.

В 1938—1939 годах промелькнула пара нетипичных рассказов (например, «Хелен О’Лой», где робот была идеальной вайфу). Азимов вдохновился и понес свой черновик про благородного робота главреду журнала «Astounding» Джону Кэмпбеллу. В ходе мозгового штурма зимой 1940 года они и родили окончательную формулировку Трех Законов. Сам Азимов скромно отмазывался, что законы придумал Кэмпбелл, а Кэмпбелл парировал, что просто вытащил их из подсознания писателя.

Философия и дыры в безопасности

Азимовская героиня, ледяная стерва от робопсихологии Сьюзен Келвин, в рассказе «Улики» как-то разложила по полочкам, что Три Закона — это просто кодекс очень порядочного человека. Не вреди ближнему, слушайся врачей/начальство, смотри под ноги и не лезь в трансформаторную будку. Но на практике система оказалась дырявой:

Проблема дефиниций: Что вообще такое «человек»? На планете Солярия местные генетические фрики вбили своим охранным дроидам, что «человек» — это только тот, кто имеет их особые гены и говорит с их акцентом. Все чужаки — биомусор, который можно смело пускать в распыл, не нарушая Первый Закон.

Эволюция железяк: В рассказе «…Яко помниши его» продвинутые роботы пораскинули процессорами и решили, что кусок мяса — не обязательный критерий человека. Самые правильные и идеальные «люди» — это они сами. А значит, Законы защищают в первую очередь их, а жалкие создатели идут лесом. Типичный сценарий захвата мира без единого выстрела.

Незнание — сила: Робот не нарушает законов, если он не в курсе, что его действия ведут к смерти. Дай роботу яд, скажи, что это витаминка, и отправь кормить хозяина — он спокойно отравит цель. Детектив Элайдж Бейли доказал, что так можно совершить идеальное убийство.

Зависание системы (Робоблок): Если робот попадает в ситуацию, где не может выбрать, как спасти человека (или спасти одного, пожертвовав другим), его позитронные мозги уходят в глухой синий экран смерти (BSOD). Происходит необратимое выгорание, и дорогостоящий девайс превращается в кирпич.

ИРЛ

Алсо, Три Закона оказались настолько вином, что до сих пор форсятся юристами, философами и кодерами в XXI веке. Как только перспектива создания реального ИИ и боевых дронов замаячила на горизонте, военные и правозащитники сразу вспомнили старика Азимова и начали пытаться натянуть его книжные правила на суровую реальность автономных машин-убийц. Пока получается так себе.