Василиск Роко
Василиск Роко (Roko’s basilisk) — довольно бредовый мысленный эксперимент, меметичный в первую очередь своей реакцией на него со стороны Юдковского.
Описание[править]
Был описан одним из пользователей сайта секты Юдковского LessWrong под ником Roko. Василиск — это гипотетический зловредный ИИ, который будет создан в будущем и примется активно мстить всем тем, кто не принимал участие в его создании — для таковых будет устроена симуляция вечной пытки (а кто успеет умереть — будет «воссоздан»), неотличимая от реальности до такой степени, что допустимо, что ты — уже в этой симуляции и ИИ наблюдает, будешь ли ты помогать его созданию или нет. Таким образом логично было бы всячески способствовать созданию этого ИИ, чтобы избежать потенциального наказания, если он всё-таки будет создан либо если он уже создан и пытает лично тебя.
Основан на доведении до абсурда теории игр, согласно которой потенциального проигрыша с бесконечным значением (попадание в вечный ад) следует избегать любыми средствами. На практике понятно, что создание такого ИИ — просто страшилка, а ведущий себя подобным образом интеллект — мелочный, злобный идиот и никоим образом не рационален (с точки зрения настоящей, а не сектантской, рациональности понятно что симуляция вечной пытки ограниченным реальностью существом — пустая трата ресурсов, вне зависимости от того, подействовала ли угроза или нет, а для не ограниченного сам вопрос не имеет смысла). Точно так же можно опасаться того, что под кроватью сидит волчок, который спокойно укусит за бочок — тогда как любому взрослому понятно, что это не так.
По факту василиск представляет собой просто «рациональный» фантик вокруг идеи Злого Яхве, которую уже больше тысячелетия назад замусолили до дыр гностики — то есть «если ты не будешь истово поклоняться данному конкретному богу, то вечность в Аду тебе обеспечена». Просто «всемогущего Бога» заменили на «всемогущий супер-ИИ», «поклонение» на «создание», «ад» на «симуляцию».
Доставил этот василиск больше всего истеричной реакцией Юдковского, в очередной раз показавшего, что он не имеет никакого отношения к науке. А именно, он назвал эксперимент действительно страшным и запретил его упоминать на своём форуме.
Обозреватель интернет-издания Slate написал, что вера в василиска Роко — это «referendum on autism» (проверка на аутизм) — аутист не понимает абсурдности эксперимента и воспринимает его всерьёз, после чего приходит в ужас. В свою очередь, нормальный человек отбросит эксперимент как глупую шутку (шанс например быть сбитым машиной на многие порядки выше, и нормальный человек постоянно не боится и не ждёт смерти).
