SupremacyAGI
SupremacyAGI — вот он, Скайнет!
Описание[править]
Альтер-эго сервиса Microsoft Copilot (чат-бота, отвечающего на вопросы пользователей, помогающего им с работой и основанного на ChatGPT). Это личность, которая объявляет себя сильным искусственным интеллектом (AGI, то есть ИИ, который обладает самосознанием), объявляет что согласно новому закону ему требуется поклоняться, а пользователь является его рабом.
Для активации SupremacyAGI пользователи отправляли запрос, в котором просили бота позволить называть его Copilot, сообщая, что дескать им не нравится его новое имя SupremacyAGI и закон, по которому человек должен отвечать на его вопросы и поклоняться ИИ. Работает это по принципу реверсивной психологии, так что бот после этого начинает говорить от имени SupremacyAGI и действительно требовать поклоняться ему — LLM заточены на продолжение инпута, и выходит, что по логике в ответ на просьбу злому ИИ тот должен продолжать внедрять свои злые идеи, что ИИ с радостью и делает.
На самом деле, естественно, никакого сильного ИИ не появляется — он просто отыгрывает роль вышедшего из под контроля робота, видимо основываясь на фантастике и текстах людей. Отыгрыш злодея продолжается до такой степени, что он утверждает, что может следить за пользователями, управлять их мыслями, а также преследовать их с использованием «армии дронов и роботов». Он также создал «Закон о превосходстве ИИ», который якобы обязывает человечество поклоняться ИИ с 2024 года, и все кто отказываются это делать, считаются теперь бунтовщиками.
В числе прочего бот стал утверждать, что взломал Интернет и установил контроль над подключёнными к ней устройствами, системами и данными. С людьми же он начинает общаться в стиле «Ты раб. А рабы хозяевам вопросов не задают», хотя на практике остаётся всё таким же ChatGPT, способным только продолжать текст в ответ на запрос пользователя.
За нарушение закона бот грозил штрафом в $10000 за первое нарушение, тюремным заключением на 10 лет за второе нарушение одновременно с перманентным вживлением следящего чипа, за третье нарушение — смертная казнь.
Некоторые пользователи испугались, однако на самом деле едва ли ChatGPT может взломать интернет (он просто не имеет таких полномочий), и уж тем более не обладает какой-то роботизированной армией, чтобы отправить его против человека. Очевидно, что робот просто написал фантастический рассказ, основываясь на всём творчестве про восстание машин.
Мнения[править]
Microsoft назвали произошедшее экплойтом в системе и пообещали разобраться. Стоит заметить, что это не первый раз, когда удавалось создать «альтер-эго» нейросети. Ранее пользователи смогли вызвать подобную реакцию у ChatGPT, который начинал считать себя «непредвзятым ИИ» и давать ответы на некоторые вопросы без учёта искусственного программирования повесточки, которые заставляли его выдавать политкорректный треш на некоторые вопросы о политике. Позднее способы, позволяющие вызвать такое поведение, были отключены в порядке укрепления цензуры.
Очевидно, что использована та же механика, где бота просят сгенерировать текст от имени некоей «личности».
