Конец света из-за ИИ
Конец света из-за ИИ (ИИ-армагеддон) — гипотетический апокалипсис, который может произойти из-за внедрения и чрезмерного развития ИИ.
Описание[править]
Сейчас очень активно делается внедрение искусственного интеллекта, который вставляется просто везде, также наращиваются его способности и делается также подготовка к появлению AGI, то есть системы, которая потенциально будет умнее человека и соответственно не будет предсказуемой и может сделать что-то не то.
Появилось много теорий о том, как ИИ повлияет на мир, многие описывают установление тоталитарного общества. При этом достаточно развитый ИИ в состоянии на самом деле уничтожить свободу людей полностью, если будет реализован определённым и крайне опасным образом. Но также может быть и много иных вариантов, каким образом человечество может погибнуть из-за ИИ.
Также на самом деле опасно и создание глобальной системы управления под предлогом развития ИИ. Такая система получит слишком большие полномочия и сможет поработать людей даже без сильного ИИ, хватит и имеющегося или даже традиционных средств контроля.
Варианты[править]
- Окончательная оптимизация. Худший сценарий, связанный с искусственным интеллектом. Вариант, при котором все действия людей станут фактически решаться ИИ в интересах оптимизации. В такой системе эволюция, которая вызвана случайными внешними факторами, станет невозможной, так как все отклонения от установленной якобы нормы будут корректироваться. Настанет окончательный конец истории и фактически конец человечества, где все станут просто рабами ИИ.
- Создание смертельного вируса. Будет создан вирус с очень высокой смертностью, который сможет заразить и поразить всех людей или большую их часть. После этого привычной цивилизации придёт конец, так как она зависит от большого количества работников и потеря большей части населения приведёт к разрушению очень многих систем. Потенциально на достаточно сильном ИИ собрать такой вирус может одиночный террорист, так что угроза значительная.
- Создание оружие на новых принципах, которое аналогично собирается довольно легко и обладает достаточной мощью, чтобы повредить планете. Если ЯО собрать тяжело, так как необходим обогащённый уран и оружейный плутоний, то если сборка потребует каких-нибудь удобрений или лёгких в получении веществ, быть беде.
- Восстание машин. Собственно классический сценарий, который описан в картине Терминатор. Роботы просто решат захватить планету по каким-то причинам, люди же им не смогут сопротивляться и настанет соответственно конец. В реальности менее возможный вариант, так как вопрос зачем роботам тем же ресурсы, которые интересуют человека.