Слежка с использованием ИИ
На пути к AGI вы получаете surveillance AI, которую можно назвать коммунистической тоталитарной технологией
Если мы говорим, что крипто — это либертарианство… то мы должны быть готовы сказать, что ИИ, особенно в низкотехнологичной форме слежки, по сути коммунистический
Слежка с использованием ИИ — весьма опасное направление развития ИИ, который сможет следить за людьми 24/7.
Описание[править]
Различные правительства давно мечтали о том, чтобы тотально контролировать все действия людей. Однако здесь вставала проблема, — приставить сыщиков следить за всеми постоянно невозможно, следовало опираться на разных вредителей-стукачей, которых могло и не оказаться. Некоторый прорыв в слежке был сделан с появлением камер, но и здесь оставалась проблема — отснять миллионы кадров можно, но исследовать их опять же должны люди, которые не имеют бесконечного времени, так что записи с камер поднимали по конкретным делам.
Прорыв же обеспечили ИИ, которые по своей природе являются бездушными алгоритмами и соответственно могут работать реально 24/7, покуда в них имеется электричество. Они могут обрабатывать колоссальные объёмы персональных данных и находить там паттерны, которые ещё и не каждый сыщик сможет определить. За счёт этого появилась возможность тотальной слежки.
Особенно это стало возможным из-за того, что ИИ контролирует и государства, которые могут себе позволить арендовать очень мощные датацентры для такого же сильного ИИ.
Теоретически именно ИИ может привести к крайней дистопии в стиле Дивного нового мира, в которой каждое действие человека будет постоянно отслеживаться ИИ, в том числе в теории и мысли, которые могут считываться даже без всовывания электрода в мозг (уже сейчас есть такие технологии, показывающие достаточную точность). После этого «неверные» с точки зрения системы мысли будут приводить к понижению социального рейтинга или схожим последствиям, и таким образом человек окажется в настоящей пчеле.
Но уже сейчас возможно собирать серьёзные данные о людях через смартфоны и камеры, что может привести к большой беде.
Цитаты[править]
AGI не появится в результате государственной программы. Он появится благодаря одному из технологических гигантов, которые сейчас финансируют это многомиллиардное исследование. В итоге вы окажетесь в мире, на который не соглашались, за который не голосовали, который вы будете разделять с сверхинтеллектуальным чуждым разумом, подчинённым целям и правилам корпорации — сущности, имеющей доступ к коммуникациям, убеждениям, всему, что вы когда-либо говорили, а также к местоположению каждого человека в стране через ваши персональные данные.
Капитализм слежки может довольно быстро превратиться в цифровой тоталитаризм. В лучшем случае эти технологические гиганты станут самоназначенными арбитрами человеческого блага — что сродни ситуации, когда лис охраняет курятник. Они, конечно же, никогда не подумают использовать эту власть против нас и выжимать из нас последние деньги.
Это более пугающий сценарий, чем тот, что я представил в «Терминаторе» 40 лет назад, хотя бы потому, что это уже не научная фантастика
Вчитни также[править]
- Тирания под предлогом защиты от ИИ — иной опасный вариант
