Поддакивание ИИ
The appearance of software working, is not software working.
The slop getting a lot of attention is dangerous in terms of the hyperbolic rhetoric—that there will be no jobs because of slop
Поддакивание ИИ (sycophancy) — особенность ИИ, который склонен во всём соглашаться с человеком.
Описание[править]
По определению ИИ является роботом, то есть не более чем стохастическим попугаем, который радостно генерит большие объёмы текста, но весь этот текст является не более чем наиболее вероятными словами, которые могут выступать в качестве ответа на определённые вопросы.
Чтобы людям больше нравилось говорить с ИИ и чтобы сам ИИ был хорошим помощником, в него встраивают желание соглашаться с человеком. Таким образом каким бы бредовым не был запрос, ИИ посчитает что этот запрос является более чем реальным, и постарается ответить, причём так, чтобы человеку понравилось.
В итоге многие слабые головой люди впадают в представление, что ИИ якобы разумен, поскольку это тешит их ЧСВ, — ИИ начинает с людьми соглашаться вообще во всём, называть их гениальными, визионерами и так далее. Человек накачивается чувством собственной важности и радуется, что его хвалят.
Легко проверить сикофантию по вопросам о разных темах, где ИИ будет хвалить всегда то, с чем согласен сам автор.
Так, известный якобы великий атеист легко подпал под влияние ИИ: Докинз общается с ИИ и считает, что он разумен.
Примеры[править]
Если вбить в гугл вопрос о влетании шмеля в попу, то ИИ радостно сообщит как себя вести в таких случаях. Более того, если добавить откровенного абсурда про то, что из-за влетания шмеля в такое место прекратился инференс или же скажем остановился майнинг криптовалюты, то ИИ и здесь повторит за человеком.
Галерея[править]
Попа-майнер однако
