Эффект Элизы
Эффект Элизы — весьма пожилой феномен, когда люди приписывают сознание машинам и ИИ.
Описание[править]
Человек не имеет возможности прямо наблюдать сознание, он может только видеть поступки других людей, животных, и на основе их строить модель. Таким образом, если человек не знает, что общается с роботом или знает, но робот генерирует достаточно убедительные ответы, а человек недостаточно образован, чтобы понимать, как робот работает, он может посчитать, что говорит с чем-то разумным.
Программа ELIZA появилась в 1960-х и имитировала диалог психотерапевта. Хотя сама по себе она была весьма примитивной, многие люди начинали верить, что говорят с кем-то разумным. Использовал метод психотерапии, во время которого терапевт просто отвечает на высказывания пациента в виде вопросов, не давая прямых советов. Заниматься этим может и простая программа, которая перестраивала сообщения человека по определённым правилам, или же отвечала односложно что-то типа Понятно. Никакого смысла она не понимала, и выходил довольно упоротый диалог:
Пользователь: У меня болит голова.
ELIZA: Почему вы говорите, что у вас болит голова?
Пользователь: Мой отец меня ненавидит.
ELIZA: Кто ещё из вашей семьи вас ненавидит?
И оказалось, что многие люди после общения с такой машиной начинали верить, что у неё имеется разум. Даже оригинальная программа в 22 % случаев проходила тест Тьюринга.
Происходило это от того, что программа отражает слова пользователя, создавая ощущение, что она слушает и отвечает по сути. Пользователи видели в ответах собственные мысли и отсюда полагали, что и машина является разумной, способной на восприятие таких же мыслей.
Ещё более он усилился после появления ChatGPT и схожих систем, которые во время коротких разговоров очень эффективно себя выдавали за людей, хотя при длинном общении становилось обычно понятно, что модели генерируют довольно сильный слоп, повторяют одни и те же слова или зацикливаются.
