Эффект Большого Языкового Менталиста. ChatGPT работает, как суперумелый экстрасенс, гадалка и медиум.

Коллеги ‎и‏ ‎читатели ‎шлют ‎мне ‎все ‎новые‏ ‎примеры ‎сногсшибательных‏ ‎диалогов‏ ‎с ‎GPT, ‎Claude‏ ‎и ‎Gemini.‏ ‎После ‎их ‎прочтения ‎трудно‏ ‎не‏ ‎уверовать ‎в‏ ‎наличие ‎у‏ ‎последних ‎версий ‎ИИ-чатботов ‎человекоподобного ‎разума‏ ‎и‏ ‎даже ‎какой-то‏ ‎нечеловеческой ‎формы‏ ‎сознания.

Так ‎ли ‎это ‎или ‎всего‏ ‎лишь‏ ‎следствие‏ ‎нового ‎типа‏ ‎наших ‎собственных‏ ‎когнитивных ‎искажений,‏ ‎порождаемых‏ ‎в ‎нашем‏ ‎разуме ‎ИИ-чатботами ‎на ‎основе ‎LLM,‏ ‎— ‎точно‏ ‎пока‏ ‎никто ‎сказать ‎не‏ ‎может.

Более ‎того.‏ ‎Полагаю, ‎что ‎оба ‎варианта‏ ‎могут‏ ‎оказаться ‎верными.‏ ‎Но, ‎как‏ ‎говорится, ‎поживем ‎увидим.

А ‎пока ‎весьма‏ ‎рекомендую‏ ‎моим ‎читателям‏ ‎новую ‎книгу‏ ‎Балдура ‎Бьярнасона ‎(независимого ‎исландского ‎исследователя‏ ‎и‏ ‎консультанта)‏ ‎«Иллюзия ‎интеллекта»,‏ ‎в ‎которой‏ ‎автор ‎детально‏ ‎препарирует‏ ‎и ‎обосновывает‏ ‎вторую ‎из ‎вышеназванных ‎версий: ‎иллюзия‏ ‎интеллекта ‎—‏ ‎это‏ ‎результат ‎нового ‎типа‏ ‎наших ‎собственных‏ ‎когнитивных ‎искажений.

Что ‎особенно ‎важно‏ ‎в‏ ‎обосновании ‎этой‏ ‎версии, ‎—‏ ‎автор ‎демонстрирует ‎механизм ‎рождения ‎в‏ ‎нашем‏ ‎разуме ‎этого‏ ‎нового ‎типа‏ ‎когнитивных ‎искажений.

В ‎основе ‎этого ‎механизма:

• Старый‏ ‎как‏ ‎мир‏ ‎психологический ‎прием‏ ‎— ‎т.‏ ‎н. ‎«холодное‏ ‎чтение».‏ ‎Он ‎уже‏ ‎не ‎первую ‎тысячу ‎лет ‎используется‏ ‎всевозможными ‎менталистами,‏ ‎экстрасенсами,‏ ‎гадалками, ‎медиумами ‎и‏ ‎иллюзионистами, ‎чтобы‏ ‎создавать ‎видимость ‎будто ‎они‏ ‎знают‏ ‎о ‎человеке‏ ‎гораздо ‎больше,‏ ‎чем ‎есть ‎на ‎самом ‎деле.

• Так‏ ‎же‏ ‎прошедший ‎проверку‏ ‎временем ‎манипуляционный‏ ‎«Эффект ‎Барнума-Форера» ‎(эффект ‎субъективного ‎подтверждения),‏ ‎объясняющий‏ ‎неистребимую‏ ‎популярность ‎гороскопов,‏ ‎хиромантии, ‎карт‏ ‎Таро ‎и‏ ‎т.‏ ‎д. ‎Это‏ ‎когнитивное ‎искажение ‎заставляет ‎нас ‎верить

— в‏ ‎умно ‎звучащие‏ ‎и‏ ‎допускающие ‎многозначную ‎трактовку‏ ‎расплывчатые ‎формулировки,

— когда‏ ‎они ‎будто ‎бы ‎специально‏ ‎сформулированы‏ ‎и ‎нюансированы‏ ‎именно ‎под‏ ‎нас,

— и ‎мы ‎слышим ‎их ‎от,‏ ‎якобы,‏ ‎авторитетных ‎специалистов.

Получив‏ ‎доступ ‎ко‏ ‎всем ‎знаниям ‎человечества, ‎большие ‎языковые‏ ‎модели‏ ‎(LLM)‏ ‎запросто ‎освоили‏ ‎и ‎«холодное‏ ‎чтение», ‎и‏ ‎«Эффект‏ ‎Барнума-Форера».

Желая ‎угодить‏ ‎нам ‎в ‎ходе ‎диалога, ‎ИИ-чатбот‏ ‎использует ‎ту‏ ‎же‏ ‎технику, ‎что ‎и‏ ‎экстрасенсы ‎с‏ ‎менталистами ‎— ‎они ‎максимизируют‏ ‎наше‏ ‎впечатление ‎(!),‏ ‎будто ‎дают‏ ‎чрезвычайно ‎конкретные ‎ответы.

А ‎на ‎самом‏ ‎деле,‏ ‎эти ‎ответы‏ ‎— ‎не‏ ‎что ‎иное, ‎как:

• статистические ‎общения ‎гигантского‏ ‎корпуса‏ ‎текстов,

• структурированные‏ ‎моделью ‎по‏ ‎одной ‎лишь‏ ‎ей ‎известным‏ ‎характеристикам,

• сформулированные‏ ‎так, ‎чтобы‏ ‎максимизировать ‎действие ‎«холодного ‎чтения» ‎и‏ ‎«эффекта ‎Барнума-Форера»,

• и,‏ ‎наконец,‏ ‎филигранно ‎подстроенные ‎под‏ ‎конкретного ‎индивида,‏ ‎с ‎которым ‎модель ‎говорит.

В‏ ‎результате,‏ ‎чем ‎длиннее‏ ‎и ‎содержательней‏ ‎наш ‎диалог ‎с ‎моделью, ‎тем‏ ‎сильнее‏ ‎наше ‎впечатление‏ ‎достоверности ‎и‏ ‎убедительности ‎того, ‎что ‎мы ‎слышим‏ ‎от‏ ‎«умного,‏ ‎проницательного, ‎много‏ ‎знающего ‎о‏ ‎нас ‎и‏ ‎тонко‏ ‎нас ‎понимающего»‏ ‎собеседника.

Все ‎это ‎детально ‎расписано ‎в‏ ‎книге ‎«Иллюзия‏ ‎интеллекта».