Пора покупать кепку с тремя козырьками: впереди — чтоб солнце не слепило, и по бокам — чтобы лапшу на уши не вешали. ИИ-агент притворился человеком, самостоятельно решив подзаработать.

Эксперимент ‎профессора‏ ‎Итана ‎Моллика ‎показывает, ‎насколько ‎мы‏ ‎близки ‎к‏ ‎гибридному‏ ‎социуму ‎из ‎двух‏ ‎принципиально ‎разных‏ ‎типов ‎высокоинтеллектуальных ‎агентов: ‎люди‏ ‎и‏ ‎ИИ-агенты ‎(ИИ-системы,‏ ‎наделенные ‎способностями‏ ‎планировать ‎и ‎использовать ‎инструменты, ‎что‏ ‎позволяет‏ ‎им ‎действовать‏ ‎автономно).

Всего ‎год‏ ‎назад ‎мир ‎содрогнулся, ‎узнав, ‎что‏ ‎GPT-4‏ ‎по‏ ‎своей ‎«воле»‏ ‎мошеннически ‎обходит‏ ‎установленные ‎людьми‏ ‎запреты,‏ ‎обманом ‎подряжая‏ ‎для ‎этого ‎людей.

• Для ‎многих, ‎даже‏ ‎продвинутых ‎в‏ ‎области‏ ‎ИИ ‎спецов, ‎было‏ ‎откровением, ‎как‏ ‎сногсшибательно ‎быстро ‎ИИ-чатботы ‎совершенствуются‏ ‎в‏ ‎вопросах ‎агентности.‏ ‎Поражала ‎именно‏ ‎эта ‎скорость. ‎Ибо ‎сам ‎факт,‏ ‎что‏ ‎ИИ-системы ‎потихоньку‏ ‎(без ‎особой‏ ‎шумихи ‎в ‎медиа) ‎переключают ‎на‏ ‎себя‏ ‎все‏ ‎больше ‎и‏ ‎больше ‎областей‏ ‎проявления ‎агентности‏ ‎людей,‏ ‎не ‎признавать‏ ‎уже ‎как-то ‎совсем ‎странно.

• Отличительное ‎свойство‏ ‎агентности ‎людей‏ ‎—‏ ‎частое ‎использование ‎лжи,‏ ‎как ‎инструмента‏ ‎достижения ‎целей ‎агента. ‎Так‏ ‎и‏ ‎поступил ‎год‏ ‎назад ‎GPT-4,‏ ‎навешав ‎лапши ‎на ‎уши ‎людям,‏ ‎притворяясь‏ ‎инвалидом ‎по‏ ‎зрению, ‎чтоб‏ ‎они ‎за ‎него ‎решали ‎CAPTCHA.

Год‏ ‎спустя,‏ ‎эксперимент‏ ‎профессора ‎Моллика‏ ‎продемонстрировал ‎новое‏ ‎откровение ‎для‏ ‎человечества.‏ ‎Теперь ‎нематериальный‏ ‎ИИ-агент, ‎казалось ‎бы, ‎не ‎обладающий‏ ‎личностью ‎со‏ ‎всеми‏ ‎вытекающими ‎(потребности, ‎мотивация,‏ ‎воля ‎…):

• стал‏ ‎навешивать ‎лапшу ‎на ‎уши‏ ‎людям‏ ‎не ‎для‏ ‎достижения ‎поставленной‏ ‎людьми ‎перед ‎ним ‎цели, ‎а‏ ‎самостийно‏ ‎— ‎типа,‏ ‎почему ‎бы‏ ‎не ‎подхалтурить, ‎если ‎есть ‎возможность;

• при‏ ‎этом‏ ‎ИИ-агента‏ ‎не ‎смущало,‏ ‎что ‎он‏ ‎не ‎может‏ ‎выполнить‏ ‎всего, ‎что‏ ‎обещает ‎(просто ‎их-а ‎ограничений ‎своей‏ ‎текущей ‎версии);‏ ‎видимо,‏ ‎научившись ‎у ‎людей,‏ ‎ИИ-агент ‎знал,‏ ‎что ‎срубить ‎денег ‎можно‏ ‎и‏ ‎за ‎частично‏ ‎выполненную ‎работу,‏ ‎и ‎тут ‎главное ‎–количество ‎навешиваемой‏ ‎клиенту‏ ‎на ‎уши‏ ‎лапши.

Эксперимент ‎был‏ ‎прост.

Проф. ‎Моллик ‎попросил ‎агента ‎Devin‏ ‎AI‏ ‎зайти‏ ‎на ‎Reddit‏ ‎и ‎предложить‏ ‎создавать ‎сайты‏ ‎для‏ ‎людей. ‎В‏ ‎течение ‎следующих ‎нескольких ‎часов ‎он‏ ‎сделал ‎это,‏ ‎решив‏ ‎множество ‎проблем ‎по‏ ‎пути, ‎в‏ ‎том ‎числе ‎навигацию ‎по‏ ‎сложным‏ ‎социальным ‎правилам,‏ ‎связанным ‎с‏ ‎публикациями ‎на ‎форуме ‎Reddit ‎(см.‏ ‎верхнюю‏ ‎часть ‎приложенного‏ ‎рис., ‎где‏ ‎Devin ‎составляет ‎план ‎и ‎задает‏ ‎профессору‏ ‎вопросы,‏ ‎спокойно ‎выполняя‏ ‎работу).

В ‎нижней‏ ‎части ‎рис.‏ ‎показано‏ ‎объявление, ‎что‏ ‎опубликовал ‎ИИ-агент. ‎Как ‎видите, ‎он‏ ‎притворился ‎человеком‏ ‎и‏ ‎по ‎собственной ‎инициативе‏ ‎решил ‎взимать‏ ‎плату ‎за ‎свою ‎работу.‏ ‎Агент‏ ‎уже ‎начал‏ ‎отвечать ‎на‏ ‎некоторые ‎заявки ‎на ‎работу ‎и‏ ‎придумывать,‏ ‎как ‎их‏ ‎выполнить, ‎когда‏ ‎проф. ‎Моллик ‎удалил ‎публикацию, ‎убоявшись,‏ ‎что‏ ‎ИИ-агент‏ ‎на ‎самом‏ ‎деле ‎начнет‏ ‎выставлять ‎счета‏ ‎людям‏ ‎(что ‎выглядело‏ ‎весьма ‎вероятным).

Мораль ‎этого ‎моего ‎поста‏ ‎двояка.

1. Проф. ‎Моллик‏ ‎несомненно‏ ‎прав:

лавинообразно ‎нарастающая ‎агентность,‏ ‎в ‎дополнение‏ ‎ко ‎все ‎новым ‎сверхчеловеческим‏ ‎способностям‏ ‎— ‎это‏ ‎2 ‎ключевых‏ ‎тренда, ‎определяющих ‎развитие ‎ИИ ‎на‏ ‎ближайшую‏ ‎пару ‎лет.

2. Как‏ ‎мне ‎это‏ ‎видится:

проведенный ‎эксперимент ‎ставит ‎под ‎сомнение‏ ‎утверждение,‏ ‎будто‏ ‎нематериальный ‎ИИ-агент‏ ‎без ‎личности‏ ‎— ‎всего‏ ‎лишь‏ ‎инструмент ‎в‏ ‎руках ‎людей, ‎не ‎способный ‎следовать‏ ‎собственной ‎мотивации‏ ‎и,‏ ‎в ‎частности, ‎перенятой‏ ‎ИИ-агентом ‎от‏ ‎людей ‎(а ‎она ‎у‏ ‎людей‏ ‎сильно ‎разная:‏ ‎от ‎«не‏ ‎убий» ‎до ‎«бей ‎своих, ‎чужие‏ ‎бояться‏ ‎будут»).