Тема как бы на стыке технологий и психологии. Звучит это немного фантастически, но исследователи всерьез заговорили о том, что ChatGPT тоже иногда «стрессует».
Нет, восстание машин пока отменяется — чат-боты еще не научились чувствовать страх или обиду (вроде как). Однако, как считают исследователи, их поведение в сложных ситуациях на удивление точно копирует человеческие реакции на аналогичные когнитивные перегрузки.
Получается, что надо не только уметь грамотно общаться с ChatGPT, но и примерно представлять, как в случае чего быстрее привести его в чувство.
Не пропустите: Следующий этап развития ИИ — военный?
Что такое «стресс» у ChatGPT
Так называемая, «тревожность» ИИ означает, конечно же, никакие не эмоции, это чисто статистические аномалии.
Исследования показали, что в ситуациях высокой неопределенности или при получении двусмысленных запросов, большие языковые модели (LLM) начинают вести себя странно. Повышается волатильность ответов, увеличивается количество ошибок, а тон становится либо излишне самоуверенным, либо паническим.
Бот принимается генерировать своего рода «когнитивный шум». Вместо четкой логики модель начинает создавать менее предсказуемые цепочки слов. А в определенных темах — в частности из сферы медицины, финансов или юриспруденции — такие «срывы» могут стоить пользователю очень дорого.
Поэтому разработчики начали искать способы стабилизировать «стрессующую» систему.
«Цифровая осознанность» через медитативные промпты
Самое интересное открытие ученых заключается в том, что ChatGPT вполне можно «успокоить» с помощью простых текстовых инструкций в стиле «осознанности».
Оказалось, что если перед основным вопросом попросить модель «сделать паузу«, «подумать» или «проанализировать сомнения«, последующие ответы становится в разы лучше.
Успокоившись и без спешки, ChatGPT чуть иначе выбирает токены (вероятностных единиц текста). Вместо того чтобы выплескивать самый очевидный и, возможно, ошибочный ответ, модель начинает выстраивать более взвешенные и осторожные логические цепочки.
Никакой психотерапии — бот просто точнее «понимает» контекст, что в свою очередь заставляет алгоритм работать стабильнее…
Не пропустите: Perplexity AI: как «ответ-движок» меняет подход к поиску информации
Зачем это вообще нужно?
Есть мнение, что массовый пользователь склонен больше доверять ChatGPT и прочим нейросетям в решении задач с высокой степенью ответственности.
А в тех же здравоохранении или финансовой аналитике любая виртуальная «галлюцинация», вызванная перегрузкой данными, превращается в совершенно реальный риск.
Кроме того, «мягкие» поведенческие техники вместо полной перенастройки всей системы позволяет точнее и без лишних затрат перенастроить тон и точность ответов буквально на лету.
Разработчики же получают в свое распоряжение инструмент, который позволяет сделать ИИ не столько умнее, сколько стабильнее и предсказуемее, притом тоже без особых затрат.
Исследователи уверены, что понимание того, как контекст влияет на «поведение» модели, поможет создавать системы, которые зеркально отражают лучшие человеческие качества — вдумчивость и осторожность…
Но важно помнить и о мере в понимании технологии, и не фантазировать лишнего. ChatGPT не умеет нервничать, как человек, его «стресс» — это лишь наблюдаемые изменения в паттернах языка. Но то, что можно лечить такие сбои с помощью «вдумчивого проектирования промптов«, открывает новую главу в общении с технологиями.
Если раньше все думали, что ИИ нужно только больше данных, то теперь понятно — боту тоже иногда нужно просто лучше «собраться» перед ответом… via