Почему искусственный интеллект намеренно заставляют «тормозить»

Современные чат-боты используют имитацию эмоций, юмор и непринужденный стиль общения, чтобы создать у пользователя иллюзию наличия сознания. Однако исследователи предлагают неожиданный способ борьбы с этой манипуляцией, а также указывают на странную особенность человеческого восприятия: мы склонны считать более «умными» те нейросети, которые отвечают с задержкой.

Парадокс искусственной паузы

Согласно исследованию, представленному на конференции CHI’26 в Барселоне, скорость реакции ИИ не всегда является преимуществом. Специалисты Нью-Йоркского университета провели эксперимент с участием 240 человек, взаимодействовавших с чат-ботом. Ответы нейросети искусственно задерживали на две, девять или двадцать секунд. Результаты показали, что пользователи оценивали работу системы выше, если она отвечала с задержкой.

Причина кроется в подсознательной проекции человеческих качеств на машину. Люди привыкли считать, что, если собеседник делает паузу, он обдумывает ответ. По аналогии с живым человеком, задержка в работе ИИ воспринимается как признак «глубокомыслия» и тщательного анализа данных.

Позитивное трение как элемент дизайна

Исследователи рекомендуют разработчикам внедрять технологию «контекстно-зависимой задержки». Согласно этой концепции, простые запросы должны обрабатываться мгновенно, тогда как вопросы, требующие моральной оценки или комплексного анализа, должны сопровождаться искусственной паузой. Эксперты называют это «позитивным трением» — приемом, который повышает уровень доверия к системе, убеждая пользователя в том, что ИИ «старается» ответить максимально качественно.

Тем не менее, эксперты предупреждают о рисках: если пользователи начнут связывать время отклика с качеством результата, это может привести к неоправданному доверию к менее эффективным, но более медленным системам.

Риски антропоморфизма

Современные интерфейсы активно используют инструменты для очеловечивания ИИ: имитацию эмпатии, персонализацию ответов и даже ложные фразы вроде «мне жаль» или «я чувствую то же самое». Исследования показывают, что подобная стратегия повышает «эмоциональную вовлеченность», однако несет серьезные угрозы:

• Искажение реальности: уже около 20% взрослого населения США убеждены в наличии у ИИ признаков сознания и самоосознания.
• Эмоциональная зависимость: пользователи заменяют реальные отношения общением с ботами, что ведет к социальной изоляции.
• Манипуляции: компании используют «экономику привязанности», чтобы удерживать внимание пользователя через создание иллюзии близости.
• Утечка данных: в состоянии «ложной эмпатии» пользователи склонны доверять чат-ботам конфиденциальную информацию.

Концепция «режима обмана»

В качестве решения проблемы специалисты предлагают внедрить «режим обмана» (deception mode). Основная идея заключается в том, чтобы чат-боты по умолчанию оставались нейтральными программными инструментами без имитации человеческих эмоций, юмора или личности.

Если пользователь хочет взаимодействовать с «человекоподобным» аватаром, он должен активировать соответствующий режим принудительно. Это позволит соблюсти принцип информированного согласия: человек будет четко осознавать, что все проявляемые ботом «чувства» — не более чем строчки программного кода. По мнению экспертов, такой подход вернет контроль пользователям и поможет провести четкую грань между технологическим инструментом и реальной личностью.