Сбои в работе ИИ-обзоров Google: почему поисковик перестал понимать некоторые запросы

Новая функция ИИ-обзоров в поисковой системе Google столкнулась с неожиданными техническими трудностями. Пользователи обнаружили, что использование определенных слов в поисковых запросах дезориентирует алгоритм, заставляя его воспринимать их как прямые команды, а не как предмет поиска.

Ошибка восприятия

Проблема проявляется при вводе слов, таких как «disregard» (игнорировать) или «ignore» (не принимать во внимание). Вместо того чтобы выдать определение термина или сопутствующую информацию, нейросеть «ломается»: верхняя часть страницы, где обычно отображается краткая сводка от ИИ, остается пустой, а привычные ссылки на сайты сдвигаются значительно ниже.

Согласно результатам тестирования, в некоторых случаях система выдает ответ: «Нет проблем. Считаю запрос недействительным». Очевидно, алгоритм интерпретирует эти слова как системную инструкцию к самому себе, прекращая выполнение поиска.

Почему ИИ ошибается

Данный инцидент демонстрирует типичные уязвимости современных генеративных моделей, склонных к «галлюцинациям» или неправильной интерпретации контекста. Хотя в компании Google* пока не предоставили официальных комментариев, эксперты ожидают исправления этой программной ошибки в ближайшее время.

• ИИ-обзоры часто ошибочно считывают поисковые запросы как прямые команды управления системой.
• Подобные инциденты вызывают критику со стороны части аудитории, предпочитающей классический поиск без участия нейросетей.
• Google* активно внедряет ИИ-технологии в свой основной продукт, чтобы конкурировать с такими сервисами, как ChatGPT, созданным компанией OpenAI.
• Для пользователей, недовольных нововведениями, существуют альтернативы: DuckDuckGo, Kagi или поисковик Bing.

Инцидент стал очередным напоминанием о том, что интеграция искусственного интеллекта в поисковые инструменты сопряжена с рисками. Несмотря на попытки технологических гигантов сделать поиск более адаптивным, технология все еще требует доработки для исключения подобных ошибок.

* — деятельность компании запрещена на территории РФ