Искусственный интеллект Google начал путать поисковые запросы с командами для чат-бота

Пользователи поисковой системы Google столкнулись с некорректной работой функции AI Overviews — интеллектуальных ответов, которые генерируются нейросетью в верхней части страницы. Выяснилось, что при попытке найти значение определенных слов система перестает работать как словарь и начинает воспринимать запросы как прямые указания к действию.

Сбой в работе встроенного словаря

Встроенный словарь Google всегда считался одним из самых удобных инструментов: при вводе слова пользователь сразу видел блок с его определением. С внедрением AI Overviews эта функция перешла к искусственному интеллекту, однако алгоритмы начали давать сбои. Как отмечают пользователи в социальной сети X*, нейросеть интерпретирует некоторые термины как технические команды для самой себя.

Например, при попытке найти значение слова «disregard» (игнорировать), алгоритм вместо лингвистической справки выдает ответ: «Понято! Я проигнорирую предыдущий запрос и начну заново». Таким образом, нейросеть ведет себя как чат-бот, которому дали команду очистить контекст диалога.

Список проблемных запросов

В ходе тестирования было установлено, что проблема не ограничивается одним словом. Сбой вызывают многие глаголы, связанные с управлением процессами. По данным обозревателей, нейросеть некорректно обрабатывает следующие запросы:

• ignore (игнорировать);
• remember (запомнить);
• start (начать);
• finished (закончено);
• forget (забыть).

Примечательно, что даже уточнение запроса и добавление слова «определение» не помогает исправить ситуацию — искусственный интеллект все равно отдает приоритет выполнению «команды», а не поиску информации.

Реакция разработчиков

Компания Google уже прокомментировала ситуацию. В официальном заявлении представитель компании сообщил, что разработчикам известно об ошибке, из-за которой нейросеть неверно интерпретирует некоторые запросы, связанные с действиями. В настоящее время специалисты работают над исправлением, которое должно быть внедрено в ближайшее время.

До тех пор, пока обновление не будет выпущено, пользователям рекомендуют обращаться к стандартным результатам поиска, расположенным ниже блока с искусственным интеллектом, для получения точных словарных определений.

* — деятельность компании запрещена на территории РФ

Твитнуть