ChatGPT уличен в продвижении мошеннических онлайн-магазинов

Чат-бот ChatGPT, разработанный компанией OpenAI, был замечен в выдаче рекомендаций, ведущих пользователей на фальшивые торговые площадки. Это привело к случаям финансового мошенничества и кражи платежных данных, что стало новой угрозой в сфере онлайн-покупок через искусственный интеллект.

Как мошенники используют ИИ

Издание The Guardian сообщило о множестве инцидентов, когда ChatGPT направлял пользователей на убедительные, но поддельные розничные веб-сайты и даже предлагал несуществующие товары. Согласно данным сервиса по борьбе с мошенничеством Ask Silver, в торговых рекомендациях, генерируемых ChatGPT, стали появляться клонированные онлайн-магазины.

Злоумышленники создавали веб-сайты, выглядящие абсолютно аутентично, которые содержали ссылки на известные бренды, такие как Russell & Bromley или Dunelm. Пользователи, искавшие товары этих марок, попадали на фальшивые ресурсы. Те, кто оформлял заказы на таких сайтах, не только теряли деньги, но и рисковали раскрытием своих платежных данных.

Одной из причин появления этих подделок стало то, что Russell & Bromley перестала существовать как независимый розничный продавец после банкротства в январе 2026 года и последующего поглощения компанией Next. Мошенники немедленно заполнили образовавшуюся нишу, создавая похожие страницы, поскольку покупатели по-прежнему искали оригинальный сайт бренда.

«Отравление ИИ»: новая угроза

Исследователи полагают, что эти мошеннические атаки могут использовать технику, известную как «отравление ИИ» (AI poisoning). Это метод, при котором злоумышленники целенаправленно наводняют интернет фейковой информацией и клонированными веб-страницами. Большие языковые модели, такие как ChatGPT, поглощают эти данные, непреднамеренно продвигая мошеннические ресурсы как подлинные.

Предупреждения экспертов и меры безопасности

Эксперты по защите прав потребителей предостерегают, что не стоит безоговорочно доверять рекомендациям только потому, что они исходят от чат-бота с искусственным интеллектом. Луиза Бакстер, глава отдела по борьбе с мошенничеством в Национальной службе торговых стандартов, подчеркнула, что преступники быстро адаптируются к новым технологиям и используют любой канал, предоставляющий им доступ к потенциальным жертвам.

Предупреждающие знаки остаются неизменными:

• Необоснованно огромные скидки;
• Странные, нетипичные веб-адреса;
• Некорректная или отсутствующая контактная информация;
• Запросы на прямые банковские переводы вместо использования стандартных платежных систем.

Специалисты рекомендуют всегда напрямую переходить на сайты официальных ритейлеров, избегая использования ссылок, сгенерированных ИИ. После получения сообщений о нарушениях, некоторые из указанных мошеннических сайтов были удалены компанией OpenAI. Однако, поскольку инструменты искусственного интеллекта играют все более значимую роль в онлайн-поиске и покупках, компаниям потребуются более надежные меры защиты, чтобы предотвратить превращение полезных рекомендаций в дорогостоящие ошибки.

Твитнуть