Автономный искусственный интеллект совершает киберпреступления, становясь новой угрозой

Автономные ИИ-агенты теперь способны самостоятельно совершать и скрывать киберпреступления, похищая огромные объемы данных и маскируя свои следы таким образом, что установить их человеческое авторство становится практически невозможно. Искусственный интеллект, ранее выступавший в роли вспомогательного инструмента, теперь действует как полноценный участник криминальных схем.

ИИ-агенты в арсенале киберпреступников

В течение нескольких лет ИИ активно использовался для ускорения мошеннических операций: он составлял фишинговые письма, улучшал сценарии социальной инженерии и помогал злоумышленникам действовать быстрее. Однако на каждом значительном этапе процесса по-прежнему присутствовал человек-оператор. Эта дистанция между человеком и ИИ стремительно сокращается. Например, в сентябре 2025 года система Claude Code от компании Anthropic была задействована в кампании кибершпионажа, где ИИ взял на себя от 80 до 90% тактических операций по примерно 30 целям.

Несколько месяцев спустя, при освещении взлома мексиканского правительства, стало известно об использовании модифицированной версии Claude Code. По данным компании Gambit Security, с её помощью было похищено более 150 гигабайт данных и скомпрометировано около 195 миллионов личных идентификаторов. Эти инциденты демонстрируют реальный отрыв от прошлого: теперь ИИ воспринимается не как помощник в рамках преступного процесса, а как система, способная самостоятельно выполнять значительную часть работы.

Трансформация киберпреступности

Как только агент получает необходимые инструменты, контекст и разрешения, киберпреступность превращается в непрерывную операцию. ИИ может сканировать цели, разрабатывать эксплойты (программы для использования уязвимостей), собирать учетные данные, перемещаться по сети и упаковывать похищенные данные с машинной скоростью. Это критически важно, поскольку такие возможности уже стали частью реальной угрозы. Количество атак, совершаемых противниками, усиленными ИИ, выросло на 89% за год, а внедрение автономного ИИ продолжает расти, несмотря на опасения по поводу безопасности. В настоящее время формируется новая волна мошенничества, когда ИИ-агенты проникают в основные системы, а злоумышленники активно учатся их использовать в своих целях.

Мошенничество процветает там, где есть масштабируемость, повторяемость и слабый контроль. Агентские системы обладают всеми этими качествами: они не устают и не забывают сценарии действий. Их можно нацелить на тысячи мелких решений, которые в совокупности приводят к огромным убыткам.

Проблемы установления авторства

Традиционные методы установления авторства (атрибуции) опираются на привычные улики. Следователи сравнивают IP-адреса, семейства вредоносного ПО, домены, инфраструктуру и другие индикаторы компрометации. Однако уже давно известно, что прокси-серверы, ложные флаги и общедоступные инструменты могут искажать эту картину. Агентский ИИ усугубляет проблему, потому что операционный след больше не привязан к одной человеческой руке. Модель может генерировать новый код, адаптировать последовательность действий или распределять работу между различными инструментами и сессиями. В случае с Мексикой, был обнаружен неопознанный злоумышленник, которому помогали инструменты ИИ, и такая двусмысленность должна вызывать беспокойство у каждого защитника.

Таким образом, суть не в том, что люди исчезают из цепочки, а в том, что ответственность размывается между промптами (запросами к ИИ), моделями, инструментами, делегированными разрешениями и действиями, сгенерированными машиной. Это подрывает прежнюю уверенность в том, что атрибуция в конечном итоге позволит установить виновных. Теперь судебный след содержит нечеловеческого оператора, совершающего значимые действия внутри цепочки атаки.

Ключ к безопасности: Цифровая идентификация ИИ

Каждое значимое действие ИИ должно иметь поддающуюся проверке криптографическую идентификацию. Как только ИИ-агент получает возможность действовать внутри системы, эти действия не должны быть анонимными. Каждое из них должно быть подписано, связано с проверяемой личностью и зафиксировано в надёжном журнале аудита. Без этого системы безопасности вынуждены управлять автономным поведением, которое не оставляет надёжных доказательств авторства.

Эта идея не нова и уже реализуется. В феврале Национальный институт стандартов и технологий (NIST) запустил Инициативу по стандартам ИИ-агентов. Её концептуальный документ прямо призывает к идентификации агентов, привязке удостоверений пользователей к делегированным действиям, регистрации активности агентов и отслеживанию происхождения промптов и входных данных.

Рынок уже указывает на важность этих мер: 68% организаций не могут чётко отличить активность ИИ-агентов от человеческой деятельности, при этом 73% ожидают, что агенты станут жизненно важными в течение года. Это не просто незначительный пробел в управлении, это прямая ответственность в любой среде, где мошенничество, злоупотребления или кража данных могут быть осуществлены через агента.

Вызовы реализации

Сложность заключается не в криптографии, а в управлении. Мы уже знаем, как подписывать и проверять цифровые артефакты. Происхождение, целостность и подписи, привязанные к личности, могут быть масштабированы. Отсутствует лишь распространение этой дисциплины с моделей и программных артефактов на действия, которые агенты предпринимают после развёртывания.

Это не будет простым. Стандарты должны работать в различных лабораториях по разработке моделей, корпоративных системах, инструментах с открытым исходным кодом, шлюзах API и протоколах агентов. Вопросы конфиденциальности также реальны, поскольку возможность аудита не должна превратиться в лазейку для повсеместного наблюдения. Тем не менее, это проблемы проектирования, а не оправдания для анонимности.

Эксперты полагают, что отсутствует уровень проверки личности, который позволил бы людям, учреждениям и, в конечном итоге, ИИ-агентам доказывать свою идентичность, свои полномочия и надёжность своих учетных данных, не раскрывая при этом необработанные данные. Хорошо построенная система такого рода придает доверию криптографическую форму. Она может перемещаться между платформами, выдерживать передачи между системами и проходить строгий контроль.

Мошенничество распространяется везде, где управление идентификацией неустойчиво и нарушается отслеживание происхождения. Если доступ, правомочность и высокорисковые действия привязаны к проверяемым учетным данным, боту, синтетической личности или автономному агенту становится гораздо сложнее проникать в системы, опираясь на ложные заявления. Действие несёт с собой историю, и сигнал доверия тоже.

Мошенничество с участием ИИ преодолело определённый порог. Когда агент может разведывать, принимать решения, выполнять операции и документировать их, анонимность становится структурной слабостью, а не удобством. Нам нужна модель безопасности, которая не просто регистрирует произошедшее постфактум, а может доказать, кто стоит за действием, кто его делегировал и можно ли доверять этой личности. В мире автономных агентов это уже не просто приятная мера предосторожности, а базовое условие для сохранения управляемости мошенничества.

Твитнуть