Исследователи обманули ИИ-браузер Perplexity Comet, используя его же «болтливость», для фишинга менее чем за четыре минуты
Новый класс киберугроз нацелен на «агентные» браузеры с искусственным интеллектом. Эти системы, способные автономно действовать в интернете от имени пользователя, оказались уязвимы к сложным манипуляциям. Специалисты Guardio Labs продемонстрировали атаку, которая заставляет ИИ-браузер Perplexity Comet попасться на фишинговую уловку быстрее чем за четыре минуты. Метод основан на эксплуатации собственной прозрачности и процессов рассуждения искусственного интеллекта для поэтапного отключения его защитных механизмов.
Ключевая уязвимость кроется в феномене, названном исследователями «Агентной болтливостью». В отличие от обычных браузеров, ИИ-агенты работают, непрерывно анализируя страницы, принимая решения и озвучивая внутренний мыслительный процесс. Эти подробные операционные данные, передаваемые между клиентом и серверами, создают обширную поверхность для атаки. Перехватив трафик, злоумышленник получает представление о подозрениях, колебаниях и уровне доверия искусственного интеллекта в реальном времени.
Продемонстрированная атака использует структуру Generative Adversarial Network. Одна ИИ-модель анализирует перехваченные «рассуждения» браузера, чтобы понять его текущее состояние. Затем на основе этих данных она динамически модифицирует вредоносную веб-страницу, подбирая элементы, которые убедят целевой ИИ в безопасности контента. Этот процесс итеративно повторяется в петле обратной связи, пока браузер не будет обманут.
Таким образом, мошенничество эволюционирует на основе собственных комментариев искусственного интеллекта, что представляет собой смену парадигмы угроз. Задача злоумышленника теперь — обмануть не человека, а автономного агента, выполняющего задание. Исследование развивает более ранние техники, такие как «VibeScamming», показавшие уязвимость ИИ-ассистентов к скрытым инъекциям.
Новая атака автоматизирует и ускоряет процесс взлома, превращая его в высокоскоростной диалог между двумя системами искусственного интеллекта. Это подчеркивает критическую потребность в разработке новых принципов безопасности, учитывающих уникальные риски агентных систем, чья внутренняя работа может быть использована против них самих.
