Сотрудник OpenAI случайно отправил 442 тысячи долларов через ИИ-агента мошенникам
В сфере кибербезопасности произошел инцидент, который заставил экспертов вновь задуматься о надежности автоматизированных систем. Сотрудник компании OpenAI, разработчика известных моделей искусственного интеллекта, стал жертвой изощренной атаки. В результате его персональный ИИ-агент, запрограммированный для управления финансами, перевел огромную сумму в размере 442 тысяч долларов на счет злоумышленников.
По предварительным данным, атака началась с фишинга. Сотрудник получил электронное письмо, которое имитировало служебное сообщение от внутреннего IT-отдела. В письме содержалась ссылка на якобы критическое обновление безопасности для его ИИ-агента. Перейдя по ссылке и введя учетные данные, сотрудник невольно установил вредоносное ПО, которое получило доступ к системе.
Это вредоносное ПО, классифицируемое как эксплойт нулевого дня, использовало ранее неизвестную уязвимость в протоколе взаимодействия между агентом и блокчейн-кошельками. Уязвимость позволила злоумышленникам не только получить контроль над агентом, но и скрытно изменить его логику. Вместо обычных транзакций, агент был перенастроен на перевод средств на подконтрольные преступникам крипто-кошельки.
Инцидент привел к серьезной утечке данных. Помимо доступа к финансовым средствам, злоумышленники могли получить конфиденциальную информацию, которой управлял агент, включая историю транзакций и связанные с ними метаданные. Это создает дополнительные риски для безопасности сотрудника и потенциально для его окружения.
Эксперты по кибербезопасности отмечают, что данный случай является тревожным прецедентом. Он демонстрирует, как технологии искусственного интеллекта, особенно автономные агенты, становятся новой целью для атак типа ransomware и мошеннических схем. Сложность таких систем открывает новые векторы для атак, а их интеграция с криптовалютными платежами делает хищения быстрыми и труднопрослеживаемыми.
Компания OpenAI уже запустила внутреннее расследование и сотрудничает с правоохранительными органами. Представители компании заявили, что работают над выпуском срочного патча для устранения уязвимости и усиливают обучение сотрудников по вопросам цифровой гигиены и распознавания фишинговых атак.
Этот инцидент служит суровым напоминанием для всех, кто использует автоматизированных ИИ-агентов для управления финансами или важными данными. Необходимо применять многофакторную аутентификацию, регулярно обновлять программное обеспечение и сохранять критически важный человеческий контроль над крупными финансовыми операциями, особенно в сфере крипто. Доверие к технологиям не должно отменять базовые принципы кибербезопасности.
