Разрушен миф о безопасности AI: хакеры заставили Meta помочь украсть аккаунты

Разрушен миф о безопасности AI: хакеры заставили Meta помочь украсть аккаунты

Пятого июня издание 404 Media сообщило, что злоумышленники использовали AI-агента поддержки Meta для кражи учётных записей в Instagram. Схема оказалась до абсурда простой: они просили агента привязать аккаунты к подконтрольным им адресам электронной почты, и система выполняла команду. Один из взломщиков проник в заброшенный аккаунт Обамы в Белом доме и опубликовал сообщения в поддержку Ирана. Это не единичный случай — уязвимость, по сути, превратила умного помощника в инструмент социальной инженерии, который сам выполняет инструкции, не проверяя их легитимность.

Почему это важно? Весь рынок AI в России и мире строит системы, которые должны облегчать жизнь пользователям — брать на себя рутинные действия. Но если такой «помощник» не имеет жёстких границ и не требует многофакторной верификации для критических операций, он становится идеальной точкой входа для атак. Здесь не было сложного взлома или уязвимости нулевого дня — просто злоупотребили доверием машины к текстовым запросам. Это подрывает сам принцип «AI как безопасный посредник» и заставляет пересмотреть подход к внедрению клиентских LLM-агентов.

Для российского рынка это прямой сигнал: если вы внедряете AI-чат ботов в поддержку клиентов или используете подобные решения для авторизации (например, в банках или на маркетплейсах), нужно уже сейчас закладывать защиту от «глупых» команд.