ИИ Щит и Меч в IT
ИИ Щит и Меч в ITНа конференции unprompted 2026 исследователь Anthropic Николас Карлини продемонстрировал, как Claude Opus 4.6 за 90 минут самостоятельно обнаружил критическую SQL-инъекцию в Ghost CMS — популярной системе с 50 000 звёзд на GitHub, у которой за всю историю не было ни одной критической уязвимости. Модель нашла брешь, извлекла API-ключ администратора и хеши паролей из базы данных без какой-либо аутентификации. Затем тот же подход был применён к ядру Linux: Claude обнаружил несколько удалённо эксплуатируемых heap buffer overflow в NFS-демоне, причём одна из уязвимостей существовала в коде с 2003 года — до появления Git. Ни один из существующих инструментов, включая фаззеры, годами прогонявшие миллионы часов CPU-времени на этих же кодовых базах, этого не нашёл.
Одновременно с релизом Opus 4.6 команда Anthropic опубликовала результаты масштабного аудита: более 500 подтверждённых уязвимостей высокой серьёзности в открытых проектах, 14 уязвимостей высокого и 7 среднего уровня — только в кодовой базе Mozilla. Ключевое отличие от фаззеров — модель рассуждает о коде как исследователь: читает историю коммитов, находит неполные патчи, выявляет логические ошибки, которые требуют понимания алгоритмов, а не просто перебора входных данных.
Масштаб сдвига виден по метрике мейнтейнеров ядра Linux: два года назад они получали 2–3 отчёта о безопасности в неделю, затем число выросло до 10, причём прирост составлял AI-генерированный мусор. С начала 2026 года поток вырос до 5–10 отчётов в день, и теперь большинство из них — по делу. Нагрузка настолько возросла, что пришлось привлекать дополнительных мейнтейнеров.
На этом фоне 31 марта произошла одна из крупнейших атак на цепочку поставок в истории npm. Северокорейская группировка UNC1069 скомпрометировала аккаунт ведущего мейнтейнера библиотеки Axios (~100 млн загрузок в неделю) и опубликовала две заражённые версии. Вредоносная зависимость plain-crypto-js через postinstall-хук автоматически устанавливала кроссплатформенный RAT на Windows, macOS и Linux. Вредоносные версии провисели около трёх часов, но за это время затронули CI/CD-пайплайны и рабочие станции разработчиков по всему миру. При этом малварь самоуничтожалась после установки, подменяя своё содержимое чистой копией — штатный npm audit не обнаруживал следов компрометации.
CEO Cognition (разработчик AI-агента Devin) Скотт Ву сообщил, что их агент обнаружил проблему у множества клиентов в течение часа — за несколько часов до первых публичных сообщений. Это наглядная демонстрация того, как AI-агенты работают и на стороне защиты: автоматический мониторинг зависимостей и изменений в коде способен сократить время реакции с часов до минут. Гонка между атакой и обороной в кибербезопасности вступает в новую фазу — и обе стороны теперь вооружены одними и теми же инструментами.
#AI #Нейросети #Моё
@DevsRoot
В MAX
Комментариев пока нет.