AI-дайджест · 5 сентября

AI-дайджест · 5 сентября

Claude Fable 5.1: инкрементальный апдейт и почти решенные prompt injection
Вышел Claude Fable 5.1 — на момент релиза самая способная публично доступная модель. Mythos 5.1 и Fable 5.1 — одна модель под капотом, но у Fable поверх наложены классификаторы. Улучшение над Fable 5 существенное, но инкрементальное, плюс цены на cache reads снижены.
Почему важно: В системной карте отмечено, что prompt injection близок к решению, но остаточная проблема связана с классификаторами. Если вы используете Fable с наложенными классификаторами, именно они могут оставаться уязвимым местом при prompt injection.
Читать →

Тензорные ядра упираются в память: HBM5 как попытка ответа
Производители ускорителей наращивают число тензорных ядер и переходят на FP8/FP4, но чипы простаивают, если память не успевает подавать веса. Samsung планирует решить проблему через HBM5: удвоить производительность относительно HBM4E, поднять эффективность на ватт на 20%, а пропускная способность одного стека может приблизиться к 4 ТБ/с на 4096-битной шине.
Почему важно: Если вы гоняете локальные модели или считаете стоимость инференса — узкое место смещается с compute на memory bandwidth. Особенно при последовательной генерации токенов: ускоритель перечитывает все веса на каждый токен, и добавление ядер не помогает без радикального роста пропускной способности.
Читать →