Программирование в эпоху серых ящиков (7/12)

Программирование в эпоху серых ящиков (7/12)



08. Метрика может стать театром

У серого ящика есть обратная сторона. Раз внутренности не видны, инженер всё меньше объясняет логику — и всё больше компенсирует это метриками. Это логично. Это же и опасно.

Открываешь дашборд. Сорок семь графиков. Зелёные, жёлтые, красные. Одиннадцать уровней алёртов. Полтора гигабайта метрик в день. Простой вопрос: этой штукой сейчас можно безопасно пользоваться — или нет? Ответа нет.

Это и есть метрический театр. Двести метрик и ни одного решения — не приборная панель самолёта, а витрина магазина. Количество измерений не заменяет ясность.

Здоровая система различает три уровня измерений. Метрики результата — делает ли модуль свою бизнес-функцию. Guardrail-метрики — не достигается ли результат опасным способом. Диагностические метрики — они нужны инженеру, когда проблема уже началась. Управлять компанией по диагностике — ошибка. Это всё равно что водить машину по показаниям температуры двигателя, не видя дороги.

У каждого модуля должен быть не набор графиков, а паспорт доверия. Что он должен делать. В каких условиях. Что считается нормой. Как видна деградация. Что делаем при сбое. Когда подключаем человека. Где у нас доказательство, а где только эвристика.

автор Георгий · telegram @OkjaGG
#AI #Нейросети
@DevsRoot
В MAX