Искусственный интеллект нуждается в защите от внешних угроз и собственных галлюцинаций

Искусственный интеллект нуждается в защите от внешних угроз и собственных галлюцинаций

Российский рынок кибербезопасности может достичь 1 трлн рублей в год, но рост будет обеспечен не простым увеличением продаж, а качественным изменением подходов к защите. Об этом на сессии в Санкт-Петербурге заявил вице-президент по продажам и маркетингу UserGate Михаил Пеньковский.

Главный драйвер - постоянная трансформация ИТ-инфраструктур. Защита больше не может быть «коробочной»: она должна покрывать конкретные бизнес-сценарии и синхронизироваться с изменениями в инфраструктуре.

Особые риски создаёт внедрение ИИ. Без доверенной архитектуры ИИ-агенты не только усиливают хаос, но и сами становятся источником угроз из-за ошибок и галлюцинаций. Поэтому каждому ИИ-агенту нужна как внешняя защита, так и внутренний контроль.

@tnvst_ru