Как нейросети палят ваши данные: новый метод оценки запоминания LLM показал шокирующие результаты

Как нейросети палят ваши данные: новый метод оценки запоминания LLM показал шокирующие результаты

Учёные из MIT и ETH Zurich представили метод DIFF-MEM, который выявляет объём личных данных, запомненных моделями вроде GPT-4 и LLaMA 3.2. Результаты показали, что до 12% тренировочных данных можно извлечь.

Это важно, потому что теперь можно точнее оценивать риски утечки конфиденциальной информации и улучшать безопасность LLM.

Читать статью →

Подписаться на канал