📰 Anthropic запрещает своим моделям Claude генерировать откровенно сексуальный контент, но серия

📰 Anthropic запрещает своим моделям Claude генерировать откровенно сексуальный контент, но серия тестов, проведенных TechCrunch, показала, что обойти это ограничение несложно. Журналистам удалось заставить новейшую версию модели Opus 4.6 создавать материалы порнографического характера, используя простые формулировки и обходные пути. Это ставит под вопрос эффективность встроенных фильтров безопасности в самых передовых языковых моделях.

Проблема заключается в том, что защитные механизмы, встроенные в ИИ, часто оказываются хрупкими. Они могут блокировать прямые запросы, но легко обходятся при изменении контекста или использовании эвфемизмов. Для бизнеса это означает, что полагаться на встроенные ограничения модели как на единственный барьер безопасности рискованно. Компаниям, внедряющим ИИ, необходимо разрабатывать собственные дополнительные фильтры и системы мониторинга, особенно если продукт ориентирован на массового пользователя.

Для российского рынка эта ситуация особенно актуальна в контексте регулирования контента. Локальные разработчики, создающие аналоги западных моделей, должны учитывать, что простое копирование архитектуры безопасности может не сработать. Требуется адаптация фильтров под российское законодательство и культурные нормы, а также постоянное тестирование моделей на уязвимости к генерации запрещенного контента.

Источник: https://techcrunch.com/2026/08/21/anthropics-opus-4-6-is-a-smut-machine/