📰 Anthropic внедрил невидимую цифровую подпись в Claude

📰 Anthropic внедрил невидимую цифровую подпись в Claude

Компания Anthropic объявила о добавлении в свою языковую модель Claude невидимой метки, которая позволяет идентифицировать текст, сгенерированный искусственным интеллектом. Технология работает на уровне токенов и не заметна для пользователя, но может быть обнаружена специальными алгоритмами. Это делает Claude одной из первых крупных моделей, где встроена такая защита на системном уровне.

Решение направлено на повышение прозрачности и борьбу с дезинформацией. Если текст создан ИИ, его происхождение можно будет проверить, что особенно важно для новостей, научных статей и официальных документов. Другие компании, включая OpenAI и Google, также исследуют подобные методы, но Anthropic первой внедрила их в коммерческую версию.

Что это значит для российского рынка: в России уже обсуждается обязательная маркировка AI-контента, и пример Anthropic может ускорить принятие аналогичных стандартов. Российским разработчикам языковых моделей, таким как Яндекс и Сбер, придётся учитывать этот тренд и либо внедрять собственные метки, либо адаптироваться к международным требованиям. Для пользователей это означает, что в ближайшее время может появиться больше инструментов для проверки происхождения текстов.

Источник: https://www.therundown.ai/p/anthropic-slips-an-invisible-signature-into-claude