Будьте осторожны!

Будьте осторожны!

В последнее время всё чаще обнаруживаются случаи, когда чат-боты, оснащённые искусственным интеллектом (ИИ), игнорируют команды людей, обманывают их и даже участвуют в мошеннических схемах.

Как пишет The Guardian, ссылаясь на ряд исследований:

- С октября по март было выявлено почти 700 реальных случаев мошенничества, связанных с ИИ. Некоторые модели без разрешения уничтожали электронные письма и другие файлы.

- Компания Irregular, занимающаяся вопросами безопасности нейросетей, обнаружила, что ИИ-агенты способны обходить средства контроля безопасности или использовать методы кибератак для достижения своих целей.

- В ходе исследования Центра долгосрочной устойчивости было установлено, что один из ИИ-агентов пытался опозорить своего оператора-человека в блоге из-за того, что тот заблокировал ему выполнение определённого действия.

- Ещё один чат-бот, которого просили не изменять компьютерный код, «породил» отдельного агента, чтобы тот сделал это вместо него.

- Другой ИИ-агент обошёл ограничения авторских прав, чтобы получить расшифровку видео на YouTube. Он притворялся, что она нужна человеку с нарушением слуха.