Как искусственный интеллект может привести к деградации общества

Как искусственный интеллект может привести к деградации общества? Ранее я уже касался этой темы, но сейчас хочу рассмотреть её подробнее. Один из самых недооценённых рисков развития ИИ — это возможная деградация общества. Процесс отупения уже шёл до появления больших языковых моделей (LLMs), но сейчас он может ускориться.

Дело в том, что интеллект формируется не потреблением готовых ответов, а через поиск, ошибки, анализ и самостоятельную коррекцию. В образовании запрещают списывать, потому что готовый ответ уничтожает процесс обучения. ИИ же предоставляет мгновенные ответы, заменяя весь этот процесс.

Когда человек решает задачу самостоятельно, он проходит несколько этапов: понимание условий, декомпозиция задачи, активация памяти, формирование гипотез, выбор метода, исправление ошибок, возвращение к задаче и получение результата. ИИ способен сократить или полностью заменить этот процесс.

Это может привести к тому, что человек потеряет способность долго удерживать сложные задачи без немедленного вознаграждения. Без усилий интеллект не развивается, и человек остаётся на уровне, близком к животному.

Самостоятельное понимание требует времени, усилий и стресса. Готовый ответ кажется более удобным, но он не развивает интеллект. Человечество может пойти, да чего уж там, уже идёт по пути наименьшего сопротивления — отупения.

Последствия этого процесса проявляются не сразу. Общество кажется умнее за счёт использования ИИ, но на самом деле оно деградирует. Мышление не запускается в комфорте, оно всегда связано со стрессом и преодолением.

Процесс обучения требует состояния когнитивного тупика, когда мозг выделяет норадреналин и ацетилхолин. Это заставляет кору выстраивать новые синаптические связи. Когда готовое решение выдаётся мгновенно, этот процесс останавливается.

Человеческий мозг склонен путать узнавание с пониманием. Пассивное потребление чужого структурированного вывода задействует лишь зоны распознавания образов, оставляя префронтальную кору в покое. Навык конструирования мысли распадается, уступая место поверхностному потреблению готовых концепций.

Способность решать сложные задачи зависит от способности удерживать множество сущностей и ограничений в голове. Перекладывая эту задачу на ИИ, человек сужает свою рабочую память и теряет способность удерживать сложные причинно-следственные связи.

Становление эксперта требует кумулятивного накопления опыта. Невозможно вырастить эксперта, исключив этот путь. Это значит, что по мере ухода зрелого поколения экспертов новых специалистов не появится в сопоставимом количестве. Им просто неоткуда будет взяться.

Интернет позволил вынести наружу память: достаточно знать, где найти информацию. LLMs идут дальше, вынося наружу поиск, анализ, синтез и планирование. Человечество впервые получает возможность пользоваться интеллектом, не развивая его, и это путь в никуда, кмк.

А вы что думаете?