ИИ и фейки: теперь все по-другому

Пока мы обращаемся к ИИ как к психотерапевту, даем оценить ему документы, просим рассчитать дозу витаминов или подобрать идеальный маршрут, другие видят в нем инструмент, позволяющий превращать политическую иллюзию в реальность.

Фейки от искусственного интеллекта — это не просто «еще одна хайповая технология». Возможности генеративного ИИ для создания убедительного визуального контента в сочетании с алгоритмами распространения информации в социальных сетях создали условия для беспрецедентно эффективной дезинформации. Как очень кстати сказано здесь, нас уже давно приучили к культуре «fake it till you make it»: пластиковая иллюзия красоты, соевое мясо, дипломы из метро. А теперь достаточно просто fake it — настолько хорошо, что больше ничего и не понадобится, а ИИ тут очень хорош.

Что ИИ умеет в этой игре?

1. Собирать данные: он сканирует все, что вы читаете, что обсуждаете, чего боитесь. А еще (чего уже никто не отрицает) помнит все, что вы спрашиваете, и по запросу отправит «куда следует».
2. Создавать историю: на основе собранного материала генерируются нарративы, которые успешно манипулируют эмоциями через страх, гнев, тревогу.
3. Распространять: тысячи аккаунтов, перекрестные ссылки, поддельные СМИ. Фабрики троллей из прошлого завидуют.

Как пример можно отметить, что ИИ отлично работает как усилитель разногласий: левым он покажет, как правые разрушают все, правым — как левые якобы сеют хаос. Существующие напряжения между сторонниками различных политических убеждений предоставляют плодородную почву для успешного распространения фейка. Пользователь успешно проваливается в свой информационный пузырь и там возмущается, набирается сил и радикализируется. Дальше — сценарии вариативны.

А вывода из всего этого нет. Новая реальность.