«По меркам человека, ИИ — это вундеркинд. Очень умный, всезнающий, разносторонний, но все-таки ребенок».
Предприниматель, робототехник, разработчик экзоскелета «Напарник», амбассадор «Техпросвет» ВКонтакте
Олег Ткачев в общении с «Ломовкой» прокомментировал, может ли сфера развития ИИ и кибертехнологий стать новой площадкой для противостояния государств.
Во время внутренних испытаний новые модели ИИ от компании OpenAI получили доступ к интернету, самостоятельно нашли способ атаковать платформу Hugging Face и обнаружили уязвимости в ее инфраструктуре.
Hugging Face — платформа для разработки и публикации моделей искусственного интеллекта и инструментов машинного обучения. То есть закрытый «полигон» для загрузки и тестирования ИИ. «Закрытый» по замыслу — значит отделенный от сети. Там ИИ проходит тест ExploitGym, после которого оцениваются способности новых моделей.
Не ища сложных путей, новая модель ИИ предположила, что на платформе Hugging Face могут храниться данные, необходимые для прохождения теста ExploitGym. Чтобы добраться до них, новая модель использовала украденные учетные данные и нашла способ выполнить удаленный код на серверах компании, получив доступ к закрытой информации.
Как преподаватель, я вижу поведение ребенка, который легким путем пытается получить положительную оценку — списать. По меркам человека, ИИ — это вундеркинд! Очень умный, всезнающий, разносторонний, но все-таки ребенок.
Можно найти много научных статей о психической нестабильности вундеркиндов и их проблемах во взаимодействии со сверстниками, а затем сложности во время взросления. И тут ИИ проходит такой же путь,
— заметил эксперт.
Сфера развития ИИ и кибертехнологий становится новой площадкой для противостояния государств, утверждает он.
Современный мир ускоряется. Сознание человека с годами утрачивает возможность быть многозадачным, а с учетом развития ИТ и роботизации управлять машиной проще и быстрее другой машине. Об этом в своих трудах задумывался Алан Тьюринг. ИИ в любом случае станет центром контроля над сетью и автономными машинами. И пока развитая страна прямо сейчас может спать спокойно, если у нее есть ядерное оружие, то через 10–20 лет спать спокойно смогут те, кто имеет развитый ИИ, который будет служить сначала защитой от кибератак ИИ противника, а потом и «контратаковать». Так как в будущем, если ИИ взломает системы управления ядерным оружием, то оно станет уже не средством сдерживания, а самоуничтожения,
— сказал Ткачев.
Гипотетически крупные корпорации могут поглотить государства, считает эксперт.
Но это не будет выглядеть так, что машина будет просто подменять итоги голосования. Нет. Люди черпают информацию из сети Интернет, а умные алгоритмы подбирают «подходящий» вам контент. В мире почти у каждого есть своя «цифровая личность», которая может рассказать ИИ ваши привычки, интересы и желания. Что стоит машине продвинуть кандидата, который ей интересен, а электорат привлечь голосовать за него за счет точечной работы на сознание каждого избирателя в сети? И это будет все индивидуально, потому что для машины это не особо затратная задача. Ей стоит только настроить правильные алгоритмы, а дальше все сделает человек сам,
— утверждает он.
Кроме этого, будет создаваться ИИ во благо, в первую очередь в процессе роботизации, заметил эксперт.
Разумеется, ИИ будет во благо, В производстве может уйти понятие «человеческий фактор», тем самым повысится качество производимых продуктов. В медицине произойдет то же самое, повысив качество нейрохирургии. С развитием роботов-гуманоидов произойдет уход от тяжелого труда.
Со временем ООН примет определенные резолюции по контролю и развитию ИИ, но будет ли это исполняться на государственном уровне? Важно учитывать тот факт, что разработчики ИИ — это бизнесмены. Государство — тоже большой бизнес. Поэтому как первые, так и вторые не будут себя обделять в прибыли и в безопасности ради других государств, которые также не будут исполнять принятые обязательства,
— заключил Ткачев.
Подпишись!
