Энтузиас собрал для парсинга
Энтузиас собрал для парсинга. Система из 50 узлов (нод), которая за 2 года собрала более 3,9 млн записей с одного очень популярного сайта по поиску работы.Если вы не заметили, у него микро-ПК :) - ферма.
Автор использует полноценный браузер Chrome вместо "headless" (безголового) режима, так как сайт легко вычисляет автоматизацию и при этом применяется подмена параметров navigator.webdriver через JavaScript, чтобы сайт не видел, что браузером управляет робот.
Я только по поводу прокси не понял.
@bezsmuzi

Комментарии (10)