遇到问题:
selenium做爬虫能解决很多反爬问题,但是selenium也有很多特征可以被识别,比如用selenium驱动浏览器后window.navigator.webdriver值是true,而正常运行浏览器该值是未定义的(undefined)
options = webdriver.ChromeOptions()
options.add_experimental_option(‘excludeSwitches‘, [‘enable-automation‘])
options.add_argument("--disable-blink-features=AutomationControlled")
再次覆盖window.navigator.webdriver的值
driver = webdriver.Chrome(options=options)
driver.execute_cdp_cmd("Page.addScriptToEvaluateOnNewDocument", {
"source": """
Object.defineProperty(navigator, ‘webdriver‘, {
get: () => undefined
})
"""
})
原文:https://www.cnblogs.com/php-no-2/p/13862640.html