首页 > Web开发 > 详细

pyspider+PhantomJS的代理设置

时间:2019-03-07 22:06:06      阅读:169      评论:0      收藏:0      [点我收藏+]

环境:pyspider0.3.9 PhantomJS2.1.1,均为最新版

进程用supervisor托管的。

其中需要加的几个地方:

webui进程:

pyspider -c config.json --phantomjs-proxy=127.0.0.1:25555 webui

processor进程:

pyspider -c config.json --phantomjs-proxy=127.0.0.1:25555 processor

fetcher进程:

pyspider -c config.json --phantomjs-proxy=127.0.0.1:25555 fetcher

phantomjs进程:

pyspider -c config.json phantomjs -- --proxy=ip:port --proxy-auth=name:password

 

以上需要注意的是,webui、processor 、fetcher 都加了phantomjs的本地地址支持。

phantomjs 进程后面设置phantomjs 的代理端口,文中的加了验证,免密的可以直接写 -- --proxy=ip:port 不写--proxy-auth=name:password

------------------------------

遇到这个提示,应该可以忽略不计,意思是提示你,任务里面的代理设置并不会影响phantomjs

phantomjs does not support specify proxy from script, use phantomjs args instead

 

pyspider+PhantomJS的代理设置

原文:https://www.cnblogs.com/alpiny/p/10492170.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!