-
Notifications
You must be signed in to change notification settings - Fork 832
New issue
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
请问代理ip这里怎么弄 #124
Comments
大佬,我也遇到了这个问题,请问你也解决了吗 @XiaolinFan |
这个函数返回一个代理IP即可,这个代理IP你可以通过买代理IP的服务得到 |
找了亿牛云,但是接入还需要输入账户密码,不知道怎么改,哪个网站可以直接给代理ip的,大佬能推荐一个吗 @ nghuyong |
我用的是 快代理 |
谢谢!!!问题已解决 |
可否给个使用快代理建立IP池的代码示例?我用了他们官方的API scrapy代码示例 但是在爬的时候总是不成功。 |
请问你是买的快代理的哪一种?是隧道代理吗? |
请问微博关注、粉丝都只能看五页,这个这么破啊 |
你需要获得你要爬取人的授权, 拿到token,才能看到所有的关注和粉丝 |
用的哪个套餐呢 比较适合的 |
我用了他们的隧道代理,感觉最方便。 只要改写 class IPProxyMiddleware(object):
def process_request(self, request, spider):
proxy = "tps125.kdlapi.com:15818"
request.meta['proxy'] = "http://%(proxy)s" % {'proxy': proxy}
# 用户名密码认证
username = <你的用户名>
password= <你的密码>
request.headers['Proxy-Authorization'] = basic_auth_header(username, password) # 白名单认证可注释此行
request.headers['Accept-Encoding']='gzip'
return None |
您好,我们的代码样例新增了Python-Scrapy的本地IP池维护,您可以参考参考。 |
我先拿到一次数据, 然后程序报错raise error.ReactorNotRestartable(), 之后用了快代理,也还是不行 |
请问下这个 |
|
Bee...您的邮件已经收到啦
|
cookie被封有什么好的解决办法吗 |
换个cookie~ |
请问现在怎么使用代理呢? |
爬取一部分数据后,报错,ip被封了。请问代理ip那里的fetch_proxy函数该怎样解决
The text was updated successfully, but these errors were encountered: