ProxyPool 使用简介
ProxyPool
跨语言高性能IP代理池,Python实现。
注意:请运行程序前先更新一下抓取代理的爬虫。
运行环境
Python 3.6
(请务必保证Python的版本在3.6以上,否则异步检验无法使用。)
Redis
Redis官网并没有提供Windows的安装版,Windows用户可以点击此处下载一个我自己编译的二进制版本(3.2版本2.7MB,VS 2015编译)。
安装
① 直接使用
安装依赖
$ pip install -r requirements.txt
Windows用户如果无法安装lxml库请点击这里。
打开代理池和API
$ cd proxypool
$ python3 run.py
② 安装使用
安装
$ cd proxypool
$ python setup.py install
打开代理池和API
$ proxypool_run
使用API获取代理
访问http://127.0.0.1:5000/
进入主页,如果显示'Welcome',证明成功启动。
访问http://127.0.0.1:5000/get
可以获取一个可用代理。
访问http://127.0.0.1:5000/count
可以获取代理池中可用代理的数量。
也可以在程序代码中用相应的语言获取,例如:
import requests
from bs4 import BeautifulSoup
import lxmldef get_proxy():r = requests.get('http://127.0.0.1:5000/get')proxy = BeautifulSoup(r.text, "lxml").get_text()return proxy
https://github.com/WiseDoge/ProxyPool
ProxyPool 使用简介相关推荐
- etcd 笔记(01)— etcd 简介、特点、应用场景、常用术语、分布式 CAP 理论、分布式原理
1. etcd 简介 etcd 官网定义: A highly-available key value store for shared configuration and service discov ...
- Docker学习(一)-----Docker简介与安装
一.Docker介绍 1.1什么是docker Docker是一个开源的应用容器引擎,基于Go语言并遵从Apache2.0协议开源 Docker可以让开发者打包他们的应用以及依赖包到一个轻量级,可移植 ...
- 【Spring】框架简介
[Spring]框架简介 Spring是什么 Spring是分层的Java SE/EE应用full-stack轻量级开源框架,以IOC(Inverse Of Control:反转控制)和AOP(Asp ...
- TensorRT简介
TensorRT 介绍 引用:https://arleyzhang.github.io/articles/7f4b25ce/ 1 简介 TensorRT是一个高性能的深度学习推理(Inference) ...
- 谷粒商城学习笔记——第一期:项目简介
一.项目简介 1. 项目背景 市面上有5种常见的电商模式 B2B.B2C.C2B.C2C.O2O B2B 模式(Business to Business),是指商家和商家建立的商业关系.如阿里巴巴 B ...
- 通俗易懂的Go协程的引入及GMP模型简介
本文根据Golang深入理解GPM模型加之自己的理解整理而来 Go协程的引入及GMP模型 一.协程的由来 1. 单进程操作系统 2. 多线程/多进程操作系统 3. 引入协程 二.golang对协程的处 ...
- Linux 交叉编译简介
Linux 交叉编译简介 主机,目标,交叉编译器 主机与目标 编译器是将源代码转换为可执行代码的程序.像所有程序一样,编译器运行在特定类型的计算机上,输出的新程序也运行在特定类型的计算机上. 运行编译 ...
- TVM Operator Inventory (TOPI)简介
TOPI简介 这是 TVM Operator Inventory (TOPI) 的介绍.TOPI 提供了比 TVM 具有更高抽象的 numpy 风格的,通用操作和调度.TOPI 如何在 TVM 中,编 ...
- 计算机视觉系列最新论文(附简介)
计算机视觉系列最新论文(附简介) 目标检测 1. 综述:深度域适应目标检测标题:Deep Domain Adaptive Object Detection: a Survey作者:Wanyi Li, ...
最新文章
- mysql里条件语句和循环语句_MySQL与Oracle 差异比较之四条件循环语句
- C\C++对文件的读写操作
- vue中实现国际化--语言切换(转载)
- [转载] python 中 setattr() 函数 和 getarrr() 函数
- 64位Websphere MQ7在64位RHEL5下的安装及使用
- WGAN-GP方法介绍
- word流程图怎么做虚线框_word虚线框怎么打 word中目录虚线怎么打?
- 深入理解FIFO(包含有FIFO深度的解释)
- 谁将打开腾讯业绩增速天花板?
- php不使用第三变量互换,总结PHP不用第三个变量交换两个变量的值的几种方法
- LyricsX for Mac(桌面歌词显示器)
- eclipes下载与配置中文(超详细2021年最新版)
- char与 wchar 之间的转换
- Race condition
- 【R语言文本挖掘】:分析单词和文档频率——TF-IDF
- 中移动国际携手8thManage 智能洞察业务先机
- react引入渲染markdown文件
- 【干货】教你如何下载去水印抖音短视频到手机
- 郭明祺:Face ID会否用在所有iPhone上,就看你们了!
- Skype 的在线状态 代码