• linkedu视频
  • 平面设计
  • 电脑入门
  • 操作系统
  • 办公应用
  • 电脑硬件
  • 动画设计
  • 3D设计
  • 网页设计
  • CAD设计
  • 影音处理
  • 数据库
  • 程序设计
  • 认证考试
  • 信息管理
  • 信息安全
菜单
linkedu.com
  • 网页制作
  • 数据库
  • 程序设计
  • 操作系统
  • CMS教程
  • 游戏攻略
  • 脚本语言
  • 平面设计
  • 软件教程
  • 网络安全
  • 电脑知识
  • 服务器
  • 视频教程
  • vbs
  • DOS/BAT
  • hta/htc
  • python
  • perl
  • VBA
  • ColdFusion
  • ruby
  • PowerShell
  • Lua
  • Golang
  • linux shell
您的位置:首页 > 脚本语言 >python > win与linux系统中python requests 安装

win与linux系统中python requests 安装

作者: 字体:[增加 减小] 来源:互联网

通过本文主要向大家介绍了python requests,python requests模块,python requests下载,python requests安装,python requests库等相关知识,希望对您有所帮助,也希望大家支持linkedu.com www.linkedu.com

在 windows 系统下,只需要输入命令 pip install requests ,即可安装。

在 linux 系统下,只需要输入命令 sudo  pip install requests ,即可安装。

或者

=================

Window

1.  下载requests  被墙

 打开这个网址, http://www.lfd.uci.edu/~gohlke/pythonlibs 在这个网站上面有很多 python 的第三方库文件, ctrl+f 找到 requests 下载

.whl文件下载下来后,将后缀名从 .whl 改为 .zip ,然后解压文件,我们可以得到两个文件夹

将requests 文件夹复制到 python 的安装目录下的 lib 目录下

requests 已经安装完毕,输入 import requests 命令来试试是否安装成功,

   import requests 没有报错,说明 requests 已经成功安装。

2.快速指南

2.1 发送请求
发送请求很简单的,首先要导入requests模块:

>>>import requests

接下来让我们获取一个网页,例如我个人博客的首页:

>>>r = requests.get('http://www.zhidaow.com')

接下来,我们就可以使用这个r的各种方法和函数了。
另外,HTTP请求还有很多类型,比如POST,PUT,DELETE,HEAD,OPTIONS。也都可以用同样的方式实现:

>>> r = requests.post("http://httpbin.org/post")
>>> r = requests.put("http://httpbin.org/put")
>>> r = requests.delete("http://httpbin.org/delete")
>>> r = requests.head("http://httpbin.org/get")
>>> r = requests.options("http://httpbin.org/get")
</div>

因为目前我还没用到这些,所以没有深入研究。

2.2 在URLs中传递参数
有时候我们需要在URL中传递参数,比如在采集百度搜索结果时,我们wd参数(搜索词)和rn参数(搜素结果数量),你可以手工组成URL,requests也提供了一种看起来很NB的方法:

>>> payload = {'wd': '张亚楠', 'rn': '100'}
>>> r = requests.get("http://www.baidu.com/s", params=payload)
>>> print r.url
u'http://www.baidu.com/s?rn=100&wd=%E5%BC%A0%E4%BA%9A%E6%A5%A0'
</div>

上面wd=的乱码就是“张亚楠”的转码形式。(好像参数按照首字母进行了排序。)

2.3 获取响应内容
可以通过r.text来获取网页的内容。

>>> r = requests.get('https://www.zhidaow.com')
>>> r.text
u'<!DOCTYPE html>\n<html xmlns="http://www.w3.org/1999/xhtml"...'
</div>

文档里说,requests会自动将内容转码。大多数unicode字体都会无缝转码。但我在cygwin下使用时老是出现UnicodeEncodeError错误,郁闷。倒是在python的IDLE中完全正常。
另外,还可以通过r.content来获取页面内容。

>>> r = requests.get('https://www.zhidaow.com')
>>> r.content
b'<!DOCTYPE html>\n<html xmlns="http://www.w3.org/1999/xhtml"...'
</div>

文档中说r.content是以字节的方式去显示,所以在IDLE中以b开头。但我在cygwin中用起来并没有,下载网页正好。所以就替代了urllib2的urllib2.urlopen(url).read()功能。(基本上是我用的最多的一个功能。)

2.4 获取网页编码

可以使用r.encoding来获取网页编码。

>>> r = requests.get('http://www.zhidaow.com')
>>> r.encoding
'utf-8'
</div>

当你发送请求时,requests会根据HTTP头部来猜测网页编码,当你使用r.text时,requests就会使用这个编码。当然你还可以修改requests的编码形式。

>>> r = requests.get('http://www.zhidaow.com')
>>> r.encoding
'utf-8'
>>>r.encoding = 'ISO-8859-1'
</div>

像上面的例子,对encoding修改后就直接会用修改后的编码去获取网页内容。

2.5 json

像urllib和urllib2,如果用到json,就要引入新模块,如json和simplejson,但在requests中已经有了内置的函数,r.json()。就拿查询IP的API来说:

>>>r = requests.get('http://ip.taobao.com/service/getIpInfo.php?ip=122.88.60.28')
>>>r.json()['data']['country']
'中国'
</div>

2.6 网页状态码
我们可以用r.status_code来检查网页的状态码。

>>>r = requests.get('http://www.mengtiankong.com')
>>>r.status_code
200
>>>r = requests.get('http://www.mengtiankong.com/123123/')
>>>r.status_code
404
>>>r = requests.get('http://www.baidu.com/link?url=QeTRFOS7TuUQRppa0wlTJJr6FfIYI1DJprJukx4Qy0XnsDO_s9baoO8u1wvjxgqN')
>>>r.url
u'http://www.zhidaow.com/
>>>r.status_code
200
</div>

前两个例子很正常,能正常打开的返回200,不能正常打开的返回404。但第三个就有点奇怪了,那个是百度搜索结果中的302跳转地址,但状态码显示是200,接下来我用了一招让他原形毕露:

>>>r.history
(<Response [302]>,)
</div>

这里能看出他是使用了302跳转。也许有人认为这样可以通过判断和正则来获取跳转的状态码了,其实还有个更简单的方法:

>>>r = requests.get('http://www.baidu.com/link?url=QeTRFOS7TuUQRppa0wlTJJr6FfIYI1DJprJukx4Qy0XnsDO_s9baoO8u1wvjxgqN', allow_redirects = False)
>>>r.status_code
302
</div>

只要加上一个参数allow_redirects,禁止了跳转,就直接出现跳转的状态码了,好用吧?我也利用这个在最后一掌做了个简单的获取网页状态码的小应用,原理就是这个。

2.7 响应头内容

可以通过r.headers来获取响应头内容。

>>>r = requests.get('http://www.zhidaow.com')
>>> r.headers
{
 'content-encoding': 'gzip',
 'transfer-encoding': 'chunked',
 'content-type': 'text/html; charset=utf-8';
 ...
}
</div>

可以看到是以字典的形式返回了全部内容,我们也可以访问部分内容。

>>> r.headers['Content-Type']
'text/html; charset=utf-8'

>>> r.headers.get('content-type')
'text/html; charset=utf-8'


</div>

2.8 设置超时时间

我们可以通过timeout属性设置超时时间,一旦超过这个时间还没获得响应内容,就会提示错误。

Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
requests.exceptions.Timeout: HTTPConnectionPool(host='github.com', port=80): Request timed out. (timeout=0.001)</div>

2.9 代理访问
采集时为避免被封IP,经常会使用代理。requests也有相应的proxies属性。

import requests

proxies = {
 "http": "http://10.10.1.10:3128",
 "https": "http://10.10.1.10:1080",
}

requests.get("http://www.zhidaow.com", proxies=proxies)

</div>

如果代理需要账户和密码,则需这样:

proxies = {
 "http": "http://user:pass@10.10.1.10:3128/",
}
</div>

2.10 请求头内容
请求头内容可以用r.request.headers来获取。

>>> r.request.headers
{'Accept-Encoding': 'identity, deflate, compress, gzip',
'Accept': '*/*', 'User-Agent': 'python-requests/1.2.3 CPython/2.7.3 Windows/XP'}
</div>

2.11 自定义请求头部
伪装请求头部是采集时经常用的,我们可以用这个方法来隐藏:

r = requests.get('http://www.zhidaow.com')
print r.request.headers['User-Agent']
#python-requests/1.2.3 CPython/2.7.3 Windows/XP

headers = {
  


 

您可能想查找下面的文章:

  • python中requests小技巧
  • 解决Python requests 报错方法集锦
  • Python中第三方库Requests库的高级用法详解
  • win与linux系统中python requests 安装
  • Python的requests网络编程包使用教程
  • Python的requests网络编程包使用教程
  • Python使用lxml模块和Requests模块抓取HTML页面的教程
  • Python3使用requests发闪存的方法
  • Python3使用requests登录人人影视网站的方法
  • Python Requests安装与简单运用

相关文章

  • 优化Python代码使其加快作用域内的查找
  • Python实现测试磁盘性能的方法
  • Python实现优先级队列结构的方法详解
  • Python中多线程的创建及基本调用方法
  • Python脚本实现自动发带图的微博
  • 利用numpy+matplotlib绘图的基本操作教程
  • python 提取文件的小程序
  • python实现爬虫统计学校BBS男女比例之多线程爬虫(二)
  • python实现的AES双向对称加密解密与用法分析
  • python实现根据主机名字获得所有ip地址的方法

文章分类

  • vbs
  • DOS/BAT
  • hta/htc
  • python
  • perl
  • VBA
  • ColdFusion
  • ruby
  • PowerShell
  • Lua
  • Golang
  • linux shell

最近更新的内容

    • python通过pil为png图片填充上背景颜色的方法
    • Python实现FLV视频拼接功能
    • python判断字符串编码的简单实现方法(使用chardet)
    • python实现分析apache和nginx日志文件并输出访客ip列表的方法
    • python 正则表达式 概述及常用字符
    • Python的Tornado框架异步编程入门实例
    • Python CSV模块使用实例
    • 在Django中限制已登录用户的访问的方法
    • Python实现并行抓取整站40万条房价数据(可更换抓取城市)
    • Python采集腾讯新闻实例

关于我们 - 联系我们 - 免责声明 - 网站地图

©2020-2025 All Rights Reserved. linkedu.com 版权所有