• linkedu视频
  • 平面设计
  • 电脑入门
  • 操作系统
  • 办公应用
  • 电脑硬件
  • 动画设计
  • 3D设计
  • 网页设计
  • CAD设计
  • 影音处理
  • 数据库
  • 程序设计
  • 认证考试
  • 信息管理
  • 信息安全
菜单
linkedu.com
  • 网页制作
  • 数据库
  • 程序设计
  • 操作系统
  • CMS教程
  • 游戏攻略
  • 脚本语言
  • 平面设计
  • 软件教程
  • 网络安全
  • 电脑知识
  • 服务器
  • 视频教程
  • vbs
  • DOS/BAT
  • hta/htc
  • python
  • perl
  • VBA
  • ColdFusion
  • ruby
  • PowerShell
  • Lua
  • Golang
  • linux shell
您的位置:首页 > 脚本语言 >python > python访问抓取网页常用命令总结

python访问抓取网页常用命令总结

作者:lqh 字体:[增加 减小] 来源:互联网

lqh 通过本文主要向大家介绍了python常用命令,python常用模块,python常用函数,python常用库,python常用包等相关知识,希望对您有所帮助,也希望大家支持linkedu.com www.linkedu.com

python访问抓取网页常用命令

简单的抓取网页:

import urllib.request  
url="http://google.cn/" 
response=urllib.request.urlopen(url)  #返回文件对象
page=response.read() 
</div>

直接将URL保存为本地文件:

import urllib.request  
url="http://google.cn/" 
response=urllib.request.urlopen(url)  #返回文件对象
page=response.read() 
</div>

POST方式:

import urllib.parse 
import urllib.request 
 
url="http://liuxin-blog.appspot.com/messageboard/add" 
 
values={"content":"命令行发出网页请求测试"} 
data=urllib.parse.urlencode(values) 

#创建请求对象 
req=urllib.request.Request(url,data) 
#获得服务器返回的数据 
response=urllib.request.urlopen(req) 
#处理数据 
page=response.read() 

</div>

GET方式:

import urllib.parse 
import urllib.request 
 
url="http://www.google.cn/webhp" 
 
values={"rls":"ig"} 
data=urllib.parse.urlencode(values) 
 
theurl=url+"?"+data 
#创建请求对象 
req=urllib.request.Request(theurl) 
#获得服务器返回的数据 
response=urllib.request.urlopen(req) 
#处理数据 
page=response.read() 
</div>

有2个常用的方法,geturl(),info()

geturl()的设置是为了辨别是否有服务器端的网址重定向,而info()则包含了一系列的信息。

中文问题的处理,会用到 encode()编码 dencode()解码:

感谢阅读,希望能帮助到大家,谢谢大家对本站的支持!

</div>

您可能想查找下面的文章:

  • python访问抓取网页常用命令总结
  • python访问抓取网页常用命令总结
  • 日常整理python执行系统命令的常见方法(全)
  • 日常整理python执行系统命令的常见方法(全)

相关文章

  • python生成器表达式和列表解析
  • 详解Python的Django框架中的模版相关知识
  • Python将阿拉伯数字转换为罗马数字的方法
  • Python过滤列表用法实例分析
  • python中__slots__用法实例
  • python实现搜索指定目录下文件及文件内搜索指定关键词的方法
  • 让Python代码更快运行的5种方法
  • Python3的urllib.parse常用函数小结(urlencode,quote,quote_plus,unquote,unquote_plus等)
  • Python入门篇之对象类型
  • python基于pyDes库实现des加密的方法

文章分类

  • vbs
  • DOS/BAT
  • hta/htc
  • python
  • perl
  • VBA
  • ColdFusion
  • ruby
  • PowerShell
  • Lua
  • Golang
  • linux shell

最近更新的内容

    • Python实现网络端口转发和重定向的方法
    • Python的Socket编程过程中实现UDP端口复用的实例分享
    • python daemon守护进程实现
    • 简单介绍Python中利用生成器实现的并发编程
    • python根据出生日期返回年龄的方法
    • Python中join和split用法实例
    • python实现linux下使用xcopy的方法
    • Python文件操作类操作实例详解
    • python中对list去重的多种方法
    • python监控网站运行异常并发送邮件的方法

关于我们 - 联系我们 - 免责声明 - 网站地图

©2020-2025 All Rights Reserved. linkedu.com 版权所有