• linkedu视频
  • 平面设计
  • 电脑入门
  • 操作系统
  • 办公应用
  • 电脑硬件
  • 动画设计
  • 3D设计
  • 网页设计
  • CAD设计
  • 影音处理
  • 数据库
  • 程序设计
  • 认证考试
  • 信息管理
  • 信息安全
菜单
linkedu.com
  • 网页制作
  • 数据库
  • 程序设计
  • 操作系统
  • CMS教程
  • 游戏攻略
  • 脚本语言
  • 平面设计
  • 软件教程
  • 网络安全
  • 电脑知识
  • 服务器
  • 视频教程
  • vbs
  • DOS/BAT
  • hta/htc
  • python
  • perl
  • VBA
  • ColdFusion
  • ruby
  • PowerShell
  • Lua
  • Golang
  • linux shell
您的位置:首页 > 脚本语言 >python > python访问抓取网页常用命令总结

python访问抓取网页常用命令总结

作者:lqh 字体:[增加 减小] 来源:互联网

lqh 通过本文主要向大家介绍了python常用命令,python常用模块,python常用函数,python常用库,python常用包等相关知识,希望对您有所帮助,也希望大家支持linkedu.com www.linkedu.com

python访问抓取网页常用命令

简单的抓取网页:

import urllib.request  
url="http://google.cn/" 
response=urllib.request.urlopen(url)  #返回文件对象
page=response.read() 
</div>

直接将URL保存为本地文件:

import urllib.request  
url="http://google.cn/" 
response=urllib.request.urlopen(url)  #返回文件对象
page=response.read() 
</div>

POST方式:

import urllib.parse 
import urllib.request 
 
url="http://liuxin-blog.appspot.com/messageboard/add" 
 
values={"content":"命令行发出网页请求测试"} 
data=urllib.parse.urlencode(values) 

#创建请求对象 
req=urllib.request.Request(url,data) 
#获得服务器返回的数据 
response=urllib.request.urlopen(req) 
#处理数据 
page=response.read() 

</div>

GET方式:

import urllib.parse 
import urllib.request 
 
url="http://www.google.cn/webhp" 
 
values={"rls":"ig"} 
data=urllib.parse.urlencode(values) 
 
theurl=url+"?"+data 
#创建请求对象 
req=urllib.request.Request(theurl) 
#获得服务器返回的数据 
response=urllib.request.urlopen(req) 
#处理数据 
page=response.read() 
</div>

有2个常用的方法,geturl(),info()

geturl()的设置是为了辨别是否有服务器端的网址重定向,而info()则包含了一系列的信息。

中文问题的处理,会用到 encode()编码 dencode()解码:

感谢阅读,希望能帮助到大家,谢谢大家对本站的支持!

</div>

您可能想查找下面的文章:

  • python访问抓取网页常用命令总结
  • python访问抓取网页常用命令总结
  • 日常整理python执行系统命令的常见方法(全)
  • 日常整理python执行系统命令的常见方法(全)

相关文章

  • python实现mysql的单引号字符串过滤方法
  • Python中的map()函数和reduce()函数的用法
  • 在centos7中分布式部署pyspider
  • 深入解析Python中的lambda表达式的用法
  • Python实现更改图片尺寸大小的方法(基于Pillow包)
  • 浅谈五大Python Web框架
  • python搭建简易服务器分析与实现
  • Python标准库之sqlite3使用实例
  • 详解Python当中的字符串和编码
  • python实现颜色rgb和hex相互转换的函数

文章分类

  • vbs
  • DOS/BAT
  • hta/htc
  • python
  • perl
  • VBA
  • ColdFusion
  • ruby
  • PowerShell
  • Lua
  • Golang
  • linux shell

最近更新的内容

    • Python抓取Discuz!用户名脚本代码
    • 解决谷歌搜索技术文章时打不开网页问题的python脚本
    • python开启多个子进程并行运行的方法
    • Pycharm学习教程(5) Python快捷键相关设置
    • Python中绑定与未绑定的类方法用法分析
    • python实现文件快照加密保护的方法
    • Python制作简单的网页爬虫
    • windows下安装Python和pip终极图文教程
    • python dict.get()和dict['key']的区别详解
    • 用Python实现随机森林算法的示例

关于我们 - 联系我们 - 免责声明 - 网站地图

©2020-2025 All Rights Reserved. linkedu.com 版权所有