• linkedu视频
  • 平面设计
  • 电脑入门
  • 操作系统
  • 办公应用
  • 电脑硬件
  • 动画设计
  • 3D设计
  • 网页设计
  • CAD设计
  • 影音处理
  • 数据库
  • 程序设计
  • 认证考试
  • 信息管理
  • 信息安全
菜单
linkedu.com
  • 网页制作
  • 数据库
  • 程序设计
  • 操作系统
  • CMS教程
  • 游戏攻略
  • 脚本语言
  • 平面设计
  • 软件教程
  • 网络安全
  • 电脑知识
  • 服务器
  • 视频教程
  • vbs
  • DOS/BAT
  • hta/htc
  • python
  • perl
  • VBA
  • ColdFusion
  • ruby
  • PowerShell
  • Lua
  • Golang
  • linux shell
您的位置:首页 > 脚本语言 >python > Python3使用requests包抓取并保存网页源码的方法

Python3使用requests包抓取并保存网页源码的方法

作者: 字体:[增加 减小] 来源:互联网

通过本文主要向大家介绍了python3 requests,python3 requests安装,python3 requests.get,python3 requests库,python3爬虫抓取图片等相关知识,希望对您有所帮助,也希望大家支持linkedu.com www.linkedu.com

本文实例讲述了Python3使用requests包抓取并保存网页源码的方法。分享给大家供大家参考,具体如下:

使用Python 3的requests模块抓取网页源码并保存到文件示例:

import requests
html = requests.get("http://www.baidu.com")
with open('test.txt','w',encoding='utf-8') as f:
 f.write(html.text)

</div>

这是一个基本的文件保存操作,但这里有几个值得注意的问题:

1.安装requests包,命令行输入pip install requests即可自动安装。很多人推荐使用requests,自带的urllib.request也可以抓取网页源码

2.open方法encoding参数设为utf-8,否则保存的文件会出现乱码。

3.如果直接在cmd中输出抓取的内容,会提示各种编码错误,所以保存到文件查看。

4.with open方法是更好的写法,可以自动操作完毕后释放资源。

另一个例子:

import requests
ff = open('testt.txt','w',encoding='utf-8')
with open('test.txt',encoding="utf-8") as f:
 for line in f:
 ff.write(line)
ff.close()

</div>

这是演示读取一个txt文件,每次读取一行,并保存到另一个txt文件中的示例。

因为在命令行中打印每次读取一行的数据,中文会出现编码错误,所以每次读取一行并保存到另一个文件,这样来测试读取是否正常。(注意open的时候制定encoding编码方式)

转自:小谈博客 http://www.tantengvip.com/2015/05/requests-html/

希望本文所述对大家Python程序设计有所帮助。

</div>

您可能想查找下面的文章:

  • python中requests小技巧
  • Python的requests网络编程包使用教程
  • Python的requests网络编程包使用教程
  • Python3使用requests发闪存的方法
  • Python3控制路由器——使用requests重启极路由.py
  • Python3使用requests登录人人影视网站的方法
  • Python Requests安装与简单运用
  • Python3使用requests包抓取并保存网页源码的方法
  • Python3使用requests包抓取并保存网页源码的方法
  • python中requests模块的使用方法

相关文章

  • 深入解析Python中的上下文管理器
  • python中pygame模块用法实例
  • 利用Python获取操作系统信息实例
  • Python脚本判断 Linux 是否运行在虚拟机上
  • Python中pip安装非PyPI官网第三方库的方法
  • Python open读写文件实现脚本
  • Python发送Email方法实例
  • 简单谈谈Python中的闭包
  • python多线程编程中的join函数使用心得
  • python网络编程之文件下载实例分析

文章分类

  • vbs
  • DOS/BAT
  • hta/htc
  • python
  • perl
  • VBA
  • ColdFusion
  • ruby
  • PowerShell
  • Lua
  • Golang
  • linux shell

最近更新的内容

    • Python 递归函数详解及实例
    • Python安装第三方库及常见问题处理方法汇总
    • Python的Bottle框架中返回静态文件和JSON对象的方法
    • Python中json格式数据的编码与解码方法详解
    • 利用Python画ROC曲线和AUC值计算
    • 全面了解python字符串和字典
    • java直接调用python脚本的例子
    • python有证书的加密解密实现方法
    • 深入解析Python中的变量和赋值运算符
    • Python网络爬虫实例讲解

关于我们 - 联系我们 - 免责声明 - 网站地图

©2020-2025 All Rights Reserved. linkedu.com 版权所有