• linkedu视频
  • 平面设计
  • 电脑入门
  • 操作系统
  • 办公应用
  • 电脑硬件
  • 动画设计
  • 3D设计
  • 网页设计
  • CAD设计
  • 影音处理
  • 数据库
  • 程序设计
  • 认证考试
  • 信息管理
  • 信息安全
菜单
linkedu.com
  • 网页制作
  • 数据库
  • 程序设计
  • 操作系统
  • CMS教程
  • 游戏攻略
  • 脚本语言
  • 平面设计
  • 软件教程
  • 网络安全
  • 电脑知识
  • 服务器
  • 视频教程
  • vbs
  • DOS/BAT
  • hta/htc
  • python
  • perl
  • VBA
  • ColdFusion
  • ruby
  • PowerShell
  • Lua
  • Golang
  • linux shell
您的位置:首页 > 脚本语言 >python > python爬虫入门教程之糗百图片爬虫代码分享

python爬虫入门教程之糗百图片爬虫代码分享

作者:junjie 字体:[增加 减小] 来源:互联网

junjie 通过本文主要向大家介绍了python爬虫入门,python爬虫入门教程,python爬虫入门书籍,python3爬虫入门教程,python3爬虫入门等相关知识,希望对您有所帮助,也希望大家支持linkedu.com www.linkedu.com

学习python少不了写爬虫,不仅能以点带面地学习、练习使用python,爬虫本身也是有用且有趣的,大量重复性的下载、统计工作完全可以写一个爬虫程序完成。

用python写爬虫需要python的基础知识、涉及网络的几个模块、正则表达式、文件操作等知识。昨天在网上学习了一下,写了一个爬虫自动下载「糗事百科」里面的图片。源代码如下:

# -*- coding: utf-8 -*-
# 上面那句让代码里支持中文

#--------------------------------------- 
#   程序:糗百图片爬虫 
#   版本:0.1 
#   作者:赵伟 
#   日期:2013-07-25 
#   语言:Python 2.7 
#   说明:能设置下载的页数。没有做更多抽象和交互方面的优化。 
#---------------------------------------

import urllib2
import urllib
import re

#正则表达式,用来抓取图片的地址
pat = re.compile('<div class="thumb">\\n<img src=\"(ht.*?)\".*?>')

#用来合成网页的URL
nexturl1 = "http://m.qiushibaike.com/imgrank/page/"
nexturl2 = "?s=4582487&slow"

#页数计数
count = 1

#设置抓取的页数
while count < 3:

    print "Page " + str(count) + "\n"
    myurl = nexturl1 + str(count) + nexturl2
    myres = urllib2.urlopen(myurl)#抓取网页
    mypage = myres.read()#读取网页内容
    ucpage = mypage.decode("utf-8") #转码

    mat = pat.findall(ucpage)#用正则表达式抓取图片地址
       
    count += 1;
   
    if len(mat):
        for item in mat:
            print "url: " + item + "\n"
            fnp = re.compile('/(\w+\.\w+)$')#下面三行分离出图片文件的名称
            fnr = fnp.findall(item)
            fname = fnr[0]
            urllib.urlretrieve(item, fname)#下载图片
      
    else:
        print "no data"
</div>

使用方法:新建一个practice文件夹,将源代码保存为qb.py文件,并放在practice文件夹中,在命令行里执行python qb.py,即开始下载图片。可以修改源代码里面的while语句设置下载的页数。

</div>

您可能想查找下面的文章:

  • python入门教程之识别验证码
  • Python爬虫代理IP池实现方法
  • Python爬虫代理IP池实现方法
  • Python入门教程之运算符与控制流
  • Python入门教程之运算符与控制流
  • 玩转python爬虫之爬取糗事百科段子
  • 玩转python爬虫之爬取糗事百科段子
  • Python制作爬虫采集小说
  • python制作花瓣网美女图片爬虫
  • python制作最美应用的爬虫

相关文章

  • Flask框架学习笔记(一)安装篇(windows安装与centos安装)
  • python命令行参数解析OptionParser类用法实例
  • Python获取文件所在目录和文件名的方法
  • python fabric实现远程部署
  • Python中将字典转换为XML以及相关的命名空间解析
  • Python导入txt数据到mysql的方法
  • python追加元素到列表的方法
  • Python中__call__用法实例
  • python通过邮件服务器端口发送邮件的方法
  • python获取本机外网ip的方法

文章分类

  • vbs
  • DOS/BAT
  • hta/htc
  • python
  • perl
  • VBA
  • ColdFusion
  • ruby
  • PowerShell
  • Lua
  • Golang
  • linux shell

最近更新的内容

    • 九步学会Python装饰器
    • 教你用Type Hint提高Python程序开发效率
    • Python批量创建迅雷任务及创建多个文件
    • Python和GO语言实现的消息摘要算法示例
    • Python的re模块正则表达式操作
    • Python的几个高级语法概念浅析(lambda表达式闭包装饰器)
    • python 快速排序代码
    • python采用requests库模拟登录和抓取数据的简单示例
    • Python可跨平台实现获取按键的方法
    • python获取Linux下文件版本信息、公司名和产品名的方法

关于我们 - 联系我们 - 免责声明 - 网站地图

©2020-2025 All Rights Reserved. linkedu.com 版权所有