• linkedu视频
  • 平面设计
  • 电脑入门
  • 操作系统
  • 办公应用
  • 电脑硬件
  • 动画设计
  • 3D设计
  • 网页设计
  • CAD设计
  • 影音处理
  • 数据库
  • 程序设计
  • 认证考试
  • 信息管理
  • 信息安全
菜单
linkedu.com
  • 网页制作
  • 数据库
  • 程序设计
  • 操作系统
  • CMS教程
  • 游戏攻略
  • 脚本语言
  • 平面设计
  • 软件教程
  • 网络安全
  • 电脑知识
  • 服务器
  • 视频教程
  • vbs
  • DOS/BAT
  • hta/htc
  • python
  • perl
  • VBA
  • ColdFusion
  • ruby
  • PowerShell
  • Lua
  • Golang
  • linux shell
您的位置:首页 > 脚本语言 >python > Python 爬虫的工具列表大全

Python 爬虫的工具列表大全

作者:mdxy-dxy 字体:[增加 减小] 来源:互联网

mdxy-dxy 通过本文主要向大家介绍了python爬虫工具,python爬虫工具 免费,python爬虫工程师,python爬虫课程,python爬虫源码等相关知识,希望对您有所帮助,也希望大家支持linkedu.com www.linkedu.com

网络

  • 通用

    • urllib -网络库(stdlib)。

    • requests -网络库。

    • grab – 网络库(基于pycurl)。

    • pycurl – 网络库(绑定libcurl)。

    • urllib3 – Python HTTP库,安全连接池、支持文件post、可用性高。

    • httplib2 – 网络库。

    • RoboBrowser – 一个简单的、极具Python风格的Python库,无需独立的浏览器即可浏览网页。

    • MechanicalSoup -一个与网站自动交互Python库。

    • mechanize -有状态、可编程的Web浏览库。

    • socket – 底层网络接口(stdlib)。

    • Unirest for Python – Unirest是一套可用于多种语言的轻量级的HTTP库。

    • hyper – Python的HTTP/2客户端。

    • PySocks – SocksiPy更新并积极维护的版本,包括错误修复和一些其他的特征。作为socket模块的直接替换。

  • 异步

    • treq – 类似于requests的API(基于twisted)。

    • aiohttp – asyncio的HTTP客户端/服务器(PEP-3156)。

网络爬虫框架

  • 功能齐全的爬虫

    • grab – 网络爬虫框架(基于pycurl/multicur)。

    • scrapy – 网络爬虫框架(基于twisted),不支持Python3。

    • pyspider – 一个强大的爬虫系统。

    • cola – 一个分布式爬虫框架。

  • 其他

    • portia – 基于Scrapy的可视化爬虫。

    • restkit – Python的HTTP资源工具包。它可以让你轻松地访问HTTP资源,并围绕它建立的对象。

    • demiurge – 基于PyQuery的爬虫微框架。

HTML/XML解析器

  • 通用

    • lxml – C语言编写高效HTML/ XML处理库。支持XPath。

    • cssselect – 解析DOM树和CSS选择器。

    • pyquery – 解析DOM树和jQuery选择器。

    • BeautifulSoup – 低效HTML/ XML处理库,纯Python实现。

    • html5lib – 根据WHATWG规范生成HTML/ XML文档的DOM。该规范被用在现在所有的浏览器上。

    • feedparser – 解析RSS/ATOM feeds。

    • MarkupSafe – 为XML/HTML/XHTML提供了安全转义的字符串。

    • xmltodict – 一个可以让你在处理XML时感觉像在处理JSON一样的Python模块。

    • xhtml2pdf – 将HTML/CSS转换为PDF。

    • untangle – 轻松实现将XML文件转换为Python对象。

  • 清理

    • Bleach – 清理HTML(需要html5lib)。

    • sanitize – 为混乱的数据世界带来清明。

文本处理

用于解析和操作简单文本的库。

  • 通用

  • difflib – (Python标准库)帮助进行差异化比较。

  • Levenshtein – 快速计算Levenshtein距离和字符串相似度。

  • fuzzywuzzy – 模糊字符串匹配。

  • esmre – 正则表达式加速器。

  • ftfy – 自动整理Unicode文本,减少碎片化。

  • 转换

  • unidecode – 将Unicode文本转为ASCII。

  • 字符编码

  • uniout – 打印可读字符,而不是被转义的字符串。

  • chardet – 兼容 Python的2/3的字符编码器。

  • xpinyin – 一个将中国汉字转为拼音的库。

  • pangu.py – 格式化文本中CJK和字母数字的间距。

  • Slug化

  • awesome-slugify – 一个可以保留unicode的Python slugify库。

  • python-slugify – 一个可以将Unicode转为ASCII的Python slugify库。

  • unicode-slugify – 一个可以将生成Unicode slugs的工具。

  • pytils – 处理俄语字符串的简单工具(包括pytils.translit.slugify)。

  • 通用解析器

  • PLY – lex和yacc解析工具的Python实现。

  • pyparsing – 一个通用框架的生成语法分析器。

  • 人的名字

  • python-nameparser -解析人的名字的组件。

  • 电话号码

  • phonenumbers -解析,格式化,存储和验证国际电话号码。

  • 用户代理字符串

  • python-user-agents – 浏览器用户代理的解析器。

  • HTTP Agent Parser – Python的HTTP代理分析器。

特定格式文件处理

解析和处理特定文本格式的库。

  • 通用

  • tablib – 一个把数据导出为XLS、CSV、JSON、YAML等格式的模块。

  • textract – 从各种文件中提取文本,比如 Word、PowerPoint、PDF等。

  • messytables – 解析混乱的表格数据的工具。

  • rows – 一个常用数据接口,支持的格式很多(目前支持CSV,HTML,XLS,TXT – 将来还会提供更多!)。

  • Office

  • python-docx – 读取,查询和修改的Microsoft Word2007/2008的docx文件。

  • xlwt / xlrd – 从Excel文件读取写入数据和格式信息。

  • XlsxWriter – 一个创建Excel.xlsx文件的Python模块。

  • xlwings – 一个BSD许可的库,可以很容易地在Excel中调用Python,反之亦然。

  • openpyxl – 一个用于读取和写入的Excel2010 XLSX/ XLSM/ xltx/ XLTM文件的库。

  • Marmir – 提取Python数据结构并

您可能想查找下面的文章:

  • Python 爬虫的工具列表大全

相关文章

  • Python判断文本中消息重复次数的方法
  • Python编写屏幕截图程序方法
  • Python中列表、字典、元组数据结构的简单学习笔记
  • python利用Guetzli批量压缩图片
  • Python中使用 Selenium 实现网页截图实例
  • 使用Python脚本在Linux下实现部分Bash Shell的教程
  • python实现文件路径和url相互转换的方法
  • 用Python进行行为驱动开发的入门教程
  • Python代理抓取并验证使用多线程实现
  • 编写Python的web框架中的Model的教程

文章分类

  • vbs
  • DOS/BAT
  • hta/htc
  • python
  • perl
  • VBA
  • ColdFusion
  • ruby
  • PowerShell
  • Lua
  • Golang
  • linux shell

最近更新的内容

    • 在Python中用has_key()方法查找键是否存在的教程
    • python基于右递归解决八皇后问题的方法
    • 使用Python写CUDA程序的方法
    • 在Linux系统上部署Apache+Python+Django+MySQL环境
    • python中的reduce内建函数使用方法指南
    • python文件写入实例分析
    • 浅析Python中将单词首字母大写的capitalize()方法
    • 详解Python中的条件判断语句
    • 零基础写python爬虫之神器正则表达式
    • python中zip和unzip数据的方法

关于我们 - 联系我们 - 免责声明 - 网站地图

©2020-2025 All Rights Reserved. linkedu.com 版权所有