• linkedu视频
  • 平面设计
  • 电脑入门
  • 操作系统
  • 办公应用
  • 电脑硬件
  • 动画设计
  • 3D设计
  • 网页设计
  • CAD设计
  • 影音处理
  • 数据库
  • 程序设计
  • 认证考试
  • 信息管理
  • 信息安全
菜单
linkedu.com
  • 网页制作
  • 数据库
  • 程序设计
  • 操作系统
  • CMS教程
  • 游戏攻略
  • 脚本语言
  • 平面设计
  • 软件教程
  • 网络安全
  • 电脑知识
  • 服务器
  • 视频教程
  • vbs
  • DOS/BAT
  • hta/htc
  • python
  • perl
  • VBA
  • ColdFusion
  • ruby
  • PowerShell
  • Lua
  • Golang
  • linux shell
您的位置:首页 > 脚本语言 >python > Python中MySQL数据迁移到MongoDB脚本的方法

Python中MySQL数据迁移到MongoDB脚本的方法

作者: 字体:[增加 减小] 来源:互联网

通过本文主要向大家介绍了python mongodb,python连接mongodb,python操作mongodb,python3 mongodb,python查询mongodb等相关知识,希望对您有所帮助,也希望大家支持linkedu.com www.linkedu.com

MongoDB简介

MongoDB 是一个基于分布式文件存储的数据库。由 C++ 语言编写。旨在为 WEB 应用提供可扩展的高性能数据存储解决方案。

MongoDB 是一个介于关系数据库和非关系数据库之间的产品,是非关系数据库当中功能最丰富,最像关系数据库的。

MongoDB是一个文档数据库,在存储小文件方面存在天然优势。随着业务求的变化,需要将线上MySQL数据库中的行记录,导入到MongoDB中文档记录。

一、场景:线上MySQL数据库某表迁移到MongoDB,字段无变化。

二、Python模块:

使用Python的torndb,pymongo和time模块。

*注释:首先安装setup.py,pip,MySQLdb

执行如下命令即可:

pip install torndb
pip install pymongo

三、脚本内容如下:

[root ~]#cat nmytomongo.py

#!/usr/bin/env python#fielName: mytomongo.py#Author:xkops#coding: utf-8import torndb,pymongo,time# connect to mysql databasemysql = torndb.Connection(host='127.0.0.1', database='database', user='username', password='password')#connect to mongodb and obtain total lines in mysqlmongo = pymongo.MongoClient('mongodb://ip').databasemongo.authenticate('username',password='password')countlines = mysql.query('SELECT max(table_field) FROM table_name')count = countlines[0]['max(table_field)']#count = 300print counti = 0 j = 100start_time = time.time()#select from mysql to insert mongodb by 100 lines.for i in range(0,count,100): #print a,b #print i #print 'SELECT * FROM quiz_submission where quiz_submission_id > %d and quiz_submission_id <= %d' %(i,j) submission = mysql.query('SELECT * FROM table_name where table_field > %d and table_field <= %d' %(i,j)) #print submission if submission: #collection_name like mysql table_name mongo.collection_name.insert_many(submission) else: i +=100 j +=100 continue i +=100 j +=100end_time = time.time()deltatime = end_time - start_timetotalhour = int(deltatime / 3600)totalminute = int((deltatime - totalhour * 3600) / 60)totalsecond = int(deltatime - totalhour * 3600 - totalminute * 60)#print migrate data total time consuming.print "Data Migrate Finished,Total Time Consuming: %d Hour %d Minute %d Seconds" %(totalhour,totalminute,totalsecond)

*注释:按照自己的需求更改上述代码中的数据库地址,用户,密码,库名,表名以及字段名等。

四、执行迁移脚本:

[root ~]#python nmytomongo.py &> /tmp/migratelog.txt &

脚本执行完成后查看/tmp/migratelog.txt数据迁移消耗的时间。

</div>

您可能想查找下面的文章:

  • 在 Python 应用中使用 MongoDB的方法
  • 在 Python 应用中使用 MongoDB的方法
  • Python+MongoDB自增键值的简单实现
  • Python中MySQL数据迁移到MongoDB脚本的方法
  • Python中MySQL数据迁移到MongoDB脚本的方法
  • Python保存MongoDB上的文件到本地的方法
  • Python简单连接MongoDB数据库的方法
  • Python简单连接MongoDB数据库的方法
  • python&MongoDB爬取图书馆借阅记录
  • python操作mongodb根据_id查询数据的实现方法

相关文章

  • python实现搜索本地文件信息写入文件的方法
  • windows系统下Python环境搭建教程
  • python使用rsa加密算法模块模拟新浪微博登录
  • 基于Python实现的百度贴吧网络爬虫实例
  • python中enumerate的用法实例解析
  • 决策树的python实现方法
  • 浅谈Python程序与C++程序的联合使用
  • Python的Django框架使用入门指引
  • python访问抓取网页常用命令总结
  • 跟老齐学Python之大话题小函数(2)

文章分类

  • vbs
  • DOS/BAT
  • hta/htc
  • python
  • perl
  • VBA
  • ColdFusion
  • ruby
  • PowerShell
  • Lua
  • Golang
  • linux shell

最近更新的内容

    • Python中列表(list)操作方法汇总
    • Python的Django框架中的Context使用
    • Python使用xlrd模块操作Excel数据导入的方法
    • python服务器与android客户端socket通信实例
    • 在Django的视图(View)外使用Session的方法
    • Python数据库的连接实现方法与注意事项
    • Python手机号码归属地查询代码
    • python中根据字符串调用函数的实现方法
    • python dict remove数组删除(del,pop)
    • Python使用urllib2模块抓取HTML页面资源的实例分享

关于我们 - 联系我们 - 免责声明 - 网站地图

©2020-2025 All Rights Reserved. linkedu.com 版权所有