• linkedu视频
  • 平面设计
  • 电脑入门
  • 操作系统
  • 办公应用
  • 电脑硬件
  • 动画设计
  • 3D设计
  • 网页设计
  • CAD设计
  • 影音处理
  • 数据库
  • 程序设计
  • 认证考试
  • 信息管理
  • 信息安全
菜单
linkedu.com
  • 网页制作
  • 数据库
  • 程序设计
  • 操作系统
  • CMS教程
  • 游戏攻略
  • 脚本语言
  • 平面设计
  • 软件教程
  • 网络安全
  • 电脑知识
  • 服务器
  • 视频教程
  • MsSql
  • Mysql
  • oracle
  • MariaDB
  • DB2
  • SQLite
  • PostgreSQL
  • MongoDB
  • Redis
  • Access
  • 数据库其它
  • sybase
  • HBase
您的位置:首页 > 数据库 >Mysql > MySQL分表实现上百万上千万记录分布存储的批量查询设计模式详解

MySQL分表实现上百万上千万记录分布存储的批量查询设计模式详解

作者: 字体:[增加 减小] 来源:互联网 时间:2017-05-11

通过本文主要向大家介绍了mysql详解,mysql数据类型详解,mysql explain详解,mysql配置文件详解,mysql配置详解等相关知识,希望本文的分享对您有所帮助

我们知道可以将一个海量记录的 MySQL 大表根据主键、时间字段,条件字段等分成若干个表甚至保存在若干服务器中。
唯一的问题就是跨服务器批量查询麻烦,只能通过应用程序来解决。谈谈在Java中的解决思路。其他语言原理类似。
这里说的分表不是 MySQL 5.1 的 partition,而是人为把一个表分开存在若干表或不同的服务器。
1. 应用程序级别实现
见示意图

electThreadManager 分表数据查询管理器
它为分表的每个database or server 建立一个 thread pool
addTask() - 添加任务
stopTask() - 停止任务
getResult() - 获取执行结果
最快的执行时间 = 最慢的 MySQL 节点查询消耗时间
最慢的执行时间 = 超时时间
某个 ThreadPool 忙时候处理流程
1. 假如 ThreadPoolN 非常忙,(也意味 DB N 非常忙);
2. 新的查询任务到来,addTask(), 新的任务的一个thread加到ThreadPoolN任务排队中
3. 外层应用已经获得其他 thread 返回结果,继续等待
4. 外层应用等待超时的时间到,调用 stopTask() 设置该任务全部 thread 中的停止标志, 外层应用返回。
5. 若干时间后,ThreadPoolN取到该排队 Thread, 因为设置了停止位,线程直接运行完成。
2. JDBC 层实现
做一个 JDBC Driver 的包装,拦截 PreparedStatement, Statement 的 executeQuery()
然后调用 SelectThreadManager 完成
3. MySQL partition
MySQL 5.1 的 partition 功能由于单张表的数据跨文件,批量查询时候同样存在上述问题,不过它是在 MySQL 内部实现的,不需要外部调用者关心。其查询实现的原理应该大致类似。
但 partition 只解决了 IO 的瓶颈,并不能解决 CPU 计算的瓶颈,因此无法代替传统的手工分表方式。

</div>
分享到:QQ空间新浪微博腾讯微博微信百度贴吧QQ好友复制网址打印

您可能想查找下面的文章:

  • MySql实现跨表查询的方法详解
  • MySQL分表实现上百万上千万记录分布存储的批量查询设计模式详解
  • 基于mysql时间处理函数的应用详解
  • 详解MYSQL的备份还原(PHP实现)
  • MySQL笔记之连接查询详解
  • MySQL笔记之数据类型详解
  • MySQL笔记之数学函数详解
  • 关于MYSQL的优化全面详解
  • MySQL 数据类型 详解
  • 详解用SELECT命令在MySQL执行查询操作的教程

相关文章

  • 2017-05-11深入JDBC sqlserver连接写法的详解
  • 2018-12-05批量执行sql语句的方法
  • 2018-12-05关于mysqlslap对mysql进行压力测试的详细介绍
  • 2017-05-11MySQL中BETWEEN子句的用法详解
  • 2018-12-05Oracle 10g各个帐号的访问权限、登录路径、监控状态命令查询等等
  • 2018-12-05MySQL使用变量实现各种排序详解
  • 2018-12-05mysql_两台服务器实现双机互备配置并测试数据同步
  • 2018-12-05MSSQL 基本语法及实例操作语句
  • 2018-12-05燕十八mongodb视频资料分享
  • 2017-05-11mysql 获取当前日期函数及时间格式化参数详解

文章分类

  • MsSql
  • Mysql
  • oracle
  • MariaDB
  • DB2
  • SQLite
  • PostgreSQL
  • MongoDB
  • Redis
  • Access
  • 数据库其它
  • sybase
  • HBase

最近更新的内容

    • 基于mysql 5.5 设置字符集问题的详解
    • mysqlsla慢查询分析工具使用笔记
    • 一些mysql启动参数的说明和优化方法
    • 解析MySQL动态修改varchar长度的方法
    • Mysql 5.5多实例部署步骤_MySQL
    • MySQL 数据库设计复习笔记及项目实战
    • 总结MySQ 的基础内容
    • mysql家谱表查询某人所有后代
    • mysql主从数据库不同步的2种解决方法
    • MySQL:reading initial communication packet问题解决方法之一

关于我们 - 联系我们 - 免责声明 - 网站地图

©2020-2025 All Rights Reserved. linkedu.com 版权所有