• linkedu视频
  • 平面设计
  • 电脑入门
  • 操作系统
  • 办公应用
  • 电脑硬件
  • 动画设计
  • 3D设计
  • 网页设计
  • CAD设计
  • 影音处理
  • 数据库
  • 程序设计
  • 认证考试
  • 信息管理
  • 信息安全
菜单
linkedu.com
  • 网页制作
  • 数据库
  • 程序设计
  • 操作系统
  • CMS教程
  • 游戏攻略
  • 脚本语言
  • 平面设计
  • 软件教程
  • 网络安全
  • 电脑知识
  • 服务器
  • 视频教程
  • MsSql
  • Mysql
  • oracle
  • MariaDB
  • DB2
  • SQLite
  • PostgreSQL
  • MongoDB
  • Redis
  • Access
  • 数据库其它
  • sybase
  • HBase
您的位置:首页 > 数据库 >MongoDB > 详解MongoDB中用sharding将副本集分配至服务器集群的方法

详解MongoDB中用sharding将副本集分配至服务器集群的方法

作者:lucifercn 字体:[增加 减小] 来源:互联网 时间:2017-05-11

lucifercn通过本文主要向大家介绍了mongodb sharding,sharding,sharding jdbc,mysql sharding,oracle sharding等相关知识,希望本文的分享对您有所帮助

关于副本集

副本集是一种在多台机器同步数据的进程。
副本集体提供了数据冗余,扩展了数据可用性。在多台服务器保存数据可以避免因为一台服务器导致的数据丢失。
也可以从硬件故障或服务中断解脱出来,利用额外的数据副本,可以从一台机器致力于灾难恢复或者备份。

在一些场景,可以使用副本集来扩展读性能。客户端有能力发送读写操作给不同的服务器。
也可以在不同的数据中心获取不同的副本来扩展分布式应用的能力。

mongodb副本集是一组拥有相同数据的mongodb实例,主mongodb接受所有的写操作,所有的其他实例可以接受主实例的操作以保持数据同步。
主实例接受客户可的写操作,副本集只能有一个主实例,因为为了维持数据一致性,只有一个实例可写,主实例的日志保存在oplog。

Client Application Driver
  Writes  Reads
    |   |
    Primary
  |Replication|Replication
Secondary    Secondary
</div>

二级节点复制主节点的oplog然后在自己的数据副本上执行操作,二级节点是主节点数据的反射,如果主节点不可用,会选举一个新的主节点。默认读操作是在主节点进行的,但是可以指定读取首选项参数来指定读操作到副本节点。
可以添加一个额外的仲裁节点(不拥有被选举权),使副本集节点保持奇数,确保可以选举出票数不同的直接点。仲裁者并不需要专用的硬件设备。
仲裁者节点一直会保存仲裁者身份。

1.异步复制
副本节点同步直接点操作是异步的,然而会导致副本集无法返回最新的数据给客户端程序。

2.自动故障转移
如果主节点10s以上与其他节点失去通信,其他节点将会选举新的节点作为主节点。
拥有大多数选票的副节点会被选举为主节点。

副本集提供了一些选项给应用程序,可以做一个成员位于不同数据中心的副本集。
也可以指定成员不同的优先级来控制选举。

sharding转换一个副本集为分片集群
1. 部署一个测试副本集
创建第一个副本集实例,名称为firstset:
1.1 创建副本集并且插入数据如下:

  /data/example/firstset1
  /data/example/firstset2
  /data/example/firstset3
</div>

创建目录:

mkdir -p /data/example/firstset1 /data/example/firstset2 /data/example/firstset3
</div>

1.2 在其他终端启动三个mongodb实例,如下:

mongod --dbpath /data/example/firstset1 --port 10001 --replSet firstset --oplogSize 700 --rest --fork --logpath /data/example/firstset1/firstset1.log --logappend --nojournal --directoryperdb
mongod --dbpath /data/example/firstset2 --port 10002 --replSet firstset --oplogSize 700 --rest --fork --logpath /data/example/firstset2/firstset2.log --logappend --nojournal --directoryperdb
mongod --dbpath /data/example/firstset3 --port 10003 --replSet firstset --oplogSize 700 --rest --fork --logpath /data/example/firstset3/firstset3.log --logappend --nojournal --directoryperdb
</div>

--oplog选项强制每个mongodb实例操作日志为700M,不使用该参数则默认为分区空间的5%,限制oplog的大小,可以使每个实例启动的快一点。
1.3 连接一个mongodb实例的shell

mongo mongo01:10001/admin
</div>

如果是运行在生产环境下,或者不同主机名或IP的机器上,需要修改mongo01为指定名称。
1.4 在mongo shell上初始化副本集

var config = {
  "_id" : "firstset",
  "members" : [
    {"_id" : 0, "host" : "mongo01:10001"},
    {"_id" : 1, "host" : "mongo01:10002"},
    {"_id" : 2, "host" : "mongo01:10003"},
  ]
}
rs.initiate(config);
{
    "info" : "Config now saved locally. Should come online in about a minute.",
    "ok" : 1
}
</div>

或

db.runCommand(
  {"replSetInitiate" :
    {"_id" : "firstset",
    "members" : [
      {"_id" : 0, "host" : "mongo01:10001"},
      {"_id" : 1, "host" : "mongo01:10002"},
      {"_id" : 2, "host" : "mongo01:10003"}
      ]
    }
  }
)
</div>

1.5 在mongo shell中创建并插入数据:

use mydb
switched to db mydb
animal = ["dog", "tiger", "cat", "lion", "elephant", "bird", "horse", "pig", "rabbit", "cow", "dragon", "snake"];
for(var i=0; i<100000; i++){
  name = animal[Math.floor(Math.random()*animal.length)];
  user_id = i;
  boolean = [true, false][Math.floor(Math.random()*2)];
  added_at = new Date();
  number = Math.floor(Math.random()*10001);
  db.test_collection.save({"name":name, "user_id":user_id, "boolean": boolean, "added_at":added_at, "number":number });
}
</div>

上面的操作会向集合test_collection插入100万条数据,根据系统不同,可能会花费几分钟的时间。
脚本会加入如下格式的文档:

2. 部署一个分片设施
创建三个配置服务器来保存集群的元数据。
对于开发或者测试环境下,一个配置服务器足够了,在生产环境下,需要三天配置服务器,因为它们只需要占用很少的资源来保存元数据。
2.1 创建配置服务器的数据文件保存目录:

  /data/example/config1
  /data/example/config2
  /data/example/config3
</div>

创建目录:

mkdir -p /data/example/config1 /data/example/config2 /data/example/config3
</div>

2.2 在另外的终端下,启动配置服务器:

mongod --configsvr --dbpath /data/example/config1 --port 20001 --fork --logpath /data/example/config1/config1.log --logappend
mongod --configsvr --dbpath /data/example/config2 --port 20002 --fork --logpath /data/example/config2/config2.log --logappend
mongod --configsvr --dbpath /data/example/config3 --port 20003 --fork --logpath /data/example/config3/config3.log --logappend
</div>

2.3 在另外的终端下,启动mongos实例:
mongos --configdb mongo01:20001,mongo01:20002,mongo01:20003 --port 27017 --chunkSize 1 --fork --logpath /data/example/mongos.log --logappend
如果使用的是以前创建的表或者测试环境下,可以使用最小的chunksize(1M),默认chunksize为64M意味着在mongodb自动分片启动前,集群必须拥有64MB的数据文件。
在生产环境下是不能使用很小的分片大小的。
configdb选项指定了配置服务器。mongos实例运行在默认的mongodb27017端口。
2.4 可以在mongos添加第一个分片,在新的终端执行以下命令:
2.4.1 连接mongos实例

mongo mongo01:27017/admin
</div>

2.4.2 使用addShard命令添加第一个分片

db.runCommand( { addShard : "firstset/mongo01:10001,mongo01:10002,mongo01:10003" } )
</div>

2.4.3 出现以下信息,表示成功:

{ "shardAdded" : "firstset", "ok" : 1 }
</div>

3. 部署另一个测试副本集
创建另外一个副本集实例,名称为secondset:
3.1 创建副本集并且插入数据如下:

  /data/example/secondset1
  /data/example/secondset2
  /data/example/secondset3
</div>

创建目录:

mkdir -p /data/example/secondset1 /data/example/secondset2 /data/example/secondset3
</div>

3.2 在其他终端启动三个mongodb实例,如下:

mongod --dbpath /data/example/secondset1 --port 30001 --replSet secondset --oplogSize 700 --rest --fork --logpath /data/example/secondset1/secondset1.log --logappend --nojournal
  


 
分享到:QQ空间新浪微博腾讯微博微信百度贴吧QQ好友复制网址打印

您可能想查找下面的文章:

  • 详解MongoDB中用sharding将副本集分配至服务器集群的方法

相关文章

  • 2017-05-11mongodb权限设置之添加管理员、普通用户的方法
  • 2017-05-11MongoDB插入数据的3种方法
  • 2017-05-11MongoDB的基础知识简介
  • 2017-05-11MongoDB数据库的特色和优点介绍
  • 2017-05-11MongoDB在Windows平台的安装及配置方法
  • 2017-05-11解决mongodb在ubuntu下启动失败,提示couldn‘t remove fs lock errno:9 Bad file descriptor的错误
  • 2018-08-22mongodb常用语句
  • 2017-05-11Windows系统下安装MongoDB与Robomongo环境详解
  • 2017-05-11MongoDB聚合功能浅析
  • 2017-05-11MongoDB安装到windows服务的方法及遇到问题的完美解决方案

文章分类

  • MsSql
  • Mysql
  • oracle
  • MariaDB
  • DB2
  • SQLite
  • PostgreSQL
  • MongoDB
  • Redis
  • Access
  • 数据库其它
  • sybase
  • HBase

最近更新的内容

    • MongoDB数据库的特色和优点介绍
    • MongoDB入门教程之常用的运维技术介绍
    • CentOS系统下MongoDB安装及配置教程
    • MongoDB错误32-bit servers don't have journaling enabled by default解决方法
    • Mongodb 数据类型及Mongoose常用CURD
    • python实现爬虫数据存到 MongoDB
    • MongoDB db.serverStatus()输出内容中文注释
    • MongoDB教程之入门基础知识
    • Ubuntu中安装MongoDB及执行一些简单操作笔记
    • MongoDB学习笔记之分组(group)使用示例

关于我们 - 联系我们 - 免责声明 - 网站地图

©2020-2025 All Rights Reserved. linkedu.com 版权所有