MongoDB分布式自动分片(Auto-sharding)研究

MongoDB分布式自动分片(Auto-sharding)研究

跳过理论东西，网上有介绍自动分片的...直接进入配置，有疑问请留言

还是以1000W级数据做测试

不分片的情况下,插入1000W条数据到一个数据库。

数据存储情况如下：

^_^[root@:/usr/local/mongodb/data/mongodb/test]#ls -lh 
total 4.0G 
-rw------- 1 root root  64M Jul 25 11:25 test.0 
-rw------- 1 root root 128M Jul 25 11:22 test.1 
-rw------- 1 root root 256M Jul 25 11:23 test.2 
-rw------- 1 root root 512M Jul 25 11:25 test.3 
-rw------- 1 root root 1.0G Jul 25 11:25 test.4 
-rw------- 1 root root 2.0G Jul 25 11:24 test.5 
-rw------- 1 root root  16M Jul 25 11:25 test.ns 

下面进行自动分片配置：

这里我们选择两台Server做测试

测试机IP为：

10.X.X.163

10.X.X.228

分别在163，228服务器上启动Shardsvr进程

^_^[root@:/usr/local/mongodb/bin]#cat runServerShard.sh  
./mongod --shardsvr -dbpath=../data/mongodb --logpath=../data/shardsvr_logs.txt --logappend --fork 

在163服务器上启动configsvr 和 mongos路由进程(下面的27019为configsvr的ip，mongos的ip请到log里面去看)

[root@localhost bin]# cat runServerConfig.sh  
./mongod --configsvr --dbpath=../data/mongodb/config_db/ --logpath=../data/mongodb/log/configsvr_logs.txt --logappend --fork  
[root@localhost bin]# cat runServerMongos.sh  
./mongos --configdb 10.10.21.163:27019 --logpath=../data/mongodb/log/mongos_logs.txt --logappend --fork 

查看下是否都启动成功：

[root@localhost bin]# ps -ef | grep 'mongo' 
root     17939     1  2 18:47 ?        00:01:26 ./mongod --shardsvr -dbpath=../data/mongodb --logpath=../data/shardsvr_logs.txt --logappend --fork 
root     18250     1  0 19:05 ?        00:00:00 ./mongod --configsvr --dbpath=../data/mongodb/config_db/ --logpath=../data/mongodb/log/configsvr_logs.txt --logappend --fork 
root     18290     1 12 19:08 ?        00:03:35 ./mongos --configdb 10.10.21.163:27019 --logpath=../data/mongodb/log/mongos_logs.txt --logappend --fork 

可见3个服务都已经启动成功。

下面进入配置自动分片：

用mongo连接mongos进程(去log里面看)进行配置管理：

> use admin 
switched to db admin 
> db.runCommand({addshard:"10.10.21.163:27018"}); 
{ "ok" : 0, "errmsg" : "host already used" } 
> db.runCommand({addshard:"10.7.3.228:27018"}); 
{ "shardAdded" : "shard0001", "ok" : 1 } 
> db.runCommand({enableSharding:"test"}) 
{ "ok" : 1 } 
> db.runCommand({shardcollection:"test.users",key:{_id:1}}) 
{ "collectionsharded" : "test.users", "ok" : 1 } 

向mongos进程进行插入1000W数据

来看下数据的大小：

163：

^_^[root@:/usr/local/mongodb/data/mongodb]#ls -lh 
total 2.0G 
-rw-r--r-- 1 root root 1011 Jul 25 12:33 mongodb.log 
-rwxr-xr-x 1 root root    6 Jul 25 12:34 mongod.lock 
drwxr-xr-x 3 root root 4.0K Jul 25 12:39 moveChunk 
-rw------- 1 root root  64M Jul 25 12:42 test.0 
-rw------- 1 root root 128M Jul 25 12:40 test.1 
-rw------- 1 root root 256M Jul 25 12:41 test.2 
-rw------- 1 root root 512M Jul 25 12:42 test.3 
-rw------- 1 root root 1.0G Jul 25 12:41 test.4 
-rw------- 1 root root  16M Jul 25 12:42 test.ns 
drwxr-xr-x 2 root root 4.0K Jul 25 12:38 _tmp 

228：

[root@localhost mongodb]# ls -lh 
总计 2.0G 
drwxr-xr-x 3 root root 4.0K 07-25 19:39 config_db 
drwxr-xr-x 2 root root 4.0K 07-25 18:51 config_repair_db 
drwxr-xr-x 2 root root 4.0K 07-25 19:39 log 
-rwxr-xr-x 1 root root    6 07-25 19:39 mongod.lock 
drwxr-xr-x 3 root root 4.0K 07-25 19:13 moveChunk 
-rw------- 1 root root  64M 07-25 20:38 test.0 
-rw------- 1 root root 128M 07-25 20:38 test.1 
-rw------- 1 root root 256M 07-25 20:40 test.2 
-rw------- 1 root root 512M 07-25 20:41 test.3 
-rw------- 1 root root 1.0G 07-25 20:42 test.4 
-rw------- 1 root root  16M 07-25 20:38 test.ns 
drwxr-xr-x 2 root root 4.0K 07-25 20:38 _tmp 

自动分片成每个2G。