最具影响力的数字化技术在线社区

168大数据

 找回密码
 立即注册

QQ登录

只需一步,快速开始

1 2 3 4 5
打印 上一主题 下一主题
开启左侧

mysql5.7 集群搭建

[复制链接]
跳转到指定楼层
楼主
发表于 2017-11-21 21:39:28 | 只看该作者 |只看大图 回帖奖励 |倒序浏览 |阅读模式

马上注册,结交更多数据大咖,获取更多知识干货,轻松玩转大数据

您需要 登录 才可以下载或查看,没有帐号?立即注册

x

前言

当你的业务到达一定的当量,肯定需要一定数量的数据库来负载均衡你的数据库请求,我在之前的博客中已经说明了,如何实现负载均衡,但是还有一个问题就是数据同步,因为负载均衡的前提就是,各个服务器的数据库是数据同步的。在业务量不大的时候,我们会使用主从复制的方法实现服务器数据同步,一主多从或者是双主等,但是虽然进行了读写分离,但是对于读的方法限制还是比较大,所以解决数据同步的问题就是数据库集群的意义。我这里使用mysql官网提供的mysql-cluster实现集群。(到文章发布前的最新版本的安装教程,把网上踩的坑都踩过了一遍。

mysql cluster中的几个概念解释

为了简单,我后面简称mysql-cluster为mc。

1、mc已经包含了mysql,我下载的最新的mc7.5,官方说明包含的是mysql版本是5.7。所以不需要使用别的msyql的安装包安装数据库。同时注意mysql5.7的版本在安装的命令和配置上面和之前的版本有很大的不同,所以网上有很多mc7.5之前的版本,所包含的mysql版本不同,所以安装方法不同。
2、管理节点,mc管理节点负责管理、配置、监控整个集群。
3、数据节点,使用内存存放数据,保存进数据节点的数据都会自动复制并存储到其他数据节点。
4、mysql节点,也叫数据库节点,和我们平时使用的mysql相同,作为数据库使用。被数据节点访问。

架构图及说明

[size=1em]我实验中的配置就是如图所示,因为虚拟机占用内存较大,只使用了3台服务器,在实际情况中最好将数据节点和mysql节点分开。在实际中负载均衡服务还需要做备份,因为万一负载均衡服务器宕机将会导致所有数据节点都无法访问,所以需要对负载均衡服务器备份,有条件的话,分开管理节点和负载均衡器。实验只实现整个数据库集群,负载均衡请参考之前的博客配置即可。

下载mysql cluster

首先下载mysql cluster,推荐使用下面的镜像,下载速度比官网快一些
我下载的版本是mysql-cluster-gpl-7.5.4-linux-glibc2.5-x86_64.tar.gz
注意看清是64位版本的,别下载错了

安装mysql cluster之前

安装之前,如果之前安装过mysql,那么需要删除相应的各种mysql文件,删除之前请停止mysql服务。并且不要忘记删除my.cnf这些配置文件。确保删除干净。不然可能会和后面的安装有冲突。如果是实验,关闭防火墙,实际中,防火墙打开对应端口。保证服务器之前能互相访问,能ping通。保证固定的ip地址。保证没有别的程序占用需要使用的端口。如3306等。这些都确认完毕后再进行安装。需要linux基础的命令熟练,需要熟练安装mysql基本版本等操作,因为后序的一些操作我会简单描述,不做过多的说明了。

安装配置管理节点

将下载后的包上传至服务器/usr/local下

解压

这里写代码片 tar xvf mysql-cluster-gpl-7.5.4-linux-glibc2.5-x86_64.tar.gz

将需要的文件取出

[AppleScript] 纯文本查看 复制代码
cd mysql-cluster-gpl-7.5.4-linux-glibc2.5-x86_64

 cp bin/ndb_mgm* /usr/local/bin

 cd /usr/local/bin

 chmod +x ndb_mgm*



新建配置文件并且初始化管理节点

[AppleScript] 纯文本查看 复制代码
mkdir /var/lib/mysql-cluster

 mkdir /usr/local/mysql

 vi /var/lib/mysql-cluster/config.ini

下面是配置文件,根据自己的需求修改,首先给出官网的默认配置文件,然后给出我的配置文件,根据我修改的修改即可,别的均可不动。

官方配置(这里NodeId值得注意,每一个节点都需要NodeId):

[AppleScript] 纯文本查看 复制代码
[ndbd default]
# Options affecting ndbd processes on all data nodes:
NoOfReplicas=2    # Number of replicas
DataMemory=80M    # How much memory to allocate for data storage
IndexMemory=18M   # How much memory to allocate for index storage
                  # For DataMemory and IndexMemory, we have used the
                  # default values. Since the "world" database takes up
                  # only about 500KB, this should be more than enough for
                  # this example NDB Cluster setup.
ServerPort=2202   # This the default value; however, you can use any
                  # port that is free for all the hosts in the cluster
                  # Note1: It is recommended that you do not specify the port
                  # number at all and simply allow the default value to be used
                  # instead
                  # Note2: The port was formerly specified using the PortNumber 
                  # TCP parameter; this parameter is no longer available in NDB
                  # Cluster 7.5.

[ndb_mgmd]
# Management process options:
HostName=192.168.0.10           # Hostname or IP address of MGM node
DataDir=/var/lib/mysql-cluster  # Directory for MGM node log files

[ndbd]
# Options for data node "A":
                                # (one [ndbd] section per data node)
HostName=192.168.0.30           # Hostname or IP address
NodeId=2                        # Node ID for this data node
DataDir=/usr/local/mysql/data   # Directory for this data node's data files

[ndbd]
# Options for data node "B":
HostName=192.168.0.40           # Hostname or IP address
NodeId=3                        # Node ID for this data node
DataDir=/usr/local/mysql/data   # Directory for this data node's data files

[mysqld]
# SQL node options:
HostName=192.168.0.20           # Hostname or IP address
                                # (additional mysqld connections can be
                                # specified for this node for various
                                # purposes such as running ndb_restore)

个人配置

[AppleScript] 纯文本查看 复制代码
[ndbd default]
NoOfReplicas=2DataMemory=512M
IndexMemory=18M

[ndb_mgmd]
NodeId=1
HostName=192.168.75.129                    //管理节点ip  注意都有NodeId 除了sql节点
DataDir=/var/lib/mysql-cluster

[ndbd]
NodeId=2
HostName=192.168.75.128                    //ndb数据节点ip
DataDir=/var/lib/mysql-cluster

[ndbd]
NodeId=1                                     
HostName=192.168.75.130                     //ndb数据节点ip
DataDir=/var/lib/mysql-cluster

[mysqld]
HostName=192.168.75.130                   //mysql数据库sql节点ip, 注意mysqld ip可以和ndbd ip用同一个ip, 但是大型集群建议分开。

[mysqld]
HostName=192.168.75.131                   //mysql数据库sql节点ip

[mysqld]                                  //这里可以不填表示接收任何一个mysqld节点

使用配置文件初始化管理节点

/usr/local/bin/ndb_mgmd -f /var/lib/mysql-cluster/config.ini --initial


出现MySQL Cluster Management Server mysql-5.7.16 ndb-7.5.4

然后就能使用ndb_mgm进去管理了

ndb_mgm>show(使用show命令查看管理情况,当数据节点配置完毕之后,我们再用这个命令查看和管理)

到此为止管理节点配置完毕,接下去配置数据和sql节点

安装配置数据和mysql节点

以下的所有操作需要在所有的集群节点都要进行相同的操作

新增用户组mysql和用户msyql

# groupadd mysql# useradd -g mysql -s /bin/false mysql


新建文件夹并赋予权限

  # mkdir /var/lib/mysql-cluster  # chown root:mysql /var/lib/mysql-cluster


将下载后的包上传至服务器/usr/local下

解压

# tar xvf mysql-cluster-gpl-7.5.4-linux-glibc2.5-x86_64.tar.gz


创建链接方便访问

# ln -s /usr/local/mysql-cluster-gpl-7.5.4-linux-glibc2.5-x86_64 /usr/local/mysql


初始化数据库(这里要注意,如果你安装的版本和我的不同,数据库初始化的命令使不同的,很多之前的版本会使用:scripts/mysql_install_db –user=mysql来初始化,这个已经被mysql在新的版本中废弃了,所以需要使用下面的命令安装,如果你需要安装别的版本请参考mysql官网的对应版本的安装命令。)

# cd mysql
# mysqld --initialize


修改权限



[AppleScript] 纯文本查看 复制代码
# chown -R root .

# chown -R mysql data

# chgrp -R mysql .

# cp support-files/mysql.server /etc/rc.d/init.d/

# chmod +x /etc/rc.d/init.d/mysql.server

# chkconfig --add mysql.server


配置数据节点

# vi /etc/my.cnf
[AppleScript] 纯文本查看 复制代码
[mysqld]
ndbcluster
user=mysql  //启动权限
ndb-connectstring=192.168.75.129

[mysql_cluster]
ndb-connectstring=192.168.75.129



其中的IP为管理节点的IP
启动集群节点上面的服务启动mysql(成功会有success)# /etc/init.d/mysql.server start
(如果启动失败, 多半是因为文件权限的问题!)

启动ndbd# /etc/init.d/ndbd –initial如果上述不行使用绝对路径的这个:# /usr/local/mysql/bin/ndbd –initial如果出现下述现象就成功了(第一次启动可以使用 –initial 这个命令会清除以前所有记录,后续不建议使用–initial )

[AppleScript] 纯文本查看 复制代码
2017-03-06 14:04:07 [ndbd] INFO – Angel connected to ‘192.168.75.129:1186’ 
2017-03-06 14:04:07 [ndbd] INFO – Angel allocated nodeid: 2

最后当所有的节点配置完成,回到管理节点,使用上述说过的show查看,如下的类似显示,证明已经连接完成

ndb_mgm> show
[AppleScript] 纯文本查看 复制代码
Cluster Configuration 
--------------------- 
[ndbd(NDB)]    2 node(s) 
id=2 (not connected, accepting connect from 192.168.75.128) 
id=3    @192.168.75.130  (mysql-5.1.63 ndb-7.1.23, starting, Nodegroup: 0)

[ndb_mgmd(MGM)]    1 node(s) 
id=1    @192.168.75.129  (mysql-5.7.16 ndb-7.5.4)

[mysqld(API)]    2 node(s) 
id=4 @192.168.2.130 (mysql-5.7.16 ndb-7.5.4)
id=5 (not connected, accepting connect from any host)  //这个sql节点未连接


测试

修改mysql密码统一(在mysqld –initialize 的时候生成),修改mysql的访问权限,使外部ip能远程访问mysql

[backcolor=rgba(128, 128, 128, 0.0470588)]mysql> ALTER USER ‘root’@’localhost’ IDENTIFIED BY ‘Cjproj_123’;

然后创建在一台上面创建数据库,看另一台是否被同步,然后创建表,然后新增删除等等。

唯一需要注意的是,创建表的时候必须选择表的引擎为NDBCLUSTER,否则表不会进行同步

下面是测试的截图


如果使用sql创建表,命令为:

CREATE TABLE student (age INT) ENGINE=NDBCLUSTER  //注意这里的引擎为NDBCLUSTER

启动和关闭

启动mysql集群。启动顺序为:管理节点→数据节点→SQL节点。

启动的命令上面都有,删去–initial即可

关闭时只需要关闭管理节点,后面的数据节点会同时被关闭,mysql就和原来一样即可

管理节点关闭命令:ndb_mgm -e shutdown

总结

1、在实际中需要分开数据节点和sql节点。
2、安装最好参考官网的文档进行配置安装,网上的博客安装的可能为旧版本,命令可能不同,连我自己现在写的不知道你看的时候是不是官网又出了新版本,可能在某些地方进行了改动。
3、配置文件过于简单,还有很多配置会在实际中被使用到,需要参考文档进行添加。
4、架构简单,实验足够,现实远不足。
5、还未测试各种节点断开、服务器停止、数据库服务停止、是否会出现数据异常等等特殊情况,还需要进行考虑。因为一旦数据不同步,想要恢复数据会比较麻烦。

最后给出mysql官网的参考文档:https://dev.mysql.com/doc/refman/5.7/en/mysql-cluster-installation.html

官网安装步骤可能和我的不同,我尽可能一台弄好再弄另外的,官网有配置和启动进行划分,每台同时进行,所以需要看清楚。

实现集群的方式不止这一种,网上给出了几种方式,这里只做参考:

http://www.2cto.com/database/201504/387166.htm

转载请注明出处:http://www.cnblogs.com/linkstar/p/6510713.html

作者:LinkinStar

原文地址: http://www.cnblogs.com/linkstar/p/6510713.html



楼主热帖
分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
收藏收藏 转播转播 分享分享 分享淘帖 赞 踩

168大数据 - 论坛版权1.本主题所有言论和图片纯属网友个人见解,与本站立场无关
2.本站所有主题由网友自行投稿发布。若为首发或独家,该帖子作者与168大数据享有帖子相关版权。
3.其他单位或个人使用、转载或引用本文时必须同时征得该帖子作者和168大数据的同意,并添加本文出处。
4.本站所收集的部分公开资料来源于网络,转载目的在于传递价值及用于交流学习,并不代表本站赞同其观点和对其真实性负责,也不构成任何其他建议。
5.任何通过此网页连接而得到的资讯、产品及服务,本站概不负责,亦不负任何法律责任。
6.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源,若标注有误或遗漏而侵犯到任何版权问题,请尽快告知,本站将及时删除。
7.168大数据管理员和版主有权不事先通知发贴者而删除本文。

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

站长推荐上一条 /1 下一条

关于我们|小黑屋|Archiver|168大数据 ( 京ICP备14035423号|申请友情链接

GMT+8, 2024-4-23 14:14

Powered by BI168大数据社区

© 2012-2014 168大数据

快速回复 返回顶部 返回列表