MySQL运行经验

原题目:MySQL运行经验

MySQL运行实行

图片 1

5.1-MySQL日志系统

1. 概要

怎么着是日记

  • 日志(log)是风流罗曼蒂克种顺序记录事件流水的文书
  • 笔录计算机程序运转进度中产生了什么样
  • 用途种种
  • 支援解析程序难题
  • 浅析服务乞求的表征、流量等
  • 判别职业是还是不是中标执行
  • ……

每台机器都施用多实例的模型。 每一种机器放多个实例,各样实例放八个DB。

MySQL日志的分类

  • 服务器日志
    • 记录进度运转运作进程中的特殊事件,辅助分析MySQL服务蒙受的难题
    • 依靠须求抓取特定的SQL语句,追踪质量大概存在的主题材料的事情SQL
  • 业务日志
    • 记录应用程序对数据的兼具更改
    • 可用来数据复苏
    • 可用于实例间数据同步
分类 日志名称
服务器日志 服务错误日志
服务器日志 慢查询日志
服务器日志 综合查询日志
事务日志 存储引擎事务日志
事务日志 二进制日志

多实例之间未有开展财富隔绝,这么做是让每一个实例都能发挥最大质量。

服务错误日志

  • 记录实例运营运作进度中主要性新闻
  • 配置参数 log_error = /data/mysql_data/node-1/mysql.log
  • 剧情并非全部是张冠李戴音讯
  • 倘诺mysqld进度不或然符合规律运营第黄金时代查看错误日志

当下大多数骨干工作已切换到My罗克s引擎,在机械硬件配置不改变的动静,约可节省50%机械。

慢查询日志

  • 笔录实施时间抢先一定阈值的SQL语句
  • 陈设参数

slow_query_log = 1
slow_query_log_file = /data/mysql_data/node-1/mysql-slow.log
long_query_time = 5
  • 用以深入分析系统中恐怕存在质量难点的SQL

放在My罗克s上的宗旨专门的学问入眼有:Feed、Post、社交图谱等读写混合业务。

总结查询日志

  • 借使展开将会记录系统中具有SQL语句
  • 配置参数

general_log = 1
general_log_file = /data/mysql_data/node-1/mysql-slow.log
  • 突发性用于救助分析种类难题,对质量有影响

MyRocks项目地址:

查询日志的输出与公事切换

  • 日志输出参数

log_output={file|table|none}

  • 要是日志文件过大,能够依期截断并切换新文件

flush log;

别的,MariaDB 10.2版本也就要整合My罗克s引擎。

积存引擎事务日志

  • 生机勃勃部分存款和储蓄引擎装有重做日志(redo log)
  • 如InnoDB, TokuDB等WAL(Write Ahead Log)机制存款和储蓄引擎
  • 日记随着事务commit优先持久化,确定保障非常苏醒不丢数据
  • 日志顺序写品质较好

2. 高可用机制

InnoDB事务日志重用机制

  • InnoDB事务日志选用两组文件交替重用

利用基于GTID的生机勃勃主多从组织,外加叁个基于lossless
semi-sync机制的mysqlbinlog完结的binlog server(能够清楚为MySQL 5.7的loss
zero replication)。

二进制日志binlog

  • binlog (binary log)
  • 笔录数据引起数据变动的SQL语句或数量逻辑变化的原委
  • MySQL服务层记录,非亲非故存款和储蓄引擎
  • binlog的重大功用:
    • 依赖备份苏醒数据
    • 数据库主从同步
    • 开掘解析SQL语句

据书上说多数派达成全自动选主。

开启binlog

  • 首要参数

log_bin = c:/tmp/mylog/mysql-bin
sql_log_bin = 1
sync_binlog = 1
  • 查看binlog

show binary logs;

听别人讲配置基本完结切换,未采用VIP。

binlog管理

  • 主要参数

max_binlog_size = 100MB
expire_logs_days = 7
  • binlog始平生成新文件,不会援引

  • 手工业清理binlog

purge binary logs to 'mysql-bin.000009';
purge binary logs before '2016-4-2 21:00:40'

在感到semi-sync复制可确认保障基本数据生龙活虎致性的假使前提下,爆发故障切换时,利用上述的binlog
server中的日志进行补全后再选新主、切换。

查看binlog内容

  • 日志

show binlog events in 'mysql-bin.000011';
show binlog events in 'mysql-bin.000011' from 60 limit 3;
  • mysqlbinlog工具

mysqlbinlog c:/tmp/mylog/mysql-bin.000001
--start-datetime | --stop-datetime
--start-position | --stop-position

若个别意况下是因为非常原因,现身从库全体挂掉的意况,会将全数供给切到主库,由它扛起所有事情服务压力。

binlog格式

  • 主要参数

binlog_format = {ROW|STATEMENT|MIXED}

  • 查看row模式的binlog内容

mysqlbinlog --base64-output=decode-rows -v c:/tmp/mylpg/mysql-bin.000001

有个别从库挂掉时,能够动态摘除。

5.2-MySQL数据备份

3. 备份机制

中央指数 – 备份用途

  • 多少计划
    • 应对硬件故障数据遗失
    • 应对人工或程序bug导致数据删除
  • 制作镜像库以供服务
    • 急需将数据迁移、总括剖析等用途
    • 需求为线上多少创设多少个镜像

装有的备份都以依照mysqldump达成,之所以接纳mysqldump逻辑备份好处有:

基本知识 – 备份内容

  • 数据
    • 数据文件或文本格式数据
  • 操作日志(binlog)
    • 数据库改动日志
  • 无需备份索引,只备份数据;
  • 备份文件压缩比高,更省去磁盘空间;
  • 精雕细刻了mysqldump,备份进程中还实行额外压缩;

基本知识 – 冷备份与热备份

  • 冷备份
    • 关门数据库服务,完整拷贝数据文件
  • 热备份
    • 在不影响数据库读写服务的情况下备份数据库

地方提到,因为运用多实例、多DB结构,备份时能够多DB并行备份。当然了,也会调控并行备份的数目,幸免影响在线工作天性。

基本知识 – 物理备份与逻辑备份

  • 大要备份
    • 以数据页的款式拷贝数据
  • 逻辑备份
    • 导出为裸数据依然SQL(insert)语句

备份放在集中积累(HDFS)上, 听他们讲已达EB等级体积。

基本知识 – 本地备份与远程备份

  • 本土备份
    • 在数据库服务器当地开展备份
  • 长间距备份
    • 长途连接数据库进行备份

关于备份的法力定位:

基本知识 – 全量备份与增量备份

  • 全量备份
    • 备份完整的数据库
  • 增量备份
    • 只备份上一遍备份以来产生校订的多寡
  • 供数据拆解深入分析意况拉数据
  • 供祸患恢复生机

基本知识 – 备份周期

怀想要素:

  • 数据库大小(决定备份时间)
  • 光复速度供给(快捷or慢速)
  • 备份情势(全量or增量)

4. 怎么火速陈设从库

常用工具及用法

  • mysqldump – 逻辑备份,热备
  • xtrabackup – 物理备份, 热备
  • Lvm/zfs snapshot – 物理备份
  • mydumper – 逻辑备份,热备
  • cp – 物理备份,冷备

可利用xtrabackup在现存存活的SLAVE实例上备份,也可在主库上发起备份,再使用WDT(或许是BT)合同传输到外市,用于拉起从库。

常用工具及用法 – mysqldump

MySQL官方自带的命令行工具

要害示例:

  • 示范使用mysqldump备份表、库、实例

# 备份所有数据库
mysqldump -uroot -p123456 --socket=/var/run/mysqld/mysqld.sock --all-databases > /dbbackup/all_db.sql
# 备份指定的数据库
mysqldump -uroot -p123456 --socket=/var/run/mysqld/mysqld.sock --databases db2 > /dbbackup/db2.sql
# 备份单个表
mysqldump -uroot -p123456 --socket=/var/run/mysqld/mysqld.sock db2 t1 >/dbbackup/db2_t1.sql
# 还原表
mysql > source /dbbackup/db2_t1.sql
  • 示范使用mysqldump制作豆蔻年华致性备份

mysqldump --single-transaction -uroot -p123456 --all-databases > /dbbackup/add_db_2.sql
  • 演示使用mysqldump远程备份贰个数据库

mysqldump -utest -ptest -h192.168.0.68 -P3306 --all-databases > /dbbackup/remote_bakall.sql
  • 演示使用mysqldump导出多少为csv格式

mysqldump -uroot -p123456 --single-transaction --fields-terminated-by=, db1 -T /tmp

关于WDT项目:

常用工具及用法 – xtrabackup

特点:

  • 开源,在线备份InnoDB表
  • 扶助限速备份,避免对事情变成影响
  • 支撑流备
  • 支撑增量备份
  • 支撑备份文件压缩与加密
  • 支撑互相备份与还原,速度快

5. 冲天自动化

xtrabackup备份原理

  • 基于InnoDB的crash-recovery功能
  • 备份时期允许客商读写,写需要产生redo日志
  • 从磁盘上拷贝数据文件
  • 从InnoDB redo log file实时拷贝走备份时期发生的兼具redo日志
  • 还原的时候 数据文件 + redo日志 = 风度翩翩致性数据

直面周围的数据库实例,手工业管理完全不现实。近年来在facebook主假设使用Python开拓内部DB运转平台,所以Python才干方面须求相比高。

实用脚本innobackupex

  • 开源Perl脚本,封装调用xtrabackup及一各类相关工具与OS操作,最终产生备份进度
  • 帮忙备份InnoDB和其他汽油发动机的表
  • 备份大器晚成致性保险

使用他们自已的osc工具实行Online
DDL(也是本次DTCC大会上lulu的分享核心),它最初用PHP开辟,虽已经开源,但实际不佳用,所以差十分的少只在个中使用。这几个工具分化于pt-osc,绝对来讲更有优势,比方能够幸免使用pt-osc最常碰着的基本数据延迟难点。

innobackupex备份中央流程

start xtrabackup_log -> copy .ibd; ibdata1 -> FLUSH TABLE WITH
READ LOCK -> copy .FRM; MYD; MYI; misc files -> Get binary log
position -> UNLOCK TABLES -> stop and copy xtrabackup_log

体系地址:

innobackupex使用

重在示例:

  • 全量备份

innobackupex --user=root --password=123456 --defaults-file=/etc/mysql/my.cnf /dbbackup
  • 增量备份

innobackupex --user=root --password=123456 --defaults-file=/etc/mysql/my.cnf --incremental --incremental-dir /dbbackup/2016-4-3_13:24:32 /dbbackup
  • 流情势备份

innobackupex --user=root --password=123456 --defaults-file=/etc/mysql/my.cnf --stream=xbstream /dbbackup/ > /dbbackup/stream.bak
  • 交互备份

innobackupex --user=root --password=123456 --defaults-file=/etc/mysql/my.cnf --parallel=4 /dbbackup/
  • 限流备份

innobackupex --user=root --password=123456 --defaults-file=/etc/mysql/my.cnf --throttle=10 /dbbackup/
  • 减掉备份

innobackupex --user=root --password=123456 --defaults-file=/etc/mysql/my.cnf --compress --compress-thread 4 /dbbackup/

6. 团队布局及技艺树

什么制订备份战术

急需考虑的元素

  • 数据库是或不是都以innodb引擎表 -> 备份格局,热备or冷备
  • 数据量大小 -> 逻辑备份or物理备份,全量or增量
  • 数据库本地球磁性盘空间十三分丰硕 -> 备份到地点or远程
  • 内需多块恢复 -> 备份频率 小时or天

DBA团队更多的是负责私有DB云平台的建设。

5.3-MySQL数据恢复生机

Schema设计及DB拆分等由质量优化团队负担。

何以时候必要复苏数据

  • 硬件故障(如磁盘损坏)
  • 人为删除(如误删除数据、被黑)
  • 作业回滚(如游戏bug须求回档)
  • 好端端必要(如安排镜像库、查看历史某时刻数据)

在线表结构退换:数据库财富申请由品质服务共青团和少先队担当,做到能源的客体分布、分配,假如有些业务只供给个位数级其他DB实例,能够活动在私有DB云平新竹申请布置,当数码一点都不小时,必要先经过品质服务组织评估通过。

数据复苏的需求条件

  • 可行备份
  • 完整的数据库操作日志(binlog)

数据库能源申请由品质服务协会肩负,做到能源的客观分布、分配。如若某些业务需求一点点DB实例,能够自行在私有DB云平新竹申请布署;当数码超大时,必要先经过品质服务团队评估通过能力够。回去新浪,查看更加的多

数据恢复生机思路

  • 流行贰回备份 + binlog复苏到故障时间点(适用于种种数码错过现象)
  • 钻井最终壹回备份到故障点之间的binlog获取有关SQL语句,构造反转SQL语句并利用到数据库(只是用于记录错过,且binlog必须是row格式)

小编:

反转SQL语句

例:

t1(id primary key, a int)

反转SQL语句:

insert into t(id, a) values(1, 1) ->
delete t1 where id=1 and a=1
update t1 set a=5 where id=1 -> update t1 set a=1 where id=1
delete from t1 where id=1 -> insert into t(id, a) values(1, 1)

数据库苏醒工具与命令

  • mysqldump备份 -> source恢复
  • xtrabackup备份 -> xtrabackup恢复
  • binlog备份 -> mysqlbinlog恢复

详见示例解说

  • 回复某几条误删数据
  • 光复误删表、库
  • 将数据库恢复到指如时期点

还原误删除数据

case:误操作,删除数据忘记带完整条件,推行delete from user where age > 30 [and sex=male]

必要:将被去除的数额恢复生机

还原前提:完整的数据库操作日志(binlog)

delete from user where sex='female';

# 首先需要找到binlog里的信息
mysqlbinlog -vv mysql-bin.000001
# 找出sql语句,然后写出反转sql语句

回复误删表、库

case:业务被黑,表被去除了(drop teble user)

供给:将表苏醒

前提:备份 + 备份以来完整binlog

innobackupex --apply-log /dbbackup/filename
# 查看binlog的位置点
cat xtrabackup_binlog_info
# 查看结束点
mysqlbinlog -vv filename

mysqlbinlog -vv --start-position=2556990 -- stop-position=2776338
mysqlbinlog -vv --start-position=2556990 -- stop-position=2776338 | mysql -uroot -p123456 --sock=/dbbackup/mysql_3309/mysqld.sock

学科小结

  • 重振旗鼓是已经非常苦逼的专门的职业,尽量制止做。我们要做多少卫士实际不是救火队员。(线上应有严厉把控权限,数据变动操作应先行测验,操作时做好备份)
  • 可行备份(+binlog)是关键,对数据库准期备份是必需的
  • 备份是总体数据苏醒的功底

5.4-MySQL线上计划

MySQL线上安插

考虑因素:

  • 本子选取, 5.1、5.5依旧5.6?
  • 分层选用,官方社区版? percona server? Mariadb?
  • 安装情势,包安装?二进制包安装?源码安装?
  • 路线配置,参数配置(尽量模板化、标准化)
  • 一个实例两个库 or 多少个实例单个库?

二进制安装MySQL

  • 下载软件包
  • 解压放到钦赐目录(比方/usr/local)
  • 将MySQL目录放到PATH中
  • 伊始化实例,编辑配置文件并运维
  • 账户安全设置

编写翻译安装MySQL

  • 下载MySQL源码安装包
  • 设置要求包(make cmake bison-devel ncurses-devel build-essential)
  • Cmake配置MySQL编写翻译选项,能够定制供给设置的成效
  • make && make install
  • 领头化实例,编辑配置文件并运行
  • 账户安全设置

MySQL升级

  • 下载MySQL5.6安装包并配置MySQL5.6安装包安装路线
  • 关闭MySQL5.5实例,修改部分参数,使用MySQL5.6软件运行
  • 执行MySQL5.6路径下mysql_upgrade脚本
  • 申明是或不是成功进级

MySQL多实例安装

  • 部署好mysql软件
  • 编写多个布局文件,最早化多个实例
  • 启动MySQL实例

MySQL多实例布署

何以多实例布署?

  • 丰富利用系统资源
  • 财富隔绝
  • 业务、模块隔开

MySQL线上安装小结

  • 依附须要采纳适当的版本以至分支,提出选拔或升官到较高版本5.5或5.6
  • 只要须求定制MySQL功效的话,能够考虑编写翻译安装,不然的话提议使用二进制包安装,相比省事
  • 听说机器配置选用安排四个MySQL实譬仍然单个实例,机器配置相当好的话,建议安排多实例

5.5-MySQL主从复制

MySQL主从复制

  • 生龙活虎主风流倜傥从
  • 主主复制
  • 大器晚成主多从
  • 多主后生可畏从
  • 联级复制

MySQL主从复制用途

  • 实时灾备,用于故障切换
  • 读写分离,提供查询服务
  • 备份,制止影响职业

发表评论

电子邮件地址不会被公开。 必填项已用*标注