一、什么是binlog
binlog 是一个二进制格式的文件,用于记录用户对数据库 更新的SQL语句 信息,例如更改数据库表和更改内容的SQL语句都会记录到binlog里,但是对库表等内容的查询不会记录。默认情况下,binlog 日志是二进制格式的,不能使用查看文本工具的命令(比如,cat,vi等)查看,而使用mysqlbinlog 解析查看。
二、binlog 的作用
binlog主要用于复制(Master-Slave 主从同步)、恢复和审计。
三、binlog 三种模式
3.1 Row Level 模式(RBR)
不记录每条sql语句的上下文信息,只需记录哪条数据被修改了,修改成什么样了。
优点:
* 准确性强,能准确复制数据的变更 * 减少数据库锁的使用
缺点:
* 会产生大量的日志,导致较大的网络IO和磁盘IO * 要求主从数据库表结构完全一致 * 无法在从数据库上单独执行触发器
3.2 Statement Level 模式(SBR)
每一条修改数据的 sql 都会记录到 master 的 bin_log 中,slave 在复制的时候 sql 进程会解析成 master 端执行过的相同的 sql 在 slave 库上再次执行。
优点:
* 不需要记录每一条sql语句和每一行的数据变化,减少了binlog日志量,节约IO,提高性能 * 并不强制要求主从数据库的表结构定义完全相同
缺点:
* 在某些情况下会导致 master-slave 中的数据不一致(如sleep()函数, last_insert_id(),以及user-defined functions(udf)等会出现问题) * 相比于 RBR 模式,在执行复制时需要更多的行锁
3.3 MIXED模式(MBR)
以上两种模式的混合使用,一般的复制使用 STATEMENT 模式保存 binlog,对于 STATEMENT 模式无法复制的操作使用 ROW 模式保存 binlog,MySQL会根据执行的 SQL 语句选择日志保存方式。
优点:
准确性强,文件大小适中
缺点:
有可能发生主从不一致问题
3.4 binlog模式的选择
1. 不用存储过程、触发器、函数,选择默认的 Statement level 2. 用到MySQL的特殊功能(存储过程、触发器、函数)选择Mixed模式 3. 用到MySQL的特殊功能(存储过程、触发器、函数),又希望数据最大化一直则选择Row模式
四、binlog 常用参数
管理Binlog相关的SQL语句
SQL语句 | 语句含义 |
---|---|
show master logs; | 查看所有Binlog的日志列表 |
show master status; | 查看最后一个Binlog日志的编号名称,及最后一个事件结束的位置(pos) |
flush logs; | 刷新Binlog,此刻开始产生一个新编号的Binlog日志文件 |
freset master; | 刷清空所有的Binlog日志 |
查看Binlog相关的SQL语句
(show binlog events [IN ‘log_name’] [FROM pos] [LIMIT [offset,] row_cout] )
SQL语句 | 语句含义 |
---|---|
show binlog events; | 查看第一个Binlog日志 |
show binlog events in ‘binlog.000030’; | 查看指定的Binlog日志 |
show binlog events in ‘binlog.000030’ from 931; | 从指定的位置开始,查看指定的Binlog日志 |
show binlog events in ‘binlog.000030’ from 931 limit 2; | 从指定的位置开始,查看指定的Binlog日志,限制查询的条数 |
show binlog events in ‘binlog.000030’ from 931 limit 1,2; | 从指定的位置开始,带有偏移,查看指定的Binlog日志,限制查询的条数 |
Binlog 中的Event_type
官方提供的有36中event_type,一般不会用到这么多种,下面写出的是几种常用的。
- QUERY_EVENT:与数据无关的操作,begin、drop table、truncate table等
- TABLE_MAP_EVENT:记录下一个操作所对应的表信息,存储了数据库名和表名
- XID_EVNET:标记事物提交
- WRITE_ROWS_EVENT:插入数据,即insert操作
- UPDATE_ROWS_EVENT:更新数据,即update操作
- DELETE_ROWS_EVENT:删除数据,即delete操作
参数名 | 含义 |
---|---|
log_bin = {on | off | base_name} | 指定是否启用记录二进制日志或者指定一个日志路径 |
sql_log_bin ={ on | off } | 指定是否启用记录二进制日志 |
expire_logs_days | 指定自动删除二进制日志的时间,即日志过期时间 |
log_bin_index | 指定mysql-bin.index文件的路径 |
binlog_format = { mixed | row | statement } | 指定二进制日志基于什么模式记录 |
max_binlog_size | 指定二进制日志文件最大值 |
binlog_cache_size | 指定事务日志缓存区大小 |
max_binlog_cache_size | 指定二进制日志缓存最大大小 |
sync_binlog = { 0 | n } | 指定写缓冲多少次,刷一次盘 |
五、MySQL binlog日志查看
5.1 检查 binlog 功能是否开启
mysql> show variables like 'log_bin'; +---------------+-------+ | Variable_name | Value | +---------------+-------+ | log_bin | OFF | +---------------+-------+ 1 row in set (0.00 sec)
可以看到 binlog 功能默认是关闭的。
5.2 开启 binlog 功能
创建 binlog 存放路径并赋权
[root@VM_0_15_centos log]# mkdir -p /var/log/mysql [root@VM_0_15_centos log]# chown -R mysql.mysql /var/log/mysql
编辑 my.cnf 配置文件
[root@VM_0_15_centos log]# vim /etc/my.cnf
在 [mysqld] 标签下编辑如下内容:
# binlog 存放路径 log_bin=/var/log/mysql/mysql-bin # 服务Id,保持唯一 server_id=1
重启 MySQL 服务
[root@VM_0_15_centos log]# systemctl restart mysqld
重新检查是否开启日志功能
mysql> show variables like 'log_bin'; +---------------+-------+ | Variable_name | Value | +---------------+-------+ | log_bin | ON | +---------------+-------+ 1 row in set (0.00 sec)
5.3 查看 binlog 模式
mysql> show variables like '%binlog_format%'; +---------------+-------+ | Variable_name | Value | +---------------+-------+ | binlog_format | ROW | +---------------+-------+ 1 row in set (0.00 sec)
可以看到 MySQL 5.7 版本默认 binlog 模式是 ROW。
5.4 修改 binlog 模式
编辑 my.cnf 配置文件
[root@VM_0_15_centos log]# vim /etc/my.cnf
在 [mysqld] 标签下编辑如下内容:
binlog_format=mixed
重启服务
[root@VM_0_15_centos log]# systemctl restart mysqld
查看 binlog 模式
mysql> show variables like '%binlog_format%'; +---------------+-------+ | Variable_name | Value | +---------------+-------+ | binlog_format | MIXED | +---------------+-------+ 1 row in set (0.00 sec)
5.5 查看 binlog 文件
查看 statement 模式文件:
mysqlbinlog 文件名
查看 row 模式文件
mysqlbinlog -vv 文件名
5.6 删除 binlog 文件
- reset master
此命令将会删除所有日志,并让日志文件重新从000001开始。
- 将会清空 00000X 之前的所有日志文件
PURGE { BINARY | MASTER } LOGS { TO ‘log_name’ | BEFORE datetime_expr }purge master logs to “binlog_name.00000X”
- 修改 my.cnf 配置
expire_logs_days = 3 #保留最近3天的binlog;默认值是0,表示不自动删除.
5.7登录到mysql查看binlog
- 只查看第一个binlog文件的内容
show binlog events;
- 查看指定binlog文件的内容
show binlog events in 'mysql-bin.000002';
- 查看当前正在写入的binlog文件
show master status\G
- 获取binlog文件列表
show binary logs;
5.8用mysqlbinlog工具查看
- 不要查看当前正在写入的binlog文件
- 不要加–force参数强制访问
- 如果binlog格式是行模式的,请加 -vv参数
本地查看
- 基于开始/结束时间
mysqlbinlog --start-datetime='2013-09-10 00:00:00' --stop-datetime='2013-09-10 01:01:01' -d 库名 二进制文件
- 基于pos值
mysqlbinlog --start-postion=107 --stop-position=1000 -d 库名 二进制文件
- 转换为可读文本
mysqlbinlog –base64-output=DECODE-ROWS -v -d 库名 二进制文件
- 提取指定的binlog日志
# mysqlbinlog /opt/data/APP01bin.000001 # mysqlbinlog /opt/data/APP01bin.000001|grep insert /*!40019 SET @@session.max_insert_delayed_threads=0*/; insert into tb values(2,'jack')
- 提取指定position位置的binlog日志
# mysqlbinlog --start-position="120" --stop-position="332" /opt/data/APP01bin.000001
- 提取指定position位置的binlog日志并输出到压缩文件
# mysqlbinlog --start-position="120" --stop-position="332" /opt/data/APP01bin.000001 |gzip >extra_01.sql.gz
- 提取指定position位置的binlog日志导入数据库
# mysqlbinlog --start-position="120" --stop-position="332" /opt/data/APP01bin.000001 | mysql -uroot -p
- 提取指定开始时间的binlog并输出到日志文件
# mysqlbinlog --start-datetime="2014-12-15 20:15:23" /opt/data/APP01bin.000002 --result-file=extra02.sql
- 提取指定位置的多个binlog日志文件
# mysqlbinlog --start-position="120" --stop-position="332" /opt/data/APP01bin.000001 /opt/data/APP01bin.000002|more
- 提取指定数据库binlog并转换字符集到UTF8
# mysqlbinlog --database=test --set-charset=utf8 /opt/data/APP01bin.000001 /opt/data/APP01bin.000002 >test.sql
远程查看
- 指定开始/结束时间,并把结果重定向到本地t.binlog文件中.
mysqlbinlog -u username -p password -h192.168.1.116 -P3306 --read-from-remote-server --start-datetime='2018-09-10 20:00:00' --stop-datetime='2018-09-10 21:00:00' mysql-bin.000001 > t.binlog
- 远程提取日志,指定结束时间
# mysqlbinlog -urobin -p -h192.168.1.116 -P3306 --stop-datetime="2014-12-15 20:30:23" --read-from-remote-server mysql-bin.000033 |more
- 远程提取使用row格式的binlog日志并输出到本地文件
# mysqlbinlog -uroot -p -P3606 -h192.168.1.177 --read-from-remote-server -vv inst3606bin.000005 >row.sql