<返回更多

一文解析MySQL中那些常用工具、日志及读写分离

2019-07-26    
加入收藏

1.MySQL中常用工具

1.1 mysql

该mysql不是值mysql服务,而是指mysql的客户端工具。

语法 :

mysql [options] [database]

1.1.1连接选项

一文解析MySQL中那些常用工具、日志及读写分离

 

1.1.2 执行选项

-e, --execute=name : 执行sql语句并退出

一文解析MySQL中那些常用工具、日志及读写分离

 

1.2 mysqladmin

mysqladmin是一个执行管理操作的客户端程序。可以用它来检查服务器的配置和当前状态、创建并删除数据库等。

可以通过 :mysqladmin --help 指令查看帮助文档。

一文解析MySQL中那些常用工具、日志及读写分离

 

1.3 mysqlbinlog

由于服务器生成的二进制日志文件以二进制格式保存,所以如果想要检查这些文本的文本格式,就会使用到mysqlbinlog日志管理工具。

语法 :

一文解析MySQL中那些常用工具、日志及读写分离

 

1.4 mysqldump

mysqldump客户端工具用来备份数据库或在不同数据库之间进行数据迁移。备份内容包含创建表,及插入表的sql语句。

语法 :

一文解析MySQL中那些常用工具、日志及读写分离

 

1.4.1 连接选项

一文解析MySQL中那些常用工具、日志及读写分离

 

1.4.2 输出内容选项

一文解析MySQL中那些常用工具、日志及读写分离

 

示例 :

mysqldump -uroot -p2143 db01 tb_book --add-drop-database --add-drop-table > a.sql
mysqldump -uroot -p2143 -T /tmp test city
一文解析MySQL中那些常用工具、日志及读写分离

 


一文解析MySQL中那些常用工具、日志及读写分离

 


一文解析MySQL中那些常用工具、日志及读写分离

 

1.5 mysqlimport/source

mysqlimport是客户端数据导入工具,用来导入mysqldump 加 -T 参数后导出的文本文件。

语法 :

mysqlimport [options] db_name textfilel [textfile2…]

示例 :

mysqlimport -urrot -p2143 test /tmp/city.txt

如果需要导入sql文件,可以使用mysql中的source指令:

source /root/tb_book.sql

1.6 mysqlshow

mysqlshow客户端对查找工具,用来很快的查找存在那些数据库、数据库中的表、表中的列或者索引。

语法 :

mysqlshow [options] [db_name [table_name] [col_name]]]

参数 :

–count :显示数据库及表的统计信息(数据库,表均可以不指定)

-i :显示指定数据库或者指定表的状态信息

示例 :

一文解析MySQL中那些常用工具、日志及读写分离

 

2. MySQL日志

在任何一种数据库中,都会有各种各样的日志,记录着数据库工作的方方面面,以帮助数据库管理员追踪数据库曾经发生过的各种事件。MySQL也不例外,在MySQL中,有四种不同的日志,分别是错误日志、二进制日志(BINLOG日志)、查询日志和慢查询日志,这些日志记录着数据库在不同方面的踪迹。

2.1 错误日志

错误日志是MySQL中最重要的日志之一,它记录了当MySQL的启动和停止时,以及服务器在运行过程中发生任何严重错误时的相关信息。当数据库出现任何故障导致无法正常使用时,可以首先查看此日志。

该日志是默认开启的,默认存放目录为mysql的数据目录(var/lib/mysql),默认的日志文件为hostname.err(hostname是主机名)。

查看日志位置指令 :

show variables like ‘log_error%’;

一文解析MySQL中那些常用工具、日志及读写分离

 

查看日志内容 :

tail -f /var/lib/mysql/xaxh-server.err

一文解析MySQL中那些常用工具、日志及读写分离

 

2.2 二进制日志

2.2.1 概述

二进制日志(BINLOG)记录了所有的DDL(数据定义语言)语句和DML(数据操作语言)语句,但是不包括数据查询语句。此日志对于灾难时的数据恢复起着极其重要的作用,MySQL的主从复制,就是通过该binlog实现的。

二进制日志,默认情况下是没有开启的,需要MySQL的陪着文件中开启,并配置MySQL日志的格式。

配置文件位置 :/usr/my.cnf

日志存放位置 :配置时,给定了文件名但是没有指定路径,日志默认写入MySQL的数据目录。

配置开始binlog日志,日志的文件前缀为mysqlbin ------》 生成的文件名如 :

mysqlbin.000001,mysqlbin.000002

log_bin=mysqlbin

配置二进制日志的格式

binlog_format=STATEMENT

2.2.2 日志格式

STATEMENT

该日志格式在日志文件中记录的都是SQL语句(statmeent),每一条对数据进行修改的SQL都会记录在日志文件中,通过MySQL提供的MySQLbinlog工具,可以清晰的查看到每条语句的文本。主从复制的时候,从库(slave)会将日志解析为原文本,并在从库重新执行一次。

ROW

该日志格式在日志文件中记录的是每一行的数据变更,而不是记录SQL语句。比如,执行SQL语句 :update tb_book set status = ‘1’,如果是STATEMENT日志格式,在日志中会记录一行SQL文件;如果是ROW,由于是对全表进行更新,也就是每一行记录都会发生变更,ROW格式的日志中会记录每一行的数据变更。

MIXED

这是目前MySQL默认的日志格式,即混合了STATEMENT和ROW两种格式。默认情况下采用STATEMENT,但是在一些特殊情况下采用ROW来进行记录。MIXED格式能尽量利用两种模式的优点,而避开他们的缺点。

2.2.3 日志读取

由于日志以二进制方式存储,不能直接读取,需要用mysqlbinlog工具来查看,语法如下 :

mysqlbinlog log-file;

查看STATEMENT格式日志 :

查看日志文件 :默认在/var/lib/mysql目录下

一文解析MySQL中那些常用工具、日志及读写分离

 

mysqlbin.index : 该文件是日志索引文件,记录日志的文件名;

mysqlbing.000001 : 日志文件

查看日志内容 :

mysqlbinlog mysqlbing.000001;

一文解析MySQL中那些常用工具、日志及读写分离

 

查看ROW格式日志

配置 :

配置开启binlog日志,日志的文件前缀为mysqlbin —》生成的文件名如:mysqlbin.000001,mysqlbin.000002

log_bin=mysqlbin

配置二进制日志的格式

binlog_format=ROW

如果日志格式是ROW,直接查看数据,是查看不懂的;可以在mysqlbinlog后面加上参数 -w

mysqbinlog -vv mysqlbin.000002

一文解析MySQL中那些常用工具、日志及读写分离

 

2.2.4 日志删除

对于比较繁忙的系统,由于每天生成日志量大,这些日志如果长时间不清除,将会占用大量的磁盘空间。下面我们将会讲解几种删除日志的常见方法:

方式1:

通过Reset Master指令删除全部binlog日志,删除之后,日志编号,将从xxxx.000001重新开始。

查询之前,先查询下日志文件 :

一文解析MySQL中那些常用工具、日志及读写分离

 

执行删除日志命令 :

Reset Master

执行之后,查看日志文件 :

一文解析MySQL中那些常用工具、日志及读写分离

 

方式2:

执行指令 purge master logs to 'mysqlbin.’ ,该命令将删除编号之前的所有日志。

方式3:

执行指令 purge master logs before ‘yyyy-mm-dd hh24:mi:ss’,该命令将删除日志为“yyyy-mm-dd hh24:mi:ss”之前产生的所有日志。

方式4:

设置参数 --expire_logs_days=#,此参数的含义是设置日志的过期天数,过了指定的天数后日志将会被自动删除,这样将有利于减少DBA管理日志的工作量。

配置如下 :

一文解析MySQL中那些常用工具、日志及读写分离

 

2.3 查询日志

查询日志中记录了客户端的所有操作语句,而二进制日志不包含查询数据的SQL语句。

默认情况下,查看日志是未开启的。如果需要开启查询日志,可以设置以下配置 :

该选项用来开启查询日志 ,可选值 :0或者 1;0代表关闭,1代表开启

general_log=1

设置日志的文件名,如果没有指定,默认的文件名为host_name.log

general_log_file=file_name

在mysql的配置文件/usr/my.cnf中配置如下内容:

一文解析MySQL中那些常用工具、日志及读写分离

 

执行完查询语句以后,再次查看查询日志 :

一文解析MySQL中那些常用工具、日志及读写分离

 

2.4 慢查询日志

慢查询日志记录了所有执行时间超过参数long_query_time 设置值并且扫描记录数不小于min_examined_row_limit的所有的SQL语句的日志。

long_query_time默认为10秒,最小为0,精度可以到微妙。

2.4.1 文件位置和格式

慢查询日志默认是关闭的。可以通过两个参数来控制慢查询日志:

该参数用来控制慢查询日志是否开启,可取值 :1和0,1代表开启,0代表关闭

slow_query_log=1

该参数用来指定慢查询日志的文件名

slow_query_log_file=slow_query.log

该选项用来配置查询的时间限制,超过这个时间将认为值慢查询,将需要进行日志记录,默认10s

long_query_time=10

2.4.2 日志的读取

和错误日志、查询日志一样,慢查看日志记录的格式也是纯文本,可以被直接读取。

1)查询long_query_time的值。

一文解析MySQL中那些常用工具、日志及读写分离

 

2)查看慢查询日志文件

直接通过cat指令查询该日志文件 :

一文解析MySQL中那些常用工具、日志及读写分离

 

如果慢查询日志内容很多,直接查看文件,比较麻烦,这个时候可以借助于mysql自带的mysqldumpslow工具,来对慢查询日志进行分类汇总。

一文解析MySQL中那些常用工具、日志及读写分离

 

3. MySQL复制

3.1 复制概述

复制是指将主数据库的DDL和DML操作通过二进制日志传到从库服务器中,然后在从库上对这些日志重新执行(也叫重做),从而使得从库和主库的数据保持同步。

3.2 复制原理

MySQL的主从复制原理如下。

一文解析MySQL中那些常用工具、日志及读写分离

 

从上层来看,复制分成三步 :

  1. Master主库在事务提交时,会把数据变更作为时间Events记录在二进制日志文件Binlog中。
  2. 主库推送二进制日志文件Binlog中的日志事件到从库的中级日志Relay Log。
  3. Slave重做中继日志中的事件,将改变反映它自己的数据。

3.3 复制优势

MySQL复制的优势主要包含以下三个方面 :

  1. 主库出现问题,可以快速切换到从库提供服务。
  2. 可以在从库上执行查询操作,从主库中更新,实现读写分离,降低主库的访问压力。
  3. 可以在从库中执行备份,以避
  4. 免备份期间影响主库的服务。

3.4 搭建步骤

3.4.1 master

1)在master的配置文件(/usr/my.cnf)中,配置如下内容 :

#mysql 服务ID,保证整个集群环境中唯一

server-id=1

#mysql binlog 日志的存储路径和文件名

log-bin=/var/lib/mysql/mysqlbin

#错误日志,默认以及开启

#log-err

#mysql的安装目录

#basedir

#mysql的临时目录

#tmpdir

#mysql的数据存放目录

#datadir

#是否只读,1代表只读,0代表读写

read-only=0

#忽略的数据,指不需要同步的数据库

binlog-ignore-db=mysql

#指定同步的数据库

#binlog-do-db=db01

2)执行完毕之后,需要重启MySQL :

service mysql restart;

3)创建同步数据的账户,并且进行授权操作:

grant replication slave on . to ‘demo’@‘192.168.192.131’ identified by ‘demo’;

flush privileges;

4)查看master状态 :

一文解析MySQL中那些常用工具、日志及读写分离

 


一文解析MySQL中那些常用工具、日志及读写分离

 

3.4.2 slave

1)在slave端配置文件中,配置如下内容 :

#mysql服务端ID,唯一

server-id=2

#指定binlog日志

log-bin=/var/lib/mysql/mysqlbin

2)执行完毕之后,需要重启MySQL:

service mysql restart;

3)执行如下指令:

change master to master_host=‘192.168.192.130’,master_user=‘demo’,master_password=‘demo’,

master_log_file=‘mysqlbin.000001’,master_log_pos=413;

指定当前从库的主库的IP地址,用户名,密码,从那个日志文件开始的那个位置开始同步推送日志。

4)开启同步操作

start slave;

show slave status;

一文解析MySQL中那些常用工具、日志及读写分离

 

5)停止同步操作

stop slave;

4. 通过AOP记录操作日志

4.1 自定义注解

通过自定义注解,来标识方法需不需要进行记录日志,如果该方法在访问时需要记录日志,则在该方法上标识该注解即可。

@Inherited

@Document

@Target(Elementype.METHOD)

@Retention(RetentionPolicy.RUNTIME)

public @interface OperateLog{

}

@Component

@Aspect

public class OperateAdvice {

private static Logger log = Logger.getLogger(OperateAdvice.class);

@Around("execution(* cn.demo.controller.*.*(..)) && @annotation(operateLog)")
public Object insertLogAround(ProceedingJoinPoint pjp,OperateLog operateLog) throws Throwable {
		@Around("execution(* com.example.demo.controller.*.*(..)) && @annotation(operateLog)")
		public Object logAround(ProceedingJoinPoint pjo,OperateLog operateLog) {
			DateFormat sdf = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");
			// 访问方法的时间
			String dateTime = sdf.format(new Date());
			// 访问的方法
			String methodName = pjp.getSignature().getName();
			// 访问哪一个类
			String className = pjp.getClass().getName();
			// 方法入参
			String paramAndValue = Arrays.toString(pjp.getArgs());
			// 统计耗时
			long startTime = System.currentTimeMillis();
			// 打印方法入参日志
			log.info("输出日志");
			// 放行,并获取返回值
			Object returnValue= new Object();
			try {
				returnValue= pjp.proceed();
			} catch (Throwable throwable) {
				log.error("");
			}
			long endTime = System.currentTimeMillis();
			// 打印请求耗时日志
			log.info();
			// 打印返回值日志
			return returnValue;
	}
}

}

4.2 性能优化 -分页

4.8.1 优化count

创建一张表用来记录日志表的总数据量 :

create table log_counter (
logcount bigint not null
)engine = innodb default CHARSET = utf8;

在每次插入数据之后,更新该表 :

update log_counter set logcount = logcount + 1

在进行分页查询时,获取总记录数,从该表中查询即可。

select logcount from log_counter limit 1

最后

有任何问题的话都可以留言评论哦~欢迎大家转发+点关注,会持续更新技术干货以及面试资料的!

声明:本站部分内容来自互联网,如有版权侵犯或其他问题请与我们联系,我们将立即删除或处理。
▍相关推荐
更多资讯 >>>