如何使用Inception进行MySQL自动化运维平台建设

本篇文章给大家分享的是有关如何使用Inception进行MySQL自动化运维平台建设，小编觉得挺实用的，因此分享给大家学习，希望大家阅读完这篇文章后可以有所收获，话不多说，跟着小编一起来看看吧。Inception是集审核、执行、回滚于一体的一个自动化运维系统，它是根据MySQL代码修改过来的，用它可以很明确的，详细的，准确的审核MySQL的SQL语句，它的工作模式和MySQL完全相同，可以直接使用MySQL客户端来连接，但不需要验证权限，它相对应用程序（上层审核流程系统等）而言，是一个服务器，在连接时需要指定服务器地址及Inception服务器的端口即可，而它相对要审核或执行的语句所对应的线上MySQL服务器来说，是一个客户端，它在内部需要实时的连接数据库服务器来获取所需要的信息，或者直接在在线上执行相应的语句及获取binlog等，Inception就是一个中间性质的服务。图1.1所示为Inception的架构。Inception提供的功能很丰富，首先，它可以对提交的所有语句的语法分析，如果语法有问题，都会将相应的错误信息返回给审核者。 还提供语义分析，当一个表，库，列等信息不正确或者不符合规范的时候报错，或者使用了一个不存在的对象时报错等等。 还提供了很多针对SQL规范性约束的功能，这些DBA都是可以通过系统参数来配置的。 更高级的功能是，可以辅助DBA分析一条查询语句的性能，如果没有使用索引或者某些原因导致查询很慢，都可以检查。还提供SQL语句的执行功能，可执行的语句类型包括常用的DML及DDL语句及truncate table等操作。 Inception 在执行 DML 时还提供生成回滚语句的功能，对应的操作记录及回滚语句会被存储在备份机器上面，备份机器通过配置Inception参数来指定。项目地址：https://github.com/mysql-inception/inception文档地址：http://mysql-inception.github.io/inception-document/inception以下安装是CentOS系统，如果是Ubuntu/Debian请看官方文档。2.1 Git下载源码包1$ git clone https://github.com/mysql–inception/inception.git2.2 安装依赖包1$ yum install gcc gcc–c++ cmake bison openssl–devel ncurses–devel MySQL–python –y2.3 开始编译安装首先就是编译，在源码根目录下面有一个文件inception_build.sh，执行命令sh inception_build.sh，会输出使用方法。 实际上只需要执行inception_build.sh debug [Xcode]即可，后面的平台是可选的，如果不指定就是linux平台，而如果要指定是Xcode，就后面指定Xcode，而debug是编译的目录，编译之后，所有的生成文件都在这个目录下面，包括可执行文件Inception。可执行文件在debug/sql/Debug/目录下面（不同平台有可能不相同）。12$ cd inception$ bash inception_build.sh debug [Xcode]顺便强调说一下，实际上编译Inception，和编译MySQL源码是一样的，如果有不太了解的同学，可以先在网上看看关于MySQL源码的编译，我想遇到的问题都可以解决。编译完成之后，就是使用了，那么需要一个配置文件（inc.cnf）:12345678910111213141516171819202122$ cat /etc/inc.cnf[inception]general_log=1general_log_file=inception.logport=6669socket=/tmp/inc.socketcharacter–set–client–handshake=0character–set–server=utf8inception_remote_system_password=rootinception_remote_system_user=wzf1inception_remote_backup_port=3306inception_remote_backup_host=127.0.0.1inception_support_charset=utf8mb4inception_enable_nullable=0inception_check_primary_key=1inception_check_column_comment=1inception_check_table_comment=1inception_osc_min_table_size=1inception_osc_bin_dir=/data/tempinception_osc_chunk_time=0.1inception_enable_blob_type=1inception_check_column_default_value=12.4 启动Inception程序启动方式和MySQL是一样的。1$ nohup /data/inception/debug/mysql/bin/Inception —defaults–file=/etc/inc.cnf &注意：因为Inception支持OSC执行的功能，是通过调用pt-online-schema-change工具来做的，但如果Inception后台启动（&）的话，可能会导致pt-online-schema-change在执行完成之后，长时间不返回，进而导致Inception卡死的问题，这个问题官方后面会解决，但现阶段请尽量不要使开发云主机域名用后台启动的方式，或者可以使用nohup Inception &的方式来启动。启动如果不报错的话，说明已经启动成功了，实际上很难让它报错，因为非常轻量级。启动成功之后，可以简单试一下看，通过MySQL客户端1$ mysql –uroot –h227.0.0.1 –P6669登录上去之后，再执行一个命令：1mysql> inception get variables;输出了所有的变量，恭喜你，已经启动成功了，都说了非常简单。Inception实际上是一个服务程序，那么它应该有自己的一套友好的使用方式，必须要具备简单、高效、易用等特性。那么为了让Inception具有这些特点，在设计之初，就规定了它的使用方式，如下所述。通过Inception对语句进行审核时，必须要告诉Inception这些语句对应的数据库地址、数据库端口以及Inception连接数据库时使用的用户名、密码等信息，而不能简单的只是执行一条sql语句，所以必须要通过某种方式将这些信息传达给Inception。而我们选择的方式是，为了不影响语句的意义，将这些必要信息都以注释的方式放在语句最前面，也就是说所有这些信息都是被 /**/括起来的，每一个参数都是通过分号来分隔，类似的方式为：1/*—user=username;—password=xxxx;—host=127.0.0.1;—port=3306;*/当然支持的参数不止是这几个，后面还会介绍一些其它的参数。 Inception要做的是一个语句块的审核，需要引入一个规则，将要执行的语句包围起来，Inception规定，在语句的最开始位置，要加上inception_magic_start;语句，在执行语句块的最后加上inception_magic_commit;语句，这2个语句在 Inception 中都是合法的、具有标记性质的可被正确解析的 SQL 语句。被包围起来的所有需要审核或者执行的语句都必须要在每条之后加上分号，其实就是批量执行SQL语句。（包括use database语句之后也要加分号，这点与 MySQL 客户端不同），不然存在语法错误。在具体执行时，在没有解析到inception_magic_start之前如果发现要执行其它的语句，则直接报错，因为规则中inception_magic_start是强制的。而如果在执行的语句块最后没有出现inception_magic_commit，则直接报错，不会做任何操作。 在前面注释部分，需要指定一些操作的选项，包括线上用户名、密码、数据库地址、检查/执行等。下面是一个简单的例子：123456/*—user=zhufeng;—password=xxxxxxxxxxx;—host=xxxxxxxxxx;—enable–check;—port=3456;*/inception_magic_start;use mysql;CREATE TABLE adaptive_office(id int);inception_magic_commit;那么上面这一段就是一批正常可以执行的SQL语句，目前执行只支持通过C/C++接口、Python接口来对Inception访问，这一段必须是一次性的通过执行接口提交给Inception，那么在处理完成之后，Inception会返回一个结果集，来告诉我们这些语句中存在什么错误，或者是完全正常等等。请不要将下面的SQL语句块，放到MySQL客户端中执行，因为这是一个自动化运维工具，如果使用交互式的命令行来使用的话没有意义，只能是通过写程序来访问Inception服务器。而可以通过MySQL客户端来执行的，只有是Inception命令，请参考>一节。下面是一段执行上面语句的Python程序的例子：123456789101112131415161718192021222324#!/usr/bin/python#-*-coding: utf-8-*-import MySQLdbsql=‘/*—user=root;—password=123456;—host=172.17.0.2;—execute=1;—port=3306;*/inception_magic_start;create database if not exists test charset utf8mb4;use test;CREATE TABLE adaptive_office(id int);inception_magic_commit;‘try:conn=MySQLdb.connect(host=‘127.0.0.1’,user=”,passwd=”,db=”,port=6669)cur=conn.cursor()ret=cur.execute(sql)result=cur.fetchall()num_fields = len(cur.description)field_names = [i[0] for i in cur.description]print field_namesfor row in result:print row[0], “|”,row[1],“|”,row[2],“|”,row[3],“|”,row[4],“|”,row[5],“|”,row[6],“|”,row[7],“|”,row[8],“|”,row[9],“|”,row[10]cur.close()conn.close()except MySQLdb.Error,e: print “Mysql Error %d: %s” % (e.args[0], e.args[1])执行这段程序之后，返回的结果如下：12345678[‘ID’, ‘stage’, ‘errlevel’, ‘stagestatus’, ‘errormessage’, ‘SQL’, ‘Affected_rows’, ‘sequence’, ‘backup_dbname’, ‘execute_time’, ‘sqlsha1’]1 | CHECKED | 0 | Audit completed | None | 2 | CHECKED | 0 | Audit completed | None | 3 | CHECKED | 1 | Audit completed | Set engine to innodb for table ‘adaptive_office’.Set charset to one of ‘utf8mb4’ for table ‘adaptive_office’.Set comments for table ‘adaptive_office’.Column ‘id’ in table ‘adaptive_office’ have no comments.Column ‘id’ in table ‘adaptive_office’ is not allowed to been nullable.Set Default value for column ‘id’ in table ‘adaptive_office’Set a primary key for table ‘adaptive_office’. |从返回结果可以看到，每一行语句的审核及执行信息，最前面打印的是field_names，表示Inception的返回结果集的列名信息，总共包括十个列，下面是每个列对应的结果，因为只有两个语句，则只有两行，从结果集第一个列看到只有序号为1和2的两行，而对于每一个列的具体含义，这会在>这一章中讲到，这里只看清楚是什么内容即可。另外，Inception支持审核以及执行语句，可以自行开启或关闭，具体要看>。更详细内容请看官网，最后说一句，在这里感谢inception作者。基于Inception的可视化web端sql审核平台，Yearning SQL审计平台基于Vue.js与Django的整套sql审核平台解决方案，提供基于Inception的SQL检测及执行。源码地址：https://github.com/cookieY/Yearning注意：1，要做数据库初始化 否则500
2，要修改配置文件支持pymysql以上就是如何使用Inception进行MySQL自动化运维平台建设，小编相信有部分知识点可能是我们日常工作会见到或用到的。希望你能通过这篇文章学到更多知识。更多详情敬请关注开发云行业资讯频道。

相关推荐: 如何高效的在Mysql百万级数据量级下迁移到Redis

如何高效的在Mysql百万级数据量级下迁移到Redis，相信很多没有经验的人对此束手无策，为此本文总结了问题出现的原因和解决方法，通过这篇文章希望你能解决这个问题。协议的格式为：比如：插入一条hash类型的数据。根据Redis协议，总共有4个部分，所以开头为*…