1、自動化運維-SQL自動上線主要內(nèi)容DBA的職責 我們的痛點 我們的實踐 改進及暢想DBA的職責-工匠 提升數(shù)據(jù)庫單機性能 -軟硬件優(yōu)化 優(yōu)化架構(gòu)，應(yīng)對海量數(shù)據(jù) -分庫分表中間件 -服務(wù)化，各模塊解耦 自動化運維，提高工作效率，減少重復(fù)工作 高可用，做到N個9DBA的職責-審核人員 數(shù)據(jù)庫上線 DDL 變更 日常 SQL 上線 慢查詢監(jiān)控及優(yōu)化 業(yè)務(wù)監(jiān)控及拆分DBA：. - -!RD：歐巴我們的痛點-標準如何落地DDL標準RD：緊急上線， 修復(fù)bugDBA：不符合標準，打回非常緊急！惡心，下不為例我們的痛點-業(yè)務(wù)快速迭代趕集好車易洗車招聘節(jié)放心房趕集二手車本地生活我們的痛點-人員變動頻繁這是最好

2、的時代我們的痛點人是最不穩(wěn)定的因素我們的實踐 引入項目管理工具 JIRA我們的實踐-JIRA我們的實踐-JIRA我們的實踐-JIRA優(yōu)點 -強大的任務(wù)管理與跟蹤系統(tǒng) -無限制的工作流 缺點 -過于重量級 -相比較嚴格上線，任務(wù)描述過于模糊 -DBA 要改寫不符合規(guī)范的上線我們的實踐 引入半自動上線系統(tǒng)我們的實踐-半自動RD發(fā)起上線SIM預(yù)執(zhí)行DBA確認提交DBA符合規(guī)范YesNoYes成功No仍然不夠理想我們的實踐-半自動優(yōu)點 -避免了 JIRA 模糊不清的表述 -SIM環(huán)境預(yù)執(zhí)行，清楚的看到影響行數(shù) -程序執(zhí)行，避免潛在的人為誤操作 But -還是需要 DBA 人肉審核 -對于違規(guī) SQL,

3、 開發(fā)改寫意愿不強 -標準得不到執(zhí)行，科普成本高我們的實踐 針對業(yè)務(wù)特點，開發(fā)全自動上線系統(tǒng)我們的實踐-AutoSQL Python 開發(fā) -Celery -MySQL -Redis -Yacc & Lex -Tornado我們的實踐-過濾基本原則對于 DML上線, where clause 必須包含主鍵，唯一索引或業(yè)務(wù)區(qū)分度高的字段 不允許做減法，drop 字段，庫，表或索引操作提交 DBA 手工執(zhí)行 有限度的自由，建庫操作必須 leader 審核，提交 DBA 手工執(zhí)行 嚴格遵守調(diào)度規(guī)則，禁止提前上線我們的實踐-AutoSQLRD發(fā)起上線SQL入庫語法解析規(guī)則過濾Online執(zhí)行SIM預(yù)執(zhí)

4、行備份延遲調(diào)度我們的實踐-DDLDDLSqlparserRedis延遲調(diào)度獲取表行數(shù)Celery過濾規(guī)則違規(guī)重新提交SQL 結(jié)構(gòu)化我們的實踐-DDL字段指定 not null default xxx 所有字段，表均需要有注釋 comment 所有新表，引擎只能用 innodb 或 queue 所有新表，均有自增 ID 做為主鍵 按照一定比例，限制新表text字段數(shù)量 按照一定比例，規(guī)定新表索引數(shù)量 按照業(yè)務(wù)常識，post_id, puid, userid 均有索引DMLSqlparser限速執(zhí)行過濾規(guī)則違規(guī)重新提交備份我們的實踐-DMLRedisSQL 結(jié)構(gòu)化metadata我們的實踐-DML

5、不允許使用 load data 刪除修改操作，where clause 必須包含主鍵，唯一索引列，或是業(yè)務(wù)區(qū)分度較好列 禁止多表 join 禁止未決 SQL, 例如 insert into select 所有 insert 建義指定字段 所有 update / delete 建義使用絕對值，遵循可重入原則我們的實踐-AutoSQL我們的實踐-AutoSQL我們的實踐 當前不包括業(yè)務(wù) SQL 審核，如何破？我們的實踐 開發(fā)慢查詢實時追蹤系統(tǒng) SQLTrack -抓住上線到轉(zhuǎn)天高峰期慢 SQL -鼓勵開發(fā)參與優(yōu)化我們的實踐-SQLTrack Golang 開發(fā) -Heka -Kafka -InfluxDB / ES -Tornado我們的實踐-SQLTrackHeka結(jié)構(gòu)化KafkaInfluxdbHekaHekaSQLTrackCache命中否ExplainStatsd我們的實踐-SQLTrack我們的實踐-SQLTrack