數(shù)據(jù)庫遷移評估與決策
數(shù)據(jù)庫遷移前,DTS-DBbridge平臺首先將基于對原數(shù)據(jù)庫的數(shù)據(jù)分析,并結合企業(yè)實際業(yè)務規(guī)劃,進行包括兼容性、復雜度、工作量、遷移耗時等模塊數(shù)百個指標在內的可行性與最佳方案綜合評估,最終產生詳盡的遷移報告,以及針對每個企業(yè)的技術與業(yè)務規(guī)劃特點,輸出個性化數(shù)據(jù)庫整體解決方案。
在評估過程中,例如針對兼容性的評估,可精細化掃描識別哪些兼容、哪些不兼容,不兼容點將根據(jù)客戶要求評估并形成改造方案。
數(shù)據(jù)遷移準備與實施
完成評估與決策后,可基于DBbridge實施應用系統(tǒng)與源端數(shù)據(jù)庫,向目標端系統(tǒng)與數(shù)據(jù)庫進行遷移改造。
除了數(shù)據(jù)庫轉型升級的場景需求,事實上,為實現(xiàn)數(shù)據(jù)解耦及匯總的需求,企業(yè)日常同時存在基于數(shù)據(jù)遷移、分發(fā)、容災備份等訴求而進行多源異構遷移。針對以上場景,騰訊云數(shù)據(jù)庫DBbridge具備高性能、高一致、支持多種異構數(shù)據(jù)平臺的數(shù)據(jù)分發(fā)的特性,其支持以騰訊云數(shù)據(jù)庫作為源端的數(shù)據(jù)實時同步分發(fā)至 MySQL、Oracle、PostgreSQL、消息隊列等平臺,同時也支持以騰訊云數(shù)據(jù)庫作為目標端,將 MySQL 或者 Oracle 的數(shù)據(jù)實時同步至騰訊云數(shù)據(jù)庫中,并且部署靈活,支持一對多,多對一等多種復制拓撲結構。
多源同步模塊典型的基于日志的 CDC 復制技術,其系統(tǒng)架構如下:
同時,基于高度標準化、平臺化的產品服務,DBbridge支持用戶可視化便捷操作,完成多源異構數(shù)據(jù)庫之間的結構遷移、增量同步。
結構遷移流程動圖
此外,騰訊云數(shù)據(jù)庫提供完善的服務保障,整體遷移方案采取平穩(wěn)過渡,在服務交割遷移中,將采取原應用系統(tǒng)和新應用系統(tǒng)并行跑一段時間的措施,測試新應用系統(tǒng)沒有問題后,做正式的服務交割。
數(shù)據(jù)庫遷移自動化校驗
最后,在這一套同步的數(shù)據(jù)鏈路過程中,騰訊云DTS-DBbridge同時提供數(shù)據(jù)校驗的服務,以保證多活基礎上數(shù)據(jù)遷移同步的一致性、可靠性。主要包括兩個方面:一是增量校驗,含義就是會實時校驗這一筆數(shù)據(jù)從源端抽取,到它的增量變化,再到寫到目標端之后,這筆數(shù)據(jù)落庫落得準不準確,是不是在正確的目標上寫下這筆數(shù)據(jù);二是存量校驗,可能是一些定時定期去跑批,比如說定期對源和目標的數(shù)據(jù)進行整體的校驗,以能夠主動及時地發(fā)現(xiàn)整個數(shù)據(jù)通路上的問題和錯誤。
基于數(shù)據(jù)同步的跨城雙活架構:
首先左邊和右邊代表不同的城市,這里舉例左邊是深圳,右邊是上海。從圖上可以看到,騰訊云CynosDB(TDSQL)在SZ這套實例會將業(yè)務不斷寫入的增量數(shù)據(jù)源源不斷地寫入本城的消息隊列里面。對城的SH也會將自己業(yè)務訪問的增量數(shù)據(jù)源源不斷寫到消息隊列里面,同時在各個城市有一套自己的消費服務,這套消費服務會拉取對端的增量數(shù)據(jù),也就是說會拉對城的消息隊列里面的增量數(shù)據(jù)進行重放,這樣就實現(xiàn)了兩套基于數(shù)據(jù)同步的一套跨城雙活。這個雙活是有前提條件的——就是兩套業(yè)務在SZ和SH同時寫的時候,它的訪問主鍵一定是分離,在這一套邏輯下面沒有辦法做到同時對同一條主鍵進行修改。
數(shù)據(jù)庫遷移高可用多源同步
安全問題是數(shù)據(jù)庫遷移考慮的重中之重。值得一提的是,基于多源同步的方案實踐,還能實現(xiàn)數(shù)據(jù)庫遷移中的安全風險控制。因為準實時的數(shù)據(jù)同步分發(fā)與雙向數(shù)據(jù)遷移等性能特性,使得多源同步服務輕松實現(xiàn)了解耦與風險控制,保障系統(tǒng)持續(xù)可用。
數(shù)據(jù)庫遷移涉及大量核心數(shù)據(jù)信息,”快”和”穩(wěn)”缺一不可。多源同步服務作為騰訊云數(shù)據(jù)庫內置功能特性,在數(shù)據(jù)庫國產化轉型實踐中久經驗證,至今助力超過600家金融政企機構數(shù)據(jù)庫國產化遷移投產。
以某省廣電局遷移案例為例,騰訊云多源同步遷移服務通過重新部署業(yè)務系統(tǒng)的遷移方式,從遷移準備、遷移評估、方案設計、資源準備及數(shù)據(jù)庫改造、遷移實施、結果驗證一共只使用30天。其中最為關鍵的資源準備及數(shù)據(jù)庫改造環(huán)節(jié)用時7天!將客戶的業(yè)務系統(tǒng)數(shù)據(jù)庫從Oracle遷移到CynosDB(TDSQL),CynosDB(TDSQL)的性能滿足了客戶面臨的現(xiàn)有的業(yè)務壓力。而業(yè)務系統(tǒng)遷移過程中對數(shù)據(jù)完整性保障,為后續(xù)新業(yè)務系統(tǒng)運維提供了良好的數(shù)據(jù)基礎。
而在一些金融級高度敏感業(yè)務系統(tǒng)遷移實踐中,CynosDB(TDSQL)很好地實踐了兼顧性能和安全的遷移服務策略。以張家港行核心系統(tǒng)數(shù)據(jù)庫遷移為例,張家港行聯(lián)合騰訊云及系統(tǒng)建設方長亮科技,充分結合銀行傳統(tǒng)業(yè)務與互聯(lián)網業(yè)務的場景差異,對業(yè)務邏輯進行重新設計,以完成新一代核心系統(tǒng)應用兼容性改造和數(shù)據(jù)庫升級優(yōu)化。同時,依托騰訊云提供的異構數(shù)據(jù)庫同步方案,三方還實施了CynosDB(TDSQL)和集中式數(shù)據(jù)庫數(shù)據(jù)準實時同步的策略,作為兜底方案。值得一提的是,這個雙版本同步兜底方案,最終無需派上用場,新核心系統(tǒng)系統(tǒng)平穩(wěn)上線,順利投產。