數據開發必看！火山引擎DataLeap如何解決數據隔離問題？

2023-03-28 15:44:25來源：中關村在線

在離線數倉開發過程中，研發人員需要根據業務變化，在開發/生產環境中不斷切換、解析、調試。以往，企業一般通過人工方式核驗，但由于數據量大且類型不同，導致研發人員資源、精力投入大。

如何使同構代碼在不同環境正確運行，避免因調試過程中的誤操作，對生產環境直接造成數據負面風險，成為很多企業數倉研發團隊的痛點之一。

近期，火山引擎DataLeap推出“項目參數管理”能力，即通過自定義項目參數分別設置開發、生產環境參數值，參數支持配置多種類型，包括Region、DB、shecma、table、date以及自定義等，且支持任務級別引用，快速幫助研發團隊實現資源隔離。

(資料圖片)

火山引擎DataLeap“項目參數管理”能力

以湖倉一體分析服務（LAS）引擎為例，介紹如何利用“項目參數管理”區分不同環境庫和時間格式的查詢。

在使用之前，由于1個業務需求常常涉及10+任務、30+參數，且不同環境DB中、table基本一致，需要管理2套代碼。數倉研發人員難以避免出現測試代碼在生產環境執行、表誤刪、數據誤刪等問題。

在使用之后，只需要3個步驟即可解決生產、測試環境數據隔離問題：

· 步驟一：LAS有2套環境，包括測試環境庫test_dev、生產環境庫test_prod 。2套環境都有相同表名LAS_table01、分區字段名datetimes。開發環境分區字段為yyyymmdd，生產環境分區格式為YYYY-MM-DD。在DataLeap中設置日期參數arg，開發環境參數值=\${date}、生產環境參數值=\${DATE}。設置庫參數env，開發環境=test_dev、生產環境=test_prod。

·步驟二：對于離線數據開發任務，研發人員可以直接在代碼中使用項目參數，點擊“解析”“調試”，系統會自動替換為相應的開發環境參數值，并進行語法解析、權限檢查等。

·步驟三：點擊“提交上線”、“任務例行執行”時，對于項目參數，系統會自動替換為相應的生產環境參數值，然后進行相應的語法解析以及權限檢查。從而有效提升環境代碼管理效率。

據介紹，企業可以在以下場景使用火山引擎DataLeap“項目參數管理”能力：

【場景1】開發生產環境隔離

·以HSQL任務為例，為避免在開發測試階段，因誤操作影響生產庫表的數據，研發人員可以在HSQL代碼中使用項目參數。調試時，系統會自動替換為開發環境參數值；上線后的任務例行執行，系統將自動替換為生產環境參數值。同時，DataLeap也支持代碼一致，無需在上線前批量將開發環境的庫表名稱替換為生產環境的庫表名稱。

【場景2】跨區域/項目代碼同構

·一般來說，不同Region下的庫、表名不同。為了實現不同Region、項目下代碼同構，研發人員可以在HSQL代碼中使用項目參數，來實現不同環境下，同一個任務的代碼同構，有效提升環境代碼管理效率。

火山引擎DataLeap讓研發人員不再需要通過”調度設置-任務輸入參數”的方式添加項目參數，只需定義一次參數即可輕松構建，并且實現生產、測試環境下的數據自動隔離，代碼同構。除此之外，DataLeap還具備數據集成、開發、運維、治理、資產、安全等數據中臺建設能力，助力企業提升數據研發效率、降低管理成本，為數字化轉型提供支撐。（作者：楊文文）

標簽：