更多技術交流、求職機會,歡迎關注字節跳動數據平臺微信公眾號,回復【1】進入官方交流群
經過近年發展,抖音電商的體量和規模已經相當可觀。
基于數據驅動思路,在數倉建設、數據管理等層面的工作,推動抖音電商能準確分析和測量數據,做出以數據為依據的決策,從而推動業務快速發展。
其中,數據有效性、及時性、準確性關系到 C 端用戶體驗和 B 端商家決策,在數據體量龐大的情況下,難以避免數據缺失、緯度錯誤、產出延時等問題,這與數據質量管理息息相關。
本文對話抖音電商團隊,為你揭秘龐大數據體量下的數據質量管理最佳實踐。
據抖音電商數據團隊介紹,目前數據質量問題集中體現在:歷史數據繁多,導致無法準確定位異常數據;缺乏合理的監控規則;補齊表監控規則時間、人力成本高等。
為了高效、便捷實現數據質量監控,抖音電商數據團隊引入火山引擎 DataLeap 數據質量平臺,通過數據波動監控、異常報警、數據內容探查及差異對比工具等功能,保證數據在生產及使用流程中的可靠性和合理性,避免因為數據質量導致的數據失信、決策失誤等事故。
抖音電商數據團隊主要介紹了數據質量監控、數據異常治理兩個場景。
在數據質量監控上,抖音電商通過火山引擎 DataLeap 對抖音 APP 存量數據質量配置監控,并沉淀合理的監控規則,方便監控任務的配置情況及把關數據質量。
火山引擎 DataLeap 數據質量平臺
首先,在監控范圍上,通過數據質量平臺實現 ToB、ToC 任務覆蓋全量監控,及時規避數據質量風險;其次,在推進機制上,由于 ToC 鏈路上游多且監控任務帶來過多計算資源消耗,抖音電商團隊優先從核心數據鏈路開展數據質量監控;最后,在落地執行上,通過確立目標、Owner 和進度,完成表行數、重復值、空值、表字段、異常值的梳理。
最終實現抖音電商數據質量管理全鏈路標準化,即由牽頭人發起配置事項,通過火山引擎 DataLeap 數據質量平臺完成監控配置,并跟蹤完成情況,最后相關數據被推送至看板,方便相關數據研發人員查看和復盤。
對于數據異常情況,抖音電商團隊主要通過火山引擎 DataLeap 表探查的能力來解決。
數倉中較多數據表字段存在異常值、空值,在使用前無法感知,導致在數據使用時才發現質量問題,再由業務方反饋,處理效率較低。
火山引擎 DataLeap 具備制定統一的監控規范與開發規范能力,支持檢測歷史數據異常以及空值等情況,并默認處理、標注數據屬性,確保無數據質量問題,才推進表上線流程。
除數據質量治理外,火山引擎 DataLeap 還具備數據集成、開發、運維、資產、安全等全套數據中臺建設能力,有效提升數據研發效率、降低管理成本,目前已經應用于泛互聯網、制造、新零售、汽車等領域。
點擊跳轉 大數據研發治理套件-火山引擎 了解更多