目前在 News Break 担任架构师,负责数据平台的整体构建和技术演进,提供多数据源近实时入湖、数据治理、存储、查询和上层数据产品构建,支撑数据分析师和推荐系统。

目前在 News Break 担任架构师,负责数据平台的整体构建和技术演进,提供多数据源近实时入湖、数据治理、存储、查询和上层数据产品构建,支撑数据分析师和推荐系统。
在 CDH to AWS 的迁移过程中,基于传统的 Hive ETL 方案无论在性能、实效性和可维护性上已经跟不上业务的诉求。Hudi 的快速入湖 + Presto 的快速查询,再结合 Schema registry/evolution,良好的数仓分层设计,为构建现代数据平台提供了主要组件。最终效果是对关键数据的端到端时延控制在15分钟以内,比较好的支撑了业务发展。同时 Hudi + Spark 也极大提高了推荐系统数据流效率,和节省了 AWS 开支。
演讲提纲:
你将获得:



