您的位置:首页 > 业界动态

“把大象装进冰箱”,UCloud助力爱普新媒数据运算提升21倍

发布时间:2019-05-23 13:03:27  来源:3CGO科技    采编:徐彬  背景:

  导语:当前,爱普新媒广告数据规模太过庞大、赛过大象,如何把这头大象“瘦身“装进“冰箱真正使用起来?UCloud数据湖分析方案帮助爱普新媒解决了眼下的难题。

  “平均业务数据需求完成周期提升21倍, 从43.2小时缩短到2小时。”

  “大数据工程师每月减少20个人日的⼯作量。”

  “大数据基础设施投入减少92.85%。”

  张先生是一位大数据负责人,供职于北京爱普新媒体公司。这是一家专业从事广告DSP(Demand-Side Platform,需求方平台)业务的公司,成立于2010年。随着DSP广告模式传入中国成为热潮,公司发展不错。

  但张先生很快发现,广告数据增长的速度远远超乎预期,公司内大数据工程师招聘目标才完成一半,但数据量一下冲到数百T。手下几个数据工程师不得不疲于奔命,帮助业务分析师运行SQL任务,排除故障,但仍然收效甚微。随着广告项目的增长,业务部门的数据分析师对大数据部门的抱怨也在不断积累。

  作为广告服务商,数据统计就是公司的命脉,如果因广告主自身数据管理而造成的广告投放数据统计不准,和第三方检测机构的数据对不上,后果不堪设想,广告主甚至会拒绝结款。

  正当张先生焦头烂额之际,UCloud向他推荐了数据湖分析方案。经过初步的试用和数据验证之后,张先生决定把一小部分业务放在数据湖分析方案上处理,这才有了本文开头的一幕。

  广告一半是科学,一半是艺术。这其中,以效果为主的DSP要看性价比和投资回报率,得算经济账,可以说是相当科学了。在张先生的心中就有这么一笔账:

  张先生的工作场景也是目前数量众多的中小企业在面对大数据时遇到的困难。中小企业数据形成规模后,由于收入尚未跟上,所以面对动辄每年数百万的大数据投入,往往只能望而却步。

  爱普新媒面临的数据挑战:

  业务分析师说:

  1. 数据规模太大, 自己不能独立完成分析

  2. 数据任务完成周期长

  3. 数据结果感觉不准, 但又不能查看原始明细数据

  数据部门说:

  1. 业务临时性数据需求多,占用部门有限的技术人力资源

  2. 数据需求经常需要返工

  3. 数据规模增长太快,数据仓库成本不断增长

  爱普新媒拥有“云魔方”互联网精准营销平台、“云速”企业移动信息服务平台和“云汇”互动广告平台,广告数据规模太过庞大、赛过大象,如何把这头大象“瘦身“装进“冰箱真正使用起来这是爱普新媒迫切需要解决的问题。

  Step1

  打开冰箱门(传输数据)

  Ukafka(Kafka消息队列)是一款专门用于处理流式数据的分布式消息产品。通过以创建集群的方式创建UKafka,能够快速实现Kafka以及所依赖的服务的部署,为用户提供快速部署、易于管理、弹性伸缩的流式数据处理系统,实现对大象的瘦身。

  Step2

  把大象装进冰箱(存储数据)

  对象存储(UFile)是为互联网应用提供非结构化文件云存储的服务,将瘦身后的大象(Ukafka)导入到对象存储(UFile)。相对于传统硬盘存储,UFile云存储具有存储无上限、支持高并发访问、成本更低等优势;解决业务架构的文件存储问题,有效降低海量文件的存储成本,支持热点数据的高并发访问,提升终端用户访问体验。

  Step3

  关上冰箱门(数据可视化)

  数据湖分析(USQL)是一种可扩展性强、成本低廉的无服务器SQL分析计算引擎,可轻松完成面向海量数据的数据建模工作,SQL即可完成数据查询和分析,极大降低使用大数据的门槛,且无需数据库管理员和运维人员,大幅度减少对大数据工程师的依赖。对大象溯本求源,让数据真正使用起来。

  完整的数据湖分析方案远不止能将大象装进冰箱,还能让大象跳起舞来。

  声明:本文仅为传递更多网络信息,不代表3CGO科技观点和意见,仅供参考了解,更不能作为投资使用依据。


返回网站首页 本文来源:3CGO科技

本文评论
美团点评更新招股书:今年前4个月净亏损20亿元
9月4日消息,美团点评今日更新招股书,披露了今年前四个月
日期:10-02
高端战略领航 良品铺子掘金两万亿休闲零食市场
每个人的童年里,都藏着一段零食陪伴的美味记忆,而随着零
日期:05-15
重大安装Bug 微软撤回Windows 10 19H1慢速预览版18362
3月27日消息 3月23日,Windows 10 19H1预览版18362系统
日期:04-30
互联网医疗进入牌照时代 但它不止于此
前言:从过往经验看,牌照化管理是行业初步成熟、即将快速
日期:10-02
三星Galaxy A70首销火爆,斩获苏宁手机销量王
4月18日,三星Galaxy A70新品首销当天,苏宁易购举办三星
日期:04-29
苹果iPhone XR/XS/XS Max入网工信部:电池容量曝光
9月19日消息 今天,苹果iPhone XR/XS/XS Max入网工信部,
日期:10-02
a豆(adol):有一种迷茫叫年轻 有一种态度叫珍惜
年轻人的迷茫不同中年人的为生活所累,为前程所感,年轻人
日期:10-02
红杉中国00后泛娱乐消费报告:勾勒千禧一代画像,处处有干货
当最“老”的80后开始步入不惑之年,最&ldquo
日期:10-02
南昌办证Magic AI – 高性能 ASIC 芯片加速和CPU运算库加速
日前,PQ Labs (品奇数码) 发布了基于CPU和 ASIC芯片的A
日期:05-15
2020年iPhone概念图曝光,模块化设计,网友:多少钱都愿意买
众所周知,随着近年来国内手机品牌的不断进步和发展,人们
日期:04-30
窄边框加畅快网络 飞行堡垒6网游体验报告
华硕飞行堡垒6现已正式发售,除了性能配置得到全面优化
日期:10-02
苹果设计灵魂首谈 Apple Watch:乔布斯没参与,但我们找了外援
而米兰尼斯表带,是苹果对原有的经典解决方案的一次&ldq
日期:10-02