“鉴古通今”:简析数据架构发展史,拥抱最适合企业的数据策略
数据仓库,数据湖,数据网格,数据...什么? 如果您对这些IT术语的泛滥感到困惑,请允许我们阐明一下。

面对现实吧!我们这个行业就是喜欢流行词。有时,我们认为解决方案的质量会随着用于定义它的浮华辞藻的增加而提高。事实是我们错得不能再离谱了!我们每天都学习一个新词或首字母缩写词来保持跟上时代的步伐。但是,事物的核心真的改变了吗?老话说“万变不离其宗”,这句话在现在的世界依然有效吗?让我们对此进行更加深入的探讨。
简介数据架构的发展背景

到了90年代和00年代,企业更加关注已经用于分析的数据的速度和复杂性,并增强能力、能够更快地处理更多非传统来源的复杂数据(例如Web应用程序日志或CRM输出数据)。智能运营是让数据仓库更加“活跃”的关键课题,此时的数据仓库可以当天甚至某小时内实时加载数据、同时加载每天的标准数据批次。有了预测分析作为业务决策的关键推动力,企业也完成了从“照镜子”到“向前看”的转变。就像Teradata的首席技术官Stephen Brobst曾经说过的那样“开车时是不可能只看后视镜的。”
虽然您可能认为这是一种“老派”或传统的观点,但我们要知道自己从何而来、才能计划我们未来的发展方向:我们经历了一个繁荣的时代,通过数据仓库为业务用户创造了价值,而像Teradata这样的关系型数据库主导了这个市场,并为世界带来了许多业务价值和客户满意度。而另一方面,我们也要看到失败的实现,有些产品无法带来太多的价值,因为它们都太“以IT为中心”、与业务需求的联系很少。我们吸取到的教训是,架构部署必须与业务需求保持一致、并专注于满足业务需求。剧透提醒:这话您听起来是不是很熟悉?我们稍后会再聊这个话题。
“数据XX”的架构问题
在过去的多年里,我们看到从众多数据源产生的数据量激增,而其中一些数据源能够产生大量数据记录。为了能够成功捕获和管理这些种类繁多、数量暴增的信息,企业对技术产生了新的要求。消费信息的新方式加深了我们对数据处理实时性的需求;与此同时还需要面对其他挑战,例如更高的并发性和数据结构的复杂性要求。恭喜您!我们才刚刚进入大数据时代!前方道路颠簸,请系好安全带。
几十年来,我们所熟悉的架构原则开始转向另一种范式。我们意识到,仅拥有一个全能或多功能平台是不够的。突然间,我们就看到了混合分析生态系统的诞生——“逻辑数据仓库”或“企业数据中心”等许多其他名词出现(视您喜欢的分析公司的词汇而定)。再向前一步,我们遇到了一个新成员:由Hadoop 项目提供特别支持的分布式文件系统,这成为了数据湖这种崭新的架构模式的强大推动者。
.png?origin=fd)
图表2. 关系型信息架构
数据湖成为衡量许多分析生态系统 “真实”的标准,如果不搭建数据湖、这个分析生态系统就不会很酷,并且也不会被认为是现代的。我们看到一些强大的大型硅谷公司在构建自己的数据湖,并向这个框架中填充新的工具和知识。但猜猜后来怎么样?尽管不是因为设计模式本身,但大多数数据湖项目部署实际上都失败了(我们认为如果我们构建了数据湖、就能使用数据湖,但实际上并非如此)。大多数数据湖的构建并没有明确的业务目的,也没有适当的数据管理实践。作为一款基于商品化硬件之上的开源软件,它确实“便宜”且“足够好”。但无论公司如何考虑,即使是开源和商品化的产品、其实也要付出代价,并且要付出巨大的努力才能实现真正的业务价值。我们也许会同意,一些社交网络和内容流媒体公司在这次尝试中获得了成功,但是绝大多数公司的业务和团队建设方式都和这些硅谷巨头公司非常不同。所以说,没有一道菜是能让所有人都喜欢且适合的。
.png?origin=fd)
快进到现在,从数据湖的沼泽中,我们看到数据仓库仍在发挥作用。等等……为了推进现代化的发展,我们也看到了更多新框架也在兴起。我们开始听到有关Data Lake House和数据网格的信息。
数据就像车轮里的空气一样无处不在
我们生活在一个高度竞争的时代,市场上充满了伟大的数据解决方案(虽然它们不是十全十美),所以现在让我们集中讨论最重要的东西:数据。可悲的是,许多解决方案供应商试图通过在数据的齿轮上添加新的分支、来使自己与众不同,从而在缺乏很多实际内容的情况下试图撼动“现状”。改变不好吗?当然不是。我们倡导并拥抱变化、实现创新。但是请记住,数据是推动发展的动力。我们可以提高效率并使数据车轮的设计更加现代化,让数据更加安全、能够适应不同的环境或天气……但最后,数据依然是轮子:精心架构的数据能够充满车轮,使您的企业能以安全的方式将路上的颠簸降到最低。
专注数据策略
.png?origin=fd)
反过来的做法是行不通的。我们不能仅仅因为某项技术听起来很酷,就试图将数据、分析甚至业务决策强加到架构模式中。仅凭“一句话”就改变公司的架构战略、草率做出决定,这是非常危险的。
最后请记住,相比追逐闪亮的新架构流行词,恰当的数据策略将会带来更多的商业价值。
随时了解情况
订阅 Teradata 的博客,获取每周向您提供的见解