本博客日IP超过2000，PV 3000 左右，急需赞助商。
极客时间所有课程通过我的二维码购买后返现24元微信红包，请加博主新的微信号：xttblog2，之前的微信号好友位已满，备注：返现
受密码保护的文章请关注“业余草”公众号，回复关键字“0”获得密码
所有面试题(java、前端、数据库、springboot等)一网打尽，请关注文末小程序
腾讯云】1核2G5M轻量应用服务器50元首年，高性价比，助您轻松上云
Netflix 的名声大起，我第一次听到它的名字是因为 Spring Cloud，并不是因为它的流媒体服务。在微服务实践方面，可以说 Netflix 有非常丰富的技术实力。最近它又开源了 metacat 产品，本文是关于 metacat 的相关简介。
metacat 被称为一个大数据发现服务框架。很多大公司都拥有大量的数据源，它们的数据格式不尽相同，而且体量巨大。在Netflix，我们的数据仓库由很多大型的数据集组成，这些数据存储在Amazon S3、Druid、Elasticsearch、Redshift、Snowflake和MySql中。我们的平台支持Spark、Presto、Pig和Hive，我们用它们来消费、处理和生成数据集。因为数据源的多样性，为了确保我们的数据平台能够横跨这些数据集成为一个“单一”的数据仓库，我们开发了Metacat。Metacat是一种元数据服务，方便我们发现、处理和管理数据。
介绍
Metacat是一个统一的元数据探索API服务。您可以探索Hive，RDS，Teradata，Redshift，S3和Cassandra。Metacat为您提供有关您拥有的数据，位于何处以及如何处理数据的信息。最终的元数据实际上是关于数据的数据。所以Metacat的主要目的是给出一个地方来描述数据，以便我们可以用它做更多有用的事情。
Metacat专注于解决这三个问题：
- 元数据系统的联合观点。
- 允许关于数据集的任意元数据存储。
- 元数据发现
Metacat 有一整套的解决方案。相关开源项目实践多达十几个。
Netflix大数据平台的核心架构涉及三项关键服务：执行服务（Genie）、元数据服务和事件服务。这些想法并非Netflix所独有，在构建一个能够满足现在及未来规模的数据基础设施时，就需要这样的架构。
多年前，当我们开始构建这个平台时，我们使用Pig作为ETL语言，Hive作为专用查询语言。由于Pig本身并不具备元数据系统，因此对于我们来说，构建一个可以在两者之间进行互操作的方案似乎是理想之选。
因此Metacat诞生了，这个系统充当了所有数据存储的元数据访问层，也是各种计算引擎可以用来访问不同数据集的集中式服务。Metacat的三个主要目标是：
元数据系统的联合视图
用于数据集元数据的统一API
数据集的任意业务和用户元数据存储
其他拥有大量分布式数据集的公司也面临着类似挑战。Apache Atlas、Twitter的数据抽象层和Linkedin的WhereHows（Linkedin的数据发现服务）等等，都是为了解决类似问题而构建的，只是他们都有各自的架构选择。
Metacat是一种联合服务，提供统一的REST/Thrift接口来访问各种数据存储的元数据。元数据存储仍然是模式元数据的事实来源，所以Metacat没有保存这部分元数据。Metacat只保存业务相关和用户定义的元数据。它还将所有关于数据集的信息发布到Elasticsearch，以便进行全文搜索和发现。
Metacat的功能可以分为以下几类：
数据抽象和互操作性
业务和用户定义的元数据存储
数据发现
数据变更审计和通知
Hive Metastore优化
数据抽象和互操作性
Netflix使用多种查询引擎（如Pig、Spark、Presto和Hive）来处理和使用数据。通过引入通用的抽象层，不同的引擎可以交互访问这些数据集。例如：从Hive读取数据的Pig脚本能够从Hive列类型的表中读取数据，并转成Pig类型。在将数据从一个数据存储移动到另一个数据存储时，Metacat通过在目标数据存储中创建具有目标类型的表来简化这一过程。Metacat提供了一组预定义的数据类型，可将这些类型映射到各个数据存储中的数据类型。例如，我们的数据移动工具使用上述功能将数据从Hive移动到Redshift或Snowflake。
Metacat的Thrift服务支持Hive的Thrift接口，便于与Spark和Presto集成。我们因此能够通过一个系统汇集所有的元数据变更，并发布有关这些变更的通知，实现基于数据驱动的ETL。当新数据到达时，Metacat可以通知相关作业开始工作。
业务和用户定义的元数据
Metacat也会保存数据集的业务和用户定义元数据。我们目前使用业务元数据来存储连接信息（例如RDS数据源）、配置信息、度量指标（Hive/S3分区和表）以及数据表的TTL（生存时间）等。顾名思义，用户定义的元数据是一种自由格式的元数据，可由用户根据自己的用途进行定义。
业务元数据也可以大致分为逻辑元数据和物理元数据。有关逻辑结构（如表）的业务元数据被视为逻辑元数据。我们使用元数据进行数据分类和标准化我们的ETL处理流程。数据表的所有者可在业务元数据中提供数据表的审计信息。他们还可以为列提供默认值和验证规则，在写入数据时会用到这些。
存储在表中或分区中的实际数据的元数据被视为物理元数据。我们的ETL处理在完成作业时会保存数据的度量标准，在稍后用于验证。相同的度量可用来分析数据的成本和空间。因为两个表可以指向相同的位置（如Hive），所以要能够区分逻辑元数据与物理元数据。两个表可以具有相同的物理元数据，但应该具有不同的逻辑元数据。
数据发现
作为数据的消费者，我们应该能够轻松发现和浏览各种数据集。Metacat将模式元数据和业务及用户定义的元数据发布到Elasticsearch，以便进行全文搜索。我们的Big Data Portal SQL编辑器因此能够实现SQL语句的自动建议和自动完成功能。将数据集组织为目录有助于消费者浏览信息，根据不同的主题使用标签对数据进行分类。我们还使用标签来识别表格，进行数据生命周期管理。
数据变更通知和审计
作为数据存储的中央网关，Metacat将捕获所有元数据变更和数据更新。我们还围绕数据表和分区变更开发了通知推送系统。目前，我们正在使用此机制将事件发布到我们自己的数据管道（Keystone），以更好地了解数据的使用情况和趋势。我们也将事件发布到Amazon SNS。我们正在将我们的数据平台架构发展为基于事件驱动的架构。将事件发布到SNS可以让我们数据平台中的其他系统对这些元数据或数据变更做出“反应”。例如，在删除数据表时，我们的S3数据仓库管理员服务可以订阅这些事件，并适当地清理S3上的数据。
Hive Metastore优化
由RDS支持的Hive Metastore在高负载下表现不佳。我们已经注意到，在使用元数据存储API写入和读取分区方面存在很多问题。为此，我们不再使用这些API。我们对Hive连接器（在读写分区时，该连接器直接与RDS通信）进行了改进。之前，添加数千个分区的Hive Metastore调用通常会超时，在重新实现后，这不再是个问题。
将来
在构建Metacat方面已经走了很长的一段路，但还没有完成我们的使命。以下是我们仍需要努力增强的一些特性。
-
模式和元数据的版本控制，用于提供数据表的历史记录。例如，跟踪特定列的元数据变更，或查看表的大小随时间变化的趋势。能够查看过去某个时刻元数据的信息对于审计、调试以及重新处理和回滚来说都非常有用。
-
为数据lineage服务提供数据表的上下文信息。例如，在Metacat中汇总数据表访问频率等元数据，并发布到数据lineage服务中，用于对数据表的关键性程度进行排序。
-
增加对Elasticsearch和Kafka等数据存储的支持。
-
可插拔的元数据验证。由于业务和用户定义的元数据是自由形式的，为了保持元数据的完整性，我们需要对其进行验证。Metacat应该有一个可插拔的架构，可在存储元数据之前执行验证策略。
Metacat GitHub地址： https://github.com/Netflix/metacat
最后，欢迎关注我的个人微信公众号：业余草（yyucao）！可加作者微信号：xttblog2。备注：“1”，添加博主微信拉你进微信群。备注错误不会同意好友申请。再次感谢您的关注！后续有精彩内容会第一时间发给您！原创文章投稿请发送至532009913@qq.com邮箱。商务合作也可添加作者微信进行联系！
本文原文出处：业余草： » Netflix 的 metacat 简介