最具影响力的数字化技术在线社区

168大数据

 找回密码
 立即注册

QQ登录

只需一步,快速开始

1 2 3 4 5
打印 上一主题 下一主题
开启左侧

eBay开源项目---数据质量管理方案-Bark

[复制链接]
跳转到指定楼层
楼主
发表于 2016-9-1 16:30:29 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式

马上注册,结交更多数据大咖,获取更多知识干货,轻松玩转大数据

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
本帖最后由 elligao 于 2016-9-20 09:03 编辑



Bark是eBay开发的一种应用于分布式数据系统中的开源数据质量解决方案,例如在hadoop, Spark, Storm等分布式系统中,Bark提供了一整套统一的流程来定义、测量数据集的质量并及时报告问题。

主要特性:

1.精确度检测:验证结果集数据是否与源数据是一致的
2.数据剖析:利用数据集的一致性、独特性和逻辑性,来进行统计分析和数值评估。
3.异常监测:利用预先设定的算法,检测出不符合预期的数据
4.可视化监测:利用控制面板来展现数据质量的状态。
核心优势:
1.实时性:可以实时进行数据质量检测,能够及时发现问题。
2.可扩展性:可以用于多个数据系统。
3.可伸缩性:工作在大数据量的环境中,目前运行的数据量约1.2PB (eBay环境)。
4.自助服务:Bark提供了一个简单的用户界面,可以创建数据集以及相应规则;同时用户可以查看数据质量控制面板和自定义显示内容

GitHub: https://github.com/eBay/griffin    欢迎fork,多多益善!
Contact us: lzhixing@ebay.com


楼主热帖
分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
收藏收藏 转播转播 分享分享 分享淘帖 赞 踩

168大数据 - 论坛版权1.本主题所有言论和图片纯属网友个人见解,与本站立场无关
2.本站所有主题由网友自行投稿发布。若为首发或独家,该帖子作者与168大数据享有帖子相关版权。
3.其他单位或个人使用、转载或引用本文时必须同时征得该帖子作者和168大数据的同意,并添加本文出处。
4.本站所收集的部分公开资料来源于网络,转载目的在于传递价值及用于交流学习,并不代表本站赞同其观点和对其真实性负责,也不构成任何其他建议。
5.任何通过此网页连接而得到的资讯、产品及服务,本站概不负责,亦不负任何法律责任。
6.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源,若标注有误或遗漏而侵犯到任何版权问题,请尽快告知,本站将及时删除。
7.168大数据管理员和版主有权不事先通知发贴者而删除本文。

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

站长推荐上一条 /1 下一条

关于我们|小黑屋|Archiver|168大数据 ( 京ICP备14035423号|申请友情链接

GMT+8, 2024-5-18 07:02

Powered by BI168大数据社区

© 2012-2014 168大数据

快速回复 返回顶部 返回列表