Hadoop是一个开源软件,专注于以数据为中心,提供高可用性、可扩展的分布式计算能力。它特别适用于海量非结构化数据的分析,例如日志分析。

许多知名企业,包括Google、Facebook、Yahoo!、Amazon、百度、人人网和腾讯都在使用Hadoop。百度作为中国领先的搜索引擎,利用Hadoop分析搜索日志,并在网页数据库中进行数据挖掘。百度每周处理约3000TB的数据,其Hadoop集群规模从10个节点到500个节点不等。此外,百度还支持Hypertable技术。