大数据讲解

数据集成与模式集成 数据集成是指将来自多个数据源的数据整合到一个统一的存储中，而模式集成则是整合不同数据源的元数据，为数据集成提供基础。 实体识别与数据冲突 实体识别是指匹配来自不同数据源的现实世界实体，例如将数据源A中的“cust-id”与数据源B中的“customer_no”匹配。 在数据集成过程中，需要检测并解决数据值的冲突。同一实体在不同数据源中的属性值可能存在差异，其原因可能是不同的数据表示方式或度量标准等。

空值的几种方式整理得挺清楚的，尤其适合做分类或者数据清洗的场景。浙大的这个比较实在，从最忽略元组到用推断方法填补，全都涵盖了，适合不同情况灵活选用。

浙大的数据仓库内容还挺扎实，尤其对三大核心应用——信息、多维、数据挖掘，讲得还算清楚。不是那种浮于表面的科普，而是偏工程实践向的干货。像OLAP操作的切片、切块、下钻这些，讲得不啰嗦但有细节，适合做可视化或 BI 系统的同学看看。配套的参考链接也蛮实用，想深入了解Kylin或者Oracle的，点进去就能找到实战案例。

星型模式实例：Sales 事实表 事实表： Sales Fact Table | 列名 | 描述 ||--------------|----------------|| time_key | 时间维度主键 || item_key | 商品维度主键 || branch_key | 分店维度主键 || location_key | 地理位置维度主键 || units_sold | 销售数量 || dollars_sold | 销售额 || avg_sales | 平均销售

示例：利用DMQL语言定义雪花模式，创建立方体销售雪花[时间、商品、分支、位置]：销售额 = 美元销售总额之和，平均销售额 = 美元销售总额的平均数，销售单位数 = 总数定义维度时间为（时间键、星期几、月份、季度、年份）定义维度商品为（商品键、商品名称、品牌、类型、供应商（供应商键、供应商类型））定义维度分支为（分支键、分支名称、分支类型）定义维度位置为（位置键、街道、城市（城市键、省或州、国家））。

探索性选择方法（td）涉及到2d个可能的子集。t逐步向前选择，从空属性集开始，选择原属性集中最好的属性，并将其添加到该集合中，重复该步骤。t逐步向后删除，从整个属性集开始，每一步都删除当前属性集中的最坏属性。t向前选择和向后删除相结合，每一步选择一个最好的属性，并删除一个最坏的属性。可以使用临界值来确定上述三种方法的结束条件。t最终形成归纳树。

浙大的概念分层讲得还挺清楚，尤其是关于location 维的分层结构，思路蛮清晰，适合做地理位置数据建模的参考。像是从all到Europe、North_America再到具体城市，比如Toronto、Frankfurt，一层一层拆得比较自然。大数据里，这种分层维度建模常见，比如你在做 BI 报表，用星型或雪花模型设计表结构的时候，这种结构就好用。能让数据从全局到局部都比较顺。如果你对维度建模不太熟，可以顺手看看这些资料，像这篇离散化与概念分层助力大数据理解就讲了不少常见的思路，配合浙大的更容易上手。还有一篇讲得挺细的使用 DMQL 定义雪花模式，里面用的也是分层概念，和 location 维这

根据不同数据库分类，包括关系数据库、事务数据库、流式数据等，以及多种知识类型的分析和方法集成，涵盖面向数据库的挖掘、数据仓库、OLAP、机器学习等技术，应用于金融、电信、欺诈分析等领域。

如果你对大数据和数据挖掘感兴趣，可以看看浙大关于这块的，讲得比较清楚，内容挺丰富的。尤其是关于数据仓库和OLAP的部分，详细了这些技术是怎么工作的，以及它们在大数据中的应用。要是你对数据预感到好奇，中也有不少干货，教你如何优化数据消减和复杂的数据集。它把这些理论和实际案例结合得蛮好，给你一个全方位的视角。除此之外，相关的相关文章也挺有，像是数据仓库与OLAP概述，还有深入的Hive数据操作，都是不错的参考资料。如果你对数据感兴趣，绝对能从这些资源中学到不少东西。，如果你想了解大数据领域的基本概念和技术应用，浙大的这篇是个不错的起点，完全值得一看。

大数据行业正快速发展，各大厂商纷纷推出各自的方案。在这其中，IBM、微软、EMC 和 Oracle 等大公司已在大数据领域占有一席之地。IBM 的 InfoSphere bigInsights 是基于 Apache Hadoop 的大数据产品，了从数据到商业化服务的全套方案。微软与 HP 合作开发的产品提升了生产力和决策效率，EMC 也推出了多个大数据产品，广泛应用于金融、风险管理、媒体等领域。Oracle 的大数据机与 Oracle Exadata 系列产品组成了一个集成化、高效的系统。无论你是大数据新手还是有经验的开发者，这些工具都能为你强大的支持，你在行业中立足。要了解更多关于这些产品的