浙大大数据分类系统详解

事实星座模式示例：以销售数据为例 销售事实表（Sales Fact Table） | 字段名 | 描述 ||---|---|| time_key | 时间维度键 || item_key | 商品维度键 || branch_key | 分支机构维度键 || location_key | 地理位置维度键 || units_sold | 销售数量 || dollars_sold | 销售额 || avg_sales | 平均销售额 | 运输事实表（Shipping Fact Table） | 字段名 | 描述 ||---|---|| time_key | 时间维度键 || item_key | 商品维度键 || shipper_key | 承运商维度键 || from_location | 起始地维度键 || to_location | 目的地维度键 || dollars_cost | 运输成本 || units_shipped | 运输数量 | 时间维度表（Time Dimension） | 字段名 | 描述 ||---|---|| time_key | 时间维度键 || day_of_the_week | 星期几 || month | 月份 || quarter | 季度 || year | 年份 | 地理位置维度表（Location Dimension） | 字段名 | 描述 ||---|---|| location_key | 地理位置维度键 || street | 街道 || city | 城市 || province_or_state | 省/州 || country | 国家 | 商品维度表（Item Dimension） | 字段名 | 描述 ||---|---|| item_key | 商品维度键 || item_name | 商品名称 || brand | 品牌 || type | 类型 || supplier_type | 供应商类型 | 分支机构维度表（Branch Dimension） | 字段名 | 描述 ||---|---|| branch_key | 分支机构维度键 || branch_name | 分支机构名称 || branch_type | 分支机构类型 | 承运商维度表（Shipper Dimension） | 字段名 | 描述 ||---|---|| shipper_key | 承运商维度键 || shipper_name | 承运商名称 || location_key | 承运商地理位置维度键 || shipper_type | 承运商类型 |

示例：利用DMQL语言定义雪花模式，创建立方体销售雪花[时间、商品、分支、位置]：销售额 = 美元销售总额之和，平均销售额 = 美元销售总额的平均数，销售单位数 = 总数定义维度时间为（时间键、星期几、月份、季度、年份）定义维度商品为（商品键、商品名称、品牌、类型、供应商（供应商键、供应商类型））定义维度分支为（分支键、分支名称、分支类型）定义维度位置为（位置键、街道、城市（城市键、省或州、国家））。

数据集成与模式集成 数据集成是指将来自多个数据源的数据整合到一个统一的存储中，而模式集成则是整合不同数据源的元数据，为数据集成提供基础。 实体识别与数据冲突 实体识别是指匹配来自不同数据源的现实世界实体，例如将数据源A中的“cust-id”与数据源B中的“customer_no”匹配。 在数据集成过程中，需要检测并解决数据值的冲突。同一实体在不同数据源中的属性值可能存在差异，其原因可能是不同的数据表示方式或度量标准等。

浙大数据挖掘课件助您掌握数据挖掘技能。

联机分析挖掘的体系结构包括数据仓库、元数据、多维数据库、OLAM引擎、OLAP引擎和用户图形界面。API用于数据方体、数据库和数据清理、集成。Layer3为OLAP/OLAM，Layer2为多维数据库，Layer1为数据存储，Layer4为用户界面。数据过滤与集成、约束数据挖掘以及挖掘结果均包含在内。

大数据领域中，元数据与数据相辅相成，共同构建数据仓库的模型结构。元数据主要描述数据模型的结构信息。在数据仓库中，元数据的重要用途包括：作为目录，帮助决策支持系统分析数据仓库内容；作为数据仓库与操作性数据库间的映射标准；指导细节数据与稍加综合数据之间的汇总算法，以及指导稍加综合数据与高度综合数据之间的汇总算法。

如何处理噪声数据？首先，通过排序数据并将其分入等深的箱中。随后，可以采用箱的平均值、中位数或边界进行数据平滑。在聚类过程中，监测并清除孤立点，并结合计算机与人工检查来处理可疑数据。最后，通过回归方法使数据适应回归函数，实现数据平滑。

探索性选择方法（td）涉及到2d个可能的子集。t逐步向前选择，从空属性集开始，选择原属性集中最好的属性，并将其添加到该集合中，重复该步骤。t逐步向后删除，从整个属性集开始，每一步都删除当前属性集中的最坏属性。t向前选择和向后删除相结合，每一步选择一个最好的属性，并删除一个最坏的属性。可以使用临界值来确定上述三种方法的结束条件。t最终形成归纳树。

根据不同数据库分类，包括关系数据库、事务数据库、流式数据等，以及多种知识类型的分析和方法集成，涵盖面向数据库的挖掘、数据仓库、OLAP、机器学习等技术，应用于金融、电信、欺诈分析等领域。