大数据学习路线

第一章 引论

1、什么是数据挖掘？

数据挖掘更正确的命名为“从数据中挖掘知识”，是数据中的知识发现（KDD）的同义词。数据挖掘是从大量数据中挖掘有趣模式和知识的过程，数据源包括数据库、数据仓库、web、其他信息存储库或动态的流入系统的数据。 2、知识发现的过程是什么？

知识发现的过程为：

（1）数据清理（消除噪声和删除不一致的数据） （2）数据集成（多种数据源可以组合在一起）

（3）数据选择（从数据库中提取与分析任务相关的数据） （4）数据变换（通过汇总或聚集操作，把数据变换和统一成适合挖掘的形式）

（5）数据挖掘（基本步骤，使用智能方法提取数据模式） （6）模式评估（根据某种兴趣度度量，识别代表知识的真正有趣的模式）

（7）知识表示（使用可视化和知识表示技术，向用户提供挖掘的知识）

3、什么类型的数据可以挖掘？

数据挖掘可以作用于任何类型的数据，数据的最基本形式是数据库数据、数据仓库数据、事务数据。也可以用于数据流、有序/序列数据、图或网络数据、空间数据、文本数据、多媒体数据和万维网。

（1）数据库数据

由一组内部相关的数据和一组管理和存储数据的软件程序组成。关系数据库是表的汇集，每个表被赋予一个唯一的名字，含有一组属性（列或字段），并且

读《大数据时代》心得体会

根据公司《关于下发中国共产党员全年学习计划的通知》组织分公司全体党员个人学习《大数据时代》，读了《大数据时代》后，感觉到一个大变革的时代将要来临。虽然还不怎么明了到底要彻底改变哪些思维和操作方式，但显然作者想要“终结”或颠覆一些传统上作为我们思维和生存基本理论、方法和方式。在这样的想法面前，我的思想被强烈震撼，不禁战栗起来。

“在小数据时代，我们会假象世界是怎样运作的，然后通过收集和分析数据来验证这种假想。”“随着由假想时代到数据时代的过渡，我们也很可能认为我们不在需要理论了。”书中几乎肯定要颠覆统计学的理论和方法，也试图通过引用《连线》杂志主编安德森的话“量子物理学的理论已经脱离实际”来“终结”量子力学。对此我很高兴，因为统计学和量子力学都是我在大学学习时学到抽筋都不能及格的课目。但这两个理论实在太大，太权威，太基本了，我想我不可能靠一本书就能摆脱这两个让我头疼一辈子的东西。作者其实也不敢旗帜鲜明地提出要颠覆它们的论点，毕竟还是在前面加上了“很可能认为”这样的保护伞。

近几十年，我们总是在遇到各种各样的新思维。在新思维面前我们首先应该做到的就是要破和立，要改变自己的传统，跟上时代的脚步。即使脑子还跟不上，嘴巴上也必须跟上

读《大数据时代》心得体会

根据公司《关于下发中国共产党员全年学习计划的通知》组织分公司全体党员个人学习《大数据时代》，读了《大数据时代》后，感觉到一个大变革的时代将要来临。虽然还不怎么明了到底要彻底改变哪些思维和操作方式，但显然作者想要“终结”或颠覆一些传统上作为我们思维和生存基本理论、方法和方式。在这样的想法面前，我的思想被强烈震撼，不禁战栗起来。

“在小数据时代，我们会假象世界是怎样运作的，然后通过收集和分析数据来验证这种假想。”“随着由假想时代到数据时代的过渡，我们也很可能认为我们不在需要理论了。”书中几乎肯定要颠覆统计学的理论和方法，也试图通过引用《连线》杂志主编安德森的话“量子物理学的理论已经脱离实际”来“终结”量子力学。对此我很高兴，因为统计学和量子力学都是我在大学学习时学到抽筋都不能及格的课目。但这两个理论实在太大，太权威，太基本了，我想我不可能靠一本书就能摆脱这两个让我头疼一辈子的东西。作者其实也不敢旗帜鲜明地提出要颠覆它们的论点，毕竟还是在前面加上了“很可能认为”这样的保护伞。

近几十年，我们总是在遇到各种各样的新思维。在新思维面前我们首先应该做到的就是要破和立，要改变自己的传统，跟上时代的脚步。即使脑子还跟不上，嘴巴上也必须跟上

基于大数据分析的未来消费模式研究及应用

[摘要] 一开始，人们因为需要而消费，我们饿了所以要买食物，我们冷了所以要买衣服，生存问题解决后，人们因为欲望而消费，我们要过更好的生活，更体面，更高端，让别人羡慕仰望，所以商家拼命挑起我们的欲望，让我们心甘情愿地去买我们并不需要的东西。现在，感情也成为消费的一大动力了，对于商家来说，你对一个人的喜爱，也是可以换算成钱的，感情就这样变成了一门生意。也许这就是大数据时代的消费方式，你的每一种需要都能得到满足，你的每一次喜欢都能落到实处。你以为这都是你主动的选择，其实你的好恶早已被精确分析计算过，你爱上一个偶像，他及时又熨帖地奉上打着他的标签的商品，你惊喜地发现，这东西正是你的那杯茶，你没喜欢错人，于是，你心满意足地掏钱，他欢欣鼓舞地收钱，皆大欢喜。

第一章 背景概述

40多年在人类沧海桑田的历史上仅仅是弹指一挥间，摩尔定律却见证了电脑的数据处理和储存能力从K（Kilobyte）到M（Megabyte）到G（Gigabyte）到T（Terabyte）的变迁。尤其是互联网的出现，让我们急速地跨入了大数据（Big Data）时代。其主要的驱动力有以下几点：

1、随着社会经济的发展和个人收入的增加，人们

大数据

一、大数据概念

\大数据\是一个体量特别大，数据类别特别大的数据集，并且这样的数据集无法用传统数据库工具对其内容进行抓取、管理和处理。 \大数据\首先是指数据体量(volumes)大，指代大型数据集，一般在10TB规模左右，但在实际应用中，很多企业用户把多个数据集放在一起，已经形成了PB级的数据量；其次是指数据类别(variety)大，数据来自多种数据源，数据种类和格式日渐丰富，已冲破了以前所限定的结构化数据范畴，囊括了半结构化和非结构化数据。接着是数据处理速度（Velocity）快，在数据量非常庞大的情况下，也能够做到数据的实时处理。最后一个特点是指数据真实性（Veracity）高，随着社交数据、企业内容、交易与应用数据等新数据源的兴趣，传统数据源的局限被打破，企业愈发需要有效的信息之力以确保其真实性及安全性。

百度知道-大数据概念

大数据（big data），指无法在可承受的时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

在维克托·迈尔-舍恩伯格及肯尼斯·库克耶编写的《大数据时代》[3] 中大数据指不用随机分析法（抽样调查

大数据

一、大数据概念

\大数据\是一个体量特别大，数据类别特别大的数据集，并且这样的数据集无法用传统数据库工具对其内容进行抓取、管理和处理。 \大数据\首先是指数据体量(volumes)大，指代大型数据集，一般在10TB规模左右，但在实际应用中，很多企业用户把多个数据集放在一起，已经形成了PB级的数据量；其次是指数据类别(variety)大，数据来自多种数据源，数据种类和格式日渐丰富，已冲破了以前所限定的结构化数据范畴，囊括了半结构化和非结构化数据。接着是数据处理速度（Velocity）快，在数据量非常庞大的情况下，也能够做到数据的实时处理。最后一个特点是指数据真实性（Veracity）高，随着社交数据、企业内容、交易与应用数据等新数据源的兴趣，传统数据源的局限被打破，企业愈发需要有效的信息之力以确保其真实性及安全性。

百度知道-大数据概念

大数据（big data），指无法在可承受的时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

在维克托·迈尔-舍恩伯格及肯尼斯·库克耶编写的《大数据时代》[3] 中大数据指不用随机分析法（抽样调查

1.1 大数据技术国内外研究进展

近年来，大数据迅速发展成为工业界、学术界甚至世界各国政府高度关注的热点。《自然(Nature)》和《科学(Science)》等杂志相继出版专刊来探讨大数据带来的挑战和机遇。著名管理咨询公司麦肯锡声称，“数据已经渗透到当今每一个行业和业务职能领域，成为重要的生产因素。人们对于大数据的挖掘和运用，预示着新一波生产力增长和消费者盈余浪潮的到来”。在这样的背景下，美国政府2012年宣布投资2亿美元启动“大数据研究和发展计划”，这是继1993年美国宣布“信息高速公路”计划后的又一次重大科技发展部署。美国政府认为大数据是“未来的新石油”，一个国家拥有数据的规模和运用数据的能力将成为综合国力的重要组成部分，对数据的占有和控制将成为国家间和企业间新的争夺焦点。大数据已成为社会各界关注的新焦点，“大数据时代”已然来临。

与传统规模的数据工程相比，大数据的感知、获取、存储、表示、处理和服务都面临着巨大的挑战。这归因于大数据具有几个突出的特征：1)数据集合的规模不断扩大，已经从GB、TB再到PB，甚至已经开始以EB和ZB来计数。IDC的研究报告称，未来十年全球大数据将增加50倍，管理数据仓库的服务器数量将增加10倍以便适应这一增长

大学习 -发现学习中的大数据Big Learning - Unleashing the Data Value in Online Learning

陈滢博士

慧科教育集团高级副总裁慧科教育研究院院长

一起来找茬千年来教育的变化

When education meets Internet.

MOOC– The Game Changer

CAP in Education

Cost

Access

Performance

“The Iron Triangle: College Presidents Talk about Costs, Access, and Quality.” By John Immerwahr, Jean Johnson, Paul Gasbarra. October 2008. The National Center for Public Policy and Higher Education and Public Agenda. /reports/iron_triangle/index.shtml

Internet

+

Education

Utide Vision 2014

Big LearningLOYD (Learning On Your Device)

广东省大数据标准体系规划与路线图

（2018-2020）

（征求意见稿）

指导单位：广东省经济和信息化委员会

编制单位：广东省大数据标准化技术委员会工作组

二〇一八年五月

1

一、广东省大数据标准体系 （一） 编制原则

以《广东省促进大数据发展行动计划2016-2020》及《珠江三角洲国家大数据综合实验区建设实施方案》为基础，以继承、发展、创新、提高为出发点，全面梳理国际标准、国家标准、行业标准及地方标准，结合大数据技术及产业发展现状与趋势分析，建立适应广东省大数据产业发展需求的标准体系。标准体系建设遵循以下原则：

急用先行、成熟先上。对大数据领域急需的开放共享、交易流通等标准重点投入，先行研制；对国内外已有的数据分析、处理、数据质量、数据安全等相关国际标准及研究成果，优先支持等同转化。

面向需求、注重实效。从产业信息化和产业数字化发展的要求出发，面向我省电子政务、电子商务及重点行业的数字化服务需求，把规范服务行为、提升服务质量、培育新型服务模式为抓手，调动行业各参与方推进标准化工作的积极性，提升标准的科学性、合理性和有效性。

资源整合、统筹规划。以培育并形成完善的大数据服务市场为总体目标，明确标准化工作思路、内容及具体的推进措施，整合数据资源

《大数据》题目

一、 单选题

1)

大数据的4V特点：Volume、Velocity、Variety、Veracity，其中他们的含义分别是（ 1 ）、（ 2 ）、（ 3 ）、（ 4 ）。 A.价值密度低

B.处理速度快

C.数据类型繁多

D.数据体量巨大

2)

大数据技术的战略意义不在于掌握庞大的数据信息，而在于对这些含有意义的数据进行（ 5 ）。 A. 数据信息

B. 专业化处理

C.速度处理

D. 内容处理

3)

随着谷歌（ 6 ）和（ 7 ）的发布，大数据不再仅用来描述大量的数据，还涵盖了处理数据的 （ 8 ）。 6: A.Map

B.Docs

C. YouTube

D. MapReduce

D. Google

7: A. Google Mobile Docs 8: A.质量

4)

B. iGoogle C. GoogleFile System

B. 速度 C.精度 D. 进度

斯隆数字巡天是使用位于新墨西哥州阿帕奇山顶天文台的2.5米口径望远镜进行的红移巡天项目，2012年4月发布的关于Qu