-
Presto 常用配置及操作
所属栏目：[大数据] 日期：2020-12-25 热度：149
一、介绍 Presto是一个开源的分布式SQL查询引擎，适用于交互式分析查询，数据量支持GB到PB字节。 Presto的设计和编写完全是为了解决像Facebook这样规模的商业数据仓库的交互式分析和处理速度的问题。 推荐阅读 Presto实现原理和美团的使用实践 二、安装 2.[详细]
-
大数据的技术生态概述（转载）
所属栏目：[大数据] 日期：2020-12-25 热度：139
副标题#e# 如何用形象的比喻描述大数据的技术生态？Hadoop、Hive、Spark 之间是什么关系？ 大数据本身是个很宽泛的概念，Hadoop生态圈（或者泛生态圈）基本上都是为了处理超过单机尺度的数据处理而诞生的。你可以把它比作一个厨房所以需要的各种工具。锅碗[详细]
-
九种常见的数据分析模型
所属栏目：[大数据] 日期：2020-12-25 热度：135
副标题#e# 1. 漏斗分析模型 漏斗分析是一套流程式数据分析，它能够科学反映用户行为状态以及从起点到终点各阶段用户转化率情况的重要分析模型。 运营人员可以通过观察不同属性的用户群体（如新注册用户与老客户、不同渠道来源的客户）各环节转化率，各流程[详细]
-
大数据领域常用技术栈
所属栏目：[大数据] 日期：2020-12-25 热度：157
副标题#e# 提起大数据，不得不提由IBM提出的关于大数据的5V特点：Volume（大量）、Velocity（高速）、Variety（多样）、Value（低价值密度）、Veracity（真实性），而对于大数据领域的从业人员的日常工作也与这5V密切相关。大数据技术在过去的几十年中取得[详细]
-
Databricks说的Lakehouse是什么？
所属栏目：[大数据] 日期：2020-12-25 热度：179
副标题#e# ? 在过去的几年里，Lakehouse作为一种新的数据管理范式，已独立出现在Databricks的许多用户和应用案例中。在这篇文章中，我们将阐述这种新范式以及它相对于之前方案的优势。 数据仓库在决策支持和商业智能应用方面有着悠久的历史。自20世纪80年代[详细]
-
关于评论话题挖掘的研究及其实现代码（一）LDA
所属栏目：[大数据] 日期：2020-12-25 热度：134
引言 在 2016年中，我们参加了一个由厦门信研院举办的大数据比赛。当时，我们拿到的题目为影迷关注点分析。数据是来自于微博与豆瓣的影迷评论数据，其数据量达600多万条评论数据，分别对应于2000多部不同的电影。我们的想法是将影迷关注点分析尽量往评论话[详细]
-
内衣大数据分析：透过女生内衣的需求变化，看年轻人的情趣生活
所属栏目：[大数据] 日期：2020-12-25 热度：173
报道大数据企业：大数据产品、大数据方案、 ? 大数据人物 分享大数据干货：大数据书籍、大数据报告、 大数据视频 本文系大数据人精选自网络。 欢迎更多优质原创文章投稿给大数据人：admin@bigdata.ren 小编微信：data985 End. 版权声明：由“大数据人”推[详细]
-
[bigdata-041] python3+re 正则表达式 手机号微信号qq号
所属栏目：[大数据] 日期：2020-12-25 热度：173
import reREGEX_PHONE = re.compile(r'1d{10}',re.IGNORECASE)REGEX_QQ = re.compile(r'[1-9]d{4,10}',re.IGNORECASE)REGEX_WX1 = re.compile(u'微信[w,-]{1,20}'.encode('utf8'),re.IGNORECASE)#正则手机号码def get_all_phone_num(s1): global REGEX_[详细]
-
数据挖掘：手把手教你做文本挖掘
所属栏目：[大数据] 日期：2020-12-25 热度：104
副标题#e# 1 文本挖掘定义 文本挖掘指的是从文本数据中获取有价值的信息和知识，它是数据挖掘中的一种方法。文本挖掘中最重要最基本的应用是实现文本的分类和聚类，前者是有监督的挖掘算法，后者是无监督的挖掘算法。 ? 2 文本挖掘步骤 1）读取数据库或本地[详细]
-
蓝桥杯-区间k大数查询
所属栏目：[大数据] 日期：2020-12-25 热度：67
从题目上看，用int类型数据就够了，没必要考虑long这些~~ 在题目中，直接用了Collection工具类中的sort方法，是从小到大排序，据了解，Java自带的排序算法应该是优化过的快速排序，算法可靠。 package 区间k大数查询;import java.util.ArrayList;import ja[详细]
-
数据挖掘中的模式发现（五）挖掘多样频繁模式
所属栏目：[大数据] 日期：2020-12-25 热度：153
副标题#e# 挖掘多层次的关联规则(Mining Multi-Level Associations) 定义 项经常形成层次。 如图所示 那么我们可以根据项的细化分类得到更多有趣的模式，发现更多细节的特性。 Level-reduced min-support 使用的是Level-reduced min-support方法来设置最低[详细]
-
微信红包先抢和后抢差距居然这么大！春节抢红包的大数据分析
所属栏目：[大数据] 日期：2020-12-24 热度：77
副标题#e# 春节是中华民族隆重的农历新年 这是世界上规模最大的节日 在春节前后 炎黄子孙们不远万里衣锦还乡 与亲人们团圆 在此期间 中国的铁路上会发生 地球上最大规模的人口迁徙 作为世界上最能吃最能玩的种族 聪明勇敢的中国人发明了非常多的娱乐活动 比[详细]
-
NMEA library数据处理过程分析
所属栏目：[大数据] 日期：2020-12-24 热度：201
? ?今天学习一个GPS数据解析开源库——NMEA lib。使用这个库，可以轻松处理GPS接收机发出的数据，并不需要了解NMEA的具体协议，这个库可以解析所有NMEA0813规定的所有报文格式。不仅可以解析出原始数据中包含的所有参数，还可以计算两点之间的距离、方向以[详细]
-
打车不再加价？大数据说可以有
所属栏目：[大数据] 日期：2020-12-24 热度：202
副标题#e# 高峰期打车的供求关系不均衡的问题，一直被诟[详细]
-
算法训练 区间k大数查询
所属栏目：[大数据] 日期：2020-12-24 热度：142
问题描述 给定一个序列，每次询问序列中第l个数到第r个数中第K大的数是哪个。 输入格式 第一行包含一个数n，表示序列长度。 第二行包含n个正整数，表示给定的序列。 第三个包含一个正整数m，表示询问个数。 接下来m行，每行三个数l,r,K，表示询问序列从左[详细]
-
HDU 2054 大数比较
所属栏目：[大数据] 日期：2020-12-24 热度：184
题目传送门：http://acm.hdu.edu.cn/showproblem.php?pid=2054 ???? ?? A这个水题也没有什么意思，主要巩固前面Java大数类和一些方法的学习。 ??? ?? 题目如果直接用Java.Biginteger.equals()方法的话会WA，在API说明里面，对于2.00，和2.0值相等，标度不[详细]
-
成为技术高手：想更了解自己的偶像么？教你用技术手段挖掘他#92
所属栏目：[大数据] 日期：2020-12-24 热度：110
点击上方“云栖社区”可以订阅哦 摘要 是否在不同的电影中，总是能看到那些熟悉却叫不上名字的演员们，想知道他们之间相互的关系么？本文将带你一步一步地挖掘出他们的关系。想更了解自己的偶像么，那就试试吧。 以下为译文 我最近换了个工作，在入职之前[详细]
-
![[bigdata-035]用js dtree展示一个树形结构 py3+dtree+jquery](/uploads/allimg/c201224/160WY33b410-120E.gif)
[bigdata-035]用js dtree展示一个树形结构 py3+dtree+jquery
所属栏目：[大数据] 日期：2020-12-24 热度：172
1. dtree的下载 http://destroydrop.com/javascripts/tree/default.htm 2. 目录结构 . ├── static │?? ├── css │?? │?? └── dtree.css │?? ├── img │?? │?? ├── base.gif │?? │?? ├── cd.gif │?? │?? ├── diffDoc.gif │??[详细]
-
[编程题]数字翻转(大数加法)
所属栏目：[大数据] 日期：2020-12-24 热度：69
对于一个整数X，定义操作rev(X)为将X按数位翻转过来，并且去除掉前导0。例如: 如果 X = 123，则rev(X) = 321; 如果 X = 100，则rev(X) = 1. 现在给出整数x和y,要求rev(rev(x) + rev(y))为多少？? 输入描述: 输入为一行，x、y(1 ≤ x、y ≤ 1000)，以空格隔[详细]
-
[bigdata-036] mit-scheme试用
所属栏目：[大数据] 日期：2020-12-24 热度：137
1. 安装Mit-scheme apt-get install mit-scheme 2. 写一个hello wold代码， hi.scm (begin (display "Hello,World!") (newline)) 3. 在命令行执行 scheme，进入交互界面，然后输入命令 (load 'hi.scm') 将执行这个文件，然后输出 "Hello,World!" 4. scheme[详细]
-
[bigdata-037] docker hue 用SQL获取数据以及可视化
所属栏目：[大数据] 日期：2020-12-24 热度：162
1. hue官网 https://github.com/cloudera/hue http://gethue.com/ 2. hue的功能 有py2+django开发，提供Hive,Impala,MySQL,Oracle,PostgreSQL,Spark SQL,Solr SQL,Phoenix...等SQL数据获取和页面展示 3. 用docker 安装hue docker pull gethue/hue 4. hue i[详细]
-
[bigdata-037]apache hue 用SQL获取数据以及可视化
所属栏目：[大数据] 日期：2020-12-24 热度：118
1. hue官网 https://github.com/cloudera/hue http://gethue.com/ 2. hue的功能 有py2+django开发，提供Hive,Impala,MySQL,Oracle,PostgreSQL,Spark SQL,Solr SQL,Phoenix...等SQL数据获取和页面展示 3. 用docker 安装hue docker pull gethue/hue 4. hue i[详细]
-
[bigdata-038] tushare 金融数据 安装使用
所属栏目：[大数据] 日期：2020-12-24 热度：199
1. 安装 pip install tushare 2. 获取股票的基本面 #!/usr/bin/env python3#!-*- coding:utf-8 -*-import tushare as ts#显示基本信息res = ts.get_stock_basics()print(res)print(type(res)) res是的类型是pandas.core.frame.DataFrame，3114? x 22 的矩[详细]
-
3.21.1、BI之SSIS之数据流转换（渐变维度-混合模式）
所属栏目：[大数据] 日期：2020-12-24 热度：161
BI之SSIS之数据流转换（渐变维度-混合模式） ? ? 1??????????3.21中介绍了普通模式的渐变维度，即通过时间标志来对维度属性值的变化进行记录，这种方式可以很直观的看到变化的时间点，但是在使用时却比较麻烦，因为你需要通过时间字段去判断 ? 2??????????[详细]
-
[bigdata-039] pysql+pymongo+py3把数据从sql 导入 到mongo的通
所属栏目：[大数据] 日期：2020-12-24 热度：133
#!/usr/bin/env python3#! coding:utf-8 -*-import pymysqlimport pymongodef trans_data_from_mysql_to_mongo(source_param,target_param,trans_type,where_clause,ignore_columns=[]): # 创建mysql连接 mysql_conn = pymysql.connect(host=source_param[[详细]
