-
使用Zeppelin来实现大数据分析的可视化
所属栏目：[大数据] 日期：2021-03-07 热度：55
Apache Zeppelin是ASF的一个孵化项目，实现了基于web的在线代码编辑与数据可视化。有点类似Spark-Shell的REPL。其结果可以直接用图表来展示，解决了前端白痴的苦逼。 Zeppelin官网 我们可以直接下载 zeppelin-0.5.6-incubating-bin-all.tgz ，然后部署到服[详细]
-
初识聚类算法:K均值、凝聚层次聚类和DBSCAN
所属栏目：[大数据] 日期：2021-03-07 热度：114
http://blog.sina.com.cn/s/blog_62186b460101ard2.html 聚类分析就仅根据在数据中发现的描述对象及其关系的信息，将数据对象分组(簇)。其目标是，组内的对象相互之间是相似的，而不同组中的对象是不同的。组内相似性越大，组间差别越大，聚类就越好。 先[详细]
-
基于K－Means的文本聚类
所属栏目：[大数据] 日期：2021-03-07 热度：174
http://blog.csdn.net/freesum/article/details/7376006 何为聚类 ? ? ? ? “聚类是把相似的对象通过静态分类的方法分成不同的组别或者更多的子集（subset）,这样让在同一个子集中的成员对象都有相似的一些属性。”?? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?[详细]
-
R在文本挖掘与分析的妙用：分词、画词云
所属栏目：[大数据] 日期：2021-03-07 热度：171
副标题#e# 报道大数据企业：大数据产品、大数据方案、 ? 大数据人物 分享大数据干货：大数据书籍、大数据报告、 大数据视频 本文转自蔡捕头的新浪博客。欢迎更多优质原创文章投稿给大数据人：289585305@qq.com 摘要：要分析文本内容，最常见的分析方法是提[详细]
-
10EB量级的基因大数据处理技术
所属栏目：[大数据] 日期：2021-03-07 热度：197
Java学习网（www.javalearns.com）提拱 10EB量级的基因大数据处理技术 很荣幸在这里跟大家分享大家以前很少接触到的领域的大数据情况。其实生命科学的大数据还处在比较初始的阶段，否则国家也不会现在才开始提出精准医学这样的概念。所谓精准医学想通过大[详细]
-
数据分析与挖掘学习（一）
所属栏目：[大数据] 日期：2021-03-07 热度：169
数据分析与挖掘过程 一. 定义挖掘目标 一般的数据挖掘任务包括： 1. 分类与预测 2. 聚类分析 3. 关联规则 4. 时序模式 5. 偏差检验 6. 智能推荐 二. 数据取样 抽取一个与挖掘目标相关的样本子集，标准是 1. 相关性 2. 可靠性 3. 有效性 而不是选用全部数据[详细]
-
Acdream 1210 Chinese Girls#39; Amusement（大数模板运算 + 找
所属栏目：[大数据] 日期：2021-03-07 热度：198
传送门 Chinese Girls’ Amusement Time Limit: 2000/1000MS (Java/Others) Memory Limit: 128000/64000KB (Java/Others) Submit Statistic Next Problem Problem Description You must have heard that the Chinese culture is quite different from that[详细]
-
??攻略｜13招神技 让你在数据科学和数据分析工作中脱颖而出
所属栏目：[大数据] 日期：2021-03-06 热度：74
副标题#e# 简介：我有幸在很早参与了一个大数据科学项目，我非常喜欢其中的工作，甚至我意识到我的努力可以增加一些公司的价值。 然而，可悲的是，只有不到30%的数据科学项目最终实施了。我备受打击的意识到我的努力被浪费了。但是，我不是唯一的一个。几乎[详细]
-
基因数据处理46之cloud-scale-bwamem安装（compile.pl安装没问题
所属栏目：[大数据] 日期：2021-03-06 热度：106
版本：https://github.com/ytchen0323/cloud-scale-bwamem/releases/tag/v0.2.1 1.需要设置spark路径： !--systemPath/cluster/spark/spark-1.3.1-bin-hadoop2.4/lib/spark-assembly-1.3.1-hadoop2.4.0.jar/systemPath -- systemPath/home/hadoop/cloud/sp[详细]
-
基因数据处理44之cloud-scale-bwamem安装
所属栏目：[大数据] 日期：2021-03-06 热度：88
cloud-scale-bwamem是在spark等云环境上实现bwa-mem算法，加速对全基因组匹配的处理 1.下载： git clone https://github.com/ytchen0323/cloud-scale-bwamem.git 2.编译： mvn clean package 3.编译成功： [INFO] ---------------------------------------[详细]
-
基因数据处理50之cs-bwamem、bwa、snap、bwa-mem与art比较
所属栏目：[大数据] 日期：2021-03-06 热度：158
副标题#e# 直接看结果： （1）art仿真数据： hadoop@Master:~/cloud/adam/xubo/data/GRCH38Sub/cs-bwamem$ cat G38L100c50Nhs20.aln ##ART_Illumina read_length 100@CM art_illumina -ss HS20 -i GRCH38chr1L3556522.fna -l 100 -c 50 -o G38L100c50Nhs20[详细]
-
基因数据处理45之cloud-scale-bwamem安装（compile.pl安装有问题
所属栏目：[大数据] 日期：2021-03-06 热度：106
脚本： hadoop@Master:~/xubo/tools/cloud-scale-bwamem$ cat compile.pl #! /usr/bin/perlsystem "mvn clean package";chdir "./src";system "mvn package -PotherOutputDir";chdir "./main/jni_fpga";system "mvn package -PotherOutputDir";chdir "../a[详细]
-
基因数据处理51之cs-bwamem集群版运行*
所属栏目：[大数据] 日期：2021-03-06 热度：147
将master的local改为集群就可以了。 集群运行结果： 问题： 匹配50条的时候，bwa和snap都是生成50条。但是cs-bwamem会生成492条，其中25和50条重读的很多，匹配位置不同。不知道为啥？ 记录： D:1win7javajdkbinjava -Didea.launcher.port=7538 "-Did[详细]
-
![《剑指offer》:[16]打印1到最大的N位数](/uploads/allimg/c210306/16150403394ZF-13b6.gif)
《剑指offer》:[16]打印1到最大的N位数
所属栏目：[大数据] 日期：2021-03-06 热度：186
题目：输入数字N，按顺序打印从1到最大的n位十进制数。比如输入3，则打印出1、2、3一直到最大的三位数即：999. 乍一看这个题目很简单，我们很快就会写出下面的代码： void onetoN(int n){int number=1;for(int i=0;in;i++){number*=10;}for(int i=1;inumbe[详细]
-
基因数据处理52之cs-bwamem集群版运行（1千万条100bp的reads）
所属栏目：[大数据] 日期：2021-03-06 热度：87
副标题#e# 1.art生成模拟序列： art_illumina -ss HS20 -i GRCH38BWAindex/GRCH38chr1L3556522.fna -l 100 -c 10000000 -o g38L100c10000000Nhs20 2.上传到hdfs，制定partition数 spark-submit --class cs.ucla.edu.bwaspark.BWAMEMSpark --master spark://[详细]
-
NDK开发 - JNI数组数据处理
所属栏目：[大数据] 日期：2021-03-06 热度：168
副标题#e# 很多时候利用 NDK 开发都是为了对数据进行加密操作，因为单纯的 Java 太容易被反编译了，加密算法也就很容易被破解，而利用 C/C++ 开发可以加大破解难度。文件的数据加密就需要通过 byte 数组传给 JNI。 传送门：NDK开发 - JNI数组数据处理 JNI[详细]
-
利用BI搭建零售业数据信息平台
所属栏目：[大数据] 日期：2021-03-06 热度：98
某百货公司是全市规模最大的以零售为主、多元化经营的股份制商业企业。拥有员工数千人，经营国内外品牌2300余种，年商品销售额逾10亿人元。 销售体量如此庞大的企业近几年在IT建设上出现了问题，集团内部的信息化数据有些跟不上业务扩张的步伐。虽然该集团[详细]
-
构建数据处理“小窗口”、实现渠道掌控“大作为”| 记渠道监控中
所属栏目：[大数据] 日期：2021-02-28 热度：121
副标题#e# 点击上方蓝色字体关注我们 作者 吴逊 ? ? ?浙江移动业务架构师 肖亮 ? ? ?浙江移动实体渠道运营管理 建设背景 ? 在当下移动互联网高速发展的时代，企业以前的金字塔组织结构，已经不能快速响应市场需求，移动互联网时代，商业流的加速，使得用户[详细]
-
『Data Science』R语言学习笔记，基础语法
所属栏目：[大数据] 日期：2021-02-28 热度：163
副标题#e# Data Types Data Object Vector x - c(0.5,0.6) ## numericx - c(TRUE,FALSE) ## logicalx - c(T,F) ## logicalx - c("a","b","c") ## characterx - 9:29 ## integerx - c(1+0i,2+4i) ## complexx - vector("numeric",length = 10) ## create a n[详细]
-
图解机顶盒数据处理流程
所属栏目：[大数据] 日期：2021-02-28 热度：117
1. 前端数据的打包、调制 与 广播 前端系统负责将电视节目的音视频数据，数字电视业务信息的各种表 按照 数字电视业务信息规范，打包成 ts 流，然后进行调制，再通过cable线，卫星，地面直播信号塔这些物理信道进行广播。 两层复用：多个电视节目通过? 时[详细]
-
深度解析 Twitter Heron 大数据实时分析系统
所属栏目：[大数据] 日期：2021-02-28 热度：56
2015年6月1号， Twitter 对外宣讲了他们的Heron系统， 从ppt和论文中，看起来完爆storm。昨天，抽空把论文，仔细读了一遍， 把个人笔记和心得分享一下： 摘要： Heron更适合超大规模的机器， 超过1000台机器以上的集群。 在稳定性上有更优异的表现， 在性[详细]
-
81个开源大数据处理工具汇总（下），包括日志收集系统/集群管理/
所属栏目：[大数据] 日期：2021-02-28 热度：107
副标题#e# 上一部分：http://my.oschina.net/u/2391658/blog/711016 第二部分主要收集整理的内容主要有日志收集系统、消息系统、分布式服务、集群管理、RPC、基础设施、搜索引擎、Iaas和监控管理等大数据开源工具。 ? 日志收集系统 一、Facebook?Scribe 贡[详细]
-
81个开源大数据处理工具汇总（上），包括查询引擎/流式计算/存储
所属栏目：[大数据] 日期：2021-02-28 热度：62
副标题#e# 本文一共分为上下两部分。我们将针对大数据开源工具不同的用处来进行分类，并且附上了官网和部分下载链接，希望能给做大数据的朋友做个参考。下面是第一部分。 查询引擎 一、Phoenix 贡献者：：Salesforce 简介：这是一个Java中间层，可以让开发[详细]
-
文本挖掘的基本流程
所属栏目：[大数据] 日期：2021-02-28 热度：150
副标题#e# 一、获取文本 ??我们获取网络文本，主要是获取网页HTML的形式。我们要把网络中的文本获取文本数据库(数据集)。编写爬虫（Spider）程序,抓取到网络中的信息。可以用广度优先和深度优先；根据用户的需求，爬虫可以有垂直爬虫和通用爬虫之分，垂直爬[详细]
-
Mondrian 4 测试的简单demo（Saiku简单测试Schema文件）
所属栏目：[大数据] 日期：2021-02-28 热度：79
##?整理此文章方便大家做测试（手写Mondrian?Schema自测），不必每次都向saiku上传文件了 ##?关键文件 *?foodmart4.xml??测试对应的schema文件 *?foodmart-sql.zip????测试对应的数据库脚本 maven项目： pom文件 foodmart4.xml文件 简单java代码测试： 返[详细]
