-
poj3181 Dollar Dayz (DP+大数)
所属栏目：[大数据] 日期：2021-03-07 热度：68
Dollar Dayz Crawling in process... Crawling failed Time Limit:1000MS???? Memory Limit:65536KB???? 64bit IO Format:%I64d %I64u Submit Status Practice POJ 3181 Appoint description: System Crawler (2016-05-27) Description Farmer John goes t[详细]
-
基因数据处理40之bedtools的安装和使用
所属栏目：[大数据] 日期：2021-03-07 热度：58
1.下载： git clone https://github.com/arq5x/bedtools.git 2.编译： make 3.配置： cp * /usr/local/bin/ 4.运行： bam变成bed hadoop@Master:~/xubo/data/snap$ bamToBed -i datatest.sorted.bam datatest.sorted.bed 查看： hadoop@Master:~/xubo/data[详细]
-
基因数据处理42之mango问题_seqdict.avro不存在解决
所属栏目：[大数据] 日期：2021-03-07 热度：199
副标题#e# 参考【1】中问题解决 问题分析：这是新版本的问题：adam0.19.1目前在maven中心仓库没有 解决办法： package org.gcdss.testimport java.io.Fileimport java.nio.file.Filesimport org.apache.parquet.hadoop.metadata.CompressionCodecNameimport[详细]
-
基因数据处理43之mango之503错误
所属栏目：[大数据] 日期：2021-03-07 热度：158
HTTP ERROR: 503Problem accessing /. Reason: Service UnavailablePowered by Jetty:// 更详细请见： https://github.com/bigdatagenomics/mango/issues/181[详细]
-
WindowsXP SP3 AFD.sys 本地拒绝服务漏洞的挖掘过程
所属栏目：[大数据] 日期：2021-03-07 热度：133
标 题: WindowsXP SP3 AFD.sys 本地拒绝服务漏洞的挖掘过程 时 间: 2013-03-17,15:22:33 这是本人第一次做漏洞挖掘，2月的时候开始研究漏洞挖掘技术，2月24号那天在进行Fuzz测试的时候偶然的发现了一个afd.sys未处理的异常，然后就对这个异常如获至宝的分[详细]
-
520我与大数据有个约会——上海大数据创新应用论坛完美落幕
所属栏目：[大数据] 日期：2021-03-07 热度：177
副标题#e# 2016年5月20日周五下午，由上海市大数据联盟牵头，慧与(中国)有限公司、联通小沃科技与华院数据共同承办，来自金融服务业、运营商、零售及电商、制造等行业的大数据应用先行者们为各行各业170余位来宾们打开了一扇通向大数据应用落地彼岸的智慧之[详细]
-
基因数据处理31之avocado运行avocado-cli中的avocado问题3-变异
所属栏目：[大数据] 日期：2021-03-07 热度：120
读入的read为： val fqFile = "hs38DHSE1L100F1.sam" 读取结果： cleanedReads.count:1{"readNum": 0,"contig": {"contigName": "chrUn_KN707963v1_decoy","contigLength": 62955,"contigMD5": null,"referenceURL": null,"assembly": null,"species": nul[详细]
-
基因数据处理32之Avocado运行记录(人造数据集)
所属栏目：[大数据] 日期：2021-03-07 热度：55
副标题#e# 主要是需要数据正确，如果中间缺少记录，avocado一般不会成功 1.代码： Avocado修改： /** * Licensed to Big Data Genomics (BDG) under one * or more contributor license agreements. See the NOTICE file * distributed with this work for[详细]
-
基因数据处理33之Avocado运行记录(参考基因组)
所属栏目：[大数据] 日期：2021-03-07 热度：171
1.数据下载： avocaodo的test resource中 2.预处理： cat Homo_sapiens_assembly19.fasta | grep -i -n '' Homo_sapiens_assembly19Head.txt cat Homo_sapiens_assembly19Head.txt cat Homo_sapiens_assembly19.fasta | head -34770016 |tail -787820 Homo[详细]
-
基因数据处理36之qc-metrics安装
所属栏目：[大数据] 日期：2021-03-07 热度：137
副标题#e# 更多代码请见：https://github.com/xubo245/SparkLearning Spark中组件Mllib的学习之基础概念篇 1解释 Read and variant metrics,useable for pipeline quality control purposes qc-metrics主要是用于read和变异的度量，流水线质量控制的目的 2.[详细]
-
基因数据处理34之使用samtools和bcftools进行变异分析
所属栏目：[大数据] 日期：2021-03-07 热度：164
1.指令： （1） samtools mpileup -vf Homo_sapiens_assembly19chr20.fasta NA12878_snp_A2G_chr20_225058.sorted.bam NA12878_snp_A2G_chr20_225058.variants 或者： samtools mpileup -vf Homo_sapiens_assembly19chr20.fasta NA12878_snp_A2G_chr20_225[详细]
-
推荐系统技术 --- 文本相似性计算（二）
所属栏目：[大数据] 日期：2021-03-07 热度：126
副标题#e# 第一篇地址：推荐系统技术之文本相似性计算（一）上一篇中我们的小明已经中学毕业了，今天这一篇继续文本相似性的计算。首先前一篇不能解决的问题是因为我们只是机械的计算了词的向量，并没有任何上下文的关系，所以思想还停留在机器层面，还没有[详细]
-
基因数据处理35之使用samtools和bcftools进行变异分析2--连续处
所属栏目：[大数据] 日期：2021-03-07 热度：78
指令： samtools mpileup -uf Homo_sapiens_assembly19chr20.fasta NA12878_snp_A2G_chr20_225058_longer.sorted.bam | bcftools call -mv NA12878_snp_A2G_chr20_225058_longer.raw.vcf bcftools filter -s LowQual -e '%QUAL20 || DP100' NA12878_snp_A2[详细]
-
nyoj 28 大数阶乘
所属栏目：[大数据] 日期：2021-03-07 热度：100
大数阶乘 时间限制： 3000?ms ?|? 内存限制： 65535?KB 难度： 3 描述 我们都知道如何计算一个数的阶乘，可是，如果这个数很大呢，我们该如何去计算它并输出它？ 输入 输入一个整数m(0m=5000) 输出 输出m的阶乘，并在输出结束之后输入一个换行符 样例输入[详细]
-
如何挖掘大数据“钻石矿”? 李克强绘四大路径
所属栏目：[大数据] 日期：2021-03-06 热度：134
副标题#e# 中新社 刘震 摄 有人将大数据比喻为“21世纪的钻石矿”。如何在新一轮信息化潮流中抢得先机，掘得富矿？中国国务院总理李克强25日在中国大数据产业峰会暨中国电子商务创新发展峰会(以下简称：数博会)上发表致辞时，为此描绘出四大清晰路径。 路径[详细]
-
数据处理的 9 大编程语言
所属栏目：[大数据] 日期：2021-03-06 热度：151
副标题#e# （点击上方公众号，可快速关注） 英文：Anna Nicolauo 译者：伯乐在线 - 胡波 链接：http://blog.jobbole.com/100732/ 有关大数据的话题一直很火热。伴随着信息的爆炸式增长，大数据渗透到了各行各业，广泛应用于公司中，同时也使得传统的软件比[详细]
-
基因数据处理28之avocado运行
所属栏目：[大数据] 日期：2021-03-06 热度：159
需要注意的是如果使用avocado的命令行，fs和fq为hdfs路径，properties为本地路径： hadoop@Master:~/xubo/data/testTools/se$ avocado-submit /xubo/avocado/hs1.fq /xubo/avocado/hs38DH.fa /xubo/avocado/test20160527 /home/hadoop/cloud/avocado/basic[详细]
-
机器学习中的相似性度量：距离，原来还有这么多类
所属栏目：[大数据] 日期：2021-03-06 热度：188
副标题#e# 来自：苍梧 - 博客园 链接：http://www.cnblogs.com/heaad/archive/2011/03/08/1977733.html 在做分类时常常需要估算不同样本之间的相似性度量(SimilarityMeasurement)，这时通常采用的方法就是计算样本间的“距离”(Distance)。采用什么样的方法[详细]
-
大数相加，大数相乘和100！
所属栏目：[大数据] 日期：2021-03-06 热度：118
副标题#e# ???????????? 自从腾讯HR面试被刷后，也就不想找实习了，记住教训吧，没事还有九月份，现在和其他人几个人都加进去了linux3+1实验室，暑假好好干一个暑假。 ??? 大数相加虽然之前写过，但是现在写代码起码也应该有自己的风格和规范了，其实大数相[详细]
-
大数据处理语言：U-SQL 介绍
所属栏目：[大数据] 日期：2021-03-06 热度：197
副标题#e# 微软宣布了新的 Azure 数据湖（Azure Data Lake）服务，该服务被用于云分析，包括了一个超大规模信息库；一个在 YARN 上建立的新的的分析服务，该服务允许数据开发者和数据科学家分析全部的数据；还有 HDInsight，一个全面管理 Hadoop、Spark、St[详细]
-
Twitter开源大数据实时分析系统Heron：Heron架构
所属栏目：[大数据] 日期：2021-03-06 热度：141
副标题#e# Heron架构 Heron是Apache Storm的一个直接继承者。从架构角度来看，它与Storm截然不同，但是从API的角度看它是完全向后兼容的。 下面的章节指明了Heron和Storm的区别，描述了Heron背后的设计目标，并解释了其架构的主要组件。 代码库 Heron代码库[详细]
-
大数据分析界的“神兽”Apache Kylin初解
所属栏目：[大数据] 日期：2021-03-06 热度：68
副标题#e# 转自李栋，来自Kyligence公司，也是Apache Kylin Committer PMC member，在加入Kyligence之前曾就职于eBay、微软。 今天分享的主题是：聊聊“神兽”Apache Kylin的最新特性。本次分享将首先对Apache Kylin进行基本介绍；接下来介绍1.5.x最新版本[详细]
-
kylin-BI工具-tableau9
所属栏目：[大数据] 日期：2021-03-06 热度：138
副标题#e# Tableau 9 Tableau 9.x has been released a while,there are many users are asking about support this version with Apache Kylin. With updated Kylin ODBC Driver,now user could interactive with Kylin service through Tableau 9.x. Apac[详细]
-
Presto随笔
所属栏目：[大数据] 日期：2021-03-06 热度：172
解决了什么问题 快读的交互式查询 presto 和hive到底什么关系 http://www.mutouxiaogui.cn/blog/?p=395 和hive在一个层级，都是基于hdfs的。但是presto可以借助hive的元信息找到hdfs上的节点。 presto现在已经可以连接 MySQL postgre hive等了 presto为什[详细]
-
HDOJ/HDU 5686 Problem B(斐波拉契+大数~)
所属栏目：[大数据] 日期：2021-03-06 热度：194
Problem Description 度熊面前有一个全是由1构成的字符串，被称为全1序列。你可以合并任意相邻的两个1，从而形成一个新的序列。对于给定的一个全1序列，请计算根据以上方法，可以构成多少种不同的序列。 Input 这里包括多组测试数据，每组测试数据包含一个[详细]
浙公网安备 33038102330483号