首页 > 全部
Hadoop学习原地
http://blog.csdn.net/wf1982/article/details/6624028
分类:其他   时间:2014-01-21 23:41:58    收藏:0  评论:0  赞:0  阅读:403
Thirft框架介绍
1、前言Thrift是一个跨语言的服务部署框架,最初由Facebook于2007年开发,2008年进入Apache开源项目。Thrift通过一个中间语言(IDL, 接口定义语言)来定义RPC的接口和数据类型,然后通过一个编译器生成不同语言的代码(目前支持C++,Java, Python, PHP, ...
分类:其他   时间:2014-01-21 23:41:23    收藏:0  评论:0  赞:0  阅读:545
Scribe+HDFS日志收集系统安装方法
1、概述Scribe是facebook开源的日志收集系统,可用于搜索引擎中进行大规模日志分析处理。其通常与Hadoop结合使用,scribe用于向HDFS中push日志,而Hadoop通过MapReduce作业进行定期处理,具体可参见日文日志:http://d.hatena.ne.jp/tagomo...
分类:其他   时间:2014-01-21 23:41:18    收藏:0  评论:0  赞:0  阅读:541
《底特律往事》:因循守旧和强大的工会拖垮了底特律
本书将2005-2009年期间底特律三巨头通用,福特,克莱斯勒在破产边缘挣扎的过程。最终福特免于破产,另外两家则没能幸免。书中讲到了一些三巨头面临破产的过程中换高管,改策略的细节。我估计这些细节差不多都是在三巨头申请破产和政府救助过程中公开过的。读后总体感觉是三巨头的通病是官僚习气严重,产品因循守旧...
分类:其他   时间:2014-01-21 23:38:23    收藏:0  评论:0  赞:0  阅读:422
关键数据结构
FSDirectory NIOFSDirectory 性能对比lucene/solr FSDirectory NIOFSDirectory 性能测试对比与Http11NioProtocol 文章分类:互联网 lucene 2.4 开始有一个 NIOFSDirectory 实现,使用 java.nio...
分类:其他   时间:2014-01-21 23:38:18    收藏:0  评论:0  赞:0  阅读:605
hadoop errors
1、taskTracker和jobTracker启动失败2011-01-05 12:44:42,144 ERROR org.apache.hadoop.mapred.TaskTracker: Can not start task tracker because java.lang.RuntimeEx...
分类:其他   时间:2014-01-21 23:37:13    收藏:0  评论:0  赞:0  阅读:525
hadoop deployment
本文主要是以安装和使用hadoop-0.12.0为例,指出在部署Hadoop的时候容易遇到的问题以及如何解决。硬件环境共有3台机器,均使用的FC5系统,Java使用的是jdk1.6.0。IP配置如下:dbrg-1:202.197.18.72dbrg-2:202.197.18.73dbrg-3:202...
分类:其他   时间:2014-01-21 23:37:08    收藏:0  评论:0  赞:0  阅读:634
hbase、zookeeper及hadoop部署
一 机器192.168.0.203 hd203: hadoop namenode & hbase HMaster192.168.0.204 hd204: hadoop datanode & hbase HRegionServer & zookeeper192.168.0.205 hd205: had...
分类:其他   时间:2014-01-21 23:35:39    收藏:0  评论:0  赞:0  阅读:507
Facebook如何管理150亿张照片
Facebook 的照片分享很受欢迎,迄今,Facebook 用户已经上传了150亿张照片,加上缩略图,总容量超过1.5PB,而每周新增的照片为2亿2000万张,约25TB,高峰期,Facebook 每秒处理55万张照片,这些数字让如何管理这些数据成为一个巨大的挑战。本文由 Facebook 工程师...
分类:其他   时间:2014-01-21 23:35:33    收藏:0  评论:0  赞:0  阅读:402
Hadoop命令大全
Hadoop命令大全分类:云计算2011-03-01 15:046852人阅读评论(0)收藏举报hadoop作业任务集群class脚本1、列出所有Hadoop Shell支持的命令$ bin/hadoop fs -help2、显示关于某个命令的详细信息$ bin/hadoop fs -help co...
分类:其他   时间:2014-01-21 23:33:58    收藏:0  评论:0  赞:0  阅读:457
app 用户体验一
移动设备由于受屏幕大小、网络速度等因素的影响,也衍生出特有的设计原则,来满足用户的行为习惯,促进产品易用。这是@阿乖设计在@知乎 上带来的八条原则,作者用了大量的案例来佐证观点。一起看看这些技巧你是否已经意识到。原则1:用户界面应是基于用户的心理模型,而不是基于工程实现模型这就是把后台本来很复杂的事...
分类:移动平台   时间:2014-01-21 23:33:48    收藏:0  评论:0  赞:0  阅读:502
Hadoop学习总结之Map-Reduce的过程解析111
一、客户端Map-Reduce的过程首先是由客户端提交一个任务开始的。提交任务主要是通过JobClient.runJob(JobConf)静态函数实现的:public static RunningJob runJob(JobConf job) throws IOException { //首先生成一...
分类:其他   时间:2014-01-21 23:33:34    收藏:0  评论:0  赞:0  阅读:463
opencv中的更通用的形态学
为了处理更为复杂的情况,opencv中还支持更多的形态学变换。形态学名称操作过程效果开操作 openopen(src)=先腐蚀,后膨胀闭操作 closeclose(src)=先膨胀,后腐蚀形态梯度 gradientgradient(src)=dilate(scr)-erode(src)“礼帽” to...
分类:其他   时间:2014-01-21 23:32:23    收藏:0  评论:0  赞:0  阅读:458
Nginx+iptables屏蔽访问Web页面过于频繁的IP(防DDOS,恶意访问,采集器)
通过分析nginx的日志来过滤出访问过于频繁的IP地址,然后添加到nginx的blockip.conf,并重启nginx脚本如下:#!/bin/shnginx_home = /Data/app_1/nginxlog_path = /Data/logs/usr/bin/tail -n50000 $lo...
分类:Web开发   时间:2014-01-21 23:30:58    收藏:0  评论:0  赞:0  阅读:573
scribe日志系统安装笔记
版本历史2011-02-12 17:36:57 完成文章2011-02-23 10:49:12 更新,修正部分文字目前web访问日志为crontab定时清空,而且负载均衡后,访问随机分配到一台服务器。程序出错后需要分析日志时,需要登录几台机器查看,于是想用一台主机作日志主机,负责收集(按时间顺序而不...
分类:其他   时间:2014-01-21 23:30:53    收藏:0  评论:0  赞:0  阅读:479
Ubuntu 12.04.3 X64 使用 NFS 作为文件共享存储方式 安装 Oracle11g RAC
nfs-server 在 Ubuntu上可以选择 :nfs-kernel-server;如果在windows上,可以选择:haneWINNFSServernfs-client Ubuntu上使用 nfs-common关键是nfs-client挂载mount事的选项:nolock 对于 oracle ...
分类:数据库技术   时间:2014-01-21 23:29:58    收藏:0  评论:0  赞:0  阅读:576
自己的自制
其实这本来就是一个大而空的话题。自制力,自律,或者勤勉不懈怠,都是我最大的做不到。或者说,做得不好。其实2013年11月我就在学习HTML的一些知识,但惭愧之极的是,到现在,已经过去了整整2个月,我还只是刚刚将要完结HTML的一些课程。这本身就是我的不够好了,我感觉。自学有点无聊,但是关键还在于自己...
分类:其他   时间:2014-01-21 23:29:38    收藏:0  评论:0  赞:0  阅读:371
android学习——android架构
android架构:在了解全局的情况下进行细致化的分析才能更有效的学习android的运行原理,才能更深刻的理解android开发:1、架构图直观2、架构详解2.1、Linux Kernel2.1、Android Runtime2.3、Libraries2.4、Application Framewo...
分类:移动平台   时间:2014-01-21 23:28:43    收藏:0  评论:0  赞:0  阅读:561
HDFS(0.20.2)运营中急救方案
这段时间折腾的都是hadoop和lucene,总结了hadoop在运营过程中出现问题时的解决方案,请大家指教!HDFS(0.20.2)运营中急救方案1Namenode挂掉(secondarynamenode无影响)如果Namenode挂掉,如果能立即起来通过,start-dfs.sh能够重新起来则可...
分类:其他   时间:2014-01-21 23:28:23    收藏:0  评论:0  赞:0  阅读:585
HDFS要点
namenode存储的数据:主控服务器主要有三类数据:文件系统的目录结构数据,各个文件的分块信息,数据块的位置信息(就数据块放置在哪些数据服务器上...)。在GFS和HDFS的架构中,只有文件的目录结构和分块信息才会被持久化到本地磁盘上,而数据块的位置信息则是通过动态汇总过来的,仅仅存活在内存数据结...
分类:其他   时间:2014-01-21 23:27:33    收藏:0  评论:0  赞:0  阅读:603
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!