首页 > 2014年01月21日 > 全部分享
hadoop errors
1、taskTracker和jobTracker启动失败2011-01-05 12:44:42,144 ERROR org.apache.hadoop.mapred.TaskTracker: Can not start task tracker because java.lang.RuntimeEx...
分类:其他   时间:2014-01-21 23:37:13    收藏:0  评论:0  赞:0  阅读:522
hadoop deployment
本文主要是以安装和使用hadoop-0.12.0为例,指出在部署Hadoop的时候容易遇到的问题以及如何解决。硬件环境共有3台机器,均使用的FC5系统,Java使用的是jdk1.6.0。IP配置如下:dbrg-1:202.197.18.72dbrg-2:202.197.18.73dbrg-3:202...
分类:其他   时间:2014-01-21 23:37:08    收藏:0  评论:0  赞:0  阅读:630
hbase、zookeeper及hadoop部署
一 机器192.168.0.203 hd203: hadoop namenode & hbase HMaster192.168.0.204 hd204: hadoop datanode & hbase HRegionServer & zookeeper192.168.0.205 hd205: had...
分类:其他   时间:2014-01-21 23:35:39    收藏:0  评论:0  赞:0  阅读:500
Facebook如何管理150亿张照片
Facebook 的照片分享很受欢迎,迄今,Facebook 用户已经上传了150亿张照片,加上缩略图,总容量超过1.5PB,而每周新增的照片为2亿2000万张,约25TB,高峰期,Facebook 每秒处理55万张照片,这些数字让如何管理这些数据成为一个巨大的挑战。本文由 Facebook 工程师...
分类:其他   时间:2014-01-21 23:35:33    收藏:0  评论:0  赞:0  阅读:400
Hadoop命令大全
Hadoop命令大全分类:云计算2011-03-01 15:046852人阅读评论(0)收藏举报hadoop作业任务集群class脚本1、列出所有Hadoop Shell支持的命令$ bin/hadoop fs -help2、显示关于某个命令的详细信息$ bin/hadoop fs -help co...
分类:其他   时间:2014-01-21 23:33:58    收藏:0  评论:0  赞:0  阅读:452
app 用户体验一
移动设备由于受屏幕大小、网络速度等因素的影响,也衍生出特有的设计原则,来满足用户的行为习惯,促进产品易用。这是@阿乖设计在@知乎 上带来的八条原则,作者用了大量的案例来佐证观点。一起看看这些技巧你是否已经意识到。原则1:用户界面应是基于用户的心理模型,而不是基于工程实现模型这就是把后台本来很复杂的事...
分类:移动平台   时间:2014-01-21 23:33:48    收藏:0  评论:0  赞:0  阅读:498
Hadoop学习总结之Map-Reduce的过程解析111
一、客户端Map-Reduce的过程首先是由客户端提交一个任务开始的。提交任务主要是通过JobClient.runJob(JobConf)静态函数实现的:public static RunningJob runJob(JobConf job) throws IOException { //首先生成一...
分类:其他   时间:2014-01-21 23:33:34    收藏:0  评论:0  赞:0  阅读:460
opencv中的更通用的形态学
为了处理更为复杂的情况,opencv中还支持更多的形态学变换。形态学名称操作过程效果开操作 openopen(src)=先腐蚀,后膨胀闭操作 closeclose(src)=先膨胀,后腐蚀形态梯度 gradientgradient(src)=dilate(scr)-erode(src)“礼帽” to...
分类:其他   时间:2014-01-21 23:32:23    收藏:0  评论:0  赞:0  阅读:454
Nginx+iptables屏蔽访问Web页面过于频繁的IP(防DDOS,恶意访问,采集器)
通过分析nginx的日志来过滤出访问过于频繁的IP地址,然后添加到nginx的blockip.conf,并重启nginx脚本如下:#!/bin/shnginx_home = /Data/app_1/nginxlog_path = /Data/logs/usr/bin/tail -n50000 $lo...
分类:Web开发   时间:2014-01-21 23:30:58    收藏:0  评论:0  赞:0  阅读:568
scribe日志系统安装笔记
版本历史2011-02-12 17:36:57 完成文章2011-02-23 10:49:12 更新,修正部分文字目前web访问日志为crontab定时清空,而且负载均衡后,访问随机分配到一台服务器。程序出错后需要分析日志时,需要登录几台机器查看,于是想用一台主机作日志主机,负责收集(按时间顺序而不...
分类:其他   时间:2014-01-21 23:30:53    收藏:0  评论:0  赞:0  阅读:475
Ubuntu 12.04.3 X64 使用 NFS 作为文件共享存储方式 安装 Oracle11g RAC
nfs-server 在 Ubuntu上可以选择 :nfs-kernel-server;如果在windows上,可以选择:haneWINNFSServernfs-client Ubuntu上使用 nfs-common关键是nfs-client挂载mount事的选项:nolock 对于 oracle ...
分类:数据库技术   时间:2014-01-21 23:29:58    收藏:0  评论:0  赞:0  阅读:571
自己的自制
其实这本来就是一个大而空的话题。自制力,自律,或者勤勉不懈怠,都是我最大的做不到。或者说,做得不好。其实2013年11月我就在学习HTML的一些知识,但惭愧之极的是,到现在,已经过去了整整2个月,我还只是刚刚将要完结HTML的一些课程。这本身就是我的不够好了,我感觉。自学有点无聊,但是关键还在于自己...
分类:其他   时间:2014-01-21 23:29:38    收藏:0  评论:0  赞:0  阅读:368
android学习——android架构
android架构:在了解全局的情况下进行细致化的分析才能更有效的学习android的运行原理,才能更深刻的理解android开发:1、架构图直观2、架构详解2.1、Linux Kernel2.1、Android Runtime2.3、Libraries2.4、Application Framewo...
分类:移动平台   时间:2014-01-21 23:28:43    收藏:0  评论:0  赞:0  阅读:549
HDFS(0.20.2)运营中急救方案
这段时间折腾的都是hadoop和lucene,总结了hadoop在运营过程中出现问题时的解决方案,请大家指教!HDFS(0.20.2)运营中急救方案1Namenode挂掉(secondarynamenode无影响)如果Namenode挂掉,如果能立即起来通过,start-dfs.sh能够重新起来则可...
分类:其他   时间:2014-01-21 23:28:23    收藏:0  评论:0  赞:0  阅读:572
HDFS要点
namenode存储的数据:主控服务器主要有三类数据:文件系统的目录结构数据,各个文件的分块信息,数据块的位置信息(就数据块放置在哪些数据服务器上...)。在GFS和HDFS的架构中,只有文件的目录结构和分块信息才会被持久化到本地磁盘上,而数据块的位置信息则是通过动态汇总过来的,仅仅存活在内存数据结...
分类:其他   时间:2014-01-21 23:27:33    收藏:0  评论:0  赞:0  阅读:593
Hadoop namenode启动瓶颈分析
NameNode启动过程详细剖析NameNode中几个关键的数据结构FSImageNamenode会将HDFS的文件和目录元数据存储在一个叫fsimage的二进制文件中,每次保存fsimage之后到下次保存之间的所有hdfs操作,将会记录在editlog文件中,当editlog达到一定的大小(byt...
分类:其他   时间:2014-01-21 23:27:18    收藏:0  评论:0  赞:0  阅读:591
android技术下载
http://www.linuxidc.com/Linux/2011-08/41339.htmhttp://linux.linuxidc.com/2011%E5%B9%B4%E8%B5%84%E6%96%99/Android%E5%85%A5%E9%97%A8%E6%95%99%E7%A8%8B/
分类:移动平台   时间:2014-01-21 23:27:08    收藏:0  评论:0  赞:0  阅读:488
原创:谈谈计算机图像识别技术之身份证号码识别
原创:谈谈计算机图像识别技术之身份证号码识别作者:刘常军(2014-1-21) 前两天看到一篇文章,说支付宝钱包的iOS版和Android版已经升至8.0,只要通过摄像头对准银行卡进行扫描,支付宝钱包就可以自动识别银行卡号码(http://www.chinaz.com/mobile/2014/011...
分类:其他   时间:2014-01-21 23:27:03    收藏:0  评论:0  赞:1  阅读:1197
eclipse安装hadoop插件
我想还有很多人没有听说过ZModem协议,更不知道有rz/sz这样方便的工具。 好东西不敢独享。以下给出我知道的一点皮毛。 下面一段是从SecureCRT的帮助中copy的:ZModem is a full-duplex file transfer protocol that supports fa...
分类:其他   时间:2014-01-21 23:26:59    收藏:0  评论:0  赞:0  阅读:477
Hadoop学习总结之Map-Reduce的过程解析
一、客户端Map-Reduce的过程首先是由客户端提交一个任务开始的。提交任务主要是通过JobClient.runJob(JobConf)静态函数实现的:public static RunningJob runJob(JobConf job) throws IOException { //首先生成一...
分类:其他   时间:2014-01-21 23:26:54    收藏:0  评论:0  赞:0  阅读:457
3167条   上一页 1 2 3 4 5 6 ... 159 下一页
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!