Marathon+Mesos+Docker实战

• Apache Mesos概述

Apache Mesos是一款基于多资源调度的开源集群管理套件，使容错和分布式系统更加容易使用实现，采用Master/Slave结构简化设计，将Master尽可能轻量级，进保存了Mesos Slave的状态信息

常见集群管理工具

Apache Mesos工作原理

请看下图：

Apache Mesos配置实战

实验环境：

安装Apache Mesos

1：配置Java环境

tar zxvf jdk-8u91-linux-x64.tar.gz -C /usr/local/

mv jdk1.8.0_91/ java

#在/etc/profile配置环境变量
vim /etc/profile
export JAVA_HOME=/usr/local/java
export PATH=$JAVA_HOME/bin:$PATH
export CLASSPATH=$JAVA_HOME/jre/lib/ext:$JAVA_HOME/lib/tools.jar

2：安装相关环境

（1）安装开发开发工具

//安装开发工具
yum groupinstall -y "Development Tools" 

#有时候安装开发工具的时候会出现没有相关的软件包这时候要根据报错提示先安装相关依赖包

（2）添加Apache-maven源

//添加apache-maven源
wget http://repos.fedorapeople.org/repos/dchen/apache-maven/epel-apache-maven.repo -O /etc/yum.repos.d/epel-apache-maven.repo

（3）安装相关依赖包

//添加依赖包
yum install -y apache-maven python-devel zlib-devel libcurl-devel openssl-devel cyrus-sasl-devel cyrus-sasl-md5 apr-devel apr-util-devel subversion-devel

（4）配置WANdiscoSVN网络源

//配置WANdiscoSVN网络源

vim /etc/yum.repos.d/wandisco-svn.repo

[WANdiscoSVN]
name=WANdisco SVN Repo 1.9
enabled=1
baseurl=http://opensource.wandisco.com/centos/7/svn-1.9/RPMS/$basearch/
gpgcheck=1
gpgkey=http://opensource.wandisco.com/RPM-GPG-KEY-WANdisco

（3）配置Mesos环境变量

vim /etc/profile

export MESOS_NATIVE_JAVA_LIBRARY=/usr/local/lib/libmesos.so
export MESOS_NATIVE_LIBRARY=/usr/local/lib/libmesos.so

source /etc/profile

（4）构建Mesos

这里使用源代码方式编译安装Mesos

wget http://www.apache.org/dist/mesos/0.25.0/mesos-0.25.0.tar.gz

tar zxvf mesos-0.25.0.tar.gz -C /opt/
mv mesos-0.25.0/ /root/
cd /root/mesos-0.25.0
mkdir build

../configure

make              //等待时间长（在线状态）
make check
make install    

配置多台mesos-master

#修改主机名
 hostnamectl set-hostname master

#在hosts文件里面写入三台master 两台slave的主机IP地址

vim /etc/hosts
192.168.179.151 master
192.168.179.158 master1
192.168.179.159 master2
192.168.179.155 slave
192.168.179.157 slave1
#可以直接用scp 远程复制其他四台服务器，另外两台可以在master上复制虚拟机

#建立软连接
ln -sf /root/mesos-0.25.0/build/bin/mesos-slave.sh /usr/sbin/mesos-slave

#安装docker
yum install docker -y
systemctl start docker.servicev #运行
systemctl enable docker.service #开机自启动

（1）安装Zookeeper

在三个Mesos-master节点上安装Zookeeper

tar zxvf zookeeper-3.4.6.tar.gz -C /home/q/

cd zookeeper-3.4.6/

mv conf/zoo_sample.cfg conf/zoo.cfg

cd /home/q/zookeeper-3.4.6/conf

vim zoo.cfg  #修改zoo.cfg配置文件 
   dataDir=/home/q/zookeeper-3.4.6/data   //修改位置
   dataLogDir=/home/q/zookeeper-3.4.6/datalog
   server.1=192.168.179.151:2888:3888
   server.2=192.168.179.158:2888:3888
   server.3=192.168.179.159:2888:3888

//在master主机上操作（/opt/home/zookeeper-3.4.6/中）
mkdir data datalog 
echo 1 > data/myid
cat data/myid

#按照zoo.cfg配置文件的swerver1、2、3修改每台master的myid
//在master1主机上操作（/opt/home/zookeeper-3.4.6/中）
mkdir data datalog 
echo 2 > data/myid
cat data/myid 

//在master2主机上操作（/opt/home/zookeeper-3.4.6/中）
mkdir data datalog 
echo 3 > data/myid
cat data/myid

#启动
//在master主机上启动服务
./bin/zkServer.sh start conf/zoo.cfg 

//在master1主机上启动服务
./bin/zkServer.sh start conf/zoo.cfg

//在master2主机上启动服务
./bin/zkServer.sh start conf/zoo.cfg

//查看leader
./bin/zkServer.sh status

查看zookeeper状态
在zookeeper-3.4.6 低下用./bin/zkServer.sh status

启动master服务
先启动leader服务器上的zookeeper，这是采用双选举机制先zookeeper选举出个leader然后mesos第一台启动默认就是leader

//master2
mesos-master --work_dir=/opt/home/mesos/data --log_dir=/opt/home/mesos/logs --no-hostname_lookup --ip=0.0.0.0 --zk=zk://192.168.179.151:2181/mesos --quorum=2 &>/dev/null &

//master
mesos-master --work_dir=/opt/home/mesos/data --log_dir=/opt/home/mesos/logs --no-hostname_lookup --ip=0.0.0.0 --zk=zk://192.168.179.158:2181/mesos --quorum=2 &>/dev/null &

//master1
mesos-master --work_dir=/opt/home/mesos/data --log_dir=/opt/home/mesos/logs --no-hostname_lookup --ip=0.0.0.0 --zk=zk://192.168.179.159:2181/mesos --quorum=2 &>/dev/null &

启动mesos-slave

slave

mesos-slave --containerizers="mesos,docker" --work_dir=/opt/home/mesos/data --log_dir=/opt/home/mesos/logs --master=zk://192.168.179.151:2181,192.168.179.158:2181,192.168.179.159:2181/mesos --no-hostname_lookup --ip=0.0.0.0 &>/dev/null &

slave1
mesos-slave --containerizers="mesos,docker" --work_dir=/opt/home/mesos/data --log_dir=/opt/home/mesos/logs --master=zk://192.168.179.151:2181,192.168.179.158:2181,192.168.179.159:2181/mesos --no-hostname_lookup --ip=0.0.0.0 &>/dev/null &

slave2

mesos-slave --containerizers="mesos,docker" --work_dir=/opt/home/mesos/data --log_dir=/opt/home/mesos/logs --master=zk://192.168.179.151:2181,192.168.179.158:2181,192.168.179.159:2181/mesos --no-hostname_lookup --ip=0.0.0.0 &>/dev/null &

部署Marathon

#用wget下载Marathon安装包
wget http://downloads.mesosphere.com/marathon/v0.15.2/marathon-0.15.2.tgz

#解压到/opt/hone目录底下
tar zxvf marathon-0.15.2.tgz -C /opt/home

#开启服务指定zk地址池
#在/opt/home/marathon-0.15.2/解压目录下开启

master
./bin/start --hostname 192.168.179.158 --master zk://192.168.175.132:2181,192.168.179.159:2181,192.168.179.151:2181/mesos --http_address 0.0.0.0 &>/dev/null &

master1
./bin/start --hostname 192.168.179.15 --master zk://192.168.175.132:2181,192.168.179.158:2181,192.168.179.151:2181/mesos --http_address 0.0.0.0 &>/dev/null &

master2
./bin/start --hostname 192.168.179.151 --master zk://192.168.175.132:2181,192.168.179.159:2181,192.168.179.158:2181/mesos --http_address 0.0.0.0 &>/dev/null &

打开网页测试Marathon的端口号是8080

建立test任务

查看master分配任务

执行过后在下面这个目录下

 /opt/home/mesos/data/slaves/7cc2e8e7-ad03-46a6-a38d-ae1b92c78319-S0/frameworks/d82f2603-f357-4025-9574-7c511c0f435e-0000/executors

//标准错误和标准输出信息
cd test.f99a7592-a099-11e8-a6b5-52540011572d/runs/latest
//显示
stderr  stdout
//查看输出字符串
cat stdout

显示以下内容

Registered executor on 192.168.175.152
Starting task test.f99a7592-a099-11e8-a6b5-52540011572d
sh -c ‘echo "hello world"‘
hello world
Forked command at 3493
Command exited with status 0 (pid: 3493)

以下是slave操作

//在slave1中操作

cd /root
vim demo.json
{
"id":"basic-0",
"cmd":"while [true]; do echo ‘hello Marathon‘; sleep 5; done",
"cpus":0.1,
"mem":10.0,
"instances":1
}
//查看Marathon网站有新添加任务
curl -X POST -H "Content-type:application/json" http://192.168.175.132:8080/v2/apps -d@demo.json

------------再启动一台slave2-------------------------

hostnamectl set-hostname slave2

vim /etc/hosts    （所有主机同步）
192.168.175.132 master
192.168.175.150 master1
192.168.175.151 master2
192.168.175.152 slave
192.168.175.153 slave2

ln -sf /root/mesos-0.25.0/build/bin/mesos-slave.sh /usr/sbin/mesos-slave

yum install docker -y
systemctl start docker.service
systemctl enable docker.service

//启动完成会看到两台slave上线，任务在两台slave中随机发布

mesos-slave --containerizers="mesos,docker" --work_dir=/home/q/mesos/data --log_dir=/home/q/mesos/logs --master=zk://192.168.175.132:2181,192.168.175.150:2181,192.168.175.151:2181/mesos --no-hostname_lookup --ip=0.0.0.0

-----------------------使用mesos与marathon创建docker集群-----------------------

vim nginx.json

{
"id":"/nginx",
"container":{
"type":"DOCKER",
"docker":{
"image":"nginx",
"network":"HOST",
"parameters":[],
"privileged":false,
"forcePullImage":false
}
},
"cpus":0.1,
"mem":32.0,
"instances":1
}

curl -X POST -H "Content-type:application/json" http://192.168.175.132:8080/v2/apps -d@nginx.json

//在任务发布指定的slave上使用命令  ps aux | grep docker  查看到nginx正在下载
root       3668  0.0  0.6 121912 12872 pts/0    Sl+  10:20   0:00 /usr/bin/docker-current -H unix:///var/run/docker.sock pull nginx:latest

docker images
REPOSITORY          TAG                 IMAGE ID            CREATED             SIZE
docker.io/nginx     latest              c82521676580        3 weeks ago         109 MB

docker ps -a
CONTAINER ID        IMAGE               COMMAND                  CREATED             STATUS              PORTS               NAMES
9940ac858a3b        nginx               "nginx -g ‘daemon ..."   3 minutes ago       Up 3 minutes                            mesos-0d21cffd-8a12-450d-b6ff-4d4befcdaad0-S1.89e29728-37cb-4ea3-9518-2d9741ba7618

测试
http://192.168.175.153/

Marathon+Mesos+Docker实战

原文：http://blog.51cto.com/13645280/2162202