常见应用框架
应用框架是实际干活的,可以理解为 Mesos 之上跑的 应用
。应用框架注册到 Mesos master 服务上即可使用。
用户大部分时候,只需要跟应用框架打交道。因此,选择合适的应用框架十分关键。
Mesos 目前支持的应用框架分为四大类:长期运行任务(以及 PaaS)、大数据处理、批量调度、数据存储。
随着 Mesos 自身的发展,越来越多的框架开始支持 Mesos,下面总结了目前常用的一些框架。
长期运行的服务
Aurora
项目维护地址在 http://aurora.incubator.apache.org。
利用 mesos 调度安排的任务,保证任务一直在运行。
提供 REST 接口,客户端和 webUI(8081 端口)
Marathon
项目维护地址在 https://github.com/mesosphere/marathon。
一个私有 PaaS 平台,保证运行的应用不被中断。
如果任务停止了,会自动重启一个新的相同任务。
支持任务为任意 bash 命令,以及容器。
提供 REST 接口,客户端和 webUI(8080 端口)
Singularity
项目维护地址在 https://github.com/HubSpot/Singularity。
一个私有 PaaS 平台。
调度器,运行长期的任务和一次性任务。
提供 REST 接口,客户端和 webUI(7099、8080 端口),支持容器。
大数据处理
Cray Chapel
项目维护地址在 https://github.com/nqn/mesos-chapel。
支持 Chapel 并行编程语言的运行框架。
Dpark
项目维护地址在 https://github.com/douban/dpark。
Spark 的 Python 实现。
Hadoop
项目维护地址在 https://github.com/mesos/hadoop。
经典的 map-reduce 模型的实现。
Spark
项目维护地址在 http://spark.incubator.apache.org。
跟 Hadoop 类似,但处理迭代类型任务会更好的使用内存做中间状态缓存,速度要快一些。
Storm
项目维护地址在 https://github.com/mesosphere/storm-mesos。
分布式流计算,可以实时处理数据流。
批量调度
Chronos
项目维护地址在 https://github.com/airbnb/chronos。
Cron 的分布式实现,负责任务调度,支持容错。
Jenkins
项目维护地址在 https://github.com/jenkinsci/mesos-plugin。
大名鼎鼎的 CI 引擎。使用 mesos-jenkins 插件,可以将 jenkins 的任务被 Mesos 集群来动态调度执行。
JobServer
项目维护地址在 http://www.grandlogic.com/content/html_docs/jobserver.html。
基于 Java 的调度任务和数据处理引擎。
GoDocker
项目维护地址在 https://bitbucket.org/osallou/go-docker。
基于 Docker 容器的集群维护工具。提供用户接口,除了支持 Mesos,还支持 Kubernetes、Swarm 等。
数据存储
Cassandra
项目维护地址在 https://github.com/mesosphere/cassandra-mesos。
高性能的分布式数据库。可扩展性很好,支持高可用。
ElasticSearch
项目维护地址在 https://github.com/mesosphere/elasticsearch-mesos。
功能十分强大的分布式数据搜索引擎。
一方面通过分布式集群实现可靠的数据库,一方面提供灵活的 API,对数据进行整合和分析。ElasticSearch + LogStash + Kibana 目前合成为 ELK 工具栈。
Hypertable
项目维护地址在 https://code.google.com/p/hypertable。
高性能的分布式数据库,支持结构化或者非结构化的数据存储。
Tachyon
项目维护地址在 http://tachyon-project.org/。
内存为中心的分布式存储系统,利用内存访问的高速提供高性能。