我的应用程序需要运行大量容器作为工作节点(以执行各种批处理作业),而我对保持Web服务器或数据库并不感兴趣-只是可能需要1秒到1秒之间任何时间的短作业小时。我的想法是针对节点云工作,而不必担心这些节点中的哪些机器有可用资源来处理我的工作(mesos在这方面非常擅长-正如所宣传的那样)。我现在正在使用DC/OS,我想知道是否有任何其他集群技术提供此功能:假设我需要1CPU、2GBRAM和2GB磁盘-对我的节点运行Xdocker容器.我喜欢swarm的想法,因为我对docker本身非常熟悉,而且我相信它是最容易设置和自动化的(放大或缩小)。我喜欢kubernetes(不过没有经验),因为它
我的应用程序需要运行大量容器作为工作节点(以执行各种批处理作业),而我对保持Web服务器或数据库并不感兴趣-只是可能需要1秒到1秒之间任何时间的短作业小时。我的想法是针对节点云工作,而不必担心这些节点中的哪些机器有可用资源来处理我的工作(mesos在这方面非常擅长-正如所宣传的那样)。我现在正在使用DC/OS,我想知道是否有任何其他集群技术提供此功能:假设我需要1CPU、2GBRAM和2GB磁盘-对我的节点运行Xdocker容器.我喜欢swarm的想法,因为我对docker本身非常熟悉,而且我相信它是最容易设置和自动化的(放大或缩小)。我喜欢kubernetes(不过没有经验),因为它
我在mesos+marathon+docker上工作了很长一段时间,但我在某个时候卡住了。目前我尝试处理持久化容器,并尝试使用“volumes-from”参数,但我无法使其工作,因为我不知道如何找出要放置的数据框的名称它作为json中的键。我用here中的示例进行了尝试{"id":"privileged-job","container":{"docker":{"image":"mesosphere/inky""privileged":true,"parameters":[{"key":"hostname","value":"a.corp.org"},{"key":"volumes-fr
我在mesos+marathon+docker上工作了很长一段时间,但我在某个时候卡住了。目前我尝试处理持久化容器,并尝试使用“volumes-from”参数,但我无法使其工作,因为我不知道如何找出要放置的数据框的名称它作为json中的键。我用here中的示例进行了尝试{"id":"privileged-job","container":{"docker":{"image":"mesosphere/inky""privileged":true,"parameters":[{"key":"hostname","value":"a.corp.org"},{"key":"volumes-fr
我正试图绕过ApacheMesos并且需要澄清一些项目。我对Mesos的理解是它是一个可执行文件,可以安装在集群中的每个物理/VM服务器(“节点”)上,然后提供JavaAPI(不知何故)将每个单独的节点视为计算资源(CPU/RAM/等)的集体池。因此,对于针对JavaAPI进行编码的程序,它们只看到一组资源,而不必担心代码的部署方式/位置。因此,我的理解可能从根本上是错误的(在这种情况下,请纠正我!)。但是,如果我是目标,那么JavaAPI(由Mesos提供)如何允许Java客户端利用这些资源?!?有人可以举一个Mesos的具体例子吗?更新看看下面我糟糕的图画。如果我正确理解Mesos
我正试图绕过ApacheMesos并且需要澄清一些项目。我对Mesos的理解是它是一个可执行文件,可以安装在集群中的每个物理/VM服务器(“节点”)上,然后提供JavaAPI(不知何故)将每个单独的节点视为计算资源(CPU/RAM/等)的集体池。因此,对于针对JavaAPI进行编码的程序,它们只看到一组资源,而不必担心代码的部署方式/位置。因此,我的理解可能从根本上是错误的(在这种情况下,请纠正我!)。但是,如果我是目标,那么JavaAPI(由Mesos提供)如何允许Java客户端利用这些资源?!?有人可以举一个Mesos的具体例子吗?更新看看下面我糟糕的图画。如果我正确理解Mesos
我一直在尝试设置apachemesos,有两台机器,一台作为从机,另一台作为主机和从机。为此,我一直在使用mesosphere包。master机器(james-pc)上的slave连接正常,但另一台机器上的slave似乎连接不上。在下方记录消息。这些是样本。时间戳可能不匹配。我运行了相同的命令并大量阅读了og文件:(谢谢!!奴隶I101513:44:40.09845816485main.cpp:126]Build:2014-09-2305:36:09byrootI101513:44:40.09852016485main.cpp:128]Version:0.20.1I101513:44:
我已经构建了一个多节点hadoop集群,然后我开始研究mesos以及在mesos集群上运行hadoop的能力,所以这是我的问题:1)ShouldIrunhadooponmesoscluster?oritdoesn'tmatter.2)Whatisthedifferencebetweenthem? 最佳答案 不同的层级有不同的东西。你可以直接在一组机器上部署hadoop集群。这样您的机器现在就可以处理hadoop作业。或者你可以先部署mesos集群,然后在mesos上部署hadoop集群、spark集群、kafka等。为了将您的had
mesos上的spark是否支持数据局部性?假设mesos代理在数据节点上运行。 最佳答案 数据局部性支持完全不依赖于集群管理器。这仅取决于数据的来源。因此,如果您谈论HDFS数据节点,那么答案是肯定的-它确实支持数据局部性。 关于hadoop-mesos上的spark是否支持数据局部性?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/48729859/
我有三个安装了docker的节点,一个主节点和两个从节点,我想在docker上运行Mesos、marathon和hadoop。我有这些dockercompose文件:此dockercompose用于主节点运行Mesos和Marathon:version:'3.7'services:zookeeper:image:hadoop_marathon_mesos_flink_2command:>sh-c"echozookeeper&&/home/zookeeper-3.4.14/bin/zkServer.shrestart&&sleep30&&/home/mesos-1.7.2/build/b