草庐IT

拓扑学

全部标签

rest - 通过 REST API [MapR 6.1/Hadoop-2.7] 从 Yarn 查询节点标签拓扑

有一个Java和CLI接口(interface)可以查询YarnRM的节点到节点标签(和反向)映射。有没有办法通过REST-API来做到这一点?最初的RM-API搜索显示只有基于节点标签的作业提交是一个选项。遗憾的是,这实际上在MapR-Hadoop(截至6/6/19的6.1)中被破坏了,所以我的代码必须通过实现正确的调度本身来解决这个问题。这可以使用YarnClientJavaAPI(几乎没有-这里还有更多损坏的API)。但由于我想同时针对不同的资源管理器安排作业,在防火墙后面,REST-API是实现此目的最引人注目的选择,而YarnClientAPI的RPC后端不容易传输。我目前最

java - 向我的 Storm 集群提交字数统计拓扑,使用 Eclipse 创建 jar,但它显示异常

我正在尝试向我的Storm集群提交一个字数统计拓扑。我使用Eclipse创建了一个jar,但它显示异常。谁能告诉我该怎么做。我在这里附上我的代码和异常。Spout创建-publicclassWordReaderimplementsIRichSpout{privateSpoutOutputCollectorcollecter;privateBufferedReaderbufferedreader;privateFileReaderfilereader;privateBooleancompleted=false;privateTopologyContextcontext;privatefi

hadoop - 如何确定水槽拓扑方法?

我正在设置水槽,但非常不确定要为我们的用例继续使用什么拓扑。我们基本上有两个可以以每秒2000个条目的速度生成日志的Web服务器。每个条目的大小约为137字节。目前我们使用rsyslog(写入tcp端口),php脚本将这些日志写入其中。我们在每个网络服务器上运行一个本地flume代理,这些本地代理监听一个tcp端口并将数据直接放在hdfs中。所以localhost:tcpport是“flumesource”,“hdfs”是flumesink。我不确定上述方法并且对三种方法感到困惑:方法一:每台机器上的Web服务器、RSyslog和FlumeAgent以及在hadoop集群的Nameno

java - Elastic Storm拓扑/Storm-Hadoop共存

我们正在评估部署Storm,但我有点担心。我们目前运行HadoopMapReduce,并且希望将我们的一些处理从MapReduce转移到Storm进程。请注意,这是一些,但不是全部。我们仍然会有一些MapReduce功能。我找到了Mesos,它(可能)允许我们在同一硬件上维护Storm和Hadoop部署,但还有一些其他问题:我设想的理想情况是能够在Storm和Hadoop之间任意“借用”插槽。前任。两者都将根据需要使用相同的资源。不幸的是,这是一个固定部署,并不是像EC2等那样“基于云”。我想避免Storm环境中的瓶颈。理想情况是根据需要“增加”(或相反)更多Bolt实例。这可能/现实

php - PHP 中的拓扑排序

我找到了这个PHP的拓扑排序函数:来源:http://www.calcatraz.com/blog/php-topological-sort-function-384/functiontopological_sort($nodeids,$edges){$L=$S=$nodes=array();foreach($nodeidsas$id){$nodes[$id]=array('in'=>array(),'out'=>array());foreach($edgesas$e){if($id==$e[0]){$nodes[$id]['out'][]=$e[1];}if($id==$e[1]){

c++ - 使用不递归的 DFS 进行拓扑排序

我知道进行拓扑排序的常用方法是使用带递归的DFS。但是你会如何使用stack来做到这一点?而不是递归?我需要获得反向后订单,但我有点卡住了:图表是vector>邻接表下面是我要用于拓扑排序的DFSboolvisited[MAX]={0};stackdfs,postOrder;vectornewVec;vector::iteratorit;for(inti=0;i 最佳答案 为了构造postOrder列出您需要知道算法完成处理节点k的最后一个子节点的时间.确定何时从堆栈中弹出最后一个子节点的一种方法是在堆栈上放置特殊标记以指示特定节点

c++ - 如何发现板上的 PCIe 总线拓扑和插槽编号?

例如,当我使用带有CUDAC/C++和GPUDirect2.0P2P的多GPU系统时,我使用嵌套的PCI-Express开关,如图所示,那么我必须知道任意两个GPU之间有多少开关PCIBusID,优化数据传输和分配计算。或者,如果我已经知道带有PCIe开关的硬件PCIe拓扑,那么我必须知道,板上的哪个硬件PCIe插槽连接到任何GPU卡。据我所知,即使我已经知道带有PCIe开关的硬件PCIe拓扑,这些标识符也不会硬绑定(bind)到板上的PCIe插槽,并且这些ID可能会随着系统的运行而变化:CUDAdevice_idnvidia-smi/nvmlGPUidPCI总线ID在Windows和

caching - 缓存集群部署拓扑

我打算为一些面向公众的Web工作负载部署一个内存缓存集群(目前考虑的是Redis),并且想知道集群应该位于何处(部署拓扑),IMO有两个选项:位于Web层(可水平扩展)在Web层之后和DB层之前创建一个专用缓存集群。背景,Web上的应用程序和在Windows上运行的数据库层,所以如果我将集群固定在Web层上,那么它需要在Windows上得到支持(MSFT有一个稳定的Redis端口),如果我使用专用缓存层我在考虑一些轻量级Linux服务器(HA集群),这意味着当Web层水平扩展时,它使用这个缓存集群进行查找,例如引用数据等优点、缺点、我缺少的其他选择?*请注意,我没有使用云服务提供商“缓

Storm 拓扑上的 Redis 错误

我正在使用Redis从我的Storm拓扑结构中提取数据,我一直在阅读它,并找到了一些示例。现在,我试图让它运行,稍后我将实现一个前端以从redis读取并在一个html文件上实现d3.js将数据放在图表。我现在已经为本地文件实现了D3部分。目前,我没有创建用于表示我的数据的数学函数,我只是创建了从文本文件中读取名称并附加“:):)”符号的元组。该部分也工作正常,但我在尝试在Storm0.10.0上使用storm-redis时遇到问题。我目前的理解(如果我错了请纠正我)redis是一个数据库,如mongoDB,非SQL和使用字段来检索键。我有一个implemerntation,但它不工作。

java - redisson java 客户端能否检测到集群拓扑中失败的主副本对的重启?

我的Springboot应用程序使用redisson3.3.0来访问具有以下YML配置的redis集群拓扑:redis:cluster:nodes:${CLUSTER_HOST}:6379read-mode:'MASTER'connections:125max_wait_millis:10000cluster-scan-interval:1000redis集群设置为默认值(3个节点,每个节点1个副本)。我停止了包含相同槽(主副本对)的2个节点。然后,当我的应用程序尝试从这些插槽中读取键时,正如预期的那样,我得到了这个异常:org.redisson.client.RedisConnect