草庐IT

worker-pool

全部标签

django - 使用 Django 应用程序的主管对运行 celery worker 进行故障排除

我有一个Django应用程序,我的目标是通过celery通过redis运行任务。项目文件夹结构如下:/mhb11/myfolder/myproject├──myproject│├──celery.py#TheCeleryappfile│├──__init__.py#Theprojectmodulefile(modified)│├──settings.py#IncludingCelerysettings│├──urls.py│└──wsgi.py├──manage.py├──celerybeat-schedule└──myapp├──__init__.py├──models.py├──t

ruby-on-rails - resque-pool 默认为测试环境

我今天在本地设置了resque-pool,我注意到了一些奇怪的行为。我之前已经启动并运行了普通的旧resque没问题。我的工作失败了,因为找不到记录。当我深入研究时,我发现这是因为工作人员正在使用测试配置进行设置。我在本地使用foreman/heroku,我的.env文件设置了环境RACK_ENV=development,我还尝试添加了一个RACK_ENV=development示例设置输出[OKAY]LoadedENV.envFileasKEY=VALUEFormat5:01:34PMweb.1|Pumastartinginsinglemode...5:01:34PMweb.1|*V

python - 向所有 worker 广播任务 : redis+celery

任务.pyfromceleryimportCeleryapp=Celery('tasks',broker='redis://localhost',backend='redis://localhost',include=['tasks'])app.conf.broker_url='redis://localhost:6379/0'#Optionalconfiguration,seetheapplicationuserguide.app.conf.update(result_expires=3600,)@app.taskdefadd(x,y):returnx+y主要.pyfromtasks

Mongodb worker 角色抛出 System.IO.FileNotFoundException

我有一个使用mongodb辅助角色的Azure云项目。在本地模拟器中运行时一切正常,但是当我部署到Azure暂存区时,mongodb工作角色卡在循环中并显示System.IO.FileNotFoundException。我远程连接到其中一台虚拟机并查看事件查看器,发现以下错误:Anunhandledexceptionoccurred.Type:System.IO.FileNotFoundExceptionProcessID:1936ProcessName:WaWorkerHostThreadID:4AppDomainUnhandledExceptionforroleMongoDB.Wi

【CMU15-445数据库】bustub Project #1:Buffer Pool

Project1共需完成三个任务:可扩展哈希表(ExtendibleHashTable)、LRU-K置换策略(LRU-KReplacementPolicy)以及缓冲池管理(BufferPoolManager),其中缓冲池的实现会用到前两个,建议就按文档给的顺序实现。关于代码,首先这里主要就是我个人的一个记录空间,文章也就一两百访问量还是中文,不会真有CMU学生来看吧(况且写这篇时也早已过了DDL)。其二,我比较想展示一些具体实现上比较符合C++的代码风格。另外,我对做这种项目时不知道哪里出Bug死活过不去测试特别想要一份参考代码的心情非常理解,所以我决定还是放出关键代码,希望能帮到和博主一样在

mongodb - 在 Worker 的帮助下从 Spark 读取巨大的 MongoDB 集合

我想从Spark中读取一个巨大的MongoDB集合,创建一个持久的RDD,并对其进行进一步的数据分析。有什么方法可以更快地从MongoDB读取数据。尝试过MongoDBJava+Casbah的方法我可以使用worker/slave从MongoDB中并行读取数据,然后将其保存为持久数据并使用吗? 最佳答案 有两种方法可以将数据从MongoDB获取到ApacheSpark。方法一:使用Casbah(MongDBJava驱动程序上的层)valuriRemote=MongoClientURI("mongodb://RemoteURL:270

node.js - 处理 MongoError : server instance pool was destroyed 的好方法

我正在运行一个带有mongo连接池的守护进程。它运行了好几天,但最终它崩溃了,每个后续请求都会收到此错误:MongoError:服务器实例池被破坏代码类似这样:varMongoClient=require('mongodb').MongoClient;varexpress=require('express');varapp=express();MongoClient.connect(config.mongo.url,function(err,db){app.use('/',function(req,res,next){db.collection('somecollection').fi

mongodb - MongoReplicaSetClient 不会在 celery worker 中重新连接

我使用带有MongoDB2.4.4副本集的Celery3.0.15作为后端(pymongo版本2.5.1)。我还使用相同的副本集作为主应用程序数据存储:CELERY_CONFIG={'BROKER_URL':'mongodb://localhost:27017,localhost:27018,localhost:27019/','BROKER_TRANSPORT_OPTIONS':{'replicaSet':'test'}}...conn=MongoReplicaSetClient('localhost:27017,localhost:27018,localhost:27019',re

WorkBox 之底层逻辑 Service Worker

1.前置知识点「前置知识点」,只是做一个概念的介绍,不会做深度解释。因为,这些概念在下面文章中会有出现,为了让行文更加的顺畅,所以将本该在文内的概念解释放到前面来。「如果大家对这些概念熟悉,可以直接忽略」同时,由于阅读我文章的群体有很多,所以有些知识点可能「我视之若珍宝,尔视只如草芥,弃之如敝履」。以下知识点,请「酌情使用」。如何查看ServiceWorker要查看正在运行的Serviceworkers列表,我们可以在Chrome/Chromium中地址栏中输入chrome://serviceworker-internals/。图片chrome://xx 包含了很多内置的功能,这块也是有很大的

python - 如何在 Celery worker 中正确连接到 mongodb?

学习Celery,阅读CeleryBestPractices,并且有一个关于Celery数据库使用的非常简单的问题。DeniBertovic说:Youshouldn'tpassDatabaseobjects(forinstanceyourUsermodel)toabackgroundtaskbecausetheserializedobjectmightcontainstaledata.那么,如果我想在worker中连接数据库,正确的选择是什么:@app.taskdefadd(x,y,collection):client=MongoClient('mongodb://localhost: