草庐IT

amazon-echo

全部标签

python - 如何在 Python 中高效地将小文件上传到 Amazon S3

最近,我需要实现一个程序,以尽快将驻留在AmazonEC2中的文件上传到Python中的S3。文件大小为30KB。我尝试了一些解决方案,使用多线程、多处理、协程。以下是我在AmazonEC2上的性能测试结果。3600(文件量)*30K(文件大小)~~105M(总计)--->**5.5s[4process+100coroutine]**10s[200coroutine]14s[10threads]代码如下所示用于多线程defmput(i,client,files):forfinfiles:ifhash(f)%NTHREAD==i:put(client,os.path.join(DATA_

python - 如何在 Amazon Elastic Beanstalk (Python) 中设置环境变量

我最近一直在开发一个Django应用程序,试图让它与AmazonElasticBeanstalk一起工作。在我的.ebextensions/python.config文件中,我设置了以下内容:option_settings:-namespace:aws:elasticbeanstalk:application:environmentoption_name:ProductionBucketvalue:s3-bucket-name-namespace:aws:elasticbeanstalk:application:environmentoption_name:ProductionCach

python - 使用 python、boto3 在 Amazon S3 中创建目录

我知道S3存储桶实际上没有目录,因为存储是平坦的。但是可以使用python/boto3以编程方式创建目录,但我不知道如何。我在一部纪录片中看到了这一点:“尽管S3存储是扁平的:存储桶包含key,但S3允许您通过在key中使用分隔符在存储桶上强加目录树结构。例如,如果你将一个键命名为'a/b/f',并使用'/'作为分隔符,那么S3会认为'a'是一个目录,'b'是'a'的子目录,“f”是“b”中的一个文件。”我可以通过以下方式在S3存储桶中创建文件:self.client.put_object(Bucket=bucketname,Key=filename)但我不知道如何创建目录。

python - 扭曲和 Websockets : Beyond Echo

在我对websockets的持续好奇中,我注意到一个趋势:websocket世界的“helloworld”,至少目前,似乎是“echo”功能。也就是说,演示的应用程序通常是“我发送一些东西,我接收一些东西。”虽然恰本地展示了该协议(protocol)的功能,但该示例实际上仅展示了与传统请求/响应周期启用的相同类型的通信。例如,我能找到的关于twisted.web.websockets的唯一演示(在服务器端)如下:importsysfromtwisted.pythonimportlogfromtwisted.internetimportreactorfromtwisted.web.sta

Emacs shell-mode 中的 Python 打开 stty echo 并中断 C-d

当我在Emacsshell缓冲区(M-xshell)中运行交互式Python时,它对TTY做了两件令人惊讶的事情。首先,它打开输入回显,它在Python退出后仍然存在,直到我执行stty-echo。其次,它不接受C-d(或C-qC-d,即^D)作为EOF:我必须键入quit()才能离开Python。我怎样才能阻止这两种行为?我知道我可以运行python-shell,但我不想:我在shell中闲逛,我想执行5行Python,然后C-d退出。所以“运行python-shell”不是我问题的答案。在终端窗口中运行的Python没问题:^D继续工作并且echo没有改变。Python2.7.5、

python - 如何使用 Python 中的 boto 库获取 Amazon SQS 队列中的所有消息?

我正在开发一个应用程序,其工作流是通过使用boto在SQS中传递消息来管理的。我的SQS队列正在逐渐增长,我无法检查它应该包含多少元素。现在我有一个守护进程定期轮询队列,并检查我是否有固定大小的元素集。例如,考虑以下“队列”:q=["msg1_comp1","msg2_comp1","msg1_comp2","msg3_comp1","msg2_comp2"]现在我想在某个时间点检查队列中是否有“msg1_comp1”、“msg2_comp1”和“msg3_comp1”,但我不知道队列的大小。查看API后,似乎您只能获取1个元素,或者队列中固定数量的元素,但不是全部:>>>rs=q.g

python - 简单 ECHO 客户端/服务器 [Python/sockets/ssl 模块] 中的相互 ssl 身份验证,ssl.SSLEOFError : EOF occurred in violation of protocol

我想在我的echo客户端/服务器程序中进行相互验证。我在上使用python2.7.12和ssl`模块DistributorID:UbuntuDescription:Ubuntu14.04.5LTSRelease:14.04Codename:trusty我已经使用openssl命令生成了客户端和服务器的证书和key:opensslreq-new-x509-days365-nodes-outclient.pem-keyoutclient.keyopensslreq-new-x509-days365-nodes-outserver.pem-keyoutserver.key我希望客户端对服务器

python - 使用 Amazon Web Services WSDL 的最佳 python soap 堆栈是什么?

Python有一个numberofsoapstacks;据我所知,它们都有实质性缺陷。有没有人有幸在python中为S3、EC2和SQS使用和WSDL?我的经验是suds在构造Client对象时失败;经过一番争论之后,ZSI生成了不起作用的客户端代码;等最后,我知道boto但由于它是AWS的手动包装器,因此(1)不完整并且(2)永远不会与最新的AWSWSDL保持同步。 最佳答案 REST或“查询”API肯定比SOAP更易于使用,但不幸的是至少一次服务(EC2)没有提供任何SOAP的替代品。正如您已经发现的那样,Python现有的SO

Python:Amazon S3 无法获取存储桶:表示 403 Forbidden

我在AmazonS3中为我的组织创建了一个存储桶,它看起来像mydev.orgname我有一个Java应用程序可以使用凭据连接到AmazonS3,并且可以连接到S3、创建、读取文件我有一个要求,应用程序从同一个存储桶中读取来自Python的数据。所以我正在使用boto为此。为了得到桶,我做了以下操作>>>importboto>>>fromboto.s3.connectionimportS3Connection>>>fromboto.s3.keyimportKey>>>>>>conn=S3Connection('xxxxxxxxxxx','yyyyyyyyyyyyyyyyyyyyyy')

Python:Amazon S3 无法获取存储桶:表示 403 Forbidden

我在AmazonS3中为我的组织创建了一个存储桶,它看起来像mydev.orgname我有一个Java应用程序可以使用凭据连接到AmazonS3,并且可以连接到S3、创建、读取文件我有一个要求,应用程序从同一个存储桶中读取来自Python的数据。所以我正在使用boto为此。为了得到桶,我做了以下操作>>>importboto>>>fromboto.s3.connectionimportS3Connection>>>fromboto.s3.keyimportKey>>>>>>conn=S3Connection('xxxxxxxxxxx','yyyyyyyyyyyyyyyyyyyyyy')