草庐IT

azure-databricks

全部标签

azure - 使用 Azure Blob 存储时的 HDInsight 群集大小

当使用HDInsight并选择AzureStorageBlob来存储需要计算的数据时,您仍然需要在配置新集群时选择数据节点的数量。如果您的数据存储在Azure存储Blob上,数据节点的数量有什么影响?blob中的数据是否实际复制到数据节点上? 最佳答案 如果您将数据放在AzureBlobStore上,它会保留在那里,并直接从Azure存储中读取。HDInsight集群中的数据节点有两个用途。首先,他们运行实际的计算作业,这些作业直接从Azure存储中读取。这并不像HDFS用户听起来那么疯狂,因为Azure的一致底层结构使存储保持良好

azure - HDFS ls 在 Flume 写入文件时显示文件大小为 0

我们目前正在设置一个ApacheFlume系统,该系统收集事件数据并将其写入我们的HDInsightHDFS集群中的文件。在验证初始设置时,hdfsls在Flume写入文件时显示文件大小为0,但是当文件滚动(并且删除了.tmp文件扩展名)时,文件大小突然跳起来。在Flume写入文件时,HDFS或HDInsight(或WASB)是否有某种原因导致文件的文件大小为0。 最佳答案 这可能是由于HDFS一致性模型。在向HDFS执行写入时,一旦写入了超过一个block的数据,第一个block将对新读者。后续block也是如此:它始终是当前bl

java - 无法使用本地 hadoop 连接 azure blob 存储

同时尝试将本地hadoop与AZUREBLOB存储连接(即使用blob存储作为HDFS)与Hadoop版本-2.7.1,抛出异常这里我通过设置属性成功组建了本地集群fs.default.namewasb://account@storage.blob.core.windows.net然后是core-site.xml中blob存储的键值。在列出文件或对blob存储进行HDFS操作时,出现以下异常ls:NoFileSystemforscheme:wasb任何人请指导我解决上述问题。 最佳答案 您需要添加hadoop-azure.jar在h

azure - 在 Azure 上的 HDInsight 群集上打开一个端口

我有一个MicrosoftAzureHDInsight集群。在节点上,我正在rdp'ing并启动一个绑定(bind)到端口8080的应用程序。我希望能够从集群外部连接到这个应用程序。我有我的集群连接字符串(https://xxxxx.azurehdinsight.net),但是当我尝试连接到它时,我超时了。我认为这是因为我没有向公众开放8080端口。我怎么能在集群下做到这一点我只有Hadoop服务和用户名.... 最佳答案 此时,我们不允许您控制/打开HDInsight群集上的其他网络端口。如果您希望Azure中的另一台计算机能够访

azure - HDInsight : HBase or Azure Table Storage?

目前,我的团队正在创建一个使用HDInsight的解决方案。我们每天将获得5TB的数据,并且需要对这些数据执行一些map/reduce作业。如果我们的数据存储在AzureTableStorage而不是AzureHBase中,会有任何性能/成本差异吗? 最佳答案 主要区别在于功能和成本。AzureTableStorage本身没有附加mapreduce引擎,但您当然可以使用mapreduce方法编写自己的引擎。您可以使用AzureHDInsight将MapReduce连接到表存储。周围有几个连接器,包括我编写的一个以配置单元为中心的连接

实施来自两个单独文档的Azure Cosmos DB数据

我们在CosmosDB中有两套单独的文档,一个存储用户,它是各种角色和第二组文档,可存储特定作业的许可。现在,工作清单是无限的,并且可以在一段时间内大幅增长。由于在多个文档上不允许组,因此我们试图确定根据角色或特定作业来检索所有用户的最佳策略。1)解决方案1-将用户数据和作业数据作为大型文档中的子文档保留,并有助于查询甚至连续令牌。2)解决方案2-将用户和角色数据保存在1个文档中,并在客户端分别查询并在此处执行查询。在这种情况下,持续令牌支持将丢失,因为您必须先查询完整的数据才能提供任何有意义的结果。3)解决方案3-将角色数据保留在每个工作文档中,并直接查询它。在这种情况下,我们将根据作业获得

php - 如何将 zip 文件上传到 azure blob 然后在那里解压缩

关闭。这个问题需要detailsorclarity.它目前不接受答案。想改进这个问题吗?通过editingthispost添加细节并澄清问题.关闭5年前。Improvethisquestion我有很多zip文件,里面只有几个文件夹和50多个文件。如何将这些zip文件上传到azureblob,然后在那里解压缩。将服务器中的文件解压缩并将其中的文件一个一个地上传到azureblob将是一个繁琐的过程。azure是否有任何简单的方法来实现此目的或有任何解决方法?我正在用PHP实现它。

php - 从 PHP Web 应用程序连接到 Azure Active Directory

寻求有关该主题的指导,因为我真的坚持这个问题,我有一个基于PHP制作的应用程序的内部URL,我想连接到AzureActiveDirectory。到目前为止,我已经查看了一个examplefromMicrosoft使用SimpleSAML,但它确实过时了,我在调整它以适应较新的SimpleSAML代码时遇到了麻烦。是否有更好的方法将Web应用程序与AzureAD集成?我在某处读到我可以使用开始使用MobileServices但我想听听以前的经验,了解在PHP上使用AzureAD登录的最佳/当前方法是什么?--编辑--我所说的集成是指允许人们从AzureAD中验证和检索电子邮件地址或Emp

PHP fatal error : Failure in wincache (windows azure)

我的项目中有codeigniter框架。我的网站在windowsazure平台上运行。有时它会给我这个错误:PHPFatalerror:FailureinWincache[6484]free_memory:Block0x41d56d8notinuseinD:\home\site\wwwroot\system\libraries\Log.phponline44我试图通过更改内存值来更改php.ini文件:ini_set('memory_limit','2048M');但是,在我检查了memory_get_peak_usage();之后,我发现应用程序甚至没有使用超过1MB。我不知道这里发

如何在Node.js上下文中使用Azure认知服务SDK

我想使用Webocket的Azure认知服务SDK,而不是在Web上下文中,而是在Node.js上下文中,如何在不使用Chrome无头的情况下解决此问题?看答案我们没有node.jssdk。但是,请使用已发布的协议编写自己的内容,直到我们发布更多的SDK。https://docs.microsoft.com/en-gb/azure/cognitive-services/speech/api-reference-rest/websocketprotocol