草庐IT

master-data-management

全部标签

hadoop - 使用 --master yarn-cluster : issue with spark-assembly 运行 spark-submit

我在基于Kerberos的集群上运行Spark1.1.0、HDP2.1。我可以使用--masteryarn-client成功运行spark-submit,并且结果已正确写入HDFS,但是,该作业没有显示在HadoopAllApplications页面上。我想使用--masteryarn-cluster运行spark-submit但我仍然收到此错误:appDiagnostics:Applicationapplication_1417686359838_0012failed2timesduetoAMContainerforappattempt_1417686359838_0012_0000

java - SQOOP SQLSERVER 无法加载驱动程序 "appropriate connection manager is not being set"

我下载了sqljdbc4.jar.我正在调用sqoop就像从文件夹(存储jar的地方)一样:sqooplist-tables--drivercom.microsoft.jdbc.sqlserver.SQLServerDriver--connectjdbc:sqlserver://localhost:1433;user=me;password=myPassword;-libjars=./sqljdbc4.jar我收到以下警告和错误:13/10/2518:38:13WARNsqoop.ConnFactory:Parameter--driverissettoanexplicitdriverh

hadoop - 异常 : java. Spark 中的 lang.Exception : When running with master 'yarn' either HADOOP_CONF_DIR or YARN_CONF_DIR must be set in the environment.

我是新的apache-spark。我已经在spark独立模式下测试了一些应用程序。但我想运行应用程序yarn模式。我在windows中运行apache-spark2.1.0。这是我的代码c:\spark>spark-submit2--masteryarn--deploy-modeclient--executor-cores4--jarsC:\DependencyJars\spark-streaming-eventhubs_2.11-2.0.3.jar,C:\DependencyJars\scalaj-http_2.11-2.3.0.jar,C:\DependencyJars\confi

hadoop - 大数据信号分析 : better way to store and query signal data

我要使用Hadoop/Spark进行一些信号分析,我需要有关如何构建整个过程的帮助。信号现在存储在数据库中,我们将使用Sqoop读取它,并将转换为HDFS上的文件,其模式类似于:其中信号值只是由浮点逗号分隔的数字组成的字符串。000123S0012015/04/22T10:00:00.000Z0.0,1.0,200.0,30.0...100.0000124S0012015/04/22T10:05:23.245Z0.0,4.0,250.0,35.0...10.0...000126S0032015/04/22T16:00:00.034Z0.0,0.0,200.0,00.0...600.0我

apache-spark - Spark Driver 内存和 Application Master 内存

我是否正确理解了客户端模式的文档?客户端模式与驱动程序在应用程序主机中运行的集群模式相反?在客户端模式下,driver和applicationmaster是独立的进程,因此spark.driver.memory+spark.yarn.am.memory必须小于机器的内存?在客户端模式下,驱动程序内存是否未包含在应用程序主内存设置中? 最佳答案 clientmodeisopposedtoclustermodewherethedriverrunswithintheapplicationmaster?是,当Spark应用程序部署在YARN

memory-management - memory_get_peak_usage 与实际 php 进程内存使用量的区别

为什么phpmemory_get_peak_usage的结果与在Linux中使用“top”或“ps”命令时显示为分配给进程的内存大小差异如此之大?我在php.ini中设置了2Mb的memory_limit我的单字符串php脚本echomemory_get_peak_usage(true);说它正在使用786432字节(768Kb)如果我尝试向系统询问当前的php进程echoshell_exec('ps-p'.getmypid().'-Fl');它给了我FSUIDPIDPPIDCPRINIADDRSZWCHANRSSPSRSTIMETTYTIMECMD5Swww-data14599145

php - Laravel 与 SQL Server 2008 抛出 "Conversion of a varchar data type to a datetime data type resulted in an out-of-range value"

我在SQLServer2008中使用laravel4.1我创建了一个基于Eloquentorm的带有时间戳的模型:classAttendanceextends\Eloquent{protected$table='Attendance';publicfunctionusers(){return$this->belongsToMany('User','Users_Attendance','user_id','attendance_id');}}当我尝试插入新字段时:publicfunctionpostAttendanceUsers(){$attendance=newAttendance;$

php - Laravel 5.2 在同一页面上更新 Eloquent Master Detail

这是我在Laravel5.2中实现主从页面的两个模型,Blade页面和Controller。我想知道如何将详细信息部分更新回数据库。1)主模型namespaceApp;useIlluminate\Database\Eloquent\Model;classOrderextendsModel{protected$fillable=['id','name','created_at','updated_at'];publicfunctiondetail(){return$this->hasMany('App\OrderDetail','fid','id');}publicfunctionget

php - imagecreatefromstring(): Data is not in a recognized format in

以下是我获取图片的方式:$coverurl='https://api.someurl/api/v1/img/'.$somenumber.'/l';//$iheaderscontains:'Content-type'=>'image/jpeg'$iresponse=wp_remote_get($coverurl,$iheaders);$img=$iresponse['body'];$testimg=base64_encode($img);当我用img标签回显$testimg时,一切正常。echo'';因为我需要将字符串转换为jpg并将其保存到我的上传文件夹中,所以我尝试使用imagecr

php - 如何在 DBALException 后重新打开 Doctrine Entity Manager

我有一个带有Symfony2的控制台应用程序,该脚本在cron(终端)上运行。但是,在\Doctrine\DBAL\DBALException之后,脚本抛出N\Doctrine\ORM\ORMException并显示消息“TheEntityManagerisclosed.”。这是脚本的一部分:try{$this->getDoctrine()->getConnection()->beginTransaction();//...$manager=$this->getDoctrine()->getManager();$entity=newPost();$entity->setAuthor($