草庐IT

hadoop - Sqoop 无法识别导入作业命令中的 --query 参数

我正在尝试将数据从mssql服务器导出到配置单元。我正在使用以下命令将数据从用户表导出到配置单元。sqoopimport--connect"jdbc:sqlserver://{ip}\LOCAL_INSTANCE;database=TEST_DB;user=sa;password=****"--table"Users_Table"--create-hive-table--hive-tableusers_export--target-dir/cdc/export/users--append--query"select*fromUsers_Table"我收到以下错误消息。至少,您必须指定-

hadoop - 关于Oozie/Sqoop的问题

我有几个问题:1.WhyisthereMapReduceprocessinSqooptoloaddatafromHDFStoMySQL?例如数据在目录中的HDFS中:/foo/barMySQLbar表加载数据,为什么会有MapReduce进程?sqoopexport--connectjdbc:mysql://localhost/hduser--tablefoo-m1--export-dir/foo/bar输入上述命令后,MapReduce进程开始执行。2.HowcanIenable/disablekeyinMySQLusingSqoop/Oozie?由于大量数据正在加载到MySQL,我

java - 在 Windows 上启动 sqoop 客户端时出错

根据installationdirections我跑:./bin/sqoop.sh客户端它返回错误:couldnotfindorloadmainclassorg.apache.sqoop.shell.SqoopShell我是第一次设置Sqoop。我在RedhatLinux上启动并运行了服务器。现在我被困在WindowsServer2012上运行客户端。我正在运行hadoopv2和sqoop-1.99.3-bin-hadoop200。在命令行中,我通过在命令行中运行“java-version”并看到“1.8.0”来验证是否安装了java。ScoopiswritteninJava1.6.那

hadoop - 从 Hive 加载数据到 MySQL 时出现 Sqoop 错误

从Hive加载数据到MySQL时出现sqoop错误错误信息是:java.lang.NumberFormatException:对于输入字符串==hive>CREATEEXTERNALTABLEIFNOTEXISTStest(idint,namestring)ROWFORMATDELIMITEDFIELDSTERMINATEDBY'\t'LINESTERMINATEDBY'\n'STOREDASTEXTFILELOCATION'/user/cloudera/test';==vi测试:1a2b==hadoopfs-puttest/user/cloudera==mysql>CREATETAB

postgresql - Sqoop安装从postgresql导出和导入

我刚刚安装了sqoop并正在测试它。我尝试使用sqoop将一些数据从hdfs导出到postgresql。当我运行它时,它抛出以下异常:java.io.IOException:Can'texportdata,pleasechecktasktrackerlogs。我想也可能是安装有问题。文件内容是:ustNU45MB1bA0gNbCO76iZP1039B2aoo45SI7eG935sC4k602IhFV2u2A4816yvy6R51LNhsV26mZ2yn6580Gp343Wk5Ag85VUfyp93P077j94f1Oj511LxJkg720H7NP99Dk40625g4KRp76Fw3

hadoop - 通过 oozie 进行 Sqoop 作业

我创建了一个名为TeamMemsImportJob的sqoop作业,它基本上将数据从sqlserver拉入hive。我可以通过运行以下命令通过unix命令行执行sqoop作业:sqoopjob–execTeamMemsImportJob如果我创建一个oozie作业,其中包含实际的scoopimport命令,它可以正常运行。但是,如果我创建oozie作业并通过它运行sqoop作业,我会收到以下错误:ooziejob-configTeamMemsImportJob.properties-run>>>InvokingSqoopcommandlinenow>>>4273[main]WARNor

hadoop - CDH 5.4.4 Sqoop 2 作业开始但从未运行

ClouderaCommunityPost在Cloudera5.4.4中使用Hue,当尝试运行Sqoop2作业时,它显示(i)Thejobisstarting...但它从未真正运行该作业。我在工作浏览器中看不到任何内容,在工作的SUBMISSIONS列表中也看不到任何内容。我在日志中也没有看到任何错误。这是在现有的Cloudera5.4.4(QuickStartVM)上,我假设所有组件都已正确预配置。不幸的是,我所要做的就是缺少错误消息和有用的报告。 最佳答案 在CDH5上,sqoop2服务器确实在/var/log/sqoop2/s

mysql - java.sql.SQLException : expection being thrown for SQOOP import 异常

当我尝试使用将存储在mysql数据库中的表存储到我的HDFS中时sqoopimport--connectjdbc:mysql://hostname1.com/mydb--usernameuser1--passwordpwd1--tableemp1;我遇到以下异常:Warning:/opt/cloudera/parcels/CDH-5.4.3-1.cdh5.4.3.p0.6/bin/../lib/sqoop/../accumulodoesnotexist!Accumuloimportswillfail.Pleaseset$ACCUMULO_HOMEtotherootofyourAccum

hadoop - hadoop和sqoop可以在不同机器上分开运行吗

我在新节点上安装了sqoop1.4.6,hadoop在不同的节点上运行。我可以让我的sqoop服务器使用现有的hadoop环境吗?我知道有一些参数“--hadoop-mapred-home”来设置hadoop路径,但这是在同一个节点中使用的。 最佳答案 Sqoop不需要所有的hadoop服务都在本地运行。它只需要一个hadoop客户端。安装hadoop客户端,设置HADOOP_HOME,添加与hadoop节点相同的配置文件。 关于hadoop-hadoop和sqoop可以在不同机器上分开

hadoop - 我如何编辑/更改现有的 sqoop 作业

我如何编辑/更改现有的sqoop作业?找不到与编辑现有sqoop作业相关的任何文档。请协助。 最佳答案 sqoop1文件没有编辑这一项作业,但是sqoop2可以修改。如果是sqoop1,你应该bin/sqoopjob--showyour-sync-job记住配置项bin/sqoopjob--deleteyour-sync-job然后sqoopjob--createsqooptest--import--connectjdbc:mysql://10.10.209.224:3306/sqoop--tableuserinfo--userna