草庐IT

database-integrity

全部标签

database - sqoop如何处理SQL Server DB锁?

关于从MicrosoftSQLServer将数据导入sqoop的主题。sqoop在运行importtable命令时如何处理数据库锁?更多信息:Sqoop正在使用JDBC驱动程序。 最佳答案 Sqoop通过获取所需的锁并尊重其他进程获取的冲突锁来处理数据库锁。和其他人一样。你到底在担心什么?Sqoop执行普通的INSERT操作。 关于database-sqoop如何处理SQLServerDB锁?,我们在StackOverflow上找到一个类似的问题: https

database - 什么时候数据大到可以使用 Hadoop?

关闭。这个问题是opinion-based.它目前不接受答案。想要改进这个问题?更新问题,以便editingthispost可以用事实和引用来回答它.关闭7年前。Improvethisquestion我的雇主运行一个Hadoop集群,由于我们的数据很少超过1GB,我发现很少需要Hadoop来满足我们办公室的需求(这不是大数据),但我的雇主似乎想要能够说我们正在使用我们的Hadoop集群,因此我们正在积极寻找需要使用我们强大的工具进行分析的数据。我看到一些报告说任何小于5tb的东西都不应该使用hadoop。Hadoop成为数据分析实用解决方案的神奇规模有多大?

database - HDFS vs NoSQL (HBASE),它是如何工作的?

我(几乎)浏览了谷歌上的所有资源,但没有得到有关Hadoop和NoSQL的信息。假设我有很多数据要存储。我使用Hadoop和它的原生高清文件系统,但我也想获得实时信息,所以我需要NoSQL。我的数据库将安装在哪里?在数据节点本身?在名称节点上?两者?让我们(再一次)想象一下,我的系统中有数据,namenode将把它分成几部分并将它们复制到不同的datanode上。使用NoSQL,它会以同样的方式工作吗?HDFS是否参与此过程?存储在NameNode中的元数据给出了地址,那么如何查询呢?我想我基本上理解了Hadoop和HBase的概念,但是当我进一步深入时,我就误解了..

database - 我无法通过 sqoop 所有表在 sqoop 中导入数据

[cloudera@quickstart~]$**sqoopimport-all-tables-m=4--connect"jdbc:mysql://quickstart.cloudera:3306/retail_db"--username=retail_dba--password=cloudera--warehouse-dir=/user/cloudera/sqoop-import**Warning:/usr/lib/sqoop/../accumulodoesnotexist!Accumuloimportswillfail.Pleaseset$ACCUMULO_HOMEtotheroo

database - Hive 中 collect_list(column) 的最大值

我在Hive中使用以下命令。并得到正确的结果。selectacct_id,collect_list(expr_dt)fromexperiences>groupbyacct_id;输出:900["2015-03-31"]707["2015-03-31","2014-12-10"]903["2015-03-31"]-435["2015-03-31"]718["2015-03-31","2014-06-03"]我想获取每个帐户的最大日期。当我尝试执行以下查询时出现错误。selectacct_id,max(collect_list(expr_dt))fromexperiences>groupb

java - Spark 2.0.0 抛出 AlreadyExistsException(消息 :Database default already exists) when interact with Hive 1. 0.0

我正在尝试使用SparkJava连接到Hive。当我通过Spark在Hive中运行任何查询时,它会返回如下异常:16/10/0609:37:56ERRORmetastore.RetryingHMSHandler:AlreadyExistsException(message:Databasedefaultalreadyexists)我的版本是:星火2.0.0hive1.0.0这是我的全部堆栈:16/10/0609:37:56ERRORmetastore.RetryingHMSHandler:AlreadyExistsException(message:Databasedefaultalr

database - 将数据加载到 impala 分区表中

我在HDFS中有以下目录结构中的数据:/exported/2014/07/01/00/SEARCHES/part-m-00000.bz2part-m-00001.bz2/exported/2014/07/01/02/SEARCHES/part-m-00000.bz2part-m-00001.bz2part-m-00003.bz2..../exported/2014/08/01/09/SEARCHES/part-m-00005.bz2每个子目录下有多个零件文件。我想将此数据集加载到impala表中,因此使用以下查询来创建表:CREATEEXTERNALTABLEsearch(time_s

database - 使用 mapreduce 作业连接到 MySql 数据库时出错

我正在尝试使用以下代码使用map-reduce作业连接到mysql数据库。我面临下面发布的以下错误。我在我的代码中放置了检查点这表明作业实际运行之前的作业部分正确运行,之后作业失败......importjava.io.DataInput;importjava.io.DataOutput;importjava.io.IOException;importjava.sql.PreparedStatement;importjava.sql.ResultSet;importjava.sql.SQLException;importjava.util.Iterator;importjava.uti

database - DBRecordReader 被创建了多少次?

下面是我对hadoop框架处理文本文件的看法。如果我在某处出错,请纠正我。每个映射器作用于包含一些记录的输入拆分。对于每个输入拆分,都会创建一个记录读取器,它开始从输入拆分读取记录。如果输入拆分中有n条记录,映射器中的map方法将被调用n次,然后使用记录读取器读取键值对。现在进入数据库视角我在单个远程节点上有一个数据库。我想从该数据库的表中获取一些数据。我将使用DBConfigure配置参数并使用DBInputFormat提及输入表。现在假设我的表总共有100条记录,我执行一个SQL查询,在输出中生成70条记录。我想知道:在上述情况(数据库)中如何创建InputSplits?输入拆分的

hadoop - Sqoop Teradata 连接器问题 - 错误 : The user does not have CREATE TABLE access to database

当我尝试从TeradataView导入表时,我遇到了Sqoop的Teradata连接器问题。我只能访问View。但不知何故,当sqoop作业开始时,它试图在我正在访问的TeradataDB中创建一个表,但无权在该DB/schema中创建任何表我低于错误13/05/3103:40:12ERRORtool.ImportTool:EncounteredIOExceptionrunningimportjob:com.teradata.hadoop.exception.TeradataHadoopSQLException:com.teradata.jdbc.jdbc_4.util.JDBCExc