草庐IT

schema-design

全部标签

java - 将 Java 应用程序迁移到 Hadoop : Architecture/Design Roadblocks?

Alrite..所以..这是一种情况:我负责构建基于Java的ETL软件(更确切地说是EAI)的迁移。我必须将其迁移到Hadoop(apache版本)。现在,从技术上讲,这更像是重新启动而不是迁移——因为我没有要迁移的数据库。这是关于利用Hadoop,以便(“ETL”的)转换阶段是并行化的。这将使我的ETL软件,更快-转换并行化。可扩展-处理更多数据/大数据就是添加更多节点。可靠-Hadoop的冗余性和可靠性将增加我的产品的功能。我已经测试了这个配置-将我的转换算法更改为mapreduce模型,在高端Hadoop集群上对其进行了测试,并对性能进行了基准测试。现在,我正在尝试了解并记录所

php - 运行 "No such file or directory"时的故障排除 `php app/console doctrine:schema:create`

我是Symfony2(beta4)和Doctrine的新手,当我尝试通过命令行创建数据库架构时遇到问题。这是错误:$phpapp/consoledoctrine:schema:createCreatingdatabaseschema...[PDOException]SQLSTATE[HY000][2002]Nosuchfileordirectory[ErrorException]Warning:PDO::__construct():[2002]Nosuchfileordirectory(tryingtoconnectviaunix:///var/mysql/mysql.sock)in/

php - 运行 "No such file or directory"时的故障排除 `php app/console doctrine:schema:create`

我是Symfony2(beta4)和Doctrine的新手,当我尝试通过命令行创建数据库架构时遇到问题。这是错误:$phpapp/consoledoctrine:schema:createCreatingdatabaseschema...[PDOException]SQLSTATE[HY000][2002]Nosuchfileordirectory[ErrorException]Warning:PDO::__construct():[2002]Nosuchfileordirectory(tryingtoconnectviaunix:///var/mysql/mysql.sock)in/

java - 读取 Avro 文件给出 AvroTypeException : missing required field error (even though the new field is declared null in schema)

我正在尝试反序列化/读取Avro文件,avro数据文件没有新字段。即使新字段在模式中声明为null,它也应该是可选的。但它仍然给我错误作为强制性的。Exceptioninthread"main"org.apache.avro.AvroTypeException:Foundcom.kiran.avro.User,expectingcom.kiran.avro.User,missingrequiredfieldlocAVRO模式声明:{"name":"loc","type":["string","null"]}使用代码读取文件:DatumReaderuserDatumReader=newS

sql-server - Sqoop 导出到 SQL Server : schemas?

我想将HDFS中的数据导出到架构my_schema中的SQLServer表。我试过像导入命令一样的--schema:sqoopexport\--libjars/opt/mapr/sqoop/sqoop-1.4.6/lib/sqljdbc4.jar\--connect"jdbc:sqlserver://MY-SERVER-DNS;database=my_db;"\--schema"myschema"\--table"my_table"\--export-dir/path/to/my/hdfs/dirERRORtool.BaseSqoopTool:Unrecognizedargument:

database-design - Hadoop Hbase : Spreading column families across tables or not

Hbase的文档说的很清楚,相似的列应该归为列族,因为物理存储是由列族来完成的。但是将两个列族放在同一个表中,而不是每个列组都有单独的表,这意味着什么?是否存在以这种方式“分区”表更有意义的特定情况,以及一个“宽”表效果更好的情况?单独的表应该导致单独的“行区域”,这在一些列族(作为一个整体)非常稀疏时可能是有益的。相反,什么时候将列系列聚集在一起比较有利? 最佳答案 您已经了解了列族的概念:基本上,它只是提示HBase将这些项目存储和复制在一起以便更快地访问。如果您将两个列族放在同一个表中,并且总是有不同的键来访问它们,那么这实际

php - Symfony2 - 学说 :schema:update fails with entity outside of a bundle ( decoupled )

我正在阅读这篇文章:http://danielribeiro.org/yes-you-can-have-low-coupling-in-a-symfony-standard-edition-application/作者提到项目可以有这样的结构:src/└──Vendor/└──Product/└──Bundle└──BlogBundle/└──ForumBundle/└──SiteBundle/└──Controller/└──IndexController.php└──Resources/└──views/└──index.html.twig└──ProductSiteBundle.

php - CakePHP 对非对象成员函数 schema() 的 fatal error 调用

我在为此找到解决方案时遇到了一些麻烦..Error:Calltoamemberfunctionschema()onanon-objectFile:/Cake/Model/Model.phpLine:3627在我的数据库中有表articles、hashtags和关联articles_hashtags与外键article_id和hashtag_id..所以我正在尝试获取每篇文章的主题标签的信息..我的文章模型classArticleextendsAppModel{public$hasAndBelongsToMany=array('Hashtag'=>array('className'=>'

php - Doctrine 2.orm :schema-tool:update . 设置起始id

当我使用./bin/doctrineorm:fixtures:load用示例数据填充表时,首先迁移设置自动增量表ID,如1,2,3,4,5等...在第二个orm:fixtures:load迁移命令之后,它会清除所有数据并设置id,如5、6、7、8、9等等...当我多次加载灯具时,如何将AIid计数器重置为1? 最佳答案 $app/consolehelpdoctrine:fixtures:load默认情况下,DoctrineDataFixtures使用DELETE语句从中删除现有行数据库。如果您想使用TRUNCATE语句,您可以使用-

php - 将错误转换为异常 : design flaw?

我最近发现一些代码使用自定义错误处理程序将任何PHP错误转换为通用应用程序异常。还定义了一个自定义异常处理程序,如果它在特定的错误代码范围内,它将记录异常。示例:classAppExceptionextendsException{}functionerror_handler($errno,$errstr,$errfile,$errline){thrownewAppException($errstr,$errno);}functionexception_handler($exception){$min=...;$max=...;if($exception->getCode()>=$min