草庐IT

list_items

全部标签

R - Hadoop - rmr2 - SVM 模型 - 将结果 "list"类转换为原始类 "svm.formula" "svm"

我有以下R配置:操作系统:LinuxR版本3.0.1(2013-05-16)rmr2版本2.2.1rhdfs版本1.0.6hadoop版本1.2.0如何使用带rmr2包的hadoop转换svm模型的结果?所以我可以像往常一样使用构建的模型:predict(svm1,"newdata")我有以下代码:#seteviremonetvariablesSys.setenv(HADOOP_CMD="~/Downloads/hadoop-1.2.0/bin/hadoop")Sys.setenv(HADOOP_HOME="~/Downloads/hadoop-1.2.0/")#starthadoop

hadoop - 将基于 Mahout Item 的推荐器输出格式更改为表格

我正在使用基于MahoutItem的推荐算法,最后当我们得到“XXX[y:z,y2;z2......]”格式的结果时。我想在其上创建一个表格,格式为:XXXyzXXXy2z2为此我正在使用HIVE。所以我创建了一个表,然后使用“explode()”函数,但问题是“[”也出现在结果中作为XXX[yz..XXXyzn]如何从结果中删除括号。 最佳答案 我会使用regexp_replace函数(documentation)过滤掉方括号,然后像您已经做的那样使用explode。 关于hadoop

hadoop - pig 脚本 : Find sum of items in a group

这是我要运行的行counts=FOREACHz{sum=SUM(B::counter);GENERATEgroupasA::month,sum;};但是我收到以下错误:Invalidfieldprojection.Projectedfield[B::counter]doesnotexistinschema:group:chararray,y:bag{:tuple(A::id:chararray,A::month:chararray,B::counter:int)}.如何对这样一个包含基于一列分组的元组包的模式进行求和聚合? 最佳答案

hadoop - Map reduce value list顺序问题

正如我们所知,Hadoop按键对值进行分组,并将它们发送到同一个reduce任务。假设我在hdfs上的文件中有下一行。第1行2号线3号线....亚麻在maptask中,我打印文件名和行。在reduce中,我收到了不同的订单。例如key=>{line3,line1,line2,....}现在,我有下一个问题。我想得到这个值列表,以便它们位于文件中,作为key=>{line1,line2,...linen}有什么办法吗? 最佳答案 如果您使用TextInputFormat,你会得到一个作为映射器输入。LongWritable部分(或键)

hadoop - Java 映射减少 : how to store a list of LONGs in Hadoop Output

我有一个MapReduceJava程序,它输出一个数字列表作为String作为最终输出。但是数量比较长,占用空间太大。我想将每个数字转换为Long并存储。我怎样才能做到这一点? 最佳答案 ArrayWritable可以扩展为publicclassLongArrayWritableextendsArrayWritable{publicLongArrayWritable(){super(Text.class);}publicLongArrayWritable(LongWritable[]values){super(LongWritabl

java - Hadoop - 类型不匹配 : cannot convert from List<Text> to List<String>

我要转换TextdistinctWords[]至List使用此代码:ListasList=Arrays.asList(distinctWords);但是报错Hadoop-Typemismatch:cannotconvertfromListtoList.如何转换List至List? 最佳答案 因为Text不是String,所以不能直接转换。但是,这可以通过简单的for-each来完成:Liststrings=newArrayList();for(Texttext:distinctWords){strings.add(text.toSt

Django数据库查询集数据(Queryset)转化为json,查询value和value_list的用法,json.loads和json.dumps

文章目录先简单回顾一下json和字典的区别问题概述报错问题解决方法一(最原始的方法):方法二(给filter后加个values):方法三(直接按model层设置格式转换)新建toJSon.py调用返回结果many=True源码分析(引用)问题总结Django-ORMvalues、values_list区别先简单回顾一下json和字典的区别json字典json是一种格式字典(dict)是一种数据结构json是类字典的形式,里面的键必须是双引号的字符串dict字典里面的键单、双引号的字符串都可以json的key可以是有序、重复的字典(dict)的键(key)不可重复问题概述我们在用Django写a

hadoop - Hadoop 不应该仅基于 hashCode 在 reducer 中分组 <key, (list of values) 吗?

我决定创建自己的WritableComparable类来了解Hadoop如何使用它。因此,我创建了一个带有两个实例变量(orderNumbercliente)的Order类并实现了所需的方法。我还为getters/setters/hashCode/equals/toString使用了Eclipse生成器。在compareTo中,我决定只使用orderNumber变量。我创建了一个简单的MapReduce作业,仅用于计算数据集中订单的出现次数。我的一个测试记录错误地是Ita而不是Itá,正如你在这里看到的:123Ita123Itá123Itá345Carol345Carol345Caro

hadoop - 'yarn application -list' 没有显示任何结果

我在YARN集群上运行了一些Spark应用程序。该应用程序显示在YARNUI的“所有应用程序”页面中http://host:8088/cluster但是yarnapplication-list命令没有给出任何结果。这可能是什么原因造成的? 最佳答案 当您使用不带“-appTypes”或“-appStates”选项的“-list”选项时,它会对“应用程序类型”和“状态”应用默认过滤(请查看下面突出显示的部分)。如果您的所有应用程序都不符合默认过滤条件,那么您将得不到任何结果。申请总数(申请类型:[]和状态:[SUBMITTED、ACC

hadoop - HBase 批量写入 : which one better on performance, 还是 put(List<Put>)?

开始学习HBase写数据流。我使用HTableInterface并且在性能上有问题。仅插入500行就花费了很多时间,我插入的每个批处理List将近500,000毫秒。关于使用HTableInterface批量写入HTable的任何示例或建议?我正在使用HBase0.94谢谢 最佳答案 它们本质上是一样的:batch(Listactions,Object[]results)不仅允许放置,还允许获取、删除、递增...put(Listputs)只需做一批put(它还会在客户端验证它们)。您还可以通过禁用table.setAutoFlush