草庐IT

hadoop - 使用水槽如何仅以英语从推特流式传输推文?

我正在尝试流式传输关于死侍电影的英文推文并将其加载到我的hdfs。我将我的flume.conf配置为thisTwitterAgent.sources.Twitter.keywords=Deadpool但它会传输任何语言的所有推文,所以我如何只传输英语语言的推文? 最佳答案 看起来apachetwittersource和clouderatwittersource没有语言过滤。正如thispost中的建议您需要添加自己的推特源并运行以获得所需的结果。可以看看twitter官方客户端here

hadoop - 推特分析 hive 查询

我的table是,CREATEEXTERNALTABLEtwitter.tweets(idBIGINT,created_atSTRING,sourceSTRING,favoritedBOOLEAN,retweeted_statusSTRUCT,retweet_count:INT>,entitiesSTRUCT>,user_mentions:ARRAY>,hashtags:ARRAY>>,textSTRING,userSTRUCT,in_reply_to_screen_nameSTRING)PARTITIONEDBY(datehourINT)ROWFORMATSERDE'com.clou

json - HIVE - 加载推特 JSON 数据时出错

hive路径=/usr/local/hive/Hadoop路径=/usr/local/hadoop/Hadoop版本=2.6.0配置单元版本=2.3.2我在/input的路径和HDFS的/lib目录中添加了.jar>下载链接=here(hive-serdes-1.0-SNAPSHOT)我在Hiveshell中添加了.jar文件addjar/usr/local/hive/lib/hive-serdes-1.0-SNAPSHOT.jar;在创建外部表来存储来自JSON文件的数据时,出现以下错误CREATEEXTERNALTABLEtwitter(idBIGINT,textSTRING)RO

hadoop - 如何使用 pig 从 hdfs 加载推特数据?

我只是使用flume流式传输一些推特数据并将其集群到HDFS现在我尝试将它加载到pig中进行分析。由于默认的JsonLoader函数无法加载数据所以我在谷歌中搜索一些可以加载这种类型的库数据。我找到了这个link并按照那里的说明进行操作。这是结果REGISTER'/home/hduser/Downloads/json-simple-1.1.1.jar';2016-02-2220:54:46,539[main]INFOorg.apache.hadoop.conf.Configuration.deprecation-fs.default.nameisdeprecated.Instead,u

hadoop - 使用水槽将推特数据流式传输到 Hadoop 时出错

我在Ubuntu14.04上使用Hadoop-1.2.1我正在尝试使用Flume-1.6.0将数据从Twitter流式传输到HDFS。我已经下载了flume-sources-1.0-SNAPSHOT.jar并将其包含在flume/lib文件夹中。我在conf/flume-env.sh中将flume-sources-1.0-SNAPSHOT.jar的路径设置为FLUME_CLASSPATH。这是我的水槽代理conf文件:#settingpropertiesofagentTwitter-agent.sources=source1Twitter-agent.channels=channel1

java - Apache flume 推特代理不流数据

我正在尝试将Twitter提要流式传输到hdfs,然后使用配置单元。但是第一部分,流数据和加载到hdfs不工作,并给出空指针异常。这是我试过的。1.下载apache-flume-1.4.0-bin.tar。提取它。将所有内容复制到/usr/lib/flume/。在/usr/lib/中,我将所有者更改为水槽目录的用户。当我在/usr/lib/flume/中执行ls命令时,它显示binCHANGELOGconfDEVNOTESdocslibLICENSElogsNOTICEREADMERELEASE-NOTEStools2.移动到conf/目录。我将文件flume-env.sh.templ

php - 如何从推特中的oauth key 获取用户名

我正在使用Twitter的Oauth,我遇到了一个奇怪的问题。我如何仅使用他们的token和secret获取用户的个人资料信息?这是我现在用的functionOauthGetProfile($consumerkey,$consumersecret,$oauthtoken,$oauthsecret){$to=newTwitterOAuth($consumerkey,$consumersecret,$oauthtoken,$oauthsecret);$content=$to->OAuthRequest('http://twitter.com/statuses/user_timeline.x

php - 推特 API : Allow accept request to follow authenticated user

由于显示有年龄限制的内容,我有一个protectedTwitter帐户。有没有办法使用twitterAPI来接受或拒绝关注此帐户的请求。我知道我可以使用查看这些请求http://api.twitter.com/version/friendships/incoming.json但是哪个请求会接受一个请求。我在看http://api.twitter.com/version/friendships/create.json请求但这接缝是为了关注用户而不是接受让他们关注我的请求。 最佳答案 知道Twitter网络使用它自己的API来为其提供动

php - 流式传输多条推文 - 来自多个用户? - 推特 API

我在数据库中存储了一个很大的Twitter用户列表,将近1000。我想使用StreamingAPI来从这些用户流式传输推文,但我找不到合适的方法来执行此操作。非常感谢您的帮助。 最佳答案 根据TwitterAPIdocumentation,您最多只能使用流式API关注400个用户。不仅如此,您还必须requestanincreasedaccesslevel对于您用来访问API的帐户。 关于php-流式传输多条推文-来自多个用户?-推特API,我们在StackOverflow上找到一个类似

php - 推特 1.1 OAuth authenticity_token_error(99)

我使用以下代码获取不记名token:$token=base64_encode($client_id.':'.$client_sec);$data=array('grant_type'=>'client_credentials');$data=http_build_query($data);$header=array('Authorization:Basic'.$token,'Content-type:application/x-www-form-urlencoded;charset=UTF-8','Content-Length:'.strlen($data));$options=arr