草庐IT

ftp_login

全部标签

hadoop - 如何从 FTP 服务器增量复制文件到 Hadoop HDFS

我们有一个FTP服务器,每天都有很多文件上传到FTP服务器,我需要把这些文件都拷贝到HDFS中。每次它应该只下载增量文件,即如果第一次下载了10个文件,然后FTP上传了5个新文件;在下一次工作迭代中,它应该只在HDFS中下载新的5个文件。我们没有使用Nifi或Kafka连接。我们有什么好的解决方案来完成这个任务。 最佳答案 您可以使用LFTP作业中的touch文件实现此目的,下面是我的解释和代码。查看每一步的评论。#!bin/bash#SomeConfigsTOUCHFILE='/somepath/inYourLocal/someF

hadoop - 如何从ftp服务器导入csv文件到hadoop(HDFS/HIVE/HBASE)?

我的源文件以csv格式位于ftp服务器中。我想将这些文件导入HDFS进行进一步处理。我不知道如何获取这些csv文件。谁能帮我解决这个问题? 最佳答案 您可以将此过程分为两步并将文件上传到hdfs。第一步:从ftp服务器下载文件并存储在本地。这应该有所帮助:TransferfilesfromFTPservertolocalunixserver第2步:在本地拥有文件后,您可以使用hadoopfs-put将文件传输到hdfs。例子。如果你的文件名是temp.csv你可以这样做:hadoopfs-puttemp.csv$hadoop_pat

hadoop - 将文件从 FTP 复制到 HDFS

IneedtocopyfilesfromFTPseveroutsidemyclustertoHadoopi.eHDFS.提前致谢。 最佳答案 你试过吗?FTPTOHDFS...您可以修改此代码并将File的参数更改为FTPaagrs[0],将HDFSPaht更改为args[1]。而不是将它作为hadoopjar运行。希望这会有所帮助... 关于hadoop-将文件从FTP复制到HDFS,我们在StackOverflow上找到一个类似的问题: https://s

php - 用于 php 的完全面向对象的 Ftp 库

我试图构建一个应用程序,它将一些文件从各种ftp服务器下载到本地目录。稍后我会将它们上传到其他ftp服务器。该应用程序是使用Zend框架构建的。问题是我在Zend框架中找不到处理ftp下载/上传功能的类。唯一可用的类是Zend_File_Transfer,它有以下注释:Note:LimitationThecurrentimplementationofZend_File_TransferislimitedtoHTTPPostUploads.Otheradapterssupportingdownloadsandotherprotocolswillbeaddedinfuturerelease

php - 将 .zip 文件上传到 FTP 并使用 PHP 解压缩

我正在尝试制作一个脚本来上传某个zip文件,当前为“test.zip”,然后将其解压缩。我在这个网站上找到了一些关于如何解压的答案,但不知道如何在FTP服务器上解压。请全部使用PHP。当前代码:$zip=newZipArchive;$zip->open('test.zip');$zip->extractTo('./');$zip->close();再次感谢:) 最佳答案 在解压缩之前,您可以使用表单上传zip(创建您自己的管理区域?/仅限本地主机?)。我从我的上传图片代码中复制了这个,并且只会上传.zip文件HTML部分:Pleas

php - 警告 : ftp_get(): Delete operation successful

我有一些代码可以从我们的开发服务器传输备份,它似乎随机地表现得很奇怪并给出以下错误/输出:Warning:ftp_get():Deleteoperationsuccessful.in/root/cron/get_dev_archives.phponline106ERRblahjob:Failedtogetfile:2013-09-25_18-22-04-blahjob_dev18.tgzPHPWarning:ftp_get():Deleteoperationsuccessful.in/root/cron/get_dev_archives.phponline106Warning:ftp_

php - 交响乐 2 : Setting a cookie for the current session upon login

是否可以在成功登录后设置sessioncookie?事件监听器?如果有,是哪个事件?我如何访问响应对象以将cookie附加到它? 最佳答案 您可以创建一个EventListener来监听kernel.responseEvent并修改响应。namespaceAcme\DemoBundle\EventListeneruseSymfony\Component\HttpKernel\Event\FilterResponseEvent;useSymfony\Component\HttpFoundation\Cookie;classAddMyC

php - 使用cakephp上传文件到ftp服务器?

有没有办法使用cakephp将文件上传到ftp服务器? 最佳答案 好吧,最终您将使用php:p这是一个让您入门的蛋糕组件:http://bin.cakephp.org/saved/31521当然还有老式的方式:http://php.net/manual/en/book.ftp.php 关于php-使用cakephp上传文件到ftp服务器?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questio

php - 找不到路径 "/login_check"的 Controller

我在使用symfony进行用户身份验证时遇到了问题。我的login_path工作正常,但check_path出现故障。我指定的路径给出了著名的Unabletofindthecontrollerforpath"/login_check"。也许您忘记在路由配置中添加匹配的路由?我看过其他帖子,他们似乎都在做我正在做的事情。我是symfony的新手,在理解这些概念时遇到了困难,因此非常感谢您的帮助。我正在使用Symfony2.1,如果这有区别的话。我相信我已经正确配置了一切:安全.ymlsecurity:encoders:Symfony\Component\Security\Core\Use

php - 在 php 中使用 ftp_get 感到困惑

我对一个房地产代理vebra导入脚本感到困惑,该脚本在被移动到另一个服务器之前运行良好,但现在这似乎根本不起作用。有谁知道为什么我会收到以下警告...Warning:ftp_get()[function.ftp-get]:Openingdatachannelforfiletransfer.in/home/username/public_html/includes/cron/import/vebra-import.phponline37Warning:ftp_get()[function.ftp-get]:TransferOKin/home/username/public_html/in