Python fs.HDFSHelper类代码示例

OGeek|极客世界-中国程序员成长平台 › 门户 › 编程› Python›Python编程经验

原作者: [db:作者] 来自: [db:来源] 收藏邀请

本文整理汇总了Python中twitter.common.fs.HDFSHelper类的典型用法代码示例。如果您正苦于以下问题：Python HDFSHelper类的具体用法？Python HDFSHelper怎么用？Python HDFSHelper使用的例子？那么恭喜您, 这里精选的类代码示例或许可以为您提供帮助。

在下文中一共展示了HDFSHelper类的14个代码示例，这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞，您的评价将有助于我们的系统推荐出更棒的Python代码示例。

示例1: test_copy_to_local

 def test_copy_to_local(self):
   hdfs_helper = HDFSHelper("/etc/hadoop/hadoop-conf-tst-smf1",
                            command_class=MockCommandUtil)
   cmd = hdfs_helper.copy_to_local('text_file','dest')
   expected_cmd = "hdfs --config /etc/hadoop/hadoop-conf-tst-smf1 dfs " + \
     "-copyToLocal text_file dest"
   self.assertEqual(cmd, expected_cmd)

开发者ID:jayeye，项目名称:commons，代码行数:7，代码来源:hdfs_test.py

示例2: test_cat

 def test_cat(self):
   hdfs_helper = HDFSHelper("/etc/hadoop/hadoop-conf-tst-smf1",
                            command_class=MockCommandUtil)
   cmd = hdfs_helper.cat('text_file', 'local')
   expected_cmd = "hdfs --config /etc/hadoop/hadoop-conf-tst-smf1 dfs -cat " + \
     "text_file"
   self.assertEqual(cmd, expected_cmd)

开发者ID:jayeye，项目名称:commons，代码行数:7，代码来源:hdfs_test.py

示例3: test_read

 def test_read(self):
   hdfs_helper = HDFSHelper("/etc/hadoop/hadoop-conf-tst-smf1",
                            command_class=MockCommandUtil)
   read_text = hdfs_helper.read('somefile')
   self.assertEqual("read_test", read_text)
   read_text = hdfs_helper.read('non_exist')
   self.assertEqual(None, read_text)

开发者ID:jayeye，项目名称:commons，代码行数:7，代码来源:hdfs_test.py

示例4: test_hdfs_lsr

 def test_hdfs_lsr(self):
     hdfs_helper = HDFSHelper("/etc/hadoop/hadoop-conf-tst-smf1", command_class=MockCommandUtil)
     expected_output = [["tejal.txt", 6], ["tejal txt", 6]]
     expected_output_dir = [["hadoop_dir/test_dir", 68]]
     cmd = hdfs_helper.lsr("path")
     self.assertEqual(cmd, expected_output)
     cmd = hdfs_helper.lsr("path", True)
     self.assertEqual(cmd, expected_output_dir)

开发者ID:UrbanCompass，项目名称:commons，代码行数:8，代码来源:hdfs_test.py

示例5: test_hadoop_v1

 def test_hadoop_v1(self):
   hdfs_helper = HDFSHelper("/etc/hadoop/hadoop-conf-tst-smf1",
                            command_class=MockCommandUtil,
                            use_hadoop_v1=True)
   cmd = hdfs_helper.get(['src'],"dst")
   expected_cmd = "hadoop --config /etc/hadoop/hadoop-conf-tst-smf1 dfs -get src dst"
   self.assertEqual(cmd, expected_cmd)
   cmd = hdfs_helper.mkdir('dest')
   expected_cmd = "hadoop --config /etc/hadoop/hadoop-conf-tst-smf1 dfs -mkdir dest"
   self.assertEqual(cmd, expected_cmd)
   cmd = hdfs_helper.cp('src','dest')
   expected_cmd = "hadoop --config /etc/hadoop/hadoop-conf-tst-smf1 dfs -cp src dest"
   self.assertEqual(cmd, expected_cmd)

开发者ID:jayeye，项目名称:commons，代码行数:13，代码来源:hdfs_test.py

示例6: test_hdfs_ls

 def test_hdfs_ls(self):
     hdfs_helper = HDFSHelper("/etc/hadoop/hadoop-conf-tst-smf1", command_class=MockCommandUtil)
     cmd = hdfs_helper.ls("path", True)
     expected_output_dir = [["hadoop_dir/test_dir", 68]]
     expected_output = [["tejal.txt", 6], ["tejal txt", 6]]
     self.assertEqual(cmd, expected_output_dir)
     cmd = hdfs_helper.ls("path")
     self.assertEqual(cmd, expected_output)
     # Empty path
     cmd = hdfs_helper.ls("empty", True)
     self.assertTrue(not cmd)
     # Return code 255
     self.assertRaises(HDFSHelper.InternalError, hdfs_helper.ls, "non_existing", True)

开发者ID:UrbanCompass，项目名称:commons，代码行数:13，代码来源:hdfs_test.py

示例7: fetch

  def fetch(self, uri, directory):
    log.info("Fetching %s from HDFS" % uri)

    if "JAVA_HOME" in os.environ:
      log.info("Using JAVA_HOME '%s' for HDFS commands" % os.environ["JAVA_HOME"])

    config = os.environ.get("HADOOP_CONF_DIR", HADOOP_CONF_DIR)
    h = HDFSHelper(config, heap_limit=Amount(256, Data.MB))
    try:
      f = lambda: h.copy_to_local(uri, directory)
      deadline(f, timeout=self._timeout, propagate=True, daemon=True)
    except HDFSHelper.InternalError as e:
      raise self.Error('Unable to fetch HDFS package: %s' % e)
    except Timeout as e:
      raise self.Error("Failed to fetch package from HDFS within : %s" % (self._timeout, e))

开发者ID:GavinHwa，项目名称:mysos，代码行数:15，代码来源:hdfs.py

示例8: test_mv

 def test_mv(self):
   hdfs_helper = HDFSHelper("/etc/hadoop/hadoop-conf-tst-smf1",
                            command_class=MockCommandUtil)
   cmd = hdfs_helper.mv('src', 'dest')
   expected_cmd = "hdfs --config /etc/hadoop/hadoop-conf-tst-smf1 dfs -mv src dest"
   self.assertEqual(cmd, expected_cmd)

开发者ID:jayeye，项目名称:commons，代码行数:6，代码来源:hdfs_test.py

示例9: test_write

 def test_write(self):
   hdfs_helper = HDFSHelper("/etc/hadoop/hadoop-conf-tst-smf1",
                            command_class=MockCommandUtil)
   self.assertEqual(True, hdfs_helper.write('somefile',"write_text"))

开发者ID:jayeye，项目名称:commons，代码行数:4，代码来源:hdfs_test.py

示例10: test_exists

 def test_exists(self):
   hdfs_helper = HDFSHelper("/etc/hadoop/hadoop-conf-tst-smf1",
                            command_class=MockCommandUtil)
   self.assertEquals(0, hdfs_helper.exists('hadoop_dir'))

开发者ID:jayeye，项目名称:commons，代码行数:4，代码来源:hdfs_test.py

示例11: test_get

 def test_get(self):
   hdfs_helper = HDFSHelper("/etc/hadoop/hadoop-conf-tst-smf1",
                            command_class=MockCommandUtil)
   cmd = hdfs_helper.get(['src'],"dst")
   expected_cmd = "hdfs --config /etc/hadoop/hadoop-conf-tst-smf1 dfs -get src dst"
   self.assertEqual(cmd, expected_cmd)

开发者ID:jayeye，项目名称:commons，代码行数:6，代码来源:hdfs_test.py

示例12: test_rm

 def test_rm(self):
   hdfs_helper = HDFSHelper("/etc/hadoop/hadoop-conf-tst-smf1",
                            command_class=MockCommandUtil)
   cmd = hdfs_helper.rm('dest')
   expected_cmd = "hadoop --config /etc/hadoop/hadoop-conf-tst-smf1 dfs -rm dest"
   self.assertEqual(cmd, expected_cmd)

开发者ID:EricCen，项目名称:commons，代码行数:6，代码来源:hdfs_test.py

示例13: test_copy_from_local

 def test_copy_from_local(self):
     hdfs_helper = HDFSHelper("/etc/hadoop/hadoop-conf-tst-smf1", command_class=MockCommandUtil)
     cmd = hdfs_helper.copy_from_local("text_file", "dest")
     expected_cmd = "hadoop --config /etc/hadoop/hadoop-conf-tst-smf1 dfs " + "-copyFromLocal text_file dest"
     self.assertEqual(cmd, expected_cmd)

开发者ID:UrbanCompass，项目名称:commons，代码行数:5，代码来源:hdfs_test.py

示例14: test_cp

 def test_cp(self):
     hdfs_helper = HDFSHelper("/etc/hadoop/hadoop-conf-tst-smf1", command_class=MockCommandUtil)
     cmd = hdfs_helper.cp("src", "dest")
     expected_cmd = "hadoop --config /etc/hadoop/hadoop-conf-tst-smf1 dfs -cp src dest"
     self.assertEqual(cmd, expected_cmd)

开发者ID:UrbanCompass，项目名称:commons，代码行数:5，代码来源:hdfs_test.py

注：本文中的twitter.common.fs.HDFSHelper类示例由纯净天空整理自Github/MSDocs等源码及文档管理平台，相关代码片段筛选自各路编程大神贡献的开源项目，源码版权归原作者所有，传播和使用请参考对应项目的License；未经允许，请勿转载。

鲜花

握手

雷人

路过

鸡蛋

该文章已有0人参与评论

请发表评论

全部评论

专题导读

More+

10-27 六六分期app的软件客服如何联系？(六六分期

11-06 可心卡盟:win10系统火狐flash插件崩溃怎么

11-06 亲亲特价:怎么删除回收站图标

11-06 济南大学虚拟社区:鲁大师节能降温的具体办

11-06 xlueops.exe:无线网络安装向导

11-06 女斗合众国:win7系统cf与主机连接不稳定怎

11-06 0xc000022-[cf烟雾头]cf怎么调烟雾头

11-06 qizideyouhuo:应用程序无法正常启动0xc0000

11-06 ipz-185:win7系统vcf文件怎么打开

11-06 傻哥蹦迪:win10系统s4怎么打开usb调试

11-06 八神浩树gtaste:回收站清空了怎么恢复

11-06 妖尾之黑色守护:win10系统电脑没有1440x900

11-06 校园至尊魔王小说:win7系统浏览网页时字体

11-06 女斗合众国:win10系统访问共享文件夹提示请

11-06 tokyo hot n0654:恢复win7系统默认字体一招

11-06 雨酷仙境:设置win7系统转移临时文件夹腾出

11-06 阿穆纳伊之杖:win7系统开始菜单在右边还原

11-06 tunespotting:win10系统火狐flash插件总是

11-06 甘尔葛分析师：计谋网站seo关键词暴涨有什

11-06 蔡贵霖: 计谋网站seo关键词暴涨有什么秘密

11-06 博益网首页:ao3网页版进入不了解决方法

11-06 漏斗子专栏: 网站数据分析小白易懂精华篇

11-06 见证双虹怎么做:win7系统开启telnet命令的

11-06 颾狐蝶蜋:系统资源不足无法完成请求的服务

11-06 国光中学校歌:提交网站到alexa查询详细步骤

11-06 西安有情天:静态网页和动态网页的区别

11-06 红木雅尚斋:外部链接构造对网站的好处

11-06 前官礼遇：防止域名劫持–增强域安全性的10

11-06 密传二转答案: 中文分词算法有哪些

11-06 金泉家园邮编:百度快照劫持的表现及应对方

Python log.debug函数代码示例发布时间：2022-05-27

Python exceptions.ExceptionalThread类代码示例发布时间：2022-05-27

Python util.grid_equal函数代码示例

1 Python 入门教程

Python入门教程 Python 是一种解释型、面向对象、动态数据类型的高级程序设计语言。 P

阅读：13539|2022-01-22

2 Python wikiutil.getFrontPage函数代码示例

Python wikiutil.getFrontPage函数代码示例

阅读：7158|2022-05-24

3 Python tests.group函数代码示例

Python tests.group函数代码示例

阅读：4030|2022-05-27

4 Python 简介

Python 简介 Python 是一个高层次的结合了解释性、编译性、互动性和面向对象的脚本

阅读：4027|2022-01-22

5 Python util.check_if_user_has_permission

Python util.check_if_user_has_permission函数代码示例

阅读：3757|2022-05-27

6 Python 操练实例98

Python 练习实例98 Python 100例题目：从键盘输入一个字符串，将小写字母全部转换成大

阅读：3490|2022-01-22

7 Python 环境搭建

Python 环境搭建本章节我们将向大家介绍如何在本地搭建 Python 开发环境。 Py

阅读：3002|2022-01-22

8 Python 基础语法

Python 基础语法 Python 语言与 Perl，C 和 Java 等语言有许多相似之处。但是，也

阅读：2594|2022-01-22

9 Python output.darkgreen函数代码示例

Python output.darkgreen函数代码示例

阅读：2593|2022-05-25

10 Python 中文编码

Python 中文编码前面章节中我们已经学会了如何用 Python 输出 Hello, World!，英文没

阅读：2277|2022-01-22

客服电话

电子邮件

Python fs.HDFSHelper类代码示例

示例1: test_copy_to_local

示例2: test_cat

示例3: test_read

示例4: test_hdfs_lsr

示例5: test_hadoop_v1

示例6: test_hdfs_ls

示例7: fetch

示例8: test_mv

示例9: test_write

示例10: test_exists

示例11: test_get

示例12: test_rm

示例13: test_copy_from_local

示例14: test_cp

请发表评论

全部评论

上一篇：

下一篇：

Python util.grid_equal函数代码示例

Python util.get_worker_name函数代码示例

Python util.get_webmention_target函数代

Python util.get_uuid函数代码示例

Python util.get_type_by_name函数代码示例

Python util.grid_equal函数代码示例

Python util.get_worker_name函数代码示例

Python util.get_webmention_target函数代

Python util.get_uuid函数代码示例

Python util.get_type_by_name函数代码示例

Python util.get_stdout函数代码示例

关于我们

产品与服务

解决方案

139-2527-9053