• linkedu视频
  • 平面设计
  • 电脑入门
  • 操作系统
  • 办公应用
  • 电脑硬件
  • 动画设计
  • 3D设计
  • 网页设计
  • CAD设计
  • 影音处理
  • 数据库
  • 程序设计
  • 认证考试
  • 信息管理
  • 信息安全
菜单
linkedu.com
导航菜单
  • 网页制作
  • 数据库
  • 程序设计
  • 操作系统
  • CMS教程
  • 游戏攻略
  • 脚本语言
  • 平面设计
  • 软件教程
  • 网络安全
  • 电脑知识
  • 服务器
  • 视频教程
  • windows
  • 服务器硬件
  • 服务器运维
  • 云计算
  • 虚拟化
  • IIS教程
  • Linux
  • Apache
  • Ftp
  • DNS
  • Nginx
您的位置:首页 > 服务器 >云计算 > Hadoop向HDFS写入、删除、读取文件,

Hadoop向HDFS写入、删除、读取文件,

作者:网友 字体:[增加 减小] 来源:互联网

本文主要包含hadoop hdfs,hadoop hdfs命令,hadoop 查看hdfs,hadoop中hdfs,hadoop hdfs site.xml等服务器相关知识,网友希望可以进行参考

Hadoop向HDFS写入、删除、读取文件,


先说说遇到的一些问题:

1、比如Configuration  这个如果点Eclipse的红色小叉,。里面的import是会导入错误的东西的。。。。好几个类或者方法都会出现这个问题

2、用了几个网上的代码,莫名其妙错误,然后自己看书  结合网上代码改改 得到的下面版本

3、byte[]数组开得比较大然后写入的话,会存在问题是写入很多0,我的方法比较笨,对string判断,为0的之后的就不写。。

我实现的功能是把文件内容读入,删除,在建立一个同名文件写入新的东西

import java.net.URI;
import java.util.Arrays;
import java.io.*;

import org.apache.hadoop.io.*;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.*;
import org.apache.hadoop.fs.FileSystem;

public class FileSystemCat {
	public static void main(String[] args) throws IOException{
		String uri =  args[0];
		String uro = args[0];
		Configuration conf = new Configuration();
		try {
			FileSystem fs = FileSystem.get(URI.create(uri), conf);
			//FileSystem hdfs = FileSystem.get(URI.create(uro), conf);
			FSDataInputStream in = fs.open(new Path(uri));
			//IOUtils.copyBytes(in, System.out,4096,false);
			//in.seek(1);
			//IOUtils.copyBytes(in, System.out,4096, false);
			//文件读取
			byte[] ioBuffer = new byte[1024];  
	        int readLen = in.read(ioBuffer);      
	        while(readLen!=-1)  
	        {  
	            readLen = in.read(ioBuffer);  
	        }  
	        String str = new String(ioBuffer);
            int cnt=0;
	        while((int)(str.charAt(cnt)) != 0)cnt++;
	        str=str.substring(0, cnt);
	        System.out.println(str);
	        in.close();  
	        //文件的删除
	       fs.delete(new Path(uri), true);
	       //文件的写入
	        FSDataOutputStream out = fs.create(new Path(uro));			
	        out.write(("new1"+str).getBytes("UTF-8"));
	        out.flush();
	        out.sync();
	        out.close();
	        fs.close();
		} catch (Exception e) {
			e.printStackTrace();
		}
		
	}
}


分享到:QQ空间新浪微博腾讯微博微信百度贴吧QQ好友复制网址打印

您可能想查找下面的文章:

  • HDFS API基本操作,hdfsapi基本操作
  • Hadoop之——重新格式化hdfs系统的方法,hadoop格式化hdfs
  • Hadoop之——HDFS随笔,hadoophdfs
  • Hadoop之——HDFS命令,hadoophdfs
  • Hadoop向HDFS写入、删除、读取文件,
  • HDFS命令行接口详解,hdfs命令行详解

相关文章

  • HBase常用操作之namespace,hbasenamespace
  • 如何动态地给vSphere虚拟机模板注入信息,vsphere虚拟机
  • kerberos下HBase访问Zookeeper的ACL问题,hbasezookeeper
  • hive优化-----控制hive任务的reduce数,hivereduce
  • 大师Geoff Hinton关于Deep Neural Networks的建议,geoffhinton
  • Hadoop之——HDFS命令,hadoophdfs
  • hadoop 运行jar文件,
  • redshift的约束策略,redshift约束策略
  • hive的变量传递设置,hive变量传递设置
  • Zoho产品经理谈中小企业面临的挑战及应对之策,zoho产品经理

文章分类

  • windows
  • 服务器硬件
  • 服务器运维
  • 云计算
  • 虚拟化
  • IIS教程
  • Linux
  • Apache
  • Ftp
  • DNS
  • Nginx

最近更新的内容

    • chinapub读书会第4期:企业级大数据应用与实践,chinapub读书会
    • Hadoop之——数据类型,hadoop数据类型
    • openstack中glance组件images的所有python API 汇总,openstackglance
    • Windows上用VAGRANT创建运行管理VirtualBox虚拟机,vagrantvirtualbox
    • spark-OutOfMemory:GC overhead limit exceeded 解决,timelimitexceeded
    • 1006-HBase操作实战(JAVA API模式),1006-hbaseapi
    • 《转》Ubuntu14.04 openstack juno配置之 ceilometer遥测模块安装配置,《转》ubuntu14.04
    • Java MapReduce详解--(3),mapreduce详解
    • shell命令curl抓取网页内容-下载xls文件,
    • Hadoop 使用常见问题,hadoop使用常见问题

关于我们 - 联系我们 - 免责声明 - 网站地图

©2020-2025 All Rights Reserved. linkedu.com 版权所有