从零学习Hadoop之文件在HDFS中的读取和写入

从零学习Hadoop之文件在HDFS中的读取和写入
在《从零学习Hadoop之Hadoop的RPC机制》中介绍了Hadoop的RPC机制,本文接着讲述文件是如何在HDFS中进行读取和写入的,注意其中使用到RPC的地方。 文件的读取 客户端以及与之交互的HDFS、NameNode、DataNode的读取数据流如下图所示:     文件读取的过程如下: 使用HDFS提供的客户端开发库Client,向远程的NameNode发起RPC请求。 NameNode会视情况返回文件的部分或者全部Block列表,对于每个Blo...

从零学习Hadoop之Hadoop的RPC机制

从零学习Hadoop之Hadoop的RPC机制
说在前面的话 一般我们说了解的RPC(Remote Procedure Call,远程过程调用)机制都要面对两个问题: 对象调用方式; 序列/反序列化机制。 RPC架构如图所示: Hadoop自己实现了简单的RPC组件,依赖于Hadoop Writable类型的支持。 Hadoop Writable接口要求每个实现类都要确保将本类的对象正确序列化(writeObject)与反序列化(readObject)。因此,Hadoop RPC使用Java动态代理与反射实现对象的调用方式(...
Copyright © If Coding 保留所有权利.   Theme  Ality   

用户登录