【Java基础】-【io】

Java中的IO流

IOInput Output用于实现对数据的输入与输出操作Java把不同的输入/输出源键盘、文件、网络等抽象表述为流Stream。流是从起源到接收的有序数据有了它程序就可以采用同一方式访问不同的输入/输出源。

1. 按照数据流向可以将流分为输入流和输出流其中输入流只能读取数据、不能写入数据而输出流只能写入数据、不能读取数据。
2. 按照数据类型可以将流分为字节流和字符流其中字节流操作的数据单元是8位的字节而字符流操作的数据单元是16位的字符。
3. 按照处理功能可以将流分为节点流和处理流其中节点流可以直接从/向一个特定的IO设备磁盘、网络等读/写数据也称为低级流而处理流是对节点流的连接或封装用于简化数据读/写功能或提高效率也称为高级流。

Java提供了大量的类来支持IO操作下表给大家整理了其中比较常用的一些类。其中黑色字体的是抽象基类其他所有的类都继承自它们。红色字体的是节点流蓝色字体的是处理流。

根据命名很容易理解各个流的作用

1. 以File开头的文件流用于访问文件
2. 以ByteArray/CharArray开头的流用于访问内存中的数组
3. 以Piped开头的管道流用于访问管道实现进程之间的通信
4. 以String开头的流用于访问内存中的字符串
5. 以Buffered开头的缓冲流用于在读写数据时对数据进行缓存以减少IO次数
6. InputStreamReader、InputStreamWriter是转换流用于将字节流转换为字符流
7. 以Object开头的流是对象流用于实现对象的序列化
8. 以Print开头的流是打印流用于简化打印操作
9. 以Pushback开头的流是推回输入流用于将已读入的数据推回到缓冲区从而实现再次读取
10. 以Data开头的流是特殊流用于读写Java基本类型的数据。

怎么用流打开一个大文件

打开大文件应避免直接将文件中的数据全部读取到内存中可以采用分次读取的方式。可以使用缓冲流。缓冲流内部维护了一个缓冲区通过与缓冲区的交互减少与设备的交互次数。使用缓冲输入流时它每次会读取一批数据将缓冲区填满每次调用读取方法并不是直接从设备取值而是从缓冲区取值当缓冲区为空时它会再一次读取数据将缓冲区填满。使用缓冲输出流时每次调用写入方法并不是直接写入到设备而是写入缓冲区当缓冲区填满时它会自动刷入设备。
使用NIO。NIO采用内存映射文件的方式来处理输入/输出NIO将文件或文件的一段区域映射到内存中这样就可以像访问内存一样来访问文件了这种方式模拟了操作系统上的虚拟内存的概念通过这种方式来进行输入/输出比传统的输入/输出要快得多。

NIO的实现原理

Java的NIO主要由三个核心部分组成Channel、Buffer、Selector。
基本上所有的IO在NIO中都从一个Channel开始数据可以从Channel读到Buffer中也可以从Buffer写到Channel中。Channel有好几种类型其中比较常用的有FileChannel、DatagramChannel、SocketChannel、ServerSocketChannel等这些通道涵盖了UDP和TCP网络IO以及文件IO。
Buffer本质上是一块可以写入数据然后可以从中读取数据的内存。这块内存被包装成NIO Buffer对象并提供了一组方法用来方便的访问该块内存。Java NIO里关键的Buffer实现有CharBuffer、ByteBuffer、ShortBuffer、IntBuffer、LongBuffer、FloatBuffer、DoubleBuffer。这些Buffer覆盖了你能通过IO发送的基本数据类型即byte、short、int、long、float、double、char。
Buffer对象包含三个重要的属性分别是capacity、position、limit其中position和limit的含义取决于Buffer处在读模式还是写模式。但不管Buffer处在什么模式capacity的含义总是一样的。

1. capacity作为一个内存块Buffer有个固定的最大值就是capacity。Buffer只能写capacity个数据一旦Buffer满了需要将其清空才能继续写数据往里写数据。
2. position当写数据到Buffer中时position表示当前的位置。初始的position值为0。当一个数据写到Buffer后 position会向前移动到下一个可插入数据的Buffer单元。position最大可为capacity–1。当读取数据时也是从某个特定位置读。当将Buffer从写模式切换到读模式position会被重置为0。当从Buffer的position处读取数据时position向前移动到下一个可读的位置。
3. limit在写模式下Buffer的limit表示最多能往Buffer里写多少数据此时limit等于capacity。当切换Buffer到读模式时 limit表示你最多能读到多少数据此时limit会被设置成写模式下的position值。
   三个属性之间的关系如下图所示
   
   Selector允许单线程处理多个 Channel如果你的应用打开了多个连接通道但每个连接的流量都很低使用Selector就会很方便。要使用Selector得向Selector注册Channel然后调用它的select()方法。这个方法会一直阻塞到某个注册的通道有事件就绪。一旦这个方法返回线程就可以处理这些事件事件例如有新连接进来数据接收等。这是在一个单线程中使用一个Selector处理3个Channel的图示
   
   Java NIO中的Selector根据操作系统的不同有不同的实现
4. macosxKQueueSelectorProvider
5. solarisDevPollSelectorProvider
6. LinuxEPollSelectorProvider (Linux kernels >= 2.6)或PollSelectorProvider
7. windowsWindowsSelectorProvider

所以不需要特别指定Oracle JDK会自动选择合适的Selector。如果想设置特定的Selector可以设置属性例如 -Djava.nio.channels.spi.SelectorProvider=sun.nio.ch.EPollSelectorProvider。
JDK在Linux已经默认使用epoll方式但是JDK的epoll采用的是水平触发所以Netty自4.0.16起, Netty为Linux通过JNI的方式提供了native socket transport。Netty重新实现了epoll机制

1. 采用边缘触发方式
2. netty epoll transport暴露了更多的nio没有的配置参数如 TCP_CORK, SO_REUSEADDR等等
3. C代码更少GC更少synchronized。

Java的序列化与反序列化

序列化机制可以将对象转换成字节序列这些字节序列可以保存在磁盘上也可以在网络中传输并允许程序将这些字节序列再次恢复成原来的对象。其中对象的序列化Serialize是指将一个Java对象写入IO流中对象的反序列化Deserialize则是指从IO流中恢复该Java对象。若对象要支持序列化机制则它的类需要实现Serializable接口该接口是一个标记接口它没有提供任何方法只是标明该类是可以序列化的Java的很多类已经实现了Serializable接口如包装类、String、Date等。若要实现序列化则需要使用对象流ObjectInputStream和ObjectOutputStream。其中在序列化时需要调用ObjectOutputStream对象的writeObject()方法以输出对象序列。在反序列化时需要调用ObjectInputStream对象的readObject()方法将对象序列恢复为对象。

Serializable接口为什么需要定义serialVersionUID变量

serialVersionUID代表序列化的版本通过定义类的序列化版本在反序列化时只要对象中所存的版本和当前类的版本一致就允许做恢复数据的操作否则将会抛出序列化版本不一致的错误。如果不定义序列化版本在反序列化时可能出现冲突的情况例如

1. 创建该类的实例并将这个实例序列化保存在磁盘上
2. 升级这个类例如增加、删除、修改这个类的成员变量
3. 反序列化该类的实例即从磁盘上恢复修改之前保存的数据。

在第3步恢复数据的时候当前的类已经和序列化的数据的格式产生了冲突可能会发生各种意想不到的问题。增加了序列化版本之后在这种情况下则可以抛出异常以提示这种矛盾的存在提高数据的安全性。

除了Java自带的序列化之外还有哪些序列化工具

1. JSON目前使用比较频繁的格式化数据工具简单直观可读性好有jacksongsonfastjson等等比较优秀的JSON解析工具的表现还是比较好的有些json解析工具甚至速度超过了一些二进制的序列化方式。
   Protobuf一个用来序列化结构化数据的技术支持多种语言诸如C++、Java以及Python语言可以使用该技术来持久化数据或者序列化成网络传输的数据。相比较一些其他的XML技术而言该技术的一个明显特点就是更加节省空间以二进制流存储、速度更快以及更加灵活。另外Protobuf支持的数据类型相对较少不支持常量类型。由于其设计的理念是纯粹的展现层协议Presentation Layer目前并没有一个专门支持Protobuf的RPC框架。
2. Thrift是Facebook开源提供的一个高性能轻量级RPC服务框架其产生正是为了满足当前大数据量、分布式、跨语言、跨平台数据通讯的需求。 但是Thrift并不仅仅是序列化协议而是一个RPC框架。 相对于JSON和XML而言Thrift在空间开销和解析性能上有了比较大的提升对于对性能要求比较高的分布式系统它是一个优秀的RPC解决方案。但是由于Thrift的序列化被嵌入到Thrift框架里面 Thrift框架本身并没有透出序列化和反序列化接口这导致其很难和其他传输层协议共同使用例如HTTP。
3. Avro提供两种序列化格式即JSON格式或者Binary格式。Binary格式在空间开销和解析性能方面可以和Protobuf媲美 JSON格式方便测试阶段的调试。 Avro支持的数据类型非常丰富包括C++语言里面的union类型。Avro支持JSON格式的IDL和类似于Thrift和Protobuf的IDL实验阶段这两者之间可以互转。Schema可以在传输数据的同时发送加上JSON的自我描述属性这使得Avro非常适合动态类型语言。 Avro在做文件持久化的时候一般会和Schema一起存储所以Avro序列化文件自身具有自我描述属性所以非常适合于做Hive、Pig和MapReduce的持久化数据格式。对于不同版本的Schema在进行RPC调用的时候服务端和客户端可以在握手阶段对Schema进行互相确认大大提高了最终的数据解析速度。

如果不用JSON工具如何实现对实体类的序列化

1. 可以使用Java原生的序列化机制但是效率比较低一些适合小项目
2. 可以使用其他的一些第三方类库比如Protobuf、Thrift、Avro等。