Netty中粘包和拆包的解决方案

粘包和拆包是TCP网络编程中不可避免的,无论是服务端还是客户端,当我们读取或者发送消息的时候,都需要考虑TCP底层的粘包/拆包机制。

TCP粘包和拆包

TCP是个“流”协议,所谓流,就是没有界限的一串数据。TCP底层并不了解上层业务数据的具体含义,它会根据TCP缓冲区的实际情况进行包的划分,所以在业务上认为,一个完整的包可能会被TCP拆分成多个包进行发送,也有可能把多个小的包封装成一个大的数据包发送,这就是所谓的TCP粘包和拆包问题。

img

如图所示,假设客户端分别发送了两个数据包D1和D2给服务端,由于服务端一次读取到的字节数是不确定的,故可能存在以下4种情况。

  1. 服务端分两次读取到了两个独立的数据包,分别是D1和D2,没有粘包和拆包;
  2. 服务端一次接收到了两个数据包,D1和D2粘合在一起,被称为TCP粘包;
  3. 服务端分两次读取到了两个数据包,第一次读取到了完整的D1包和D2包的部分内容,第二次读取到了D2包的剩余内容,这被称为TCP拆包
  4. 服务端分两次读取到了两个数据包,第一次读取到了D1包的部分内容D1_1,第二次读取到了D1包的剩余内容D1_2和D2包的整包。

如果此时服务端TCP接收滑窗非常小,而数据包D1和D2比较大,很有可能会发生第五种可能,即服务端分多次才能将D1和D2包接收完全,期间发生多次拆包。

TCP粘包和拆包产生的原因

数据从发送方到接收方需要经过操作系统的缓冲区,而造成粘包和拆包的主要原因就在这个缓冲区上。粘包可以理解为缓冲区数据堆积,导致多个请求数据粘在一起,而拆包可以理解为发送的数据大于缓冲区,进行拆分处理。

img

详细来说,造成粘包和拆包的原因主要有以下三个:

  1. 应用程序write写入的字节大小大于套接口发送缓冲区大小
  2. 进行MSS大小的TCP分段
  3. 以太网帧的payload大于MTU进行IP分片。

img

粘包和拆包的解决方法

由于底层的TCP无法理解上层的业务数据,所以在底层是无法保证数据包不被拆分和重组的,这个问题只能通过上层的应用协议栈设计来解决,根据业界的主流协议的解决方案,可以归纳如下。

  1. 消息长度固定,累计读取到长度和为定长LEN的报文后,就认为读取到了一个完整的信息
  2. 将回车换行符作为消息结束符
  3. 将特殊的分隔符作为消息的结束标志,回车换行符就是一种特殊的结束分隔符
  4. 通过在消息头中定义长度字段来标识消息的总长度

Netty中的粘包和拆包解决方案

针对上一小节描述的粘包和拆包的解决方案,对于拆包问题比较简单,用户可以自己定义自己的编码器进行处理,Netty并没有提供相应的组件。对于粘包的问题,由于拆包比较复杂,代码比较处理比较繁琐,Netty提供了4种解码器来解决,分别如下:

  1. 固定长度的拆包器 FixedLengthFrameDecoder,每个应用层数据包的都拆分成都是固定长度的大小
  2. 行拆包器 LineBasedFrameDecoder,每个应用层数据包,都以换行符作为分隔符,进行分割拆分
  3. 分隔符拆包器 DelimiterBasedFrameDecoder,每个应用层数据包,都通过自定义的分隔符,进行分割拆分
  4. 基于数据包长度的拆包器 LengthFieldBasedFrameDecoder,将应用层数据包的长度,作为接收端应用层数据包的拆分依据。按照应用层数据包的大小,拆包。这个拆包器,有一个要求,就是应用层协议中包含数据包的长度

以上解码器在使用时只需要添加到Netty的责任链中即可,大多数情况下这4种解码器都可以满足了,当然除了以上4种解码器,用户也可以自定义自己的解码器进行处理。具体可以参考以下代码示例:

1// Server主程序 2public class XNettyServer { 3 public static void main(String[] args) throws Exception { 4 // accept 处理连接的线程池 5 NioEventLoopGroup acceptGroup = new NioEventLoopGroup(); 6 // read io 处理数据的线程池 7 NioEventLoopGroup readGroup = new NioEventLoopGroup(); 8 try { 9 ServerBootstrap serverBootstrap = new ServerBootstrap(); 10 serverBootstrap 11 .group(acceptGroup, readGroup) 12 .channel(NioServerSocketChannel.class) 13 .childHandler( 14 new ChannelInitializer<SocketChannel>() { 15 @Override 16 protected void initChannel(SocketChannel ch) throws Exception { 17 ChannelPipeline pipeline = ch.pipeline(); 18 19 // 增加解码器 20 pipeline.addLast(new XDecoder()); 21 22 // 打印出内容 handdler 23 pipeline.addLast(new XHandler()); 24 } 25 }); 26 System.out.println("启动成功,端口 7777"); 27 serverBootstrap.bind(7777).sync().channel().closeFuture().sync(); 28 } finally { 29 acceptGroup.shutdownGracefully(); 30 readGroup.shutdownGracefully(); 31 } 32 } 33} 34 35 36// 解码器 37public class XDecoder extends ByteToMessageDecoder { 38 39 static final int PACKET_SIZE = 220; 40 41 // 用来临时保留没有处理过的请求报文 42 ByteBuf tempMsg = Unpooled.buffer(); 43 44 /** 45 * @param ctx 46 * @param in 请求的数据 47 * @param out 将粘在一起的报文拆分后的结果保留起来 48 * @throws Exception 49 */ 50 @Override 51 protected void decode(ChannelHandlerContext ctx, ByteBuf in, List<Object> out) throws Exception { 52 System.out.println(Thread.currentThread() + "收到了一次数据包,长度是:" + in.readableBytes()); 53 54 // 合并报文 55 ByteBuf message = null; 56 int tmpMsgSize = tempMsg.readableBytes(); 57 // 如果暂存有上一次余下的请求报文,则合并 58 if (tmpMsgSize > 0) { 59 message = Unpooled.buffer(); 60 message.writeBytes(tempMsg); 61 message.writeBytes(in); 62 System.out.println("合并:上一数据包余下的长度为:" + tmpMsgSize + ",合并后长度为:" + message.readableBytes()); 63 } else { 64 message = in; 65 } 66 67 int size = message.readableBytes(); 68 int counter = size / PACKET_SIZE; 69 for (int i = 0; i < counter; i++) { 70 byte[] request = new byte[PACKET_SIZE]; 71 // 每次从总的消息中读取220个字节的数据 72 message.readBytes(request); 73 74 // 将拆分后的结果放入out列表中,交由后面的业务逻辑去处理 75 out.add(Unpooled.copiedBuffer(request)); 76 } 77 78 // 多余的报文存起来 79 // 第一个报文: i+ 暂存 80 // 第二个报文: 1 与第一次 81 size = message.readableBytes(); 82 if (size != 0) { 83 System.out.println("多余的数据长度:" + size); 84 // 剩下来的数据放到tempMsg暂存 85 tempMsg.clear(); 86 tempMsg.writeBytes(message.readBytes(size)); 87 } 88 } 89} 90 91 92// 处理器 93public class XHandler extends ChannelInboundHandlerAdapter { 94 95 @Override 96 public void channelReadComplete(ChannelHandlerContext ctx) throws Exception { 97 ctx.flush(); 98 } 99 100 @Override 101 public void channelRead(ChannelHandlerContext ctx, Object msg) throws Exception { 102 ByteBuf byteBuf = (ByteBuf) msg; 103 byte[] content = new byte[byteBuf.readableBytes()]; 104 byteBuf.readBytes(content); 105 System.out.println(Thread.currentThread() + ": 最终打印" + new String(content)); 106 ((ByteBuf) msg).release(); 107 } 108 109 @Override 110 public void exceptionCaught(ChannelHandlerContext ctx, Throwable cause) throws Exception { 111 cause.printStackTrace(); 112 ctx.close(); 113 } 114}

点赞
收藏

评论区

加载中...

相关推荐

MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1

文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s

Oracle 分组与拼接字符串同时使用

SELECTT.,ROWNUMIDFROM(SELECTT.EMPLID,T.NAME,T.BU,T.REALDEPART,T.FORMATDATE,SUM(T.S0)S0,MAX(UPDATETIME)CREATETIME,LISTAGG(TOCHAR(

MySQL部分从库上面因为大量的临时表tmp_table造成慢查询

背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_

手写Java HashMap源码

HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程22

tcp粘包与udp丢包的原因

tcp粘包与udp丢包的原因一,什么是tcp粘包与udp丢包TCP是面向流的, 流要说明就像河水一样, 只要有水, 就会一直流向低处, 不会间断. TCP为了提高传输效率, 发送数据的时候, 并不是直接发送数据到网路, 而是先暂存到系统缓冲, 超过时间或者缓冲满了, 才把缓冲区的内容发送

Netty使用解码器Decoder解决TCP粘包和拆包问题

解码器Decoder和ChannelHandler的关系netty的解码器通常是继承自ByteToMessageDecoder,而它又是继承自ChannelInboundHandlerAdapter,其实也是一种ChannelHandler和我们自定义的ChannelHandler一样都是来处理进