Go实现FastCgi Proxy Client 系列(一)

什么是FastCgi

再了解FastCgi之前,我们一定要先知道,什么叫Cgi。

CGI全称是“通用网关接口”(Common Gateway Interface),HTTP服务器与你的或其它机器上的程序进行“交谈”的一种工具,其程序一般运行在网络服务器上。 CGI可以用任何一种语言编写,只要这种语言具有标准输入、输出和环境变量。如php,perl,tcl等。

cgi的弊端

cgi会产生什么问题呢?

当每一个请求进入的时候,cgi都会fork一个新的进程,然后以php为例,每个请求都要耗费相当大的内存,这样一来,并发起来,完全就会GG。

为了解决这个问题,于是产生了fastCgi。

对比

盗2张百度的图

cgi

fastCgi

从图中可以看出,FastCgi解决的就是这一痛点,当一个新的请求进来的时候,会交给一个已经产生的进程进行处理,而不是fork新的东西出来(php 7还有更多优化,欢迎大家进坑,比如opcached)。

FastCgi协议组成

我目前了解的协议都是由三个部分组成:协议头、正文、结束符(或者说协议尾部),现在我们就来分析下这个协议。

主要参考资料来源于:麻省理工文档

FastCgi协议头

协议有这几种消息类型

1#define FCGI_BEGIN_REQUEST 1 2#define FCGI_ABORT_REQUEST 2 3#define FCGI_END_REQUEST 3 4#define FCGI_PARAMS 4 5#define FCGI_STDIN 5 6#define FCGI_STDOUT 6 7#define FCGI_STDERR 7 8#define FCGI_DATA 8 9#define FCGI_GET_VALUES 9 10#define FCGI_GET_VALUES_RESULT 10 11#define FCGI_UNKNOWN_TYPE 11 12#define FCGI_MAXTYPE (FCGI_UNKNOWN_TYPE)

很明显,如果我们要发起一个请求,必然要使用消息类型FCGI_BEGIN_REQUEST的进行请求。

看一段通用的包头。

1typedef struct { 2 unsigned char roleB1; 3 unsigned char roleB0; 4 unsigned char flags; 5 unsigned char reserved[5]; 6} FCGI_BeginRequestBody; 7 8typedef struct { 9 FCGI_Header header; 10 FCGI_BeginRequestBody body; 11} FCGI_BeginRequestRecord; 12 13typedef struct { 14 unsigned char appStatusB3; 15 unsigned char appStatusB2; 16 unsigned char appStatusB1; 17 unsigned char appStatusB0; 18 unsigned char protocolStatus; 19 unsigned char reserved[3]; 20} FCGI_EndRequestBody;

我们可以把这个过程看成 begin->(header and content)->end。header这个很有意思,不过联系一下http协议的header,自然一下就了解了,其实在cgi协议里,header应该也属于正文的一种,只是类型比较特殊。

golang的实现

假如我们要实现一个golang fastcgi proxy client的部分,那自然,首先我们要先讲http请求解析成cgi协议的形式。

beginRequest

分析协议得出,web服务器向FastCGI程序发送一个 8 字节 type=FCGI_BEGIN_REQUEST的消息头和一个8字节 FCGI_BeginRequestBody 结构的 消息体,标志一个新请求的开始。

再仔细一想,这不对,服务端是如何知道我们发送的是啥,接受到的数据该如何解析。

从下面开始,我都会用golang来显示代码。

所以,这时候我们需要一个包头。fastCgi通用的包头(此处的header不是http header)为:

1type header struct { 2 Version uint8 //协议版本 默认 01 3 Type uint8 // 请求类型 4 Id uint16 // 请求id 5 ContentLength uint16 //正文长度 6 PaddingLength uint8 //是否有字符补齐 7 Reserved uint8 //预留 8}

先产生我们要产生的包体

1b := [8]byte{byte(role >> 8), byte(role), flags} 2role一般默认用1 1响应器 2验证器 3过滤器 3flags 标志是否保持连接 就是http的keeponlive

这个时候,我们就先写包头,然后写包体即可

1func (cgi *FCGIClient) writeRecord(recType uint8, reqId uint16, content []byte) (err error) { 2 cgi.mutex.Lock() 3 defer cgi.mutex.Unlock() 4 cgi.buf.Reset() 5 cgi.h.init(recType, reqId, len(content)) 6 //写包头 7 if err := binary.Write(&cgi.buf, binary.BigEndian, cgi.h); err != nil { 8 return err 9 } 10 //写包体 11 if _, err := cgi.buf.Write(content); err != nil { 12 return err 13 } 14 //写补位 15 if _, err := cgi.buf.Write(pad[:cgi.h.PaddingLength]); err != nil { 16 return err 17 } 18 //将缓冲区写到之前打开的链接 19 _, err = cgi.rwc.Write(cgi.buf.Bytes()) 20 return err 21}

这里应该会很好奇,cgi.rwc是什么。这里我们预留到下一次讲,知道这里是一个建立的socket连接即可。

请求正文

大家都知道 http协议分成 header和body

http request header

cgi协议里有单独对header的处理,即消息类型为FCGI_PARAMS(4)。

我们要从请求里获取到这次的header,很明显,header是一个map[string]string的结构。

1func buildEnv(documentRoot string,r *http.Request) (err error,env map[string]string){ 2 env = make(map[string]string) 3 index := "index.php" 4 filename := documentRoot+"/"+index 5 if r.URL.Path == "/.env" { 6 return errors.New("not allow"),env 7 } else if r.URL.Path == "/" || r.URL.Path == "" { 8 filename = documentRoot + "/" + index 9 } else { 10 filename = documentRoot + r.URL.Path 11 } 12 13 for name,value := range serverEnvironment { 14 env[name] = value 15 } 16 17 //......其他mapping 18 19 20 for header, values := range r.Header { 21 env["HTTP_" + strings.Replace(strings.ToUpper(header), "-", "_", -1)] = values[0] 22 } 23 return errors.New("not allow"),env 24}

同样,我们先发送包头,再发送包体即可。

http request body

包体就是我们提交的数据,比如Post,delete,put等等操作中,正文包含的数据。

同样,我们先发送包头,再发送包体即可。

但是需要注意的是,一般包体都会很大,但是明显,我们ContentLength只有16位的长度,很大可能是无法一次发送完毕。

因此,我们需要分包进行发送(最大65535)。

请求结束 endRequest

依照上面的,同样,我们发送结束的包头和包体,修改type即可。

获取返回数据

开始我又说一个cgi.rwc是一个socket连接,数据都写往了那里,自然也要从那里读回来。

1// recive untill EOF or FCGI_END_REQUEST 2 for { 3 err1 = rec.read(cgi.rwc) 4 if err1 != nil { 5 if err1 != io.EOF { 6 err = err1 7 } 8 break 9 } 10 switch { 11 case rec.h.Type == typeStdout: 12 retout = append(retout, rec.content()...) 13 case rec.h.Type == typeStderr: 14 reterr = append(reterr, rec.content()...) 15 case rec.h.Type == typeEndRequest: 16 fallthrough 17 default: 18 break 19 } 20 }

一个简单的demo就完成了。这个时候,我们只需要将接收的数据格式化输出给用户即可。

我的github

给力点,大哥们,来点star吧。

在下一篇中,我们将讲建立连接的协议实现的细节部分。

spinx 一个golang实现的fastcgi proxy client

点赞
收藏

评论区

加载中...

相关推荐

MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1

文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s

Oracle 分组与拼接字符串同时使用

SELECTT.,ROWNUMIDFROM(SELECTT.EMPLID,T.NAME,T.BU,T.REALDEPART,T.FORMATDATE,SUM(T.S0)S0,MAX(UPDATETIME)CREATETIME,LISTAGG(TOCHAR(

皕杰报表之UUID

​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为

手写Java HashMap源码

HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程22

Apache使用fcgi方式与PHP结合

简介FCGI全称Fast Common Gateway Interface(快速通用网关协议),是一种让交互程序与Web服务器通信的协议。FastCGI是早期通用网关接口(CGI)的增强版本,FastCGI致力于减少网页服务器与CGI程序之间交互的开销,从而使服务器可以同时处理更多的网页请求。早期的CGI技术使

Twitter的分布式自增ID算法snowflake (Java版)

概述分布式系统中,有一些需要使用全局唯一ID的场景,这种时候为了防止ID冲突可以使用36位的UUID,但是UUID有一些缺点,首先他相对比较长,另外UUID一般是无序的。有些时候我们希望能使用一种简单一些的ID,并且希望ID能够按照时间有序生成。而twitter的snowflake解决了这种需求,最初Twitter把存储系统从MySQL迁移