网站的最大并发连接数

济南的清真寺

最近我们网站常常报503错误：“http error 503. the service is unavailable”。但刷一两下又正常。估计很可能是超过网站的最大并发连接数了。

究竟什么是http连接？一张页面加载过程中，又是图片又是样式、脚本，对于这些东西的请求，是共用一个连接还是多个连接？

网上有人说，为了节省连接数，应该尽量将外部css，js合并，或者内联；甚至图片也合成一张，再用css定位。显然，在这里，一个请求就用一个连接，请求完成连接即被关掉。

但iis里，有选项“保持http连接”，且有超时时间可供设置。如果每请求一样东西，就开启一个连接，并且这个连接迟迟不死，保持激活，那么要多少连接才够用？这里的意思，应该是一个连接可以供多次使用。

究竟哪个才对？其实都对。

http协议无状态，无连接。无连接的含义就是限制每次连接只处理一个请求，收到应答后即断开。但据说这个是http1.0。

http1.1里，提出了持久连接（persistentconnection）的概念，也就是说同一条 http连接，可以依次处理多个请求。据说目前大多数浏览器都支持这个。想想也有道理，建立一个http连接，消耗的成本是很高的，类似数据库连接，所以我们都尽量在一个数据库连接里完成所有的操作，正如你到超市里买东西，不可能去一趟只买一样，不然的话，买齐所有东西天都黑了。

不过，即使有持久连接的概念，还是有点疑惑:同一张页面真的只用一个连接吗？假如有些东西特别大，比如图片，其他元素等不及了怎么办？会不会另外开辟一个连接？http超时时间如果都设20分钟，未免太浪费了吧？

另外，就算同一张页面只用一个连接，将css、js、图片合并，也有意义。因为数量少了，发送的请求也少了，这个对性能应该也有影响。

附录1：

一个典型的网页，是由一个 html 文件和内嵌的各类元素组成的，这些元素包括页面内的图片，css文件，javascript 文件等等。每一个内嵌的元素在 http 协议的层面上和那个 html文件是没有区别的：也就是都需要浏览器去服务器上抓下来。一个早期典型的浏览器是这样实现的：当用户敲入网址之后，浏览器和服务器建立连接，请求这个html 页面，然后边接收服务器发送的 html页面，边解析，碰到内嵌元素，可以立即开第二条连接请求。另外，如果内嵌元素很多，他可能会开多条连接同时请求。当所有需要的元素都下载完毕之后，浏览器就会将页面画出来。这个过程就是最早期的 http/1.0 协议所设想的浏览器实现。

http/1.0 这种多连接的运作模式是可以改进的。建立 tcp连接的过程是这样：客户端给服务器发一个网络包说我要和你建立连接，服务器收到之后回一个网络包说“我愿意”，然后客户端要再发给服务器一个网络包说“好那咱们开始传数据吧”。这一来一去三个包才能建立 tcp连接。连接建立之后，浏览器给服务器发请求，服务器给浏览器回应。完事之后又要来回几个网络包关闭 tcp连接。如果页面有很多文件长度很短的元素，每个元素都需要单建一条连接就会导致网络上大量的都是 tcp 建立连接和断开连接的网络包。另外，tcp有一个特性叫做 slow start，其含义可以大致这样解释：tcp连接要求发送端发送一定数量的网络包之后接收端就要回一个“我收到”的网络包，而且网络包在经过每个路由器的时候包头都要被重写，所以在网络不丢包的情况下网络包越大网络的效率就越高。tcp 连接寻找最优网络包大小的方法是，在 tcp连接建立的初期，网络包的大小是很小的，根据网络状况，两端的程序才会逐步增大网络包的大小以适应带宽提高网络传输的效率。所以浏览器给服务器发请求，如果每发一个请求就关闭连接的话，那这个连接的数据传输很难达到带宽所能承载的速度。

济南的清真寺

基于这种种原因，http/1.1 很快出来了，提出了持久连接（persistentconnection）的概念，也就是说同一条 http连接，可以依次处理多个请求，同时用一定的机制保证各个请求之间的分离性。具体的操作过程是：服务器给浏览器发送回应之后，并不马上关闭连接；浏览器判断上一个请求的回应已经收完的情况下，可以在这同一个连接上发第二个请求。这种运作模式大大减少了网络包，实验也表明这种做法很有效。但是，由于服务器上保持连接要占用一定的资源，所以一般服务器不会永久保持持久连接，而且也不推荐浏览器和服务器之间建立过多的持久连接。

持久连接可以进一步提速。这就是 pipelining了。上面可以看到，浏览器需要等待持久连接里上一个请求的回应完全收完才能发送后面的请求。如果和服务器的连接比较慢，往往持久连接大部分时间都花在等待而非数据发送/接收上。pipelining的意思是，浏览器可以在一个持久连接里一次给服务器发送多个请求，服务器在这个连接上依次回应这些请求。这种运作方式和浏览器缓存结合起来的时候会尤其有效果。比方，图片浏览过后会存在浏览器缓存中，再次请求的时候浏览器会对服务器说，我这里已经有这个图片的缓存了，修改时间是xxxx，如果服务器上这个图片在这之后没有修改过，就不用重发了。这种情况下，服务器会发一个很短的 304 not modified 类型的回应。如果没有pipelining，每次这样问一下都要等待网络上传输打一个来回；而如果有 pipelining，浏览器可以同时问服务器我这里 4个图片是否有修改，如果服务器对 pipelining 支持的好，它甚至可以将四个回应放到同一个网络包里面传回来，这是一个大大的加速。

pipelining 最早提出的时候还有一种设想的用法是，如果服务器对 pipelining 支持的好，可以把同一个 pipeline 里面的两个请求放到两个 cpu 上去处理，这样能进一步加快响应速度。当然这个可能也没什么用。

济南的清真寺

附录2：

引言

http是一个属于应用层的面向对象的协议，由于其简捷、快速的方式，适用于分布式超媒体信息系统。它于1990年提出，经过几年的使用与发展，得到不断地完善和扩展。目前在www中使用的是http/1.0的第六版，http/1.1的规范化工作正在进行之中，而且http-ng(next generation of http)的建议已经提出。
http协议的主要特点可概括如下：
1.支持客户/服务器模式。
2.简单快速：客户向服务器请求服务时，只需传送请求方法和路径。请求方法常用的有get、head、post。每种方法规定了客户与服务器联系的类型不同。由于http协议简单，使得http服务器的程序规模小，因而通信速度很快。
3.灵活：http允许传输任意类型的数据对象。正在传输的类型由content-type加以标记。
4.无连接：无连接的含义是限制每次连接只处理一个请求。服务器处理完客户的请求，并收到客户的应答后，即断开连接。采用这种方式可以节省传输时间。
5.无状态：http协议是无状态协议。无状态是指协议对于事务处理没有记忆能力。缺少状态意味着如果后续处理需要前面的信息，则它必须重传，这样可能导致每次连接传送的数据量增大。另一方面，在服务器不需要先前信息时它的应答就较快。

一、http协议详解之url篇

http（超文本传输协议）是一个基于请求与响应模式的、无状态的、应用层的协议，常基于tcp的连接方式，http1.1版本中给出一种持续连接的机制，绝大多数的web开发，都是构建在http协议之上的web应用。

http url (url是一种特殊类型的uri，包含了用于查找某个资源的足够的信息)的格式如下：
http://host[“:“port][abs_path]
http表示要通过http协议来定位网络资源；host表示合法的internet主机域名或者ip地址；port指定一个端口号，为空则使用缺省端口80；abs_path指定请求资源的uri；如果url中没有给出abs_path，那么当它作为请求uri时，必须以“/”的形式给出，通常这个工作浏览器自动帮我们完成。
eg:
1、输入：www.guet.edu.cn，浏览器自动转换成：http://www.guet.edu.cn/
2、http:192.168.0.116:8080/index.jsp

二、http协议详解之请求篇

http请求由三部分组成，分别是：请求行、消息报头、请求正文

1、请求行以一个方法符号开头，以空格分开，后面跟着请求的uri和协议的版本，格式如下：method request-uri http-version crlf
其中 method表示请求方法；request-uri是一个统一资源标识符；http-version表示请求的http协议版本；crlf表示回车和换行（除了作为结尾的crlf外，不允许出现单独的cr或lf字符）。

请求方法（所有方法全为大写）有多种，各个方法的解释如下：
get     请求获取request-uri所标识的资源

济南的清真寺

post    在request-uri所标识的资源后附加新的数据
head    请求获取由request-uri所标识的资源的响应消息报头
put     请求服务器存储一个资源，并用request-uri作为其标识
delete  请求服务器删除request-uri所标识的资源
trace   请求服务器回送收到的请求信息，主要用于测试或诊断
connect 保留将来使用
options 请求查询服务器的性能，或者查询与资源相关的选项和需求
应用举例：
get方法：在浏览器的地址栏中输入网址的方式访问网页时，浏览器采用get方法向服务器获取资源，eg:get /form.html http/1.1 (crlf)

post方法要求被请求服务器接受附在请求后面的数据，常用于提交表单。
eg：post /reg.jsp http/ (crlf)
accept:image/gif,image/x-xbit,... (crlf)
...
host:www.guet.edu.cn (crlf)
content-length:22 (crlf)
connection:keep-alive (crlf)
cache-control:no-cache (crlf)
(crlf)         //该crlf表示消息报头已经结束，在此之前为消息报头
user=jeffrey&pwd=1234  //此行以下为提交的数据

head方法与get方法几乎是一样的，对于head请求的回应部分来说，它的http头部中包含的信息与通过get请求所得到的信息是相同的。利用这个方法，不必传输整个资源内容，就可以得到request-uri所标识的资源的信息。该方法常用于测试超链接的有效性，是否可以访问，以及最近是否更新。
2、请求报头后述
3、请求正文(略)

三、http协议详解之响应篇

在接收和解释请求消息后，服务器返回一个http响应消息。

http响应也是由三个部分组成，分别是：状态行、消息报头、响应正文
1、状态行格式如下：
http-version status-code reason-phrase crlf
其中，http-version表示服务器http协议的版本；status-code表示服务器发回的响应状态代码；reason-phrase表示状态代码的文本描述。
状态代码有三位数字组成，第一个数字定义了响应的类别，且有五种可能取值：
1xx：指示信息--表示请求已接收，继续处理

济南的清真寺

2xx：成功--表示请求已被成功接收、理解、接受
3xx：重定向--要完成请求必须进行更进一步的操作
4xx：客户端错误--请求有语法错误或请求无法实现
5xx：服务器端错误--服务器未能实现合法的请求
常见状态代码、状态描述、说明：
200 ok      //客户端请求成功
400 bad request  //客户端请求有语法错误，不能被服务器所理解
401 unauthorized //请求未经授权，这个状态代码必须和www-authenticate报头域一起使用
403 forbidden  //服务器收到请求，但是拒绝提供服务
404 not found  //请求资源不存在，eg：输入了错误的url
500 internal server error //服务器发生不可预期的错误
503 server unavailable  //服务器当前不能处理客户端的请求，一段时间后可能恢复正常
eg：http/1.1 200 ok （crlf）

2、响应报头后述

3、响应正文就是服务器返回的资源的内容

四、http协议详解之消息报头篇

http消息由客户端到服务器的请求和服务器到客户端的响应组成。请求消息和响应消息都是由开始行（对于请求消息，开始行就是请求行，对于响应消息，开始行就是状态行），消息报头（可选），空行（只有crlf的行），消息正文（可选）组成。

http消息报头包括普通报头、请求报头、响应报头、实体报头。
每一个报头域都是由名字+“：”+空格+值 组成，消息报头域的名字是大小写无关的。

1、普通报头
在普通报头中，有少数报头域用于所有的请求和响应消息，但并不用于被传输的实体，只用于传输的消息。
eg：
cache-control 用于指定缓存指令，缓存指令是单向的（响应中出现的缓存指令在请求中未必会出现），且是独立的（一个消息的缓存指令不会影响另一个消息处理的缓存机制），http1.0使用的类似的报头域为pragma。
请求时的缓存指令包括：no-cache（用于指示请求或响应消息不能缓存）、no-store、max-age、max-stale、min-fresh、only-if-cached;
响应时的缓存指令包括：public、private、no-cache、no-store、no-transform、must-revalidate、proxy-revalidate、max-age、s-maxage.
eg：为了指示ie浏览器（客户端）不要缓存页面，服务器端的jsp程序可以编写如下：response.sehheader(“cache-control“,“no-cache“);
//response.setheader(“pragma“,“no-cache“);作用相当于上述代码，通常两者//合用
这句代码将在发送的响应消息中设置普通报头域：cache-control:no-cache

济南的清真寺

date普通报头域表示消息产生的日期和时间

connection普通报头域允许发送指定连接的选项。例如指定连接是连续，或者指定“close”选项，通知服务器，在响应完成后，关闭连接

2、请求报头
请求报头允许客户端向服务器端传递请求的附加信息以及客户端自身的信息。
常用的请求报头
accept
accept请求报头域用于指定客户端接受哪些类型的信息。eg：accept：image/gif，表明客户端希望接受gif图象格式的资源；accept：text/html，表明客户端希望接受html文本。
accept-charset
accept-charset请求报头域用于指定客户端接受的字符集。eg：accept-charset:iso-8859-1,gb2312.如果在请求消息中没有设置这个域，缺省是任何字符集都可以接受。
accept-encoding
accept-encoding请求报头域类似于accept，但是它是用于指定可接受的内容编码。eg：accept-encoding:gzip.deflate.如果请求消息中没有设置这个域服务器假定客户端对各种内容编码都可以接受。
accept-language
accept-language请求报头域类似于accept，但是它是用于指定一种自然语言。eg：accept-language:zh-cn.如果请求消息中没有设置这个报头域，服务器假定客户端对各种语言都可以接受。
authorization
authorization请求报头域主要用于证明客户端有权查看某个资源。当浏览器访问一个页面时，如果收到服务器的响应代码为401（未授权），可以发送一个包含authorization请求报头域的请求，要求服务器对其进行验证。
host（发送请求时，该报头域是必需的）
host请求报头域主要用于指定被请求资源的internet主机和端口号，它通常从http url中提取出来的，eg：
我们在浏览器中输入：http://www.guet.edu.cn/index.html
浏览器发送的请求消息中，就会包含host请求报头域，如下：
host：www.guet.edu.cn
此处使用缺省端口号80，若指定了端口号，则变成：host：www.guet.edu.cn:指定端口号
user-agent
我们上网登陆论坛的时候，往往会看到一些欢迎信息，其中列出了你的操作系统的名称和版本，你所使用的浏览器的名称和版本，这往往让很多人感到很神奇，实际上，服务器应用程序就是从user-agent这个请求报头域中获取到这些信息。user-agent请求报头域允许客户端将它的操作系统、浏览器和其它属性告诉服务器。不过，这个报头域不是必需的，如果我们自己编写一个浏览器，不使用user-agent请求报头域，那么服务器端就无法得知我们的信息了。
请求报头举例：
get /form.html http/1.1 (crlf)
accept:image/gif,image/x-xbitmap,image/jpeg,application/x-shockwave-flash,application/vnd.ms-excel,application/vnd.ms-powerpoint,application/msword,*/* (crlf)

济南的清真寺

accept-language:zh-cn (crlf)
accept-encoding:gzip,deflate (crlf)
if-modified-since:wed,05 jan 2007 11:21:25 gmt (crlf)
if-none-match:w/“80b1a4c018f3c41:8317“ (crlf)
user-agent:mozilla/4.0(compatible;msie6.0;windows nt 5.0) (crlf)
host:www.guet.edu.cn (crlf)
connection:keep-alive (crlf)
(crlf)

3、响应报头
响应报头允许服务器传递不能放在状态行中的附加响应信息，以及关于服务器的信息和对request-uri所标识的资源进行下一步访问的信息。
常用的响应报头
location
location响应报头域用于重定向接受者到一个新的位置。location响应报头域常用在更换域名的时候。
server
server响应报头域包含了服务器用来处理请求的软件信息。与user-agent请求报头域是相对应的。下面是
server响应报头域的一个例子：
server：apache-coyote/1.1
www-authenticate
www-authenticate响应报头域必须被包含在401（未授权的）响应消息中，客户端收到401响应消息时候，并发送authorization报头域请求服务器对其进行验证时，服务端响应报头就包含该报头域。
eg：www-authenticate:basic realm=“basic auth test!“  //可以看出服务器对请求资源采用的是基本验证机制。

4、实体报头
请求和响应消息都可以传送一个实体。一个实体由实体报头域和实体正文组成，但并不是说实体报头域和实体正文要在一起发送，可以只发送实体报头域。实体报头定义了关于实体正文（eg：有无实体正文）和请求所标识的资源的元信息。
常用的实体报头
content-encoding
content-encoding实体报头域被用作媒体类型的修饰符，它的值指示了已经被应用到实体正文的附加内容的编码，因而要获得 content-type报头域中所引用的媒体类型，必须采用相应的解码机制。content-encoding这样用于记录文档的压缩方法，eg：content-encoding：gzip
content-language
content-language实体报头域描述了资源所用的自然语言。没有设置该域则认为实体内容将提供给所有的语言阅读
者。eg：content-language:da
content-length
content-length实体报头域用于指明实体正文的长度，以字节方式存储的十进制数字来表示。

济南的清真寺

content-type
content-type实体报头域用语指明发送给接收者的实体正文的媒体类型。eg：
content-type:text/html;charset=utf-8/〉content-type:text/html;charset=utf-8/〉last-modified
last-modified实体报头域用于指示资源的最后修改日期和时间。
expires
expires实体报头域给出响应过期的日期和时间。为了让代理服务器或浏览器在一段时间以后更新缓存中(再次访问曾访问过的页面时，直接从缓存中加载，缩短响应时间和降低服务器负载)的页面，我们可以使用expires实体报头域指定页面过期的时间。eg：expires：thu，15 sep 2006 16:23:12 gmt
http1.1的客户端和缓存必须将其他非法的日期格式（包括0）看作已经过期。eg：为了让浏览器不要缓存页面，我们也可以利用expires实体报头域，设置为0，jsp中程序如下：response.setdateheader(“expires“,“0“);

五、利用telnet观察http协议的通讯过程

    实验目的及原理：
    利用ms的telnet工具，通过手动输入http请求信息的方式，向服务器发出请求，服务器接收、解释和接受请求后，会返回一个响应，该响应会在telnet窗口上显示出来，从而从感性上加深对http协议的通讯过程的认识。

    实验步骤：

1、打开telnet
1.1 打开telnet
运行--〉cmd--〉telnet

1.2 打开telnet回显功能
set localecho

2、连接服务器并发送请求
2.1 open www.guet.edu.cn 80  //注意端口号不能省略

    head /index.asp http/1.0
    host:www.guet.edu.cn

   /*我们可以变换请求方法,请求桂林电子主页内容,输入消息如下*/
    open www.guet.edu.cn 80

    get /index.asp http/1.0  //请求资源的内容
    host:www.guet.edu.cn

2.2 open www.sina.com.cn 80  //在命令提示符号下直接输入telnet www.sina.com.cn 80
    head /index.asp http/1.0

济南的清真寺

host:www.sina.com.cn


3 实验结果：

3.1 请求信息2.1得到的响应是:

http/1.1 200 ok                    //请求成功
server: microsoft-iis/5.0          //web服务器
date: thu,08 mar 200707:17:51 gmt
connection: keep-alive
content-length: 23330
content-type: text/html
expries: thu,08 mar 2007 07:16:51 gmt
set-cookie: aspsessionidqaqbqqqb=bejcdgkadedjklkkajeoimmh; path=/
cache-control: private

//资源内容省略

3.2 请求信息2.2得到的响应是:

http/1.0 404 not found       //请求失败
date: thu, 08 mar 2007 07:50:50 gmt
server: apache/2.0.54 〈unix〉
last-modified: thu, 30 nov 2006 11:35:41 gmt
etag: “6277a-415-e7c76980“
accept-ranges: bytes
x-powered-by: mod_xlayout_jh/0.0.1vhs.markii.remix
vary: accept-encoding
content-type: text/html
x-cache: miss from zjm152-78.sina.com.cn
via: 1.0 zjm152-78.sina.com.cn:80〈squid/2.6.stables-20061207〉
x-cache: miss from th-143.sina.com.cn
connection: close

济南的清真寺

失去了跟主机的连接

按任意键继续...

4 .注意事项：
  1、出现输入错误，则请求不会成功。
  2、报头域不分大小写。
  3、更深一步了解http协议，可以查看rfc2616，在http://www.letf.org/rfc上找到该文件。
  4、开发后台程序必须掌握http协议

六、http协议相关技术补充

    1、基础：
    高层协议有：文件传输协议ftp、电子邮件传输协议smtp、域名系统服务dns、网络新闻传输协议nntp和http协议等中介由三种：代理(proxy)、网关(gateway)和通道(tunnel)，一个代理根据uri的绝对格式来接受请求，重写全部或部分消息，通过 uri的标识把已格式化过的请求发送到服务器。网关是一个接收代理，作为一些其它服务器的上层，并且如果必须的话，可以把请求翻译给下层的服务器协议。一个通道作为不改变消息的两个连接之间的中继点。当通讯需要通过一个中介(例如：防火墙等)或者是中介不能识别消息的内容时，通道经常被使用。
    代理(proxy)：一个中间程序，它可以充当一个服务器，也可以充当一个客户机，为其它客户机建立请求。请求是通过可能的翻译在内部或经过传递到其它的服务器中。一个代理在发送请求信息之前，必须解释并且如果可能重写它。代理经常作为通过防火墙的客户机端的门户，代理还可以作为一个帮助应用来通过协议处理没有被用户代理完成的请求。
    网关(gateway)：一个作为其它服务器中间媒介的服务器。与代理不同的是，网关接受请求就好象对被请求的资源来说它就是源服务器；发出请求的客户机并没有意识到它在同网关打交道。
　　网关经常作为通过防火墙的服务器端的门户，网关还可以作为一个协议翻译器以便存取那些存储在非http系统中的资源。
    通道(tunnel)：是作为两个连接中继的中介程序。一旦激活，通道便被认为不属于http通讯，尽管通道可能是被一个http请求初始化的。当被中继的连接两端关闭时，通道便消失。当一个门户(portal)必须存在或中介(intermediary)不能解释中继的通讯时通道被经常使用。

    2、协议分析的优势—http分析器检测网络攻击
    以模块化的方式对高层协议进行分析处理，将是未来入侵检测的方向。
    http及其代理的常用端口80、3128和8080在network部分用port标签进行了规定

    3、http协议content lenth限制漏洞导致拒绝服务攻击
    使用post方法时，可以设置contentlenth来定义需要传送的数据长度，例如contentlenth:999999999，在传送完成前，内 存不会释放，攻击者可以利用这个缺陷，连续向web服务器发送垃圾数据直至web服务器内存耗尽。这种攻击方法基本不会留下痕迹。