龍之家族

引用網址：http://www.chinadmd.com/file/vxsvioweusrsr6cziuaaa3sp_1.html

線上上環境中我們是採用了tomcat作為Web伺服器，它的處理性能直接關係到使用者體驗，在平時的工作和學習中，歸納出以下七種調優經驗。

1. 伺服器資源

伺服器所能提供CPU、記憶體、硬碟的性能對處理能力有決定性影響。

(1) 對於高併發情況下會有大量的運算，那麼CPU的速度會直接影響到處理速度。

(2) 記憶體在大量資料處理的情況下，將會有較大的記憶體容量需求，可以用-Xmx -Xms -XX:MaxPermSize等參數對記憶體不同功能塊進行劃分。我們之前就遇到過記憶體分配不足，導致虛擬機器一直處於full GC，從而導致處理能力嚴重下降。

(3) 硬碟主要問題就是讀寫性能，當大量檔進行讀寫時，磁片極容易成為性能瓶頸。最好的辦法還是利用下面提到的緩存。

2. 利用緩存和壓縮

對於靜態頁面最好是能夠緩存起來，這樣就不必每次從磁片上讀。這裡我們採用了Nginx作為緩存伺服器，將圖片、css、js檔都進行了緩存，有效的減少了後端tomcat的訪問。

另外，為了能加快網路傳送速率，開啟gzip壓縮也是必不可少的。但考慮到tomcat已經需要處理很多東西了，所以把這個壓縮的工作就交給前端的Nginx來完成。可以參考之前寫的《利用nginx加速web訪問》。 除了文本可以用gzip壓縮，其實很多圖片也可以用影像處理工具預先進行壓縮，找到一個平衡點可以讓畫質損失很小而檔可以減小很多。曾經我就見過一個圖片從300多kb壓縮到幾十kb，自己幾乎看不出來區別。

3. 採用集群

單個伺服器性能總是有限的，最好的辦法自然是實現橫向擴展，那麼組建tomcat集群是有效提升性能的手段。我們還是採用了Nginx來作為請求分流的伺服器，後端多個tomcat共用session來協同工作。可以參考之前寫的《利用nginx+tomcat+memcached組建web伺服器負載均衡》。

4. 優化tomcat參數

這裡以tomcat7的參數配置為例，需要修改conf/server.xml檔，主要是優化連接配置，關閉用戶端dns查詢。 1. <Connector port="8080″

2. protocol="org.apache.coyote.http11.Http11NioProtocol"

3. connectionTimeout="20000″

4. redirectPort="8443″

5. maxThreads="500″

6. minSpareThreads="20″

7. acceptCount="100″

8. disableUploadTimeout="true"

9. enableLookups="false"

10. URIEncoding="UTF-8″ />

5. 改用APR庫

tomcat預設採用的BIO模型，在幾百併發下性能會有很嚴重的下降。tomcat自帶還有NIO的模型，另外也可以調用APR的庫來實現作業系統級別控制。

NIO模型是內置的，調用很方便，只需要將上面設定檔中protocol修改成

org.apache.coyote.http11.Http11NioProtocol，重啟即可生效。上面配置我已經改過了，默認的是HTTP/1.1。

APR則需要安裝協力廠商庫，在高併發下會讓性能有明顯提升。具體安裝辦法可以參考

http://www.cnblogs.com/huangjingzhou/articles/2097241.html。安裝完成後重啟即可生效。如使用默認protocal就是apr，但最好把將protocol修改成org.apache.coyote.http11.Http11AprProtocol，會更加明確。

在官方找到一個表格詳細說明了這三種方式的區別： 1. Java Blocking Connector Java Nio Blocking Connector APR/native

Connector

2. BIO NIO APR

3. Classname AjpProtocol AjpNioProtocol

AjpAprProtocol

4. Tomcat Version 3.x onwards 7.x onwards 5.5.x onwards

5. Support Polling NO YES YES

6. Polling Size N/A maxConnections

maxConnections

7. Read Request Headers Blocking Sim Blocking Blocking

8. Read Request Body Blocking Sim Blocking Blocking

9. Write Response Blocking Sim Blocking Blocking

10. Wait for next Request Blocking Non Blocking Non Blocking 11. Max Connections maxConnections maxConnections

maxConnections

6. 優化網路

Joel也明確提出了優化網卡驅動可以有效提升性能，這個對於集群環境工作的時候尤為重要。由於我們採用了linux伺服器，所以優化內核參數也是一個非常重要的工作。給一個參考的優化參數：

1. 1. 修改/etc/sysctl.cnf檔，在最後追加如下內容：

2.

3. net.core.netdev_max_backlog = 32768

4. net.core.somaxconn = 32768

5. net.core.wmem_default = 8388608

6. net.core.rmem_default = 8388608

7. net.core.rmem_max = 16777216

8. net.core.wmem_max = 16777216

9. net.ipv4.ip_local_port_range = 1024 65000

10. net.ipv4.route.gc_timeout = 100

11. net.ipv4.tcp_fin_timeout = 30

12. net.ipv4.tcp_keepalive_time = 1200

13. net.ipv4.tcp_timestamps = 0

14. net.ipv4.tcp_synack_retries = 2

15. net.ipv4.tcp_syn_retries = 2

16. net.ipv4.tcp_tw_recycle = 1

17. net.ipv4.tcp_tw_reuse = 1

18. net.ipv4.tcp_mem = 94500000 915000000 927000000

19. net.ipv4.tcp_max_orphans = 3276800

20. net.ipv4.tcp_max_syn_backlog = 65536

21.

22. 2. 保存退出，執行sysctl -p生效

7. 讓測試說話

優化系統最忌諱的就是只調優不測試，有時不適當的優化反而會讓性能更低。以上所有的優化方法都要在本地進行性能測試過後再不斷調整參數，這樣最終才能達到最佳的優化效果。

補充Bio、Nio、Apr模式的測試結果：

對於這幾種模式，我用ab命令模擬1000併發測試10000詞，測試結果比較意外，為了確認結果，我每種方式反復測試了10多次，並且在兩個伺服器上都測試了一遍。結果發現Bio和Nio性能差別非常微弱，難怪默認居然還是Bio。但是採用apr，連接建立的速度會有50%～100%的提升。直接調用作業系統層果然神速啊，這裡強烈推薦apr方式！