此圖例及以下圖例均來(lái)自于互聯(lián)網(wǎng)資源

　　作為運營(yíng)商級通信系統或者企業(yè)級的通信系統，OpenSIPS和Kamailio在市場(chǎng)上有很多的部署案例。它們可以作為媒體服務(wù)器的前端服務(wù)器實(shí)現很多的信令和會(huì )話(huà)路由功能。均衡負載是它們其中一個(gè)重要的功能。今天，筆者針對基于以上兩種開(kāi)源SIP軟交換通過(guò)SIP信令方面的均衡負載以及其新的三種算法優(yōu)化做一些分享。

　　大家可能知道，因為這些開(kāi)源項目本身不是B2BUA，即使OpenSIPS的B2BUA模塊也僅能實(shí)現基礎的RTP媒體處理，這些開(kāi)源的SIP服務(wù)器可以作為一個(gè)簡(jiǎn)單的SBC。因為它們缺乏媒體服務(wù)器的支持能力，需要借助第三方來(lái)構建RTP媒體處理能力來(lái)實(shí)現SBC的“部分功能”。但是，如果用戶(hù)真正完全實(shí)現商業(yè)化部署仍然需要一個(gè)完整的SBC解決方案來(lái)，SBC還需要強大的媒體處理能力滿(mǎn)足現在實(shí)時(shí)語(yǔ)音通信的要求。因此，SBC除了實(shí)現SIP呼叫信令本身的均衡負載，還要支持很多用戶(hù)需要的通過(guò)語(yǔ)音質(zhì)量分析QoS/MOS/PDD實(shí)現的智能語(yǔ)音路由功能。最終，一個(gè)完整的均衡負載機制，不僅僅支持對呼叫本身的均衡負載處理，而且結合RTP媒體語(yǔ)音智能路由才能實(shí)現一個(gè)全功能完整的基于SIP均衡負載解決方案。

　　筆者在以下章節中將重點(diǎn)介紹基于開(kāi)源SIP服務(wù)器Kamailio/OpenSIPS的均衡負載的默認輪詢(xún)算法和其局限性，并且分享研究人員發(fā)表的關(guān)于均衡負載三種新算法（Call-Join-Shortest-Queue，Transaction-Join-Shortest-Queue 和Transaction-Least-Work-Left ）的優(yōu)缺點(diǎn)以及其測試結果分享，最后分享關(guān)于SBC均衡負載解決方案中使用SIP呼叫信令均衡負載結合語(yǔ)音分析智能路由的思路。

　　這里，筆者首先介紹一些關(guān)于均衡負載的早期算法和一些基于業(yè)務(wù)層面的負載的說(shuō)明，使讀者能夠了解其他后續章節的討論。從一般意義來(lái)說(shuō)，均衡負載主要是針對呼叫數量做均衡處理，確保呼叫發(fā)起方和呼叫接收方之間的呼叫能夠通過(guò)不同負載服務(wù)器之間的資源平衡，保證平臺負荷在一個(gè)合理的承受范圍之內，維持呼叫和平臺的穩定性。SIP均衡負載包括開(kāi)源SIP軟交換基本上使用以下四種均衡負載的處理方式：

　　OpenSIPS學(xué)習筆記-負載均衡模塊概要，示例配置，會(huì )議服務(wù)器部署面對的挑戰，LB選擇資源的4個(gè)邏輯流程詳解

　　在基于SIP服務(wù)器端使用均衡負載模塊處理SIP請求時(shí)，一般用戶(hù)都使用默認的服務(wù)器本身的模塊來(lái)處理，也有一些非常專(zhuān)業(yè)的用戶(hù)需要對服務(wù)器進(jìn)行更多優(yōu)化以達到更高的性能來(lái)滿(mǎn)足業(yè)務(wù)需求。所以，他們可能對某些算法進(jìn)行優(yōu)化。在SIP均衡負載的處理中，均衡負載策略算法是一個(gè)非常核心的處理流程，它的算法是否能夠應對非常靈活的處理環(huán)境是決定SIP服務(wù)器性能的一個(gè)重要指標。

　　開(kāi)源SIP服務(wù)器Kamalio或者OpenSIPS的官方說(shuō)明中，它們一般使用吞吐量來(lái)說(shuō)明其執行性能，例如CPS等。除了CPS以外，響應時(shí)間也是非常重要的性能指標，響應時(shí)間也可以作為衡量性能的技術(shù)指標。運營(yíng)商級客戶(hù)對各種響應時(shí)間有專(zhuān)門(mén)的KPI指標考核參數。關(guān)于各種響應時(shí)間的討論讀者可以參考：

　　完整RFC6076-端對端SIP網(wǎng)絡(luò )九大性能評價(jià)指標（KPI）概論和時(shí)延產(chǎn)生其他因素的相關(guān)性討論

　　在關(guān)于吞吐量處理方面，除了數據庫存儲，系統物理資源和模塊設置優(yōu)化以外，均衡負載的算法也決定著(zhù)吞吐量的指標。在接下來(lái)，筆者會(huì )根據一些研究人員針對開(kāi)源SIP服務(wù)器的均衡負載算法的優(yōu)化和改進(jìn)對吞吐量和響應時(shí)間的測試結果做更多分享。

　　如果我們要討論SIP呼叫的均衡負載，我們首先需要了解SIP呼叫的相關(guān)基本概念。讀者可能都知道，SIP呼叫是基于會(huì )話(huà)處理流程的。一個(gè)整個(gè)完整的呼叫是通過(guò)INVITE發(fā)起，呼叫需要經(jīng)過(guò)多種流程進(jìn)行處理，包括認證簽權，查詢(xún)，更新定時(shí)器等，然后通過(guò)BYE來(lái)拆線(xiàn)，最后結束呼叫。在一個(gè)完整的正常呼叫中，INVITE事務(wù)和BYE事務(wù)是兩個(gè)最重要的事務(wù)。另外，因為發(fā)起一個(gè)INVITE呼叫流程，其處理過(guò)程會(huì )占用上面所說(shuō)的很多資源。因此，INVITE事務(wù)和BYE的事務(wù)類(lèi)型所消耗的資源是完全不同的。在整個(gè)呼叫的資源占用比中，INVITE事務(wù)處理所需要的資源占比超過(guò)了70%,  BYE事務(wù)占比則很少。研究人員的基本原則是優(yōu)化一個(gè)正常的SIP呼叫中的事務(wù)流程，主要針對INVITE事務(wù)和BYE事務(wù)處理的流程進(jìn)行均衡負載優(yōu)化。在具體的算法優(yōu)化討論中，一個(gè)SIP呼叫需要針對call，dialog，會(huì )話(huà)和事務(wù)等方面的優(yōu)化處理。因此，SIP均衡負載算法優(yōu)化的基本設計原則就是通過(guò)優(yōu)化INVITE事務(wù)的處理流程，增加系統的吞吐量，并且盡可能地降低響應時(shí)間，以達到系統的最佳處理能力。必須說(shuō)明，在討論這些新的算法之前，讀者必須對我們討論的問(wèn)題做基本了解，包括call，dialog，會(huì )話(huà)和事務(wù)概念等。如果讀者需要了解更多關(guān)于call，dialog和Transaction的詳解的話(huà)，可以參考以下文章：

　

　　針對SIP服務(wù)器的均衡負載策略或者算法來(lái)說(shuō)，目前使用比較多的包括Round Robin-RR, Call-Join-Shortest-Queue（CJSQ），Transaction-Join-Shortest-Queue （TJSQ）和Transaction-Least-Work-Left （TLWL）。在以上算法中，第一種是kamailio和OpenSIPS默認支持的算法，以上后三種算法是Hongbo Jiang 針對Kamailio默認算法基礎上中提出三種新的算法。這里補充說(shuō)明，因為早期的Kamailio還是OpenSIPS，它們的均衡負載的處理機制基本上相同，因此，筆者在本文章的后續章節中不再區分Kamailio還是OpenSIPS環(huán)境下的LB均衡負載模塊。

　　在針對開(kāi)源SIP服務(wù)器的LB模塊的優(yōu)化方面，最近幾年OpenSIPS做了相對比較多的優(yōu)化和更新，增加了很多動(dòng)態(tài)實(shí)時(shí)的處理流程，整體處理性能可能有比較大的提升。關(guān)于OpenSIPS最新的處理流程的介紹，建議讀者參考以上鏈接或者參考官方文檔。這里，我們主要針對Hongbo Jiang和IBM研究院研究人員針對均衡負載中算法策略的優(yōu)化進(jìn)行討論。以下圖例是研究人員的算法框架。

　　

　　SIP服務(wù)器均衡負載算法架構

　　Round Robin-RR，按照輪詢(xún)方式對新呼叫進(jìn)行分配。Kamailio或OpenSIPS默認支持的輪詢(xún)方式。筆者建議讀者參考官方文檔獲得更多關(guān)于RR算法和使用方式的說(shuō)明。

　　Call-Join-Shortest-Queue（CJSQ），記錄跟蹤所有呼叫（call或者session），分配所有呼叫到每個(gè)后臺服務(wù)器，并且路由新呼叫到最少活動(dòng)呼叫的節點(diǎn)服務(wù)器。此算法僅關(guān)注到了call或session級別的數據優(yōu)化，它本身無(wú)法對一個(gè)呼叫的transaction 事務(wù)進(jìn)行更多細節處理。

　　Transaction-Join-Shortest-Queue （TJSQ），路由新呼叫到SIP服務(wù)器，并且此服務(wù)器目前具有最少活動(dòng)事務(wù)（Transaction），而不是最少呼叫（call/session）。此算法就是對CJSQ算法的提升優(yōu)化，通過(guò)對一個(gè)SIP呼叫的INVITE事務(wù)和BYE事務(wù)進(jìn)行分解，結合各種呼叫變量進(jìn)一步優(yōu)化其均衡負載算法。它仍然有其缺點(diǎn)。因為INVITE事務(wù)進(jìn)入狀態(tài)機的處理流程和非INVITE事務(wù)進(jìn)入狀態(tài)機的流程的復雜程度不同，所以它們所消耗的資源也完全不同，缺乏對資源比例消耗的進(jìn)一步控制和處理。關(guān)于事務(wù)處理的流程和非INVITE狀態(tài)機等處理策略，讀者參考RFC3261-17。

　　Transaction-Least-Work-Left （TLWL），此算法路由新的SIP呼叫到一個(gè)服務(wù)器，此SIP服務(wù)器目前承擔最小工作負載，此負載是基于相關(guān)事務(wù)交互成本計算的結果，通過(guò)此結果進(jìn)行呼叫路由。此說(shuō)法利用了INVITE事務(wù)比BYE事務(wù)處理成本相對比較高的基本原理，進(jìn)行資源分配就是而來(lái)。在此研究報告中，INVITE事務(wù)和BYE事務(wù)之間的成本比例是1.75:1時(shí)， 這樣會(huì )取得服務(wù)器性能的最佳峰值。以下是研究人員的技術(shù)架構實(shí)例圖和相關(guān)系統軟硬件配置。

　　

　　測試環(huán)境配置

　　

　　研究人員在2012年發(fā)布的論文中，使用開(kāi)源壓力測試工具SIPp和通過(guò)對開(kāi)源SIP服務(wù)器OpenSER（Kamailio和OpenSIPS的早期版本）添加了三種算法功能，使用硬件設備，通過(guò)配置集群服務(wù)器方式針對四種均衡負載算法進(jìn)行了針對SIP均衡負載吞吐量（CPS）和響應時(shí)間的測試。在其測試結果中，無(wú)論從SIP服務(wù)器的吞吐量，響應時(shí)間和相關(guān)網(wǎng)絡(luò )，CPU資源消耗來(lái)說(shuō)，TLWL的算法無(wú)疑是幾種算法中的一種最佳的算法。

　　各種算法測試中的峰值吞吐量結果

　　

　　各種算法中針對INVITE事務(wù)處理的平均響應時(shí)間結果

　　

　　各種算法中針對BYE事務(wù)處理的平均響應時(shí)間結果

　　Abdullah Akbar也進(jìn)行了同樣的研究測試，他/她使用Kamailio對以上算法進(jìn)行了測試對比試驗。其基礎平臺使用Kamailio，并且對dispatcher 調度模塊進(jìn)行了修改，使用以上算法結合SIPp壓力測試工具進(jìn)行了測試。測試架構和其使用的硬件環(huán)境包括：

　　

　　各種算法環(huán)境中的SIP服務(wù)器的吞吐量對比，TLWL結果最高。

　　

　　各種算法環(huán)境下的BYE消息響應時(shí)間對比中，TLWL響應時(shí)間最低。

　

　　通過(guò)以上兩個(gè)研究團隊針對開(kāi)源SIP軟交換的測試結果來(lái)看，TLWL的均衡負載結果對比其他負載算法來(lái)說(shuō)，整體測試性能是最好的。這里我們需要說(shuō)明，雖然當時(shí)兩個(gè)研究團隊在測試部署時(shí)使用的環(huán)境包括硬件環(huán)境和今天相比已經(jīng)有很大變化，網(wǎng)絡(luò )環(huán)境和云計算的網(wǎng)絡(luò )功能虛擬化也不斷應用在SIP網(wǎng)絡(luò )的場(chǎng)景中，很多集群部署的優(yōu)化和網(wǎng)絡(luò )優(yōu)化可以幫助提升SIP均衡負載的處理能力，但是對SIP呼叫中的會(huì )話(huà)，事務(wù)等基本要素的優(yōu)化確實(shí)為我們提供了非常有價(jià)值的參考，為大家提供了更多的關(guān)于SIP軟交換性能處理的新的思路。關(guān)于三種算法的具體介紹和研究手段等論文細節，讀者可以查看參考資料的說(shuō)明。

　　不過(guò)，隨著(zhù)更多網(wǎng)絡(luò )技術(shù)的不斷發(fā)展，業(yè)務(wù)系統的需求和場(chǎng)景不斷發(fā)生變化，在SIP均衡負載的各種方案中，越來(lái)越多的用戶(hù)希望通過(guò)SBC來(lái)實(shí)現均衡負載來(lái)滿(mǎn)足不同業(yè)務(wù)，靈活語(yǔ)音編碼和邏輯處理的需求。在下一個(gè)章節，我們簡(jiǎn)單介紹如何通過(guò)SBC實(shí)現均衡負載，實(shí)現真正的商業(yè)場(chǎng)景的部署。

　　在以上的討論中，研究人員更多關(guān)注的是基于SIP 軟交換信令級均衡負載的算法優(yōu)化，也僅限于傳統CTI環(huán)境和硬件網(wǎng)絡(luò )環(huán)境。在現在實(shí)際應用場(chǎng)景中，無(wú)論是運營(yíng)商級用戶(hù)還是企業(yè)終端用戶(hù)，大家都在考慮通過(guò)云計算和網(wǎng)絡(luò )虛擬化的方式實(shí)現更多更靈活的分布式網(wǎng)絡(luò )架構，并且需要滿(mǎn)足用戶(hù)更多終端和不同編碼設備的支持。在基于SIP軟交換的均衡負載的部署環(huán)境中，除了我們需要關(guān)心SIP軟交換的吞吐量和響應時(shí)間以外，我們還要注冊請求的均衡負載，安全加密處理，還要關(guān)注其他媒體方面的用戶(hù)體驗，例如語(yǔ)音質(zhì)量，時(shí)延等問(wèn)題。如果我們僅僅考慮基于SIP軟交換信令點(diǎn)均衡負載的話(huà)，均衡負載的功能支持就會(huì )遇到很大限制，不能滿(mǎn)足很多實(shí)時(shí)的業(yè)務(wù)場(chǎng)景。

　　比較幸運的是，云計算時(shí)代，很多技術(shù)已經(jīng)彌補了以前的一些系統資源的制約，可以通過(guò)SD-WAN，網(wǎng)絡(luò )功能虛擬化部署，云實(shí)例部署和彈性網(wǎng)絡(luò )資源等方式來(lái)實(shí)現。具體關(guān)于針對SIP網(wǎng)絡(luò )的技術(shù)架構的變革，讀者可以閱讀歷史文章：

　　SBC的核心功能之一就是實(shí)現SIP媒體服務(wù)器的均衡負載處理。一些SBC廠(chǎng)家的SBC均衡負載功能已經(jīng)非常成熟。Ribbon/Sonus的SBC 均衡負載服務(wù)能力提供了非常專(zhuān)業(yè)的運營(yíng)商級功能，可以通過(guò)SIP呼叫和DNS（參考RFC3263）服務(wù)方式實(shí)現均衡負載，并且它可以通過(guò)云平臺的各種功能模塊，實(shí)現SBC 均衡負載集群組。

 

　　在SBC均衡負載集群的處理方式中，除了針對CPS進(jìn)行動(dòng)態(tài)路由以外，它本身也可以實(shí)現靈活動(dòng)態(tài)加載各個(gè)節點(diǎn)服務(wù)器，對所有節點(diǎn)SBC實(shí)例實(shí)現分布式部署響應，并且可以針對重新加入的INVITE或者注冊請求路由到未使用的SBC節點(diǎn)。

　　除了針對SIP呼叫信令級的均衡負載的管理以外，SBC仍然需要針對媒體級的核心數據實(shí)時(shí)進(jìn)行檢測和管理，保證用戶(hù)呼叫的語(yǔ)音質(zhì)量達到最佳質(zhì)量。通過(guò)SBC實(shí)現QoS/MOS的智能路由也是SBC部署時(shí)的一個(gè)特別需要考慮的問(wèn)題。筆者以前針對QoS的策略管理有非常詳細說(shuō)明，讀者可以閱讀此文章：

　　在運營(yíng)商級和高級的企業(yè)級SIP呼叫均衡負載的解決方案中，除了對CPS和響應時(shí)間進(jìn)行管理以外，SBC的均衡負載功能還需要結合實(shí)時(shí)語(yǔ)音質(zhì)量分析的參數來(lái)實(shí)現更完善的路由處理。SBC需要非常智能化地分析RTP語(yǔ)音流的修改數據，通過(guò)QoS這里保障，語(yǔ)音質(zhì)量評價(jià)值和呼叫延遲，抖動(dòng)等相關(guān)數據及時(shí)通知SBC路由模塊，保障其均衡負載能力能夠路由到一個(gè)資源消耗狀態(tài)正常的媒體服務(wù)器上。如果缺乏以上分析數據的支持，均衡負載處理機制仍然會(huì )路由到一個(gè)語(yǔ)音質(zhì)量差的呼叫節點(diǎn)上，最終用戶(hù)呼叫體驗肯定也非常差，降低了呼叫的成功率和呼叫體驗。Ribbon SBC通過(guò)語(yǔ)音智能語(yǔ)音分析模塊，結合實(shí)時(shí)數據統計面板對智能路由做了非常專(zhuān)業(yè)的實(shí)時(shí)管理，可以極大提高均衡負載以及智能路由的更強大的功能。PSX是核心的路由策略模塊，可以支持本地路由，全球路由管理，trunk管理，安全保護數據，DID管理，分析軟件依賴(lài)于大數據，AI和行為學(xué)習和機器學(xué)習來(lái)快速分析數據支持均衡負載能力。

　　在本文章中，筆者首先介紹了關(guān)于均衡負載的基本要求和基于業(yè)務(wù)層面均衡負載的處理機制。開(kāi)源SIP軟交換Kamailio和OpenSIPS，包括早期的OpenSER在這方面也有著(zhù)非常好的表現，它們可以作為SIP軟交換的均衡負載服務(wù)器來(lái)使用。在傳統的均衡負載的RR模塊中，均衡負載僅針對呼叫或者會(huì )話(huà)來(lái)進(jìn)行處理，沒(méi)有再深入到呼叫事務(wù)的優(yōu)化，特別是針對兩個(gè)重要的INVITE事務(wù)和BYE事務(wù)的優(yōu)化。一些研究人員針對兩種事務(wù)進(jìn)行了優(yōu)化處理，并且提供了三種優(yōu)化算法，通過(guò)不同優(yōu)化算法，研究人員經(jīng)過(guò)對吞吐量和響應時(shí)間的測試發(fā)現TLWL算法是執行性能最好的算法。這些新優(yōu)化的算法為大家在未來(lái)的基于SIP服務(wù)器進(jìn)行優(yōu)化提供了非常有深度的技術(shù)模型。

　　但是，隨著(zhù)技術(shù)不斷發(fā)展，用戶(hù)需求不斷增加，這些均衡負載的部署方式如果部署在目前商業(yè)環(huán)境的話(huà)，仍然缺乏很多其他業(yè)務(wù)方面的支持，仍然需要一些專(zhuān)業(yè)的SBC做均衡負載，以及均衡負載集群組來(lái)實(shí)現，并且需要結合用戶(hù)迫切需要的實(shí)時(shí)語(yǔ)音檢測機制進(jìn)行更智能化路由。筆者在后續章節介紹了Ribbon SBC在建議SIP信令層面的均衡負載機制路由以外，和讀者分享了基于RTP語(yǔ)音流的智能路由功能，通過(guò)QoS，MOS和PDD等比較重要的參數數值，通過(guò)語(yǔ)音分析模塊實(shí)時(shí)對呼叫進(jìn)行路由設置。

　　隨著(zhù)系統不斷擴容，SIP服務(wù)器的均衡負載機制和算法也不斷需要更新來(lái)滿(mǎn)足最新的業(yè)務(wù)需求。其他的算法或者均衡負載機制也可能可以實(shí)現某種用戶(hù)場(chǎng)景，比如，利用云平臺技術(shù)，HAProxy或DNS SRV等相關(guān)技術(shù)來(lái)實(shí)現不同的需求均衡負載或者HA解決方案，因為篇幅關(guān)系，筆者沒(méi)有涉及這方面的討論。筆者希望從單純的SIP技術(shù)方面，結合所討論的這些結果對讀者將來(lái)部署SIP均衡負載解決方案有所幫助，獲得更穩定專(zhuān)業(yè)的均衡負載解決方案。

　　Hongbo Jiang，Design, Implementation, and Performance of A Load Balancer for SIP Server Clusters

　　Abdullah Akbar，A Comparative Study on Load Balancing Algorithms for SIP Servers

　　Georgios，Towards effective SIP load Balancing