大連理工大學(xué)
海量日志遭遇存儲與查詢(xún)難題
首先，在時(shí)間上從原來(lái)的留存60天增加到6個(gè)月，整個(gè)日志量提升了三倍。另外，在范圍上由原來(lái)的用戶(hù)行為日志變?yōu)榫W(wǎng)絡(luò )相關(guān)日志，也就是除了出口行為日志外，還要增加網(wǎng)絡(luò )、安全、服務(wù)器等其他相關(guān)日志，導致需要留存的日志量幾何級的增加。
大連理工大學(xué)（以下簡(jiǎn)稱(chēng)：大連理工）就遇到了這個(gè)問(wèn)題，經(jīng)過(guò)前期日志收集發(fā)現僅出口日志平均每秒都有1.3萬(wàn)條左右，高峰甚至達到2萬(wàn)EPS，要滿(mǎn)足安全法僅出口日志就需要300T左右存儲，全網(wǎng)日志數據量加起來(lái)更加驚人。
面對如此大量的存儲需求，用戶(hù)壓力倍增。另外，海量數據的查詢(xún)速度也是讓人頭疼，采用傳統數據庫的日志系統進(jìn)行查詢(xún)，幾十億條的日志查起來(lái)動(dòng)輒就需要好幾個(gè)小時(shí)，有時(shí)系統甚至直接崩潰。滿(mǎn)足合規要求與所需的大量存儲天價(jià)成本之間的矛盾，讓大連理工陷入兩難，直到遇到了銳捷RG-BDS大數據安全平臺超級日志版（RG-BDS-S）。
大連理工RG-BDS-S實(shí)際部署圖
RG-BDS超級日志版重新定義“超級”二字內涵
RG-BDS超級日志版是銳捷基于高校出口應用場(chǎng)景定向開(kāi)發(fā)的，核心價(jià)值是超低存儲、超高性能、滿(mǎn)足超大量日志場(chǎng)景的合規需求。毫不夸張地說(shuō)，它在功能和性能上重新定義了“超級”二字的內涵，被用戶(hù)稱(chēng)為“超級贊”。
首先，單位數據所需存儲空間超級小。
RG-BDS超級日志版可通過(guò)選擇性日志字段裁剪、ES默認存儲方案壓縮優(yōu)化、索引壓縮等技術(shù)，大幅減小6個(gè)月日志留存所需存儲空間，并且，實(shí)際環(huán)境中數據量越大，數據重復比例越高，壓縮比越大，節約的存儲空間越多。下面是大連理工的實(shí)際存儲數據（實(shí)現10:1的超級壓縮比）。
大連理工部署RG-BDS-S前后數據存儲量對比
第二、滿(mǎn)足超級大日志量場(chǎng)景性能需求。
通過(guò)可伸縮大數據架構，支撐每秒10000條以上超大日志量場(chǎng)景性能需求，配合集群節點(diǎn)（查詢(xún)性能擴容）和采集器（收集性能擴容）實(shí)現彈性性能擴容。其中：50TB數據級以下，可以使用單機部署；1PB數據級以下，可以使用ES集群部署；1PB數據級以上，可以使用ES+Hadoop部署。
第三、查詢(xún)速度超級快。
如下方表格所示，ES大數據底層架構，可實(shí)現10億級日志秒級查詢(xún)，滿(mǎn)足網(wǎng)監溯源需求，支持與Hadoop一起部署使用。
第四、兼容品類(lèi)超級全。
RG-BDS-S開(kāi)放兼容，可收集主流網(wǎng)絡(luò )、安全、服務(wù)器、中間件等廠(chǎng)商日志，內置74個(gè)廠(chǎng)商，182種設備的日志標準化腳本。
RG-BDS-S內置74個(gè)廠(chǎng)商，182種設備的日志標準化腳本
最后，RG-BDS-S還可以與銳捷RG-SAM（安全計費管理系統）聯(lián)動(dòng)，結合其他設備日志實(shí)現實(shí)名制的日志留存和查詢(xún)。
低存儲、高性能、滿(mǎn)足超大量日志場(chǎng)景的合規需求。這就是RG-BDS-S在海量日志場(chǎng)景下幫助大連理工滿(mǎn)足《網(wǎng)絡(luò )安全法》合規要求的解決之道！
