【IT168 案例】用户需求
河北省统计局业务的应用特点是以建立统计信息数据库体系为中心,并对统计数据进行管理和维护、分析和处理,以及统计数据的查询和上报,自动化办公等应用为基础,并对统计数据有严格的安全性要求。河北省统计局计算中心原有一台小型机来做统计数据的管理、分析和处理,随着国家第二次农业普查等统计项目的开展,统计局需要处理的数据量不断增大,分析、统计需求的不断增多,急需更大的计算基础设施来满足不断增长的业务需求。
解决方案
总体方案
针对上述应用特点,曙光提出如下方案设计原则:结合集群系统数据库建设和信息服务的成功案例,提供非常先进的数据分析、处理解决方案,确保农业普查应用软件的兼容性和稳定性,并保障统计信息数据库体系的保密性和安全性不受侵犯,同时本着保护用户投资,在满足现阶段应用需求的同时,为下一步扩充升级留有足够的空间和接口。
经过对业界在数据分析和处理方向各种解决方案的仔细对比。曙光推荐使用cluster架构的Oracle RAC并行数据库来构建河北省统计局统计、分析系统。同时,利用曙光在大规模高性能计算机群上的技术积累,为河北省统计局提供管理、监控、安全于一体的解决方案。
▲方案拓扑图
统计分析数据库是该项目中的核心。方案采用cluster架构实现四节点的Oracle RAC并行数据库,提供高性能、高并发的数据分析服务。每节点采用曙光高端的八路服务器,配八颗AMD 双核CPU,配备64G内存,这样使得整个系统成为一个具有48个处理核心并具有192G海量内存的庞大的数据处理中心,通过每台配有2块高速SAS硬盘创建RAID 1,可以充分满足大数据的读取及数据的冗余,确保数据的安全性。
利用大规模高性能机群上的管理、监控技术,方案采用了高可扩展的视频切换系统,提供非常方便的管理功能。同时,提供了在大规模高性能机群上的多种监控、管理技术,包括:DCMS集群管理系统软件、DCIS系统部署软件、DCMM集群系统监控软件、Mterm机群并行命令软件。
配置表
应用 | 设备 | 详细参数和配置 | 单位 | 数量 |
节点系统 |
数据库 节 点 | 曙 光 A950R-F | AMD Opteron 8218(2.6G/2M)CPU*8/32G DDR2 400 ECC Registered内存/146G 15K SAS硬盘*2/SAS RAID卡 (RAID 1)/3*1000M网卡/DVD光驱/1.44”标准软驱/1350W 3+1冗余电源/2个USB2.0接口(前置)/光纤4G HBA卡/5U机架式 | 台 | |
管 理 节 点 | 曙 光 A620r-F | AMD Opteron 2218 (2.6G/2M)CPU*2/4G内存/8根内存插槽,最大支持32GB 内存/73G SAS 15000转硬盘*2(RAID 1)/2*1000M网卡/光驱/600W 1+1冗余电源/2U机架式/2×64bit 100MHzPCI-X插槽3×PCI-Express x8插槽1×32bit 33MHz PCI插槽/4×USB2.0接口(后置)2×USB2.0接口(前置)/2U机架式/光纤4G HBA卡 | 台 | |
集群机柜及监控系统 |
集群专 用机柜 | 曙光TC4000机柜系统 | 19"集群标准机柜,含布线系统、散热系统 供电系统,电源系统支持自动分时上电, 系统监控机4U/监控主机(含LCD触摸屏1套,安装在主机柜前面板门上)/硬件监控网络/2U电源箱/航空插头/电源监控套件(可以在LCD上监控到交流电电压、电流数值,含电源箱中信息采集卡、监控主机内A/D卡) | 套 | |
| 监控模块 | 节点硬件监控卡 | 块 | |
集群控制系统 |
视频切换系统 | CIM | 与硬件监控卡配合使用,实现KVM信号的采集 | 个 | |
SKVM over IP盒/USTS | KVM Over IP的终端盒,信息采集与视频切换 | 个 | |
机群控制 台 | 内置控制台 | 1U手动伸缩控制台(曙光15"液晶显示器、鼠标、键盘、8口切换器等) | 套 | |
集群网络与存储系统 |
集群高速交换网 | 千兆网络 交换机 | Foundry EdgeIron 24GS千兆以太网交换机,160Gbps交换带宽,80Mpps包转发率,40Gbps堆叠带宽 | 套 | |
集群管理 网 | 百兆网络交换机 | D-link DES-1024 24口百兆以太网交换机 | 台 | |
安 全 设 备 | 曙光TLFW-120A 集群防火墙 | 2个百兆口,3个千兆电口,1U机架,支持双向NAT,支持网桥、路由、混合模式,抗DoS/DDoS攻击,双机热备,高级路由,流量控制,P2P过滤,内置IDS,应用代理,身份认证,日志审计,VPN | 台 | |
集群系统软件 |
集群操 作系统 | Linux操作系统 | Red Hat Advance Server AS 4.0 | 套 | |
曙光集群系统管理软件群组 | MTERM机群并行命令软件 | 用户系统命令提交,给用户提供了一套能够在一个节点上同时控制所有节点的功能,可以在所有节点上实现相同的操作等等 | 套 | |
DCMS机群系统管理软件 | 用于系统多种管理功能,是一个强大的集群系统管理软件,提供了如IP管理,节点管理、集群文件访问和跨节点拷贝、Hosts表管理、RPM包管理以及开机关机管理等一系列常用的管理功能 | 套 | |
DCIS机群系统部署软件 | 用于系统恢复和备份,是一套基于系统映象的集群备份和一致性软件,利用它用户可以轻松实现在1小时内安装128个节点的操作系统的任务,用户可以轻松实现多个节点的一致性文件统一 | 套 | |
DCMM机群系统监控软件 | 实现了监控的历史记录查询,历史数据分析,资源信息监控,实时数据预测,系统多元报警,节点开关机控制,多路远程监控等新功能。尤其是远程监控部分,实现了多路监控系统的自由切换 | 套 | |
OpenPBS作业管理调度系统 | 最流行的基于Linux系统的作业调度系统,支持串行和并行作业,并行作业支持MPI和OpenMP,提供实时的作业信息显示,支持对各种系统资源进行分配与限制 | 套 | |
方案特色
强大的硬件平台
采用8路双核AMD Opteron8000系列处理器的曙光A950r-F提供高到16个核心的并行计算能力,同时,Opteron独具特色的直接架构和HyperTransport技术,使之具有高性能的分析处理能力。64GB的大容量内存空间充分考虑了数据分析应用的需求,高达128GB DDR2内存扩展,海量内部存储空间为企业级核心应用提供强大的的性能保障。此外,作为提供核心数据库系统的基础硬件平台,A950r-F在硬件上具有高度冗余的特点,保证了主机的可靠性。
高性能的并行数据分析系统
采用cluster的Oracle RAC提供了高并发的数据处理分析能力。同时,cluster架构的数据分析子系统具有无可比拟的可扩展性,充分考虑了业务扩展的可能,保护了用户的投资。Oracle RAC架构保证了数据分析核心系统和应用系统的高度兼容性、易用性。