内存技术:并非完美的FB-DIMM
近年来从并行向串行转变的趋势非常明显,FB-DIMM内存技术也是其中之一,它采用了多条并联的串行线,将内存模组上的每个芯片同AMB芯片连接,然后整个内存通道中的所有内存模组也是串接在一起,这样的设计方式可以系统更加容易获得大容量、高频率的内存系统。Intel 5000系列芯片组开始支持FB-DIMM(fully buffered DIMM)内存,英特尔计划让这种新型的内存全面取代现有的ECC Register DIMM,因此在新的Intel 5000系列MCH的datasheet中我们发现它并不兼容现有的内存规范。
![]() |
| FB-DIMM内存的一般会包有散热片 |
Intel 5000P MCH支持36bit寻址能力,总共可支持64GB物理内存。MCH支持4个FB-DIMM内存通道,每个通道最高支持4个双bank FB-DIMM DDR DIMM。因此在非镜像模式下,MCH最高可支持16 DIMM或者最大64GB物理内存,在镜像模式下最大可以支持32GB物理内存。Intel 5000V MCH则仅支持2个FB-DIMM内存通道,每个通道最高可支持4 DIMMs,总共可支持8 DIMM,那么最高内存容量可达16 GB。目前上一代主流芯片组E7520 MCH最高可支持16GB DDR2内存或者32GB DDR266内存,在内存容量上并没有提高。
每个安装了DDR533 FB-DIMM内存的FB-DIMM通道的读取带宽为4.25 GB/s,所以4个通道最高可以提供17GB/s的内存带宽,这正好同FSB1066 DIB总线的带宽相匹配。FB-DIMM采用了非对称设计,其上行信号线为10bit,下行信号线为14bit,此时4通道FB-DIMM可以提供8.5GB/s的写入带宽。在双通道配置的Intel 5000V平台上,这些数字都将减半,读取带宽为8.5GB/s,写入带宽为4.25GB/s。
AMD Opteron 2000系列处理器最大的改变之一就是改进了内存控制器,开始支持已经是市场上绝对主流的DDR2内存。不过,AMD对于其内存控制器的细节透露的非常的少,我们只能比较笼统的了解它:其整合内存控制器设计不仅可以有效的降低了内存控制器的延迟,还能随着处理器数量的增加“线性”的扩展内存带宽。新的Opteron处理器整合了DDR2内存控制器,Opteron 1000最高可支持DDR2-800内存,理论上可以提供12.8GB/s的内存带宽,而Opteron 2000/8000处理器最高可支持DDR2-667内存,理论上可提供10.7GB/s的内存带宽。这相对于上一代Opteron是一个非常大的改进。
| Intel 5000P所整合内存控制器 | AMD Opteron 2000所整合内存控制器 | |
| 寻址能力 | 36bit | 40bit |
| 可寻址容量 | 64GB | 1TB |
| 每控制器通道数量 | 4 FBD通道 | 2 DDR2通道 |
| 内存类型 | FB-DIMM 533/667MHz | DDR2 400/533/667MHz |
| 支持设备 | 可支持容量为256Mbit、512Mbit、1Gbit、2Gbit的内存芯片 | 可支持容量为256MB、512MB、1GB、2GB、4GB的内存模组 |
| 热冗余 | 支持 | 支持 |
| 镜像 | 支持 | 不详 |
| x4 SDDC | 支持 | 支持 |
| ECC | 支持 | 支持 |
由于Xeon 5100系列处理器依然支持36bit物理寻址和48bit虚拟寻址,因此其内存控制器也相应的提供了相适应的寻址能力。Opteron 2000系列处理器支持40bit物理寻址和48bit虚拟寻址,其物理寻址范围上大大的超过了竞争对手的解决方案。
![]() |
不过,双路X86服务器应用实际会36bit(64GB)寻址的情况并不多,从服务器厂商所推出的产品可以看出这一点,大多的双路服务器最高可配置32GB内存(本次横评14台服务器中有9台),少数的双路服务器可配置64GB(本次横评中只有2台)。可以,两家厂商的内存寻址能力差异还无法在双路服务器的实际应用中体现出来。
AMD和Intel在系统结构上非常的不同,AMD将内存控制器整合于Opteron处理器内,Intel则依然使用传统的设计,将内存控制器整合在北桥芯片中。Opteron所整合的内存控制器具有128bit位宽,可支持双通道DDR2 667MHz内存配置,理论上最大带宽可达10.7GB/s,更重要的是双路Opteron系统中具有两个内存子系统,总共可提供21GB/s的内存带宽。Intel 5000P MCH则结合FB-DIMM DDR2内存,将串行技术引入了内存子系统中,每个MCH支持2个Branch,每个Branch包括两个FB-DIMM通道,总共可提供21GB/s的内存带宽。单单从简单的数字上看,两个系统是“半斤八两”。
通过我们对于最新的AMD和Intel服务器平台的缓存内存子系统的测试来看,AMD Opteron整合内存控制器的方案的确可以明显的降低内存访问延迟,对比基于Netburst微架构的Xeon平台可以明显的看到这一点,不过基于Core微架构的Xeon平台配合FB-DIMM内存子系统,在这个方面取得了很明显的进步,两者的延迟测试结果比较接近。
| 阅读以下文章可以更详细了解FB-DIMM内存的不同之处: |
在RAS特性方面,AMD Opteron处理器的资料确认其支持单bit纠错和双bit侦错ECC,也能支持内存冗余功能,我们在一些生产AMD Opteron服务器厂商提供的资料中发现,该系统也能支持x4 SDDC,不过我们没有发现有资料显示其支持内存镜像。Intel 5000P MCH可支持内存冗余、内存镜像、x4 SDDC和ECC等特性。
还需要说明的是,FB-DIMM在理念上的确是比较先进,但是其功耗过大的问题的确是存在的,根据我们之前的测试发现,单条FB-DIMM DDR2-533内存功耗高达10瓦,而一般的DDR2内存的功耗只有2瓦多一点。配置了4-8条FB-DIMM内存的系统中,会又增加了除了处理器之外一个热源,这是服务器散热设计上一项新考验。
![]() |
| FB-DIMM内存和处理器位于不同的风道 |
![]() |
| FB-DIMM内存和处理器位于同一风道 |
在本次横评中的9款基于Intel Bensley平台的服务器中,ASUS RS162-E4/RX服务器、DELL PowerEdge 2950服务器、HP ProLiant DL380 G5服务器、IBM X3650服务器均将内存设计在单独的风道上,以确保FB-DIMM得到充分的散热,而其它的5款服务器中的FB-DIMM内存的散热要依赖于经过处理器“预热”气流。
