存储资源
Burst Buffer
/bbfs
采用全NVMe SSD构建的高性能Burst Buffer,具备很高的顺序和随机读写性能。
- 文件系统:bbfs
- 购置者:公共共享100%
- 可用容量:102 TiB
- IO节点:4*HPE ProLiant DL380 Gen10: bb01 bb02 bb03 bb04
- 网络:2*25 Gigabit Ethernet, 100 Gbit/s EDR InfiniBand, 100 Gbit/s Omni-Path Architecture
- 硬盘:7*Intel SSD DC P4510, 64-Layer TLC 3D NAND, 4TB 6.3PBW, 2.5in U.2 15mm, PCIe 3.1 x4 NVMe
- 保护:所有元数据和数据以双副本形式保护
/bbfs/fs*/
所有文件系统(/fs*/)均在此目录中有映射,/bbfs/fs*/ 是 /fs*/ 的高速缓存,在 /bbfs/fs*/ 中重读和写入具有极高的性能,与直接在 /fs*/ 下相比有显著提升,保存在 /bbfs/fs*/ 下的文件会自动回写 /fs*/ 保存。
如:作业输入文件位于 /fsa/home/yaoge/in,如果此输入文件近期会被读取多次(无论是单个作业还是多个作业),则应将输入文件路径指定为 /bbfs/fsa/home/yaoge/in,那么从第二次开始均从高速SSD上读取,减少作业读取文件上花费的时间。
如:作业输出文件如较大,则应将数据文件路径指定为 /bbfs/fsa/home/yaoge/out,那么将直接写入高速SSD中,然后系统会自动将文件回写到 /fsa/home/yaoge/out 便于长期保存,减少作业写入文件上花费的时间。
/bbfs/scratch/
用于保存临时文件,超过30天没有访问(atime)的文件会被自动删除,适合于临时存储计算中间结果、checkpoint等无需长期保留的文件。文件名以 .tmp 和 .temp 结尾的文件保存为单副本。
如:作业运行过程中保存的Check Point文件或多个作业之间通过临时文件传输数据,这些文件无需长期保存,则可以保存在/bbfs/scratch/yaoge目录下,读写均在高速SSD上。
基础支撑
/fs00
- 购置者:公共共享100%
- 可用容量:7.3 TiB
- IO节点:4*HPE ProLiant DL380 Gen10: bb01 bb02 bb03 bb04
- 网络:2*25 Gigabit Ethernet, 100 Gbit/s EDR InfiniBand, 100 Gbit/s Omni-Path Architecture
- 硬盘:Intel SSD DC P4510, 64-Layer TLC 3D NAND, 2TB 2.61PBW, 2.5in U.2 15mm, PCIe 3.1 x4 NVMe
- 保护:所有元数据和数据以三副本形式保护
家目录
/fsa
- 购置者:公共共享100%
- 可用容量:361 TiB
- IO节点:2*HP ProLiant DL380 Gen9: io01 io02
- 网络:2*10 Gigabit Ethernet, 56 Gbit/s FDR InfiniBand
- 存储:DDN SFA7700X,双控制器,每控制器 32GB 缓存带电池备份至闪存
- 硬盘:Data: 10TB 3.5-inch 7.2Krpm 12Gb/s SAS,每10个盘做一组RAID6,5组RAID6。Metadata: Toshiba Enterprise SSD PX02SMU040 MLC 10DWPD 400GB 2.5-inch 12Gb/s SAS,10个盘做一组RAID6。
/fs04
- 购置者:万贤纲100%
- 可用容量:14 TiB
- IO存储节点:Dell PowerEdge 12G R720xd: io08
- 网络:2*10 Gigabit Ethernet
- RAID卡:Dell PERC H710P Mini (LSI SAS2208 ROC), 1GB cache with Intelligent Battery Backup Unit
- 硬盘:900GB 2.5-inch 10Krpm 6Gb/s SAS,每5个盘做一组RAID5,4组RAID5,2个热备盘
/fs08
- 购置者:孙建100%
- 可用容量:14 TiB
- IO节点:2*Inspur NF5270M3: io10 io11
- 网络:2*1 Gigabit Ethernet, 40 Gbit/s QDR InfiniBand
- 存储:Inspur AS500H (NetApp E2600),双控制器,每控制器 4GB 缓存带电池备份至闪存,Write caching with mirroring, High Performance Tier
- 硬盘:900GB 2.5-inch 10Krpm 6Gb/s SAS,每5个盘做一组RAID5,4组RAID5,2个全局热备盘
/fs09
- 购置者:孙建100%
- 可用容量:24 TiB
- IO节点:2*Inspur NF5270M3: io10 io11
- 网络:2*1 Gigabit Ethernet, 40 Gbit/s QDR InfiniBand
- 存储:Inspur AS500H (NetApp E2600),双控制器,每控制器 4GB 缓存带电池备份至闪存,Write caching with mirroring, High Performance Tier
- 硬盘:3TByte 3.5-inch 7.2Krpm 6Gb/s NL-SAS,12个盘做一个Disk Pool,保留1个硬盘空间,做2个Virtual Disk
/fs10
- 购置者:王强华100%
- 可用容量:9.9 TiB
- IO存储节点:Inspur NF5270M3: io12
- 网络:2*1 Gigabit Ethernet, 40 Gbit/s QDR InfiniBand
- RAID卡:LSI MegaRAID SAS 9271-8i (LSI SAS2208 ROC), 1GB缓存超级电容备份至闪存
- 硬盘:900GB 2.5-inch 10Krpm 6Gb/s SAS,每5个盘做一组RAID5,3组RAID5,1个全局热备盘
/fs12
- 购置者:张海军100%
- 可用容量:14 TiB
- IO节点:2*HP ProLiant DL380 Gen9: io01 io02
- 网络:2*10 Gigabit Ethernet, 56 Gbit/s FDR InfiniBand
- 存储:HP MSA 2040 SAN,双控制器,每控制器 4GB 缓存带超级电容备份至闪存
- 硬盘:900GB 2.5-inch 10Krpm 6Gb/s SAS,每5个盘做一组RAID5,4组RAID5,3个全局热备盘
/fs13
- 购置者:张海军100%
- 可用容量:30 TiB
- IO节点:2*HP ProLiant DL380 Gen9: io01 io02
- 网络:2*10 Gigabit Ethernet, 56 Gbit/s FDR InfiniBand
- 存储:HP MSA 2040 SAN,双控制器,每控制器 4GB 缓存带超级电容备份至闪存
- 硬盘:4TByte 3.5-inch 7.2Krpm 6Gb/s SAS,每6个盘做一组RAID6,2组RAID6,1个冷备盘
/fs14
- 购置者:陈申见100%
- 可用容量:262 TiB
- IO节点:Dell PowerEdge R730: io13
- 网络:2*10 Gigabit Ethernet
- RAID卡:Dell PERC H730P Mini (LSI SAS3108 ROC), 2GB NV cache with Intelligent Battery Backup Unit
- 硬盘:8TByte 3.5-inch 7.2Krpm 12Gb/s SAS,6个盘做一组RAID6
- RAID卡:Dell PERC H830 (LSI SAS3108 ROC), 2GB NV cache with Intelligent Battery Backup Unit
- JBOD:8TByte 3.5-inch 7.2Krpm 12Gb/s SAS,6个盘做一组RAID6,8组RAID6
冷存储
/nfs
- 购置者:公共共享100%
- 可用容量:1.10 PiB
- IO存储节点:Dell PowerEdge R740xd: stor.nju.edu.cn
- 网络:2*25 Gigabit Ethernet
- 保护:RAID-Z 3
- 仅登录节点可访问
对象存储
对象存储 s3.nju.edu.cn 支持标准的S3协议,支持HTTP和HTTPS。在集群内直接通过内部网络高速访问,在集群外无论是校园网还是 Internet 均可访问,打破壁垒实现了数据的统一访问。同一份数据,集群内外共同使用,访问方式相同,再无迁移数据的烦恼!
- 购置者:公共共享100%
- 裸容量:2.12 PB
- 系统:紫光西部数据 UniverStor P20000
- 网络:12*10 Gigabit Ethernet
- 保护:纠删码 Large object: 15/4, Small object: 6/4
- Endpoint: s3.nju.edu.cn ,HTTP或HTTPS均可
- Region: “空” 或 us-east-1
退出服务
/fs04
- 可用容量:885 GB
- IO存储节点:IBM System x3650: io03
- RAID卡:IBM ServeRAID 8k (Adaptec), 256MB cache with battery
- 硬盘:146GB 3.5-inch 10Krpm 3Gb/s SAS,每5个盘做一组RAID5,每节点1组共2组RAID5,每节点1个热备盘
/fs02
- 可用容量:7.3 TB
- IO节点:IBM System x3650 M3: io05
- 网络:Chelsio 20 Gigabit Ethernet
- 存储:IBM System Storage DS3200, 1GB cache with battery backup
- 硬盘:2TByte 3.5-inch 7.2Krpm 3Gb/s SATA,6个盘做一组RAID6
/fs06
- 可用容量:443 GB
- IO存储节点:HP ProLiant DL380 G5: io09
- 高速网络:20 Gbit/s DDR InfiniBand
- RAID卡:HP Smart Array P400, 512MB Battery-Backed Write Cache
- 硬盘:146GB 2.5-inch 10Krpm 3Gb/s SAS,5个盘做一组RAID5,1个热备盘
/fs07
- 可用容量:7.3 TB
- IO节点:HP ProLiant DL380 G5: io09
- 高速网络:20 Gbit/s DDR InfiniBand
- 存储:HP StorageWorks MSA2312sa G2 单控制器
- 硬盘:1TByte 3.5-inch 7.2Krpm 3Gb/s SATA,每6个盘做一组RAID6,2组RAID6
/fs05
- 可用容量:1010 GB
- IO存储节点:HP ProLiant DL380 G5: io04
- RAID卡:HP Smart Array P400, 512MB Battery-Backed Write Cache
- 硬盘:300GB 2.5-inch 10Krpm 3Gb/s SAS,5个盘做一组RAID5,1个热备盘
/fs05b
- 可用容量:932 GB
- IO存储节点:HP ProLiant DL380 G5: io04
- RAID卡:HP Smart Array P400, 512MB Battery-Backed Write Cache
- 硬盘:1TByte 2.5-inch 7.2Krpm 3Gb/s NL-SAS,1个盘RAID0
/fs03
- 可用容量:2.2 TB
- IO存储节点:Dell PowerEdge 12G R720: io07
- RAID卡:Dell PERC H710P Mini (LSI SAS2208 ROC), 1GB cache with Intelligent Battery Backup Unit
- 硬盘:600GB 2.5-inch 10Krpm 6Gb/s SAS,5个盘做一组RAID5,1个热备盘
/fs11
- 可用容量:16 TB
- IO节点:Dell PowerEdge 12G R720: io07
- 存储:Dell MD3200i 单控,2GB cache with battery backup
- 硬盘:2TByte 3.5-inch 7.2Krpm 6Gb/s NL-SAS,12个盘做一个Disk Pool,保留1个硬盘空间,做一个Virtual Disk
/fs01
- 文件系统:fs01
- 购置者:公共共享100%(原邢定钰50%,舒大军50%)
- 可用容量:4.4 TB
- IO存储节点:IBM System x3650 M3: io05 io06
- 网络:Chelsio 2*10 Gigabit Ethernet
- RAID卡:IBM ServeRAID M5015 (LSI SAS2108 ROC), 512MB cache with Battery Backup Unit
- 硬盘:300GB 2.5-inch 10Krpm 6Gb/s SAS,每5个盘做一组RAID5,每节点2组共4组RAID5,每节点1个热备盘