Skip to main content

校内用户超算集群申请与基本使用简明指南(2024年后新版)

2024年春节后,集群登录方式迎来较大更新,本文为翻新版简明指南。

本文将简述集群使用的基本过程,但是详细的操作和使用仍然需要仔细阅读超级计算使用说明。

一、账号获取

  1. 新用户在scc.nju.edu.cn首页点击注册账户

  1. 无论校内还是校外用户,均正常按照流程注册:

  1. 填写表单,用户组名称输入所在课题组的用户组名(不知道就去问课题组里),提交申请;
  2. 组长(即课题组里负责审批的人,如果不清楚也问组里)登录scc.nju.edu.cn自助审批新用户,通过后账号立刻生效,即可使用。
  3. 新用户再次登入scc.nju.edu.cn,即可进行一些账号信息的维护,包括重置密码、查看机时费用等。

如果组里之前没注册过相关账号,请联系姚老师:yaoge@nju.edu.cn

二、登入资产

注册成功后,用注册成功的账号和密码(不是统一身份认证)访问entry.nju.edu.cn

2.1、首次登入

首次登入必须使用浏览器,会要求设置两步认证,屏幕会出现一个二维码要求绑定。手机安装下列支持 RFC 6238 的 TOTP 客户端 APP,扫描二维码(也可手动输入),然后点击“完成绑定”。具体建议的APP参照:eScience服务与软件兼容性报告 -两步认证软件支持情况表

两步认证请另行参阅:eScience服务双重认证简明指南

按照需求使用一个验证器即可。但注意,如果没有备份和导出功能,手机一旦更换,这个设置也会失效。

如需重新进行两步认证绑定(如手机丢失),请用注册预留邮箱发邮件至yaoge@nju.edu.cn申请并抄送填写用户注册表单的教职工邮箱。 下面以Microsoft Authenticator(绑定微软账号云端备份,推荐,但可能安卓/鸿蒙手机需要谷歌框架,不同机型如何打开或安装谷歌框架请直接百度)为例:

扫描二维码即可添加成功。

2.2、绑定成功后登入

打开前面的两步认证软件,点开对应entry.nju.edu.cn的账号:

获取其中的一次性密码代码,登入

进入后,可以看见你的账户下分配的资产:

按照本页顶端的提示,安装AccessClient之后,点击更多,会显示三种访问方式:

  • ssh:命令行登入,这个一般就足够了
  • sftp:大量(数量多、体积大)文件传输
  • Xfwd:图形界面

直接点击上述选项访问可以直接在从浏览器访问而无需再次登入账户。此外,用户可以通过点击右上角用户名,更改账号设置-会话配置-字符会话/文件传输来实现更加方便地登入。例如,将字符会话和文件传输会话访问方式分别修改为xshellxftp或其他本机安装有的客户端,即可实现从entry.nju.edu.cn点击直接唤起已经安装的Xshell和Xftp,无需再次输入密码。

三、登录资产

3.1、SSH客户端登入:以Xshell为例

由于命令行一定是需要跨过去的坎,所以后面默认会主要使用ssh方式。

Windows下推荐使用Xshell(当然你有其他的客户端甚至是原生的Linux都可以): 家庭/学校免费 - NetSarang Website(最新版直接下载普通版本即可使用)

安装完打开Xshell,点击左上角的新建来新建会话

设置自定义的名称之后,将主机设置为enrty.nju.edu.cn

连接-用户身份验证中,按照集群用户名/10.1.0.101/self的格式填入用户名,同时密码空着(或者输入账户密码也可,但是需要阅读下面“分两步输入”的方法介绍):

确定后保存。

打开刚刚新建的会话,然后第一次连接可能会出现“SSH安全警告”,询问是否“接受此主机密码?”,接受并保存即可。

下一步中,需要输入密码。密码有两种输入方式:

  1. 一次性输入:和原来一样,遵循账户密码+两步认证的格式,其中账户密码和scc.nju.edu.cn的登录密码相同,但是中间用空格空开。例如,账户密码为:qwerty,此时两步认证软件内的代码为123456,那么你这里需要填写qwerty 123456。千万不要勾选记住密码,因为这个方式显然后半部分每次会变。
  2. 分两步输入:先输入账户密码,在字符界面需要“2nd Password”时再单独输入手机两步认证软件内中的动态口令。可以勾选记住密码,因为这个方式中账户密码不变。

一次性输入或分两步输入均可

分两步输入需要单独输入第二个动态密码

登入成功后,是登录节点。应当会这么显示:

友情提示——在这里改字体和大小:

在这里改配色方案:

对自己的眼睛好一点……

当然,你也可以直接登录entry.nju.edu.cn,按照前文说明配置会话,点击ssh方式登录资产自动登录Xshell。这是最简单的做法。

扩展阅读: 什么是SSH?SSH是如何工作的? - 华为

3.2、更易用的文件传输:Xftp

集群支持sftp方式的文件传输。比起使用rz、sz等命令的方式,sftp客户端具有易用、直观的特点,适合传输多个、大批量的文件。Windows下,这里和Xshell配套的软件便是Xftp。

XFTP - NetSarang Website

Xftp使用参数:

  • 主机:entry.nju.edu.cn,默认端口22
  • 协议:sftp
  • 用户名:集群用户名/10.1.0.101/self
  • 密码:和上面登入Xshell的方法1一致,方法2不适用

其他情况可以去远程登录文档内寻找答案。

当然,你也可以直接登录entry.nju.edu.cn,按照前文说明配置会话,点击sftp方式登录资产自动登录Xftp。这是最简单的做法。

3.3、网页端的文件传输与编辑

新版scc.nju.edu.cn集群门户引入了一个新功能:文件浏览器。这个功能会更像网盘一样,让你直接访问集群上的文件并进行一定简单操作。

在主页面左上角点开,可以看到 “文件浏览器” 应用,点击:

弹出的界面中,会要求你登录身份。注意,这里的登录方式和前文不一样,密码与scc.nju.edu.cn登录方式一致。即:

  • 账号:集群用户名
  • 密码:scc.nju.edu.cn门户密码(无两步认证)

认证后,还有两步认证验证码:

这里的两步认证验证码即为entry.nju.edu.cn中该集群账号所绑定的两步认证。

“管道”连接成功之后,刷新该页面就可以看到文件目录了。你可以在网页端完成对文件的操作,包括:

  • 文件/文件目录上传、移动、复制、删除
  • 文件/文件目录解压缩
  • 文本在线编辑
  • 图片在线预览

四、Linux命令行使用

命令行五花八门,说到底,都是命令 参数(注意中间的空格)这种格式。

基本命令行参考:

命令 用途
ls <路径> 列出指定目录<路径>下的文件和文件夹
cd <路径> 切换到指定目录<路径>
mkdir <文件夹> 在当前目录创建一个叫<文件夹>的文件夹
vim <文件> 使用Vim编辑文本文件<文件>(脚本之类的),如果<文件>不存在,就创建它。Vim是一款非常强大的命令行编辑器,学习见:Linux vi/vim | 菜鸟教程GitHub - wsdjeg/Learn-Vim_zh_cn
rzsz <文件> 少量小文件传输和下载
tar 打包压缩与解压,可以用来打包或解压多个文件
cp 复制
mv 移动
rm 删除

上表只是告诉了你一个目录,具体各个命令如何使用你可以根据上述表来搜索学习。 在集群上为了提交作业,还需要知道bsubbjobs等集群使用的lsf作业系统命令。这部分需要仔细阅读:https://doc.nju.edu.cn/books/efe93/page/4f4ad

尽管有SFTP软件可以免去大量Linux命令文件操作,但是还是建议稍微了解一些Linux的基础命令。

五、一个提交作业的演示

基本的脚本提交

以提交一个DMI_pbc.mix的mumax计算脚本为例: ssh登入后,在登录节点上输入:

ls

查看当前目录(登录节点的用户主目录)有些什么。

mkdir mumax_20221014
cd mumax_20221014

第一行:创建一个mumax_20221014的文件夹(make directory)管理这一次的计算任务

第二行:切换进刚刚创建的那个目录(change directory)

rz

唤起传输界面:

选择要上传的mumax计算脚本DMI_pbc.mix文件。

vim job.lsf

创建一个job.lsf的作业提交脚本,并且参照https://doc.nju.edu.cn/books/efe93/page/mumax 的示例写入:

#BSUB -q 723090ib
#BSUB -gpu num=1

mx3in=DMI_pbc.mix

module load cuda/11.2.0
/fs00/software/mumax/3.10-cuda11.0/mumax3 $mx3in

第1行:作业参数,指定使用的计算队列

第2行:作业参数,指定使用的GPU数目

第4行:mx3in变量设定为DMI_pbc.mix,当然你可以不叫这个变量名

第6行:载入cuda-11.2.0的依赖(见:https://doc.nju.edu.cn/books/efe93/page/nvidia

第7行:使用mumax3软件输入mx3in变量的值所表示的计算脚本

当然,如果上述流程实在用不习惯,也可以:

  1. 直接从图形界面登入,用文本编辑器修改

  1. 使用SFTP方案直接在本地修改,然后上传回去

无论是如何上传脚本,从Windows上传回集群最好用dos2unix命令来转换换行符,或者干脆在Windows下通过编辑器如VS Code自己的换行符切换来处理这个问题。

  1. 使用scc.nju.edu.cn的在线文件浏览器简单编辑文本

作业提交脚本本质上其实是shell脚本,因此Shell 教程 | 菜鸟教程也通用。

bsub < job.lsf

job.lsf通过bsub命令按照作业提交脚本的设定提交至计算队列。提交完成后会显示:

[hfd_jitz@login1 mumax_test_2]$ bsub < mumax_job.lsf 
Job <40999791> is submitted to queue <723090ib>.

查看作业情况

bjobs

可以查看你当前在跑的任务情况:

[hfd_jitz@login1 mumax_test_2]$ bjobs
JOBID    USER        STAT  QUEUE       JOB_NAME   SUBMIT_TIME  EXEC_HOST
40999791 hfd_jitz    RUN   723090ib    *x3 $mx3in Oct 14 22:08 6*m002

任务ID:40999791

计算队列:723090ib

GPU编号CPU核数6(单GPU分配的默认值)

主机:m002

特别地,本例子是一个GPU任务,因此还可以这样查看GPU任务的运行情况:

ssh m002

登入到计算节点(注意看@前后的“host”已经从login1变为m002):

[hfd_jitz@login1 mumax_test_2]$ ssh m002
Last login: Fri Oct 14 11:37:26 2022 from m002
[hfd_jitz@m002 ~]$ 

在计算节点执行

nvidia-smi

可以查看GPU上的资源使用情况,对应的GPU编号即是你在使用的部分。

top

可以查看当前计算节点的任务。

此外,还有一个可视化查看的方法:https://mon.nju.edu.cn

进入grafana,在General/NVIDIA DCGM Exporter中,instance为m002:9400(也就是刚才那个m002)的GPU情况如下:

可以看出,上述任务15分钟不到就跑完了。

如果需要从计算节点m002返回到登录节点login1,则输入

exit

如果要下载文件,通过sz <文件路径>命令可以下载单个文件;或者通过Xftp传输管理;或者先通过图形界面(xfwd)/网页端文件浏览器进行一些简单的数据结果查看,再把数据弄回来。

此外,亦可通过HPC账号集成的云盘来实现文件同步:集成云盘,其用法与Box云盘基本一致。