北京大学高性能计算平台未名教学一号使用入门(仅限北大在校学生使用)
背景
未名教学一号是为方便老师同学学习实践高性能计算建立的高性能计算集群,北京大学师生均可申请并免费使用。
未名教学一号的优势在于免费,可以满足我们平时小规模机器学习深度学习的需求。我们都知道,一般机器学习使用的都是GPU,但是GPU的价格又比较昂贵。在没有资金支持的情况下,也只能使用CPU,未名教学一号提供了CPU的计算资源。
第一步 申请与登陆
直接到北大高性能计算中心,进行账户申请,速度很快。并按照上机流程的指引,连接到虚拟机。
如果是校外的网络需要打开vpn。
本人使用的方法是 mac 的命令后,登陆之后,就会到这样的界面。使用其他操作系统也是一样的。
第二步环境的配置
教学一号的网络时好时坏。
因此 有的环境需要自己配置,虽然官网中提出了Conda的使用教程,但是个人觉得,自带的conda并不好用。
此外,平台有很多权限的限制,不能切换为root用户。安装环境需要安装在自己的文件夹中,且需要手动安装。
例如:手动安装python
到了2020年了,python2的任何版本就不推荐了,直接在python3.5以上的版本中选择。本人的选择是python3.6.9,我在个人的用户下面创建了software文件夹,并将python安装到这个文件夹。也就是说在安装的过程中配置一下安装位置
./configure --prefix=/nfs-share/home/xxxxxxxxxx/software/python3.6.9/bin
其他环境也是一样的,都要手动来安装。
第三步 编写程序
例如,我写了一个简单的python程序。
import time
for i in range(10):print(i)time.sleep(5)
由于程序非常简单, 所以可以直接在本地运行。
第四步 编写运行脚本
/nfs-share/home/XXXXXXX/software/python3.6.9/bin/python3 test.py
第五步,添加可提交任务
我们的任务肯定都是大型任务,不然也不会来到这个平台里运行。因此需要提交给平台的CPU计算。
在脚本的开头添加如下内容
#!/bin/bash
#SBATCH -o job.%j.out 这个代表输出的文件名称
#SBATCH -p compute 这个就写compute指向计算节点
#SBATCH --qos=normal 优先级,设置为一般
#SBATCH -J bert_yuchk 任务名称
#SBATCH --get-user-env
#SBATCH --nodes=1 用几个cpu
#SBATCH --ntasks-per-node=2 每个CPU上几个任务
#SBATCH --mail-type=end 在结束的时候发送邮件
#SBATCH --mail-user=XXXX@pku.edu.cn 任务完成,往这个邮箱发送邮件
#SBATCH --time=48:00:00 任务执行的最大时间
总体看来,脚本内容如下。
#!/bin/bash
#SBATCH -o job.%j.out
#SBATCH -p compute
#SBATCH --qos=normal
#SBATCH -J bert_yucheng
#SBATCH --get-user-env
#SBATCH --nodes=1
#SBATCH --ntasks-per-node=2
#SBATCH --mail-type=end
#SBATCH --mail-user=XXXXXXXXX@pku.edu.cn
#SBATCH --time=48:00:00/nfs-share/home/XXXXXXXXXXX/software/python3.6.9/bin/python3 test.py
第六步,提交与查看
北京大学高性能计算平台未名教学一号使用入门(仅限北大在校学生使用)相关推荐
- 免费高性能计算机平台,北京大学高性能计算平台
序号 申报人 职称 奖励账号 单位 论文分类 分区 大类分区 小类分区 奖励机时费 刊物名称 论文题目 发表时间 作者 代表作者英 代表作者中 申报时间 审批状态 审批时间 拨款时间 奖励编号 备注 ...
- 未名企鹅极客 | Kylin Cube构建优化(上)
Kylin Cube构建优化 联机分析处理OLAP是一种软件技术,它使分析人员能够迅速.一致.交互地从各个方面观察信息,以达到 深入理解数据的目的. 多维数据组织OLAP的使用一般有两种背景条件: Ø ...
- Xilinx ZYNQ MPSOC 多核高性能计算平台
Xilinx ZYNQ MPSOC 多核高性能计算平台 转自:微信公众号 FPGA渠道及方案一站式服务商 本平台搭载16nm工艺的ZYNQ UltraScale XCZU15EG-2FFVB1156 ...
- 「2022 最新版」未认证微信公众号图文中插入外部链接教程
如何在微信公众号图文中插入外部链接呢?作为一名公众号小编,领导经常要求在图文中直接访问外部链接,但是由于微信平台的限制,公众号图文中不允许直接访问外链,只能插入其他公众号文章的链接. 现在,可以通过小 ...
- 新闻|未名论道-科技赋能数字化经济论坛本周五举办
区块链.5G已成全球热词! 区块链的分布式多中心.信息不可篡改.匿名性和开放性,很多人都有所耳闻.正如互联网给社会带来的巨大改变,区块链也不再仅仅是一项技术或工具,更是一种全新的思维方式,可以改变生产 ...
- 南京工业大学高性能计算平台基础使用指南
高性能计算平台基础使用指南 前言 什么高性能计算 南京工业大学高性能计算平台 如何登录 如何进行文件传输 进行任务提交(本文以提交MATLAB任务为例) 环境变量的配置 (推荐)使用Environme ...
- 未名企鹅极客 | 人机图灵测试中数字图像处理方法研究
1 背景 CAPTCHA的英文全称为Completely Automated Public Turing Test to Tell Computers and Humans Apart,译为" ...
- 未名企鹅极客 | 流向处理新技术
未名企鹅做为医药产业互联网和大数据解决方案专家,在帮助企业客户处理流向数据的过程不可避免的要面对如何处理大量的数据问题.虽然说数据处理一个老话题,但是时代在变化,技术在进化,解决的问题思路也需要与时俱 ...
- 未名企鹅极客 | 医药数据管理中的短文本高效匹配技术
大量行业数据.渠道流向数据在清洗的过程中,面临着诸多极大耗费人力的问题.在数据来源多样且格式不统一的情况下,人工匹配曾让很多信息员闻之色变.即使在人工智能和机器学习的时代下,由于各种原因导致的匹配误差 ...
最新文章
- Yoshua Bengio团队通过在网络「隐藏空间」中使用降噪器以提高深度神经网络的「鲁棒性」...
- python中 s是什么意思_什么是Pandas?Pandas学习什么?
- 在Eclipse自带的built-in server里运行PHP文件
- 读者问:小公司,但工资高,能去吗?
- 微软发布研究报告:企业数据管理普遍混乱,揭秘大数据分析趋势以及PowerBI的崛起机遇...
- 摈弃 Windows 低效率的工作方式,发掘 Linux 身上的 UNIX 气质
- 【图解+全文】工信部关于印发“十四五”大数据产业发展规划的通知
- 中国烤箱盘行业市场供需与战略研究报告
- Log4j 配置的webAppRootKey参数问题
- delphi 10.3.1 android沉浸式透明状态栏
- 驱动人生安装驱动计算机无法启动,驱动人生解决声卡驱动问题 驱动人生针对电脑不出声解决方案...
- 微信 华为盒子 搜索不到服务器,【沙发管家教你一招】用手机微信控制华为荣耀盒子!...
- js设置延时加载事件
- 黑苹果识别Intel 蓝牙驱动
- python re findall 再次应用
- DNS域名服务器114.114.114.114和8.8.8.8
- input禁用样式修改 input disabled样式禁用方法及样式isabled样式禁用方法及样式
- 【cx_Oracle】记录一次 python cx_Oracle出现 ORA-00911: 无效字符
- 2023年01月 使用win11系统自带SSH,远程控制VMware中Liunx虚拟机系统
- Emgu CV 第一个实例
热门文章
- 算法ppt练习题(给黄成个大逼兜)
- 关于一篇icsp的论文
- NetWorkX使用方法及 nx.draw()相关参数
- Go语言黑帽子学习2
- CoppeliaSim(原V-REP)教育版不给下载的解决方法
- [OpenGL红宝书]第一章 OpenGL概述
- 软件设计师教程中常用公式汇总
- 基于jsp校园一卡通系统
- U8 领料申请单提交提示未能加载文件或程序集“UFIDA.U8.HB.WorkFlow.PlugIns”......
- Excel将一列字母全部转小写