ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

使用Screen和Bash进行多处理

2019-07-03 06:43:54  阅读:311  来源: 互联网

标签:python bash multiprocessing numerical-methods


使用SSH在学校的不同节点上运行python脚本.每个节点有8个核心.我使用GNU Screen来分离单个进程.

是否更需要:

>运行几个不同的屏幕会话.
>运行单个屏幕流程并使用&在一个bash终端.

它们是等价的吗?

我不确定我的实验编码是否很差并且花费了过多的时间(非常可能)或者我选择使用1.这会大大减慢这个过程.谢谢!

解决方法:

有了bash,我想你正在做这样的事情(假设/ home在网络安装下):

#!/bin/bash    

for i in {1..$NUM_NODES}
do
    ssh node$i 'python /home/ryan/my_script.py' &
done

从单个屏幕后面启动此脚本将正常工作.启动多个屏幕会话不会提高性能,但会增加启动多个屏幕的额外复杂性.

请记住,有更好的方法可以在群集中分配负载(例如,如果其他人正在耗尽所有node7,您需要一种方法来检测它并将您的工作发送到其他地方).我使用过的大多数集群都安装了Torque,Maui或qsub命令.我建议给那些看看.

标签:python,bash,multiprocessing,numerical-methods
来源: https://codeday.me/bug/20190703/1364008.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有