與不同節點上不同的輸入文件運行的可執行文件設置SGE（更新：有一些問題）

Question

我知道我問了同樣的問題早從這個鏈接：

Setting SGE for running an executable with different input files on different nodes

就像我在跟帖說，我之前在SLURM系統上使用過這種類型的東西，沒有任何問題，因爲所有東西都被封裝在一個提交腳本中。但是，從上面的鏈接中的以前的問題適應，這裏是我對SGE的方法（我知道這是一個不好的做法，但我真的想不出有什麼更好的方法......）

作業被鏈接通過4個+ N腳本：run.sh，submitSerial.sh，wrap.sh，temp.sh和job{1-N}.sh

run.sh：主要作業腳本

#!/bin/bash 

...some stuffs... 
...create N directories to run N input files in parallel (like last problems) 
...generate wrap.sh and job{1-N}.sh... 

...parameters definition... 

for ((i=0; i<=M; i++)) 
do 
    ...generate submitSerial.sh... 
    sh submitSerial.sh 
    ...initialize boolean flag... 
    while flag 
    do 
     sh wrap.sh 
     ...run an executable to determine the flag status... 
    done 
done 

...some cleanup... 

submitSerial.sh和temp.sh：我需要先串行執行此可執行文件， 並且希望羣集等待，直到完成以繼續執行run.sh中的下一個 過程行。由於run.sh不在集羣 環境中（即沒有Grid Engine參數），而是僅在登錄節點中僅存在 ，因此這將生成temp.sh並通過qsub立即運行串行腳本 。由於我不知道如何檢查是否完成了qsub工作，所以我不得不以愚蠢的方式來做。不知道是否有 更好的檢查方法？

#!/bin/bash 

echo "#!/bin/bash" >> $workDir/temp.sh 
echo >> $workDir/temp.sh 
echo "#$ -N serialForce" >> $workDir/temp.sh 
echo "#$ -q batch.q" >> $workDir/temp.sh 
echo "#$ -l h_rt=0:10:00" >> $workDir/temp.sh 
echo "#$ -pe orte 120" >> $workDir/temp.sh 
echo "#$ -wd /path/to/working/dir/" >> $workDir/temp.sh 
echo "#$ -j y" >> $workDir/temp.sh 
echo "#$ -S /bin/bash" >> $workDir/temp.sh 
echo "#$ -V" >> $workDir/temp.sh 
echo >> $workDir/temp.sh 
echo "mpirun -np 120 nwchem-6.5 $workDir/step0_1.nw" >> $workDir/temp.sh 

qsub $workDir/temp.sh 

while true 
do 
    qstat > $workDir/temp 
    if [ -s $workDir/temp ] 
    then 
     sleep 1 
    else 
     rm $workDir/temp 
     break 
    fi 
done 

rm $workDir/temp.sh 

wrap.sh和job{1-N}.sh：這早些時候在腳本的開始 產生。這是這是我的問題最後一次的一部分，我也 用睡眠來檢查的qsub狀態以及

#!/bin/bash 

for i in {1..10} 
do 
    qsub $workDir/wd$i/job$i.sh 
done 

while true 
do 
    qstat > $workDir/temp 
    if [ -s $workDir/temp ] 
    then 
     sleep 1 
    else 
     rm $workDir/temp 
     break 
    fi 
done 

for j in {1..10} 
do 
    rm $workDir/wd$j/* 
done 

這種方法的問題是，一旦我跑run.sh，我不能這樣做在後臺並且必須單獨執行qsub's時，如果羣集已滿，則存在潛在問題。我想知道是否有像SLURM方法那樣只有一個qsub的解決方案？我只是想提交這份工作，只是等待完成，而不是讓腳本提交多個qsub作業，而不知道是否有未知的作業在中間死掉（我從來沒有想過它會死在哪裏）。

請幫我這個！非常感謝您的幫助！非常感謝您提前！

Answer 1

您能否更具體和清楚您所遇到的問題。我認爲您提到的最後一個問題主要涉及wrap.sh和jobN.sh腳本，即使用作業陣列。

要解決您的其他問題，即如何檢查/等待工作完成，請參閱下文。

要有工作等待另一項工作來完成使用qsub選項-hold_jid。爲了將其應用於多個作業，每個作業都依賴於前一個作業，我的第一個想法就是for循環。例如：

holdid=$(echo "<some code for job 1>" | qsub -terse) 
for jobn in {1..99} 
do 
    holdid=$(echo "<some code for jobn>" | qsub -terse -hold_jid ${holdid}) 
done 

我很高興地編輯此回覆以幫助您進一步瞭解。