バッチジョブの実行(HTCondor)
バッチノードのジョブ管理には HTCondor を使用しています。
ジョブはログインノード(login.icepp.jp)から投入します。ホームディレクトリや/gpfsはログインノードと共通です。
バッチノードの構成についてはバッチノードをご覧ください。
ジョブ定義ファイル
condor_submitに渡すジョブ定義ファイル(submitファイル)の例です。
job.sdf
executable = /gpfs/myname/work/dir/run/exec.sh
getenv = True
job_queue = q2d
arguments = ""
output = test.$(ClusterId).$(ProcId).out
error = test.$(ClusterId).$(ProcId).err
log = test.$(ClusterId).$(ProcId).log
queue
| 項目 | 説明 |
|---|---|
executable |
実行するプログラムまたはシェルスクリプト。シェルスクリプトの場合は実行権限(chmod +x)を付けてください。 |
arguments |
executableに渡す引数。 |
getenv |
Trueの場合、投入時のログインノードの環境変数がジョブに引き継がれます。 |
job_queue |
投入先のキュー。キューを参照してください。 |
output, error, log |
標準出力・標準エラー出力・HTCondorのログの出力先。$(ClusterId), $(ProcId)でジョブごとに別のファイル名にできます。 |
queue |
ジョブを投入します。queue 10のように数を指定すると同じジョブを複数投入できます。 |
キュー
job_queueで投入先のキューを指定します。ジョブの実行時間に合わせて選んでください。
job_queueを指定しない場合はq2dが使われます。
| キュー | 制限時間 |
|---|---|
q1h |
1時間 |
q2d |
2日 (デフォルト) |
q1w |
1週間 |
基本的なコマンド
# ジョブの投入
condor_submit job.sdf
# 自分のジョブの状態を確認
condor_q
# ジョブの削除 (ClusterId を指定、ClusterId.ProcId で個別指定も可能)
condor_rm <ClusterId>
用途別の例
- グリッド上のファイルをバッチジョブから読む(プロキシ証明書の受け渡し): グリッド上のファイルへのアクセス
- CentOS7等のコンテナ環境でジョブを実行する: コンテナ
- ATLAS EventLoop からジョブを投入する際の注意: EventLoop の既知の問題
参考資料
- ソフトウェア講習会
- CERN Batch Service のドキュメント (CERNでもHTCondorが使用されています)
- CERN分室によるHTCondorの簡単な使い方
- HTCondor Manual
© 2024 ICEPP, the University of Tokyo.
Reproduction of the article, figures and tables on this page is allowed as specified in the CC-BY-4.0 license.