gnu-parallel 相关问题

GNU parallel是一个shell工具,用于使用一台或多台计算机并行执行作业。

如何避免使用 GNU Parallel 的 Bash 脚本中的 SIGCHLD 错误

我正在循环运行 script.sh 。该脚本包含一个并行 wget 命令。我收到以下错误: 收到信号 SIGCHLD,但未设置信号处理程序。 循环看起来像这样: 为了...

回答 2 投票 0

为工作站和 HPC 设置令人尴尬的并行代码的最佳方法

我正在寻找最通用/最简单的方法来运行具有变化的输入的令人尴尬的并行代码。 我希望最终的解决方案能够在工作站上运行(没有可用的 PBS),但是...

回答 1 投票 0

使用 GNU 并行计算多个文件的总体中位数

我有以下命令: 查找 01/ -type f -name '*.csv.gz' |并行“pigz -dc {} | datamash -t,中位数 3” 此命令,对于“01/”目录中找到的每个 .csv.gz 文件,解压缩...

回答 1 投票 0

在并行处理中更改$TMPDIR

我在高性能计算系统上运行批处理作业来对对齐的读取进行排序,并使用 GNU 并行来加速我的工作,但我的工作失败了,原因如下: 并行:错误:输出为

回答 3 投票 0

GNU 并行 - 未找到命令

我正在尝试将 GNU 并行与 SLURM 一起使用来运行具有不同输入参数的同一脚本的多个实例。为此,我通过 SLURM 分配 3 个节点,然后创建几个...

回答 1 投票 0

如何在不传递任何参数的情况下使用 GNU 并行重试功能?

我喜欢这个功能 并行-q --重试 5 ./myprogram 但是 GNU 并行似乎不起作用,除非我向它传递一组参数。所以我做了这样的事情 序列 1 |并行-q --重试 5 ./

回答 2 投票 0

如何使用 GNU Parallel 解释 CSV 列中字符串值中的 Shell 变量?

我正在尝试使用 GNU Parallel 根据 CSV 文件中的值执行命令。我的 CSV 文件有多列,每行第 5 列的值是一个看起来像 '${OU...

回答 1 投票 0

命令中插入了重复的 Perl 表达式

这有道理吗?我需要“编辑”插槽以将其转换为 GPU 板号,但如果我使用多个输入,它会将多个 Perl 结果副本放入并行命令中...

回答 1 投票 0

并行变量扩展输出到引号内的参数

我正在尝试为程序参数扩展并行内部的变量 例如 标签=影响力 ls *vcf |并行 -k -v 'bcftools 查询 -f "%$TAG/n"' 应该扩展到哪里 ls *vc...

回答 1 投票 0

GNU 并行和 Bash 函数:如何运行手册中的简单示例

我正在尝试学习 GNU Parallel,因为我有一个案例,我认为我可以轻松地并行化 bash 函数。因此,在尝试学习的过程中,我查阅了 GNU 并行手册,其中有一个示例......

回答 3 投票 0

GNU 按索引号并行组合输入参数

我知道 GNU Parallel 在处理所有输入参数组合方面非常出色。然而,我有一个脚本,我想要相反的结果,我有多个数组,我想使用 si 组合它们...

回答 1 投票 0

GNU 并行 --semaphore 在 Ctrl-C 之后卡住并且不释放 --id

我是 GNU 并行的一个相当新的用户,我正在使用 Linux 的 Windows 子系统在以下 bash 脚本中运行 sem(GNU 并行 --semaphore): #!/bin/bash IFS=, 当读 -r col1 col2 ...

回答 1 投票 0

gnu parallel 并行化 for 循环

我已经看到了有关此主题的几个问题,但我缺乏将其转化为我的具体问题的能力。我有一个 for 循环,它循环遍历子目录,然后执行 .sh 脚本...

回答 1 投票 0

GNU 并行检测输入文件作为命令?

我正在尝试使用此代码与 GNU 并行运行我的 bash 脚本。 并行 -j$CPU_NUM 'mapping_test.sh fakechloroplast.fna {}' :::: test_files.tsv 然而,它一直在读取 test_files.tsv 和呃...

回答 0 投票 0

使用 GNU parallel 从文件并行运行 curl,并将输出保存到单独的文件中,并使用正在运行的作业编号的名称

我正在尝试使用 curl 在并行 url 中运行,这些 url 在一个文本文件中定义。每个网址都在单独的行上。我需要在每个 o 上调用以下 grep 命令(grep -Ev 'Server:\|Date:\|Content')...

回答 2 投票 0

由 GNU parallel 并行运行的 shell 脚本

我读过,如果系统管理员没有安装 GNU Parallel,我很容易通过将 perl 脚本“parallel”复制到我路径中的目录中来安装自己。这个脚本在哪里?我在哪里可以找到这个文件...

回答 0 投票 0

Bash 脚本,用于在单独的线程中为多个用户连接到 sftp

有没有人在单独的线程中为多用户创建连接测试 sftp 的脚本? 目前我每个线程只使用一个用户 sftp -i /rsa_key user@sftp_url.com

回答 0 投票 0

为什么 GNU parallel 不使用我用 -j 给它的所有线程

我正在使用 GNU parallel,它正在并行运行作业,但比我告诉它使用 -j 的线程总数要少。 我是这样运行的: cat untar_my_folders.jobfile |平行-...

回答 0 投票 0

将 shell 命令列表传递给 GNU parallel

我有一个 shell 命令列表作为字符串存储在变量 prog 中,目前我通过并行执行它们 因为我是 1 10;做 评估“${prog[$I]}”& 完毕 等待 一个人会如何...

回答 2 投票 0

使用@jit

我想利用@jit 的 numba 自动并行化,以帮助我加速运行我的函数,因为我使用的是非常大的输入,我之前没有并行化的经验,我尝试了 seve ...

回答 0 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.