executor 相关问题

用于与用于实际执行分布式作业/程序/应用程序的节点相关的问题。

Java POST 问题,如何检查服务器返回?

如何判断真假?使用执行器,但成功似乎并没有改变它的价值..有什么技巧可以以“简单”的方式实现它吗?我能够到达 try catch 内部,但似乎我...

回答 1 投票 0

Windows 上的 Gitlab 运行器配置

我正在尝试使用安装在我的Windows机器上的gitlab runner。但管道执行失败并出现错误: 错误:作业失败(系统故障):准备环境:无法启动进程:exec:&...

回答 1 投票 0

java ThreadPoolExecutor 中奇怪的竞争条件

我正在尝试制作一个必须异步发送请求的 api 检查应用程序(一个副本 = 一个处理它的线程)。 启动时 - 使用副本列表创建列表。每个复制机器人

回答 1 投票 0

Spark SparkFiles.get() 返回驱动程序路径而不是工作程序路径

我正在通过外部可执行文件管道传输 RDD 的分区。我使用sparkContext.addFiles(),以便工作人员可以使用可执行文件。 当我尝试运行代码时,我得到...

回答 1 投票 0

使用livy时spark.executor.cores无法生效

我使用livy-server-0.2来运行spark作业,但是,我无法更改spark.executor.cores的默认设置,它无法生效,而其他设置可以。 它总是使用 1 个核心来启动...

回答 2 投票 0

模拟不适用于 ExecutorService.submit()

使用执行器服务时,模拟不起作用。以下是代码。 导入java.util.ArrayList; 导入java.util.List; 导入 java.util.concurrent.ExecutorService; 导入java.util.

回答 1 投票 0

如何使用 Java 中的多线程同时触发独立于每个列表的多个对象列表

我有一个独特的要求,但我无法在网上找到相关参考资料。 我们通常每个周末都会从数据仓库应用程序中获取巨大的员工对象地图,其中对于每个员工...

回答 1 投票 0

Spark - 仅驱动程序运行任务

我正在尝试使用 Spark 独立模式运行 GroupByTest。 我已经在一台机器上成功运行它,当我尝试在另一台机器上运行它时,它可以工作,但似乎驱动程序是唯一的实例......

回答 1 投票 0

如何计算本地机器中的Spark driver和executor内存?

我是spark的初学者,通常在某些执行中会出现java.lang.OutOfMemoryError: Java heap space is raise: java.lang.OutOfMemoryError:Java 堆空间位于 java.base/java.nio.HeapByteBuff...

回答 1 投票 0

aigram。从控制台删除执行程序消息

使用 python3 aiogram 库作为电报机器人。有没有办法从执行器生成的控制台中删除消息?诸如“再见!”之类的消息或更新已成功跳过。如果你...

回答 1 投票 0

作业中的 Spark 各个阶段是否并行运行?

作业中的 Spark 阶段是否并行运行? 我正在使用一个名为 Spark 的并行处理管理工具。我在这里有一个问题。我知道在 Spark 的一个作业中,可以有多个阶段......

回答 1 投票 0

Apache Airflow:执行器报告任务实例已完成(失败),尽管任务显示已排队

我们的气流安装使用的是 CeleryExecutor。 并发配置是 # 并行度作为执行器的设置。这定义了 # 任务实例的最大数量应该...

回答 4 投票 0

如何获取spark.executor.memory大小?

我使用的是 Spark 2.3.2.3.1.0.0-78。 我尝试使用 Spark_session.sparkContext._conf.get('spark.executor.memory') 但我只收到了“无”。 如何获取spark.executor.memory的值?

回答 1 投票 0

这是搜索这个HashMap最有效的方法还是可以通过多线程来改进? [关闭]

我有一个 HashMap (toSearch)。我正在该 HashMap (toMatch) 中寻找一个值。但在尝试比较 toSearch 和 toMatch 中的值之前,我需要除以 (toDivide)。 这是我目前的...

回答 0 投票 0

在 Java 中实现多线程以查找 HashMap 中的任何匹配项;找到第一个匹配时终止其他线程[关闭]

我有一个 BigIntegers 的 HashMap (thisIsTheHashMapIAmSearchingThrough)。我有第二个 BigIntegers 的 HashMap,我试图将其与第一个 HashMap 匹配,以简化

回答 0 投票 0

实现多线程以在 HashMap 中查找任何匹配项;找到第一个匹配时终止其他线程

这是我的原始代码的简化版本: HashMap toSearch = new HashMap(); int tsSize = 100000; int 最大长度 = 500; 对于 (int i = 1; i &l...

回答 0 投票 0

如何判断当前线程是否是 folly::executor 线程?

我正在编写使用 folly::executor 的 c++ 代码,我想检查当前线程是否是执行线程。 例如,类似于 API static folly::Executor* folly::executor::

回答 0 投票 0

YARN 资源管理器上的 Spark:YARN 容器和 Spark 执行器之间的关系

我是 Spark on YARN 的新手,不了解 YARN 容器和 Spark 执行器之间的关系。我根据 yarn-utils.py sc 的结果尝试了以下配置...

回答 2 投票 0

如何停止另一个线程切换上下文

我正在开发 Micronaut 应用程序。在这个应用程序中,有一个像工作流引擎一样工作的主要计划作业,多个步骤处理大约 60 万条记录的数据。 阿隆...

回答 0 投票 0

关闭执行器服务

我正在开发一个应用程序,在这个应用程序中,我不断地从一个Kafka主题中读取数据。这些数据以字符串格式出现,然后我将其写入一个xml文件&存储在硬盘上。现在,这些数据来...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.