Вопросы по теме 'spark-launcher'
spark-submit работает в режиме пряжи-кластера, но SparkLauncher не работает с теми же параметрами
Я могу отправить задание Spark через spark-submit, однако, когда я пытаюсь сделать то же самое программно с помощью SparkLauncher, это ничего мне не дает (я даже не вижу задание Spark в пользовательском интерфейсе)
Ниже приведен сценарий:
У меня...
805 просмотров
schedule
04.08.2022
Сохранить выходные данные Spark Launcher в файл
Я отправляю свои задания в искровой кластер (с YARN) программно с помощью Java-приложения и Spark Launcher (запуская задание с помощью startApplication(), а не запуска()). Мне нравится иметь весь вывод журнала, который создается на stdout и stderr...
2169 просмотров
schedule
09.09.2022
Веб-приложению не удалось запустить задание Spark с помощью SparkLauncher
Я хочу запустить задание Spark из веб-приложения Javaee, но SparkLauncher запущен без исключения, а в кластере Spark не запущено ни одно задание. Кто-нибудь может помочь?
public static void runJob(String userId) throws Exception {
long...
477 просмотров
schedule
14.03.2023
Конструктор SparkLauncher не работает
Мне нужно запустить задание Spark из потока, запущенного из веб-приложения, работающего на Liberty (17.0.0.2). Это развернуто в контейнере Docker.
Я могу заставить это работать, запустив задание spark (2.2.0) через сценарий spark-submit,...
275 просмотров
schedule
06.12.2022