Вопросы по теме 'spark-launcher'

spark-submit работает в режиме пряжи-кластера, но SparkLauncher не работает с теми же параметрами
Я могу отправить задание Spark через spark-submit, однако, когда я пытаюсь сделать то же самое программно с помощью SparkLauncher, это ничего мне не дает (я даже не вижу задание Spark в пользовательском интерфейсе) Ниже приведен сценарий: У меня...
805 просмотров

Сохранить выходные данные Spark Launcher в файл
Я отправляю свои задания в искровой кластер (с YARN) программно с помощью Java-приложения и Spark Launcher (запуская задание с помощью startApplication(), а не запуска()). Мне нравится иметь весь вывод журнала, который создается на stdout и stderr...
2169 просмотров
schedule 09.09.2022

Веб-приложению не удалось запустить задание Spark с помощью SparkLauncher
Я хочу запустить задание Spark из веб-приложения Javaee, но SparkLauncher запущен без исключения, а в кластере Spark не запущено ни одно задание. Кто-нибудь может помочь? public static void runJob(String userId) throws Exception { long...
477 просмотров
schedule 14.03.2023

Конструктор SparkLauncher не работает
Мне нужно запустить задание Spark из потока, запущенного из веб-приложения, работающего на Liberty (17.0.0.2). Это развернуто в контейнере Docker. Я могу заставить это работать, запустив задание spark (2.2.0) через сценарий spark-submit,...
275 просмотров
schedule 06.12.2022