Конвейер данных AWS пропускает удаленный JAR в S3

У меня есть конвейер данных AWS, в котором я пытаюсь выполнить шаг, код которого находится в JAR, расположенном в корзине S3. Я указываю путь и имя класса, но в журналах конвейера написано «Предупреждение: пропустить удаленную банку», и мой код никогда не выполняется. Тело моего шага:

command-runner.jar,spark-submit,--deploy-mode,cluster,--master,yarn,--class,com.myorg.myapp.MyClass,s3://MyBucket/my-jar.jar,myArg

Теперь в документации говорится, что Я могу запустить код в удаленной банке, но это не так? Кто-нибудь испытал это и сделал эту работу?


person Alegria    schedule 22.02.2018    source источник


Ответы (1)


Я сделал это так:

Я указал путь к банке как {input.directoryPath}/SWALiveOrderModelSpark-1.0-super.jar, где input.directoryPath происходит от использования S3DataNode.

person Sanchay    schedule 24.02.2018