Вопросы по теме 'spark-jobserver'

От DSE 4.6 до DSE 4.7 Не удалось найти сборку Spark
У меня проблема с job-server-0.5.0 после обновления DSE 4.6 до 4.7. Если я запущу server_start.sh, я получу ошибку «Не удалось найти сборку Spark в /usr/share/dse/spark/assembly/target/scala-2.10. Перед запуском этой программы необходимо собрать...
685 просмотров

Подключиться от Spark-JobServer (локальный экземпляр) к Hadoop
Я запускаю виртуальную машину с локальным экземпляром Hadoop и Spark-JobServer. Я создал файл с именем «test.txt» в HDFS, который я хочу открыть с Spark-JobServer. Для этого я написал следующий код: val test1 =...
121 просмотров
schedule 31.07.2022

Ошибка Недопустимый тип задания для этого контекста в задании Spark SQL с сервером заданий Spark
Я создаю задание Spark SQL с сервером заданий Spark и использую HiveContext, следуя примеру ниже: https://github.com/spark-jobserver/spark-jobserver/blob/master/job-server-extras/src/spark.jobserver/HiveTestJob.scala Мне удалось запустить сервер,...
787 просмотров

Сохранение с NamedObjects на сервере заданий Spark
Я использую последнюю версию SJS (мастер), и приложение расширяет SparkHiveJob. В реализации runJob у меня есть следующее val eDF1 = hive.applySchema(rowRDD1, schema) Я хотел бы сохранить eDF1 и попробовал следующее val rdd_topersist...
123 просмотров
schedule 30.08.2022

java.lang.UnsatisfiedLinkError: нет мезонов в java.library.path
Я пытаюсь настроить сервер искры для режима развертывания кластера Mesos. Я установил spark.master = "mesos://mesos-master:5050" в конфигурации сервера заданий. Когда я пытаюсь создать контекст на сервере заданий, он терпит неудачу со следующим...
2227 просмотров
schedule 24.03.2023

Ошибка при компиляции spark-jobserver
При обновлении моего проекта SBT в IntelliJ IDEA я столкнулся со следующей ошибкой: Error:Error while importing SBT project:<br/>...<br/><pre>[warn] Credentials file C:\Users\usr\.bintray\.credentials does not exist [warn]...
324 просмотров
schedule 07.06.2022

Какая настройка необходима для использования Spark Cassandra Connector с сервером заданий Spark
Я работаю со Spark и Cassandra, и в целом все просто и работает, как задумано; в частности, искровая оболочка и запущенные процессы .scala для получения результатов. Сейчас я рассматриваю возможность использования сервера заданий Spark; У меня...
145 просмотров
schedule 26.05.2023

Изменение пользователя контекста сервера заданий Spark во время выполнения
Как изменить пользователя контекста, созданного на сервере заданий Spark? Я хочу изменить пользователя, которого я получаю на sparkSession.sparkContext.sparkUser();
62 просмотров