Вопросы по теме 'alluxio'

Tachyon: не удалось переименовать во время команды copyFromLocal
Я использую Apache Spark для создания приложения. Чтобы сделать RDD доступными из других приложений, я пробую два подхода: Использование тахион Использование сервера spark-job Я новичок в Тахионе. Я выполнил следующие задачи, указанные...
432 просмотров
schedule 05.11.2023

Является ли Tachyon по умолчанию реализованным RDD в Apache Spark?
Я пытаюсь понять функцию Spark в памяти. В этом процессе я наткнулся на Tachyon , который в основном находится на уровне данных памяти. который обеспечивает отказоустойчивость без репликации за счет использования систем происхождения и уменьшает...
806 просмотров

Как включить отказоустойчивость на основе происхождения для интеграции Spark-Tachyon?
Я пытаюсь реализовать совместное использование RDD/Dataframe с помощью Tachyon. Насколько я понимаю, с HDFS под FS запись является асинхронной (с репликацией в HDFS, происходящей за сценой) и, следовательно, должна быть быстрее, но в моем...
291 просмотров
schedule 08.10.2022

Разверните tachyon с помощью Ansible без соединения ssh между серверами, т.е. как отформатировать master
На данный момент тахион развернут в локальном режиме, т.е. http://tachyon-project.org/documentation/v0.7.1/Running-Tachyon-Locally.html Моя главная проблема здесь - соединение ssh. Классический способ заключается в следующем: ssh-keygen -t...
114 просмотров
schedule 23.02.2023

Чтение нескольких файлов с помощью Spark java из Alluxio происходит медленно
Я установил Alluxio локально со Spark и вставил 1000 файлов в память Alluxio. Тем не менее, чтение файла происходит очень медленно. Время чтения файла из памяти Alluxio равно времени чтения файла с диска. Я не понимаю, почему. File Name Size...
642 просмотров
schedule 23.02.2023

Ошибка Alluxio: java.lang.IllegalArgumentException: неверная файловая система
Я могу запустить подсчет слов на alluxio с примером jar, предоставленным cloudera, используя: sudo -u hdfs hadoop jar /usr/lib/hadoop-0.20-mapreduce/hadoop-examples.jar wordcount -libjars...
370 просмотров
schedule 23.10.2023

Spark LOCAL и клиент alluxio
Я запускаю искру в ЛОКАЛЬНОМ режиме и пытаюсь заставить ее общаться с alluxio. Я получаю сообщение об ошибке: java.lang.ClassNotFoundException: класс alluxio.hadoop.FileSystem не найден Я просмотрел страницу здесь:...
121 просмотров
schedule 03.04.2023

Индексирование с помощью Solr-spark и Alluxio: невозможно получить доступ к файлам в Alluxio
Я индексирую документы для solr, используя java. Мой код отлично работает, когда я индексирую файлы на своем компьютере. Но когда я пытаюсь проиндексировать файлы, расположенные в alluxio, у меня возникает исключение «Нет файловой системы для схемы:...
149 просмотров
schedule 29.06.2023

Мастер не может запускаться каждый раз, когда я перезагружаю свою машину alluxio
Привет, я развернул кластер Alluxio с одним узлом, и он работает очень хорошо и быстро, но проблема, с которой я сталкиваюсь, заключается в том, что главный узел не запускается каждый раз, когда я перезапускаю свою машину Alluxio. Получение следующей...
121 просмотров
schedule 13.07.2023

Нормально ли, что мастер Alluxio имеет динамический подробный вывод?
Я использую Alluxio 2.0 для повышения производительности вычислительного уровня. Когда запрос не выполняется, я обнаружил, что к $Alluxio_home/logs/master.log добавляется подробный вывод netty . 2019-11-25 10:26:32,141 DEBUG...
32 просмотров
schedule 21.03.2024