Вопросы по теме 'hadoop3'

start-all.sh и start-dfs.sh с главного узла не запускают службы подчиненного узла?
Я обновил файл /conf/slaves на главном узле Hadoop, указав имена хостов моих подчиненных узлов, но не могу запустить подчиненные устройства с главного узла. Я должен запускать ведомые устройства по отдельности, после чего мой кластер из 5 узлов...
1659 просмотров
schedule 07.11.2022

Как настроить функцию кодирования стирания в hadoop3 и используется ли она по умолчанию только для хранения холодных файлов?
Согласно примечаниям к выпуску Hadoop 3.x, они ввели кодирование Erasure для решения проблем с хранилищем. Erasure coding — это метод надежного хранения данных со значительной экономией места по сравнению с репликацией. Стандартные кодировки,...
605 просмотров
schedule 12.05.2023

Hadoop-3.1.2: Datanode и Nodemanager выключаются
Я пытаюсь установить Hadoop (3.1.2) в Windows-10, но узел данных и диспетчер узлов выключаются. Я попытался загрузить и поместить файлы winutils.exe и hadoop.dll в каталог bin. Я также пробовал изменять права доступа к файлам и работать от имени...
4892 просмотров
schedule 24.05.2022

HDFS не запускается с Hadoop 3.2: требуется bash v3.2+
Я создаю небольшой кластер Hadoop, состоящий из 2 узлов: 1 главный + 1 рабочий. Я использую последнюю версию Hadoop (3.2), и все выполняется пользователем root . В процессе установки мне удалось hdfs namenode -format . Следующим шагом будет...
449 просмотров
schedule 28.07.2022

Spark и Hive в Hadoop 3: разница между metastore.catalog.default и spark.sql.catalog
Я работаю над кластером Hadoop (HDP) с Hadoop 3. Также установлены Spark и Hive. Поскольку каталоги Spark и Hive разделены, иногда бывает немного запутанно знать, как и где сохранять данные в приложении Spark. Я знаю, что для свойства...
1773 просмотров

Исключение в потоке main org.apache.hadoop.ipc.RemoteException(java.io.IOException) для hadoop 3.1.3
Я пытаюсь запустить задание mapreduce, но получаю сообщение об ошибке для Hadoop-3.1.3. hadoop jar WordCount.jar WordcountDemo.WordCount /mapwork/Mapwork /r_out Ошибка 2020-04-04 19:59:11,379 INFO client.RMProxy: Connecting to...
1394 просмотров
schedule 26.08.2022

Веб-интерфейс Hadoop не работает, хотя узлы запускаются
Я пытаюсь установить Hadoop v3.1.3 в псевдораспределенном режиме в своей среде Ubuntu 18.04. После дословного следования документации мой веб-интерфейс по-прежнему не работает, т.е. localhost:9870 не дает результата. Файлы журнала создаются в...
340 просмотров
schedule 30.11.2022

Поддерживает ли Hadoop 3 Mahout?
Мне было интересно, подтверждено ли, что какая-либо версия Mahout работает правильно с любой версией Hadoop 3.x. Похоже, что дистрибутивы Hadoop от Cloudera и Amazon удалили Mahout, когда они перешли с Hadoop 2 на Hadoop 3. Но я не могу найти никаких...
26 просмотров
schedule 05.04.2023

Hadoop aws и искровые несовместимости
У меня очень странные ошибки зависимости: У меня есть этот простой код scala: val spark: SparkSession = SparkSession.builder() .master("local[1]") .appName("HDFStoAWSExample") .getOrCreate() spark.sparkContext...
123 просмотров
schedule 22.11.2022