Вопросы по теме 'datanode'

Диски Datanode заполнены, потому что огромные файлы в виде стандартного вывода
у нас есть следующие версии кластера hadoop (машина DATA-NODE находится на версии ОС Linux - 7.2) ambari - 2.6.1 HDP - 2.6.4 мы видели несколько сценариев, когда диски на компьютере с датанодом были заполнены на 100% и это потому, что...
82 просмотров
schedule 06.09.2021

Реплика HDFS + и минимальное количество узлов данных в кластере HDFS
у нас есть кластер Hadoop только с двумя узлами данных в конфигурации HDFS мы определили от Block replication до 3 so Block replication=3 Это нормально? к определенному Block replication=3 , когда у нас есть только два узла данных...
181 просмотров
schedule 22.04.2022

hadoop - Конфигурация нескольких узлов данных в псевдораспределенном режиме
Я новичок в hadoop. Я установил hadoop - псевдораспределенный режим на одной машине. Моя конфигурация hdfs-site.xml по умолчанию: <configuration> <property> <name>dfs.replication</name>...
459 просмотров
schedule 05.05.2022

кластер hadoop + любой способ отключить приложение Spark для запуска на определенных узлах данных
у нас есть кластер Hadoop ( HDP 2.6.5 кластер с амбари, с 25 машинами узлов данных) мы используем приложение потоковой передачи искр ( spark 2.1 запускаем Hortonworks 2.6.x ) текущая ситуация такова, что приложения потоковой передачи искры...
108 просмотров

Запись Google Dataproc из клиентского приложения использует внутренний IP-адрес кластера для узлов данных.
Я настроил кластер Dataproc в Google Cloud. Он работает и работает, и я могу получить доступ к HDFS и копировать файлы из SSH в консоли браузера. Так что проблема не на стороне Dataproc. Сейчас я использую Pentaho (программное обеспечение ELT) для...
56 просмотров

Работает 1 узел данных, и 1 узел (узлы) исключены из этой операции. (псевдораспределенный режим)
Я работаю с hadoop 2.7, используя java , и у меня есть эта ошибка. Я могу создать файл, но я не могу написать в файле: Ошибки: ОШИБКА Файл /test/1.txt может быть реплицирован только на 0 узлов вместо minReplication (=1). Работает 1 узел...
4759 просмотров
schedule 03.09.2023

Ошибка при запуске Hadoop после остановки работающего (и работающего) экземпляра ранее, потому что Datanode сообщает, что каталог заблокирован
У меня есть кластер под управлением Hadoop 1.2.1 с Giraph поверх. Сервер работает нормально, но когда я его останавливаю, я не могу запустить его снова. В журнале datanode появляется следующая ошибка: ERROR...
26 просмотров
schedule 18.03.2023

Hadoop: поменять местами DataNode и NameNode без потери данных HDFS
У меня кластер из 5 машин: 1 большой NameNode 4 стандартных узла данных Я хочу изменить свой текущий NameNode на DataNode без потери данных, хранящихся в HDFS, чтобы мой кластер мог стать: 1 стандартный NameNode 3 стандартных узла...
329 просмотров
schedule 26.05.2024