Recuperar Hadoop NameNode fracaso

Question

Escenario 1:

El fsimage HDFS y editlog se escriben en varios lugares, incluyendo un montaje NFS.

A) NameNode Daemon Crash: Solución: sólo tienes que reiniciar el proceso NameNode

B anfitrión) es hacia abajo, donde el nombre de nodo se está ejecutando.

Solución:

1. Iniciar el NameNode en un host diferente con un dfs.name.dir vacío
2. punto del dfs.name.dir al montaje NFS donde tenemos copia de los metadatos. O
opción
3. Uso --importCheckpoint mientras que a partir NameNode después de señalar fs.checkpoint.dir en checkpoint directorio desde NameNode secundaria
4. Cambiar el fs.default.name al nombre de host de copia de seguridad URI y reinicie el clúster con todo el esclavo IP en el archivo de esclavos.

Nota - Podemos perder la edición que pudo haber ocurrido después del último punto de control.

Escenario 2:

El fsimage HDFS está escrito en un solo directorio.

A) NameNode Daemon Crash: Solución: Desconocido

B) Host se ha reducido en el que el nombre de nodo se está ejecutando.

Solución:

1. Crear un directorio en blanco apuntando a dfs.name.dir al directorio en el (1)
2. inicio NameNode con -importCheckpoint después de señalar fs.checkpoint.dir en checkpoint directorio de Secundaria NameNode
3. Cambie el fs.default.name por el nombre de usuario de la copia de seguridad URI y reinicie el clúster con todas las direcciones IP esclavas en el archivo esclavo.

De esta manera, extrañaríamos nuevamente los archivos editados después del último punto de control.

Háganme saber si es así como podemos recuperar el clúster manualmente.

Answer 1

En producción, debe ejecutar los NameNodes en modo HA con un quorum of journalling nodes, o un HA-NFS storage compartido para los archivos de transacciones de registro de edición. Si no quiere o no usa HA, necesita ejecutar la NN con al menos dos directorios de almacenamiento para ambas imágenes y editar registros, preferiblemente uno como punto de montaje NFS montado en forma suave para la persistencia automática fuera de la máquina del sistema de nombres .

Si solo tiene un directorio de almacenamiento y no tiene configuración HA, lo mejor que puede obtener es un punto de control del período anterior, si pierde todos los archivos. En caso de que no haya perdido archivos, puede probar una opción hadoop namenode -recover como se ilustra en este post para poder recuperar la imagen más algunas (o todas) ediciones.