2011-02-26 16 views
5

¿Es posible especificar una opción de compresión en un agente de Flume para que los datos se transfieran al recopilador en un formato comprimido? Sé que hay opciones de compresión en el nivel del recopilador, pero también sería extremadamente útil poder transferir datos comprimidos del agente.Flume agent: ¿puedo especificar compresión como gzip o bz2?

Gracias!

Respuesta

2

Flume tiene los decoradores de fregadero gzip y gunzip que puede usar. Coloque el decorador gzip en el receptor de su agente y el decorador gunzip en el receptor de su colector, y la transferencia de datos comprimidos entre el agente y el recopilador debería funcionar.

+1

¿Es posible comprimir los datos en el agente y dejar que fluyan comprimidos a través del colector en HDFS sin descomprimir/comprimir de nuevo? –

Cuestiones relacionadas