Seleccionar valores únicos o distintos de una lista en el script de shell de UNIX

Question

Tengo un script ksh que devuelve una larga lista de valores, nueva línea separada, y quiero ver solo los valores únicos/distintos. ¿Es posible hacer esto?

Por ejemplo, decir que mi salida es sufijos de archivo en un directorio:

tar 
gz 
java 
gz 
java 
tar 
class 
class 

quiero ver una lista como:

tar 
gz 
java 
class 

Answer 1

Es posible que desee para mirar las aplicaciones uniq y sort.

 
./yourscript.ksh | sort | uniq 

(FYI, sí, el tipo es necesaria en esta línea de comandos, uniq solamente tiras líneas duplicadas que son inmediatamente después de la otra)

EDIT:

Contrariamente a lo que ha sido publicado por Aaron Digulla en relación con las opciones de línea de comandos uniq:

Con la siguiente entrada:

 
class 
jar 
jar 
jar 
bin 
bin 
java 

uniq es la salida de todas las líneas exactamente una vez:

 
class 
jar 
bin 
java 

uniq -d es la salida de todas las líneas que aparecen más de una vez, y se imprimirá una vez:

 
jar 
bin 

uniq -u da salida a todos líneas que aparecen exactamente una vez, y las imprimirá una vez:

 
class 
java 

Answer 2

Tápelos a través de sort y uniq. Esto elimina todos los duplicados.

uniq -d da solo los duplicados, uniq -u da solo los únicos (tiras duplicadas).

Answer 3

Para los conjuntos de datos más grandes, donde la clasificación puede no ser deseable, también puede utilizar el siguiente script Perl:

./yourscript.ksh | perl -ne 'if (!defined $x{$_}) { print $_; $x{$_} = 1; }' 

Esto, básicamente, sólo recuerda cada salida de línea para que no emite de nuevo.

Tiene la ventaja sobre la solución "sort | uniq" en que no se requiere clasificación por adelantado.

Answer 4

Con zsh se puede hacer esto:

zsh-5.0.0[t]% cat infile 
tar 
more than one word 
gz 
java 
gz 
java 
tar 
class 
class 
zsh-5.0.0[t]% print -l "${(fu)$(<infile)}" 
tar 
more than one word 
gz 
java 
class 

O puede utilizar AWK:

zsh-4.3.9[t]% awk '!_[$0]++' infile  
tar 
more than one word 
gz 
java 
class 

Answer 5

./script.sh | sort -u 

Esto es lo mismo que monoxide'sanswer, pero un poco más concisa.

Answer 6

Único, según lo solicitado, (pero no ordenado);
utiliza menos recursos del sistema para menos de ~ 70 elementos (como se prueba con el tiempo);
escrito a tomar la entrada de la entrada estándar,
(o modificar e incluir en otro script):
(Bash)

bag2set() { 
    # Reduce a_bag to a_set. 
    local -i i j n=${#a_bag[@]} 
    for ((i=0; i < n; i++)); do 
     if [[ -n ${a_bag[i]} ]]; then 
      a_set[i]=${a_bag[i]} 
      a_bag[i]=$'\0' 
      for ((j=i+1; j < n; j++)); do 
       [[ ${a_set[i]} == ${a_bag[j]} ]] && a_bag[j]=$'\0' 
      done 
     fi 
    done 
} 
declare -a a_bag=() a_set=() 
stdin="$(</dev/stdin)" 
declare -i i=0 
for e in $stdin; do 
    a_bag[i]=$e 
    i=$i+1 
done 
bag2set 
echo "${a_set[@]}" 

Answer 7

Con AWK que puede hacer, creo que es más rápido que el tipo

./yourscript.ksh | awk '!a[$0]++'