我有一个ksh脚本,它返回一个长列表的值,换行符分隔,我想只看到唯一的/不同的值。这是可能的吗?
例如,我的输出是一个目录下的文件后缀:
焦油 广州 java 广州 java 焦油 类 类
我想看到这样的列表:
焦油 广州 java 类
我有一个ksh脚本,它返回一个长列表的值,换行符分隔,我想只看到唯一的/不同的值。这是可能的吗?
例如,我的输出是一个目录下的文件后缀:
焦油 广州 java 广州 java 焦油 类 类
我想看到这样的列表:
焦油 广州 java 类
当前回答
您可能想看看uniq和sort应用程序。
./yourscript.ksh | sort | uniq
(仅供参考,是的,排序在这个命令行中是必要的,uniq只删除紧随其后的重复行)
编辑:
与Aaron Digulla发布的关于uniq命令行选项的文章相反:
给定以下输入:
class jar jar jar bin bin java
Uniq只输出一次所有行:
class jar bin java
Uniq -d将输出所有出现超过一次的行,并打印一次:
jar bin
Uniq -u将输出所有只出现一次的行,并打印一次:
class java
其他回答
使用AWK你可以做到:
./yourscript.ksh | awk '!a[$0]++'
我发现它比sort和uniq快
唯一的,按照请求,(但没有排序); 对少于70个元素使用更少的系统资源(根据时间测试); 编写为从stdin获取输入, (或修改并包含在另一个脚本中): (Bash)
bag2set () {
# Reduce a_bag to a_set.
local -i i j n=${#a_bag[@]}
for ((i=0; i < n; i++)); do
if [[ -n ${a_bag[i]} ]]; then
a_set[i]=${a_bag[i]}
a_bag[i]=$'\0'
for ((j=i+1; j < n; j++)); do
[[ ${a_set[i]} == ${a_bag[j]} ]] && a_bag[j]=$'\0'
done
fi
done
}
declare -a a_bag=() a_set=()
stdin="$(</dev/stdin)"
declare -i i=0
for e in $stdin; do
a_bag[i]=$e
i=$i+1
done
bag2set
echo "${a_set[@]}"
我得到了一个更好的提示,以获得文件中不重复的条目
awk '$0 != x ":FOO" && NR>1 {print x} {x=$0} END {print}' file_name | uniq -f1 -u
./script.sh | sort -u
这和一氧化碳的答案是一样的,但是更简洁一点。
用zsh你可以这样做:
% cat infile
tar
more than one word
gz
java
gz
java
tar
class
class
zsh-5.0.0[t]% print -l "${(fu)$(<infile)}"
tar
more than one word
gz
java
class
或者你可以使用AWK:
% awk '!_[$0]++' infile
tar
more than one word
gz
java
class