我有一个包含数千个数字的文件，每个数字都在自己的行上:
34
42
11
6
2
99
...
我想写一个脚本，它将打印文件中所有数字的总和。我有一个解决办法，但不是很有效。(运行需要几分钟。)我在寻找一个更有效的解决方案。有什么建议吗?
当前回答
用+替换所有的新行，加一个0并把它发送给Ruby解释器不是更容易吗?
(sed -e "s/$/+/" file; echo 0)|irb
如果你没有irb，你可以把它发送到bc，但是你必须删除所有的换行符，除了最后一个(echo)。最好使用tr，除非您拥有sed的博士学位。
(sed -e "s/$/+/" file|tr -d "\n"; echo 0)|bc
其他回答
到目前为止，没有一个解决方案使用浆糊。这里有一个:
paste -sd+ filename | bc
如果文件有一个尾随换行符，尾随+将导致语法错误。通过移除后面的+来修复错误:
paste -sd+ fiilename | sed 's/+$//g' | bc
例如，计算Σn，其中1<=n<=100000:
$ seq 100000 | paste -sd+ | bc -l
5000050000
(对于好奇的人来说，seqn会在给定正数n的情况下打印从1到n的数字序列。)
你可以使用awk:
awk '{ sum += $1 } END { print sum }' file
tcl中的一个:
#!/usr/bin/env tclsh
set sum 0
while {[gets stdin num] >= 0} { incr sum $num }
puts $sum
为了好玩，让我们对其进行基准测试:
$ for ((i=0; i<1000000; i++)) ; do echo $RANDOM; done > random_numbers
$ time perl -nle '$sum += $_ } END { print $sum' random_numbers
16379866392
real 0m0.226s
user 0m0.219s
sys 0m0.002s
$ time awk '{ sum += $1 } END { print sum }' random_numbers
16379866392
real 0m0.311s
user 0m0.304s
sys 0m0.005s
$ time { { tr "\n" + < random_numbers ; echo 0; } | bc; }
16379866392
real 0m0.445s
user 0m0.438s
sys 0m0.024s
$ time { s=0;while read l; do s=$((s+$l));done<random_numbers;echo $s; }
16379866392
real 0m9.309s
user 0m8.404s
sys 0m0.887s
$ time { s=0;while read l; do ((s+=l));done<random_numbers;echo $s; }
16379866392
real 0m7.191s
user 0m6.402s
sys 0m0.776s
$ time { sed ':a;N;s/\n/+/;ta' random_numbers|bc; }
^C
real 4m53.413s
user 4m52.584s
sys 0m0.052s
5分钟后，我中止了sed运行
我一直在lua潜水，速度很快:
$ time lua -e 'sum=0; for line in io.lines() do sum=sum+line end; print(sum)' < random_numbers
16388542582.0
real 0m0.362s
user 0m0.313s
sys 0m0.063s
当我更新这个的时候，ruby:
$ time ruby -e 'sum = 0; File.foreach(ARGV.shift) {|line| sum+=line.to_i}; puts sum' random_numbers
16388542582
real 0m0.378s
user 0m0.297s
sys 0m0.078s
听从埃德·莫顿的建议:使用1美元
$ time awk '{ sum += $1 } END { print sum }' random_numbers
16388542582
real 0m0.421s
user 0m0.359s
sys 0m0.063s
Vs使用$0
$ time awk '{ sum += $0 } END { print sum }' random_numbers
16388542582
real 0m0.302s
user 0m0.234s
sys 0m0.063s
GNU Parallel可以通过将工作负载分散到多个核心来改进上面的许多问题。
在下面的例子中，我们将500个数字的块(——max-lines=500)发送给bc进程，这些进程一次并行执行4个(-j 4)。然后，结果由最终的bc聚合。
time parallel --max-lines=500 -j 4 --pipe "paste -sd+ - | bc" < random_numbers | paste -sd+ - | bc
工作规模和并行过程数量的最佳选择取决于机器和问题。请注意，这种解决方案只有在存在大量并行流程且每个流程都有大量工作时才会真正发挥作用。
