我有一个包含数千个数字的文件，每个数字都在自己的行上:
34
42
11
6
2
99
...
我想写一个脚本，它将打印文件中所有数字的总和。我有一个解决办法，但不是很有效。(运行需要几分钟。)我在寻找一个更有效的解决方案。有什么建议吗?
当前回答
在shell中使用awk，我使用下面的脚本来这样做:
#!/bin/bash
total=0;
for i in $( awk '{ print $1; }' <myfile> )
do
total=$(echo $total+$i | bc )
((count++))
done
echo "scale=2; $total " | bc
其他回答
GNU Parallel可以通过将工作负载分散到多个核心来改进上面的许多问题。
在下面的例子中，我们将500个数字的块(——max-lines=500)发送给bc进程，这些进程一次并行执行4个(-j 4)。然后，结果由最终的bc聚合。
time parallel --max-lines=500 -j 4 --pipe "paste -sd+ - | bc" < random_numbers | paste -sd+ - | bc
工作规模和并行过程数量的最佳选择取决于机器和问题。请注意，这种解决方案只有在存在大量并行流程且每个流程都有大量工作时才会真正发挥作用。
你可以使用awk:
awk '{ sum += $1 } END { print sum }' file
C总是以速度取胜:
#include <stdio.h>
#include <stdlib.h>
int main(int argc, char **argv) {
ssize_t read;
char *line = NULL;
size_t len = 0;
double sum = 0.0;
while (read = getline(&line, &len, stdin) != -1) {
sum += atof(line);
}
printf("%f", sum);
return 0;
}
1M数字的计时(与我的python答案相同的机器/输入):
$ gcc sum.c -o sum && time ./sum < numbers
5003371677.000000
real 0m0.188s
user 0m0.180s
sys 0m0.000s
另一个选择是使用jq:
$ seq 10|jq -s add
55
-s(——slurp)将输入行读入数组。
用+替换所有的新行，加一个0并把它发送给Ruby解释器不是更容易吗?
(sed -e "s/$/+/" file; echo 0)|irb
如果你没有irb，你可以把它发送到bc，但是你必须删除所有的换行符，除了最后一个(echo)。最好使用tr，除非您拥有sed的博士学位。
(sed -e "s/$/+/" file|tr -d "\n"; echo 0)|bc
