我有一个包含数千个数字的文件，每个数字都在自己的行上:
34
42
11
6
2
99
...
我想写一个脚本，它将打印文件中所有数字的总和。我有一个解决办法，但不是很有效。(运行需要几分钟。)我在寻找一个更有效的解决方案。有什么建议吗?
当前回答
GNU Parallel可以通过将工作负载分散到多个核心来改进上面的许多问题。
在下面的例子中，我们将500个数字的块(——max-lines=500)发送给bc进程，这些进程一次并行执行4个(-j 4)。然后，结果由最终的bc聚合。
time parallel --max-lines=500 -j 4 --pipe "paste -sd+ - | bc" < random_numbers | paste -sd+ - | bc
工作规模和并行过程数量的最佳选择取决于机器和问题。请注意，这种解决方案只有在存在大量并行流程且每个流程都有大量工作时才会真正发挥作用。
其他回答
C总是以速度取胜:
#include <stdio.h>
#include <stdlib.h>
int main(int argc, char **argv) {
ssize_t read;
char *line = NULL;
size_t len = 0;
double sum = 0.0;
while (read = getline(&line, &len, stdin) != -1) {
sum += atof(line);
}
printf("%f", sum);
return 0;
}
1M数字的计时(与我的python答案相同的机器/输入):
$ gcc sum.c -o sum && time ./sum < numbers
5003371677.000000
real 0m0.188s
user 0m0.180s
sys 0m0.000s
我还没有测试，但它应该工作:
cat f | tr "\n" "+" | sed 's/+$/\n/' | bc
如果bc不处理EOF和EOL，你可能必须在bc之前添加“\n”到字符串(比如通过echo)…
这是另一个简单的句子
( echo 0 ; sed 's/$/ +/' foo ; echo p ) | dc
这假设数字是整数。如果你需要小数，试试
( echo 0 2k ; sed 's/$/ +/' foo ; echo p ) | dc
将2调整为所需的小数数。
您可以使用Alacon -命令行实用程序为Alasql数据库。
它与Node.js一起工作，所以你需要安装Node.js，然后安装Alasql包:
要从TXT文件中计算总和，您可以使用以下命令:
> node alacon "SELECT VALUE SUM([0]) FROM TXT('mydata.txt')"
下面是一个使用python和生成器表达式的解决方案。在我破旧的笔记本电脑上测试了无数个数字。
time python -c "import sys; print sum((float(l) for l in sys.stdin))" < file
real 0m0.619s
user 0m0.512s
sys 0m0.028s
