ฉันจะรวมตัวเลขทั้งหมดในไฟล์ได้อย่างรวดเร็วได้อย่างไร

ฉันมีไฟล์ที่มีหลายพันตัวเลขโดยแต่ละไฟล์เป็นของตัวเอง:

34
42
11
6
2
99
...

ฉันต้องการเขียนสคริปต์ซึ่งจะพิมพ์ผลรวมของตัวเลขทั้งหมดในไฟล์ ฉันมีวิธีแก้ปัญหาแล้ว แต่มันก็ไม่ได้มีประสิทธิภาพมากนัก (ใช้เวลาหลายนาทีในการทำงาน) ฉันกำลังมองหาโซลูชันที่มีประสิทธิภาพมากขึ้น ข้อเสนอแนะใด ๆ

สำหรับ Perl หนึ่งซับก็พื้นเดียวกันเป็นawkวิธีการแก้ปัญหาในคำตอบของ Ayman Hourieh :

 % perl -nle '$sum += $_ } END { print $sum'

หากคุณอยากรู้ว่า Perl one-liners ทำอะไรคุณสามารถทำให้เสียโฉม:

 %  perl -MO=Deparse -nle '$sum += $_ } END { print $sum'

ผลที่ได้คือเวอร์ชั่นที่ละเอียดกว่าของโปรแกรมในรูปแบบที่ไม่มีใครเคยเขียนด้วยตัวเอง:

BEGIN { $/ = "\n"; $\ = "\n"; }
LINE: while (defined($_ = <ARGV>)) {
    chomp $_;
    $sum += $_;
}
sub END {
    print $sum;
}
-e syntax OK

สำหรับคนที่ชอบหัวเราะคิกคักฉันก็ลองมันด้วยไฟล์ที่มีตัวเลข 1,000,000 ตัว (ในช่วง 0 - 9,999) สำหรับ Mac Pro ของฉันมันจะกลับมาทันที มันแย่มากเพราะฉันหวังว่าการใช้mmapจะเร็วมาก แต่มันก็เป็นเวลาเดียวกัน:

use 5.010;
use File::Map qw(map_file);

map_file my $map, $ARGV[0];

$sum += $1 while $map =~ m/(\d+)/g;

say $sum;

คุณสามารถใช้ awk:

awk '{ sum += $1 } END { print sum }' file

ยังไม่มีวิธีแก้ปัญหาpasteใด ๆ นี่คือหนึ่ง:

paste -sd+ filename | bc

เป็นตัวอย่างให้คำนวณΣnโดยที่ 1 <= n <= 100000:

$ seq 100000 | paste -sd+ | bc -l
5000050000

(สำหรับคนที่อยากรู้อยากเห็นseq nจะพิมพ์ลำดับของตัวเลขจาก1ไปยังnให้เป็นจำนวนบวกn)

เพียงเพื่อความสนุกลองเปรียบเทียบกัน:

$ for ((i=0; i<1000000; i++)) ; do echo $RANDOM; done > random_numbers

$ time perl -nle '$sum += $_ } END { print $sum' random_numbers
16379866392

real    0m0.226s
user    0m0.219s
sys     0m0.002s

$ time awk '{ sum += $1 } END { print sum }' random_numbers
16379866392

real    0m0.311s
user    0m0.304s
sys     0m0.005s

$ time { { tr "\n" + < random_numbers ; echo 0; } | bc; }
16379866392

real    0m0.445s
user    0m0.438s
sys     0m0.024s

$ time { s=0;while read l; do s=$((s+$l));done<random_numbers;echo $s; }
16379866392

real    0m9.309s
user    0m8.404s
sys     0m0.887s

$ time { s=0;while read l; do ((s+=l));done<random_numbers;echo $s; }
16379866392

real    0m7.191s
user    0m6.402s
sys     0m0.776s

$ time { sed ':a;N;s/\n/+/;ta' random_numbers|bc; }
^C

real    4m53.413s
user    4m52.584s
sys 0m0.052s

ฉันยกเลิกการทำงานหลังจาก 5 นาที

ฉันดำน้ำไปแล้ว หลัวและมันก็รวดเร็ว:

$ time lua -e 'sum=0; for line in io.lines() do sum=sum+line end; print(sum)' < random_numbers
16388542582.0

real    0m0.362s
user    0m0.313s
sys     0m0.063s

และในขณะที่ฉันกำลังอัปเดตนี้ทับทิม:

$ time ruby -e 'sum = 0; File.foreach(ARGV.shift) {|line| sum+=line.to_i}; puts sum' random_numbers
16388542582

real    0m0.378s
user    0m0.297s
sys     0m0.078s

คำแนะนำของ Heed Ed Morton: การใช้ $1

$ time awk '{ sum += $1 } END { print sum }' random_numbers
16388542582

real    0m0.421s
user    0m0.359s
sys     0m0.063s

เทียบกับการใช้ $0

$ time awk '{ sum += $0 } END { print sum }' random_numbers
16388542582

real    0m0.302s
user    0m0.234s
sys     0m0.063s

ตัวเลือกอื่นคือการใช้jq:

$ seq 10|jq -s add
55

-s( --slurp) อ่านบรรทัดอินพุตเป็นอาร์เรย์

นี่คือทุบตีตรง:

sum=0
while read -r line
do
    (( sum += line ))
done < file
echo $sum

นี่คืออีกหนึ่งซับ

( echo 0 ; sed 's/$/ +/' foo ; echo p ) | dc

นี่ถือว่าตัวเลขเป็นจำนวนเต็ม หากคุณต้องการทศนิยมลอง

( echo 0 2k ; sed 's/$/ +/' foo ; echo p ) | dc

ปรับ 2 ถึงจำนวนทศนิยมที่ต้องการ

ฉันชอบที่จะใช้ GNU datamash สำหรับงานดังกล่าวเพราะมันสั้นและชัดเจนกว่า perl หรือ awk ตัวอย่างเช่น

datamash sum 1 < myfile

โดยที่ 1 หมายถึงคอลัมน์แรกของข้อมูล

$ perl -MList::Util=sum -le 'print sum <>' nums.txt

ฉันชอบใช้ R สำหรับสิ่งนี้:

$ R -e 'sum(scan("filename"))'

cat nums | perl -ne '$sum += $_ } { print $sum'

(เช่นเดียวกับคำตอบของ brian d foy โดยไม่มี 'END')

รวบรัดมากขึ้น:

# Ruby
ruby -e 'puts open("random_numbers").map(&:to_i).reduce(:+)'

# Python
python -c 'print(sum(int(l) for l in open("random_numbers")))'

Perl 6

say sum lines

~$ perl6 -e '.say for 0..1000000' > test.in

~$ perl6 -e 'say sum lines' < test.in
500000500000

เพียงเพื่อความสนุกลองทำด้วยPDLเครื่องมือคำนวณอาเรย์ของ Perl!

perl -MPDL -E 'say rcols(shift)->sum' datafile

rcolsอ่านคอลัมน์ในเมทริกซ์ (1D ในกรณีนี้) และsum(ประหลาดใจ) รวมองค์ประกอบทั้งหมดของเมทริกซ์

นี่คือวิธีแก้ปัญหาโดยใช้ไพ ธ อนกับนิพจน์ตัวสร้าง ทดสอบกับตัวเลขล้านบนแล็ปท็อป cruddy เก่าของฉัน

time python -c "import sys; print sum((float(l) for l in sys.stdin))" < file

real    0m0.619s
user    0m0.512s
sys     0m0.028s

ฉันไม่สามารถผ่านได้ ... นี่คือ Haskell one-liner จริงๆแล้วมันค่อนข้างอ่านได้:

sum <$> (read <$>) <$> lines <$> getContents

น่าเสียดายที่ไม่มีghci -eการเรียกใช้ดังนั้นจึงจำเป็นต้องมีฟังก์ชั่นหลักพิมพ์และคอมไพล์

main = (sum <$> (read <$>) <$> lines <$> getContents) >>= print

ชี้แจงเราอ่านทั้งอินพุท ( getContents) แยกโดยlines, เป็นตัวเลขและread เป็นโอเปอเรเตอร์ - เราใช้แทนแอปพลิเคชันฟังก์ชั่นปกติเพราะแน่ใจว่าทั้งหมดนี้เกิดขึ้นใน IO ต้องการเพิ่มเติมเนื่องจากอยู่ในรายการด้วยsum<$>fmapreadfmap

$ ghc sum.hs
[1 of 1] Compiling Main             ( sum.hs, sum.o )
Linking sum ...
$ ./sum 
1
2
4
^D
7

นี่คือการอัปเกรดแปลก ๆ เพื่อให้สามารถทำงานกับการลอย

main = ((0.0 + ) <$> sum <$> (read <$>) <$> lines <$> getContents) >>= print

$ ./sum 
1.3
2.1
4.2
^D
7.6000000000000005

sed ':a;N;s/\n/+/;ta' file|bc

กำลังรันสคริปต์ R

ฉันได้เขียนสคริปต์ R เพื่อใช้อาร์กิวเมนต์ของชื่อไฟล์และรวมบรรทัด

#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(as.numeric(readLines(file)))

ซึ่งสามารถเร่งความเร็วด้วยแพ็คเกจ "data.table" หรือ "vroom" ดังนี้:

#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(data.table::fread(file))

#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(vroom::vroom(file))

การเปรียบเทียบ

ข้อมูลการเปรียบเทียบเช่นเดียวกับแจ็คแมน @glenn

for ((i=0; i<1000000; i++)) ; do echo $RANDOM; done > random_numbers

เมื่อเปรียบเทียบกับการเรียก R ข้างต้นการรัน R 3.5.0 เป็นสคริปต์นั้นเปรียบได้กับวิธีอื่น ๆ (บนเซิร์ฟเวอร์ Linux Debian เดียวกัน)

$ time R -e 'sum(scan("random_numbers"))'  
 0.37s user
 0.04s system
 86% cpu
 0.478 total

สคริปต์ R พร้อม readLines

$ time Rscript sum.R random_numbers
  0.53s user
  0.04s system
  84% cpu
  0.679 total

สคริปต์ R พร้อม data.table

$ time Rscript sum.R random_numbers     
 0.30s user
 0.05s system
 77% cpu
 0.453 total

สคริปต์ R พร้อมด้วย vroom

$ time Rscript sum.R random_numbers     
  0.54s user 
  0.11s system
  93% cpu
  0.696 total

เปรียบเทียบกับภาษาอื่น ๆ

สำหรับการอ้างอิงที่นี่เป็นวิธีการอื่นที่แนะนำบนฮาร์ดแวร์เดียวกัน

Python 2 (2.7.13)

$ time python2 -c "import sys; print sum((float(l) for l in sys.stdin))" < random_numbers 
 0.27s user 0.00s system 89% cpu 0.298 total

Python 3 (3.6.8)

$ time python3 -c "import sys; print(sum((float(l) for l in sys.stdin)))" < random_number
0.37s user 0.02s system 98% cpu 0.393 total

ทับทิม (2.3.3)

$  time ruby -e 'sum = 0; File.foreach(ARGV.shift) {|line| sum+=line.to_i}; puts sum' random_numbers
 0.42s user
 0.03s system
 72% cpu
 0.625 total

Perl (5.24.1)

$ time perl -nle '$sum += $_ } END { print $sum' random_numbers
 0.24s user
 0.01s system
 99% cpu
 0.249 total

Awk (4.1.4)

$ time awk '{ sum += $0 } END { print sum }' random_numbers
 0.26s user
 0.01s system
 99% cpu
 0.265 total
$ time awk '{ sum += $1 } END { print sum }' random_numbers
 0.34s user
 0.01s system
 99% cpu
 0.354 total

C (เวอร์ชั่นเสียงดังกราว 3.3; gcc (เดเบียน 6.3.0-18) 6.3.0)

 $ gcc sum.c -o sum && time ./sum < random_numbers   
 0.10s user
 0.00s system
 96% cpu
 0.108 total

อัปเดตด้วยภาษาเพิ่มเติม

ลัวะ (5.3.5)

$ time lua -e 'sum=0; for line in io.lines() do sum=sum+line end; print(sum)' < random_numbers 
 0.30s user 
 0.01s system
 98% cpu
 0.312 total

tr (8.26) จะต้องหมดเวลาในการทุบตีไม่เข้ากันกับ zsh

$time { { tr "\n" + < random_numbers ; echo 0; } | bc; }
real    0m0.494s
user    0m0.488s
sys 0m0.044s

sed (4.4) จะต้องหมดเวลาในการทุบตีไม่เข้ากันกับ zsh

$  time { head -n 10000 random_numbers | sed ':a;N;s/\n/+/;ta' |bc; }
real    0m0.631s
user    0m0.628s
sys     0m0.008s
$  time { head -n 100000 random_numbers | sed ':a;N;s/\n/+/;ta' |bc; }
real    1m2.593s
user    1m2.588s
sys     0m0.012s

หมายเหตุ: การโทรแบบ sed ดูเหมือนจะทำงานได้เร็วขึ้นในระบบที่มีหน่วยความจำมากขึ้น (หมายเหตุชุดข้อมูลขนาดเล็กที่ใช้สำหรับการเปรียบเทียบ sed)

จูเลีย (0.5.0)

$ time julia -e 'print(sum(readdlm("random_numbers")))'
 3.00s user 
 1.39s system 
 136% cpu 
 3.204 total
$  time julia -e 'print(sum(readtable("random_numbers")))'
 0.63s user 
 0.96s system 
 248% cpu 
 0.638 total

โปรดสังเกตว่าในวิธี R ไฟล์ I / O มีประสิทธิภาพแตกต่างกัน

C ++ "หนึ่งซับ":

#include <iostream>
#include <iterator>
#include <numeric>
using namespace std;

int main() {
    cout << accumulate(istream_iterator<int>(cin), istream_iterator<int>(), 0) << endl;
}

อีกเรื่องเพื่อความสนุกสนาน

sum=0;for i in $(cat file);do sum=$((sum+$i));done;echo $sum

หรือทุบตีอื่นเท่านั้น

s=0;while read l; do s=$((s+$l));done<file;echo $s

แต่วิธีแก้ปัญหา awk อาจดีที่สุดเพราะมันมีขนาดกะทัดรัด

C ชนะเสมอเพื่อความเร็ว:

#include <stdio.h>
#include <stdlib.h>

int main(int argc, char **argv) {
    ssize_t read;
    char *line = NULL;
    size_t len = 0;
    double sum = 0.0;

    while (read = getline(&line, &len, stdin) != -1) {
        sum += atof(line);
    }

    printf("%f", sum);
    return 0;
}

กำหนดเวลาสำหรับหมายเลข 1M (เครื่อง / อินพุตเดียวกันกับคำตอบของหลาม):

$ gcc sum.c -o sum && time ./sum < numbers 
5003371677.000000
real    0m0.188s
user    0m0.180s
sys     0m0.000s

ด้วยทับทิม:

ruby -e "File.read('file.txt').split.inject(0){|mem, obj| mem += obj.to_f}"

ฉันไม่รู้ว่าคุณจะได้อะไรที่ดีไปกว่านี้อีกมากโดยพิจารณาว่าคุณต้องอ่านไฟล์ทั้งหมด

$sum = 0;
while(<>){
   $sum += $_;
}
print $sum;

ฉันยังไม่ได้ทดสอบสิ่งนี้ แต่ควรใช้งานได้:

cat f | tr "\n" "+" | sed 's/+$/\n/' | bc

คุณอาจต้องเพิ่ม "\ n" ลงในสตริงก่อน bc (เช่นผ่าน echo) หาก bc ไม่ปฏิบัติต่อ EOF และ EOL ...

นี่คืออีก:

open(FIL, "a.txt");

my $sum = 0;
foreach( <FIL> ) {chomp; $sum += $_;}

close(FIL);

print "Sum = $sum\n";

คุณสามารถทำได้ด้วย Alacon - อรรถประโยชน์บรรทัดคำสั่งสำหรับAlasqlฐานข้อมูล

มันทำงานร่วมกับ Node.js ดังนั้นคุณต้องติดตั้งNode.jsแล้วตามด้วยAlasqlแพ็คเกจ :

ในการคำนวณผลรวมจากไฟล์ TXT คุณสามารถใช้คำสั่งต่อไปนี้:

> node alacon "SELECT VALUE SUM([0]) FROM TXT('mydata.txt')"

การแทนที่บรรทัดใหม่ทั้งหมดโดย+เพิ่ม0และส่งไปยังRubyล่ามนั้นไม่ใช่เรื่องง่าย

(sed -e "s/$/+/" file; echo 0)|irb

หากคุณไม่มีirbคุณสามารถส่งได้bcแต่คุณต้องลบบรรทัดใหม่ทั้งหมดยกเว้นบรรทัดสุดท้าย (จากecho) มันจะดีกว่าที่จะใช้trสำหรับการนี้เว้นแต่คุณจะมีปริญญาเอกsedมา

(sed -e "s/$/+/" file|tr -d "\n"; echo 0)|bc

ในระหว่างเดินทาง:

package main

import (
    "bufio"
    "fmt"
    "os"
    "strconv"
)

func main() {
    scanner := bufio.NewScanner(os.Stdin)
    sum := int64(0)
    for scanner.Scan() {
        v, err := strconv.ParseInt(scanner.Text(), 10, 64)
        if err != nil {
            fmt.Fprintf(os.Stderr, "Not an integer: '%s'\n", scanner.Text())
            os.Exit(1)
        }
        sum += v
    }
    fmt.Println(sum)
}

ตัวแปร Bash

raw=$(cat file)
echo $(( ${raw//$'\n'/+} ))

$ wc -l file
10000 file

$ time ./test
323390

real    0m3,096s
user    0m3,095s
sys     0m0,000s

ในการใช้เชลล์ awk ฉันได้ใช้สคริปต์ด้านล่างนี้:

    #!/bin/bash


total=0;

for i in $( awk '{ print $1; }' <myfile> )
do
 total=$(echo $total+$i | bc )
 ((count++))
done
echo "scale=2; $total " | bc