ฉันจะอ่านข้อมูล CSV ลงในอาร์เรย์เรคคอร์ดใน NumPy ได้อย่างไร

ฉันสงสัยว่ามีวิธีที่จะนำเข้าโดยตรงเนื้อหาของไฟล์ CSV ลงบันทึกอาร์เรย์มากในทางที่อาร์เอสread.table(), read.delim()และread.csv()ข้อมูลการนำเข้าครอบครัวกับกรอบข้อมูลของ R?

หรือจะเป็นวิธีที่ดีที่สุดที่จะใช้csv.reader ()แล้วใช้สิ่งที่ชอบnumpy.core.records.fromrecords()?

คุณสามารถใช้genfromtxt()วิธีของ Numpy ได้โดยตั้งค่าdelimiterkwarg เป็นเครื่องหมายจุลภาค

from numpy import genfromtxt
my_data = genfromtxt('my_file.csv', delimiter=',')

ข้อมูลเพิ่มเติมเกี่ยวกับฟังก์ชั่นสามารถพบได้ในเอกสารที่เกี่ยวข้อง

ฉันอยากจะแนะนำread_csvฟังก์ชั่นจากpandasห้องสมุด:

import pandas as pd
df=pd.read_csv('myfile.csv', sep=',',header=None)
df.values
array([[ 1. ,  2. ,  3. ],
       [ 4. ,  5.5,  6. ]])

นี้จะช่วยให้หมีแพนด้าDataFrame - ช่วยให้ฟังก์ชั่นการจัดการข้อมูลที่มีประโยชน์มากมายที่ไม่สามารถใช้ได้โดยตรงกับบันทึกอาร์เรย์ numpy

DataFrame เป็นโครงสร้างข้อมูลแบบ 2 มิติพร้อมคอลัมน์ที่มีชนิดแตกต่างกัน คุณสามารถนึกถึงมันเช่นสเปรดชีตหรือตาราง SQL ...

genfromtxtฉันก็จะแนะนำ อย่างไรก็ตามเนื่องจากคำถามถามหาเรคคอร์ดอาเรย์ซึ่งต่างจากอาเรย์ปกติdtype=Noneพารามิเตอร์จะต้องถูกเพิ่มเข้าไปในการgenfromtxtโทร:

รับไฟล์อินพุตmyfile.csv:

1.0, 2, 3
4, 5.5, 6

import numpy as np
np.genfromtxt('myfile.csv',delimiter=',')

ให้อาร์เรย์:

array([[ 1. ,  2. ,  3. ],
       [ 4. ,  5.5,  6. ]])

และ

np.genfromtxt('myfile.csv',delimiter=',',dtype=None)

ให้อาร์เรย์เรคคอร์ด:

array([(1.0, 2.0, 3), (4.0, 5.5, 6)], 
      dtype=[('f0', '<f8'), ('f1', '<f8'), ('f2', '<i4')])

นี้มีประโยชน์ที่ไฟล์ที่มีข้อมูลหลายชนิด (รวมทั้งสตริง) สามารถเข้าได้อย่างง่ายดาย

ฉันหมดเวลา

from numpy import genfromtxt
genfromtxt(fname = dest_file, dtype = (<whatever options>))

กับ

import csv
import numpy as np
with open(dest_file,'r') as dest_f:
    data_iter = csv.reader(dest_f,
                           delimiter = delimiter,
                           quotechar = '"')
    data = [data for data in data_iter]
data_array = np.asarray(data, dtype = <whatever options>)

บน 4.6 ล้านแถวที่มีคอลัมน์ประมาณ 70 คอลัมน์และพบว่าเส้นทาง NumPy ใช้เวลา 2 นาที 16 วินาทีและวิธีความเข้าใจ csv-list ใช้เวลา 13 วินาที

ฉันอยากจะแนะนำวิธี csv-list comprehension เนื่องจากเป็นไปได้มากที่สุดที่ต้องพึ่งพาไลบรารีที่รวบรวมไว้ล่วงหน้าและไม่ใช่ล่ามเท่า NumPy ฉันสงสัยว่าวิธีการแพนด้าจะมีค่าใช้จ่ายล่ามที่คล้ายกัน

คุณสามารถลองใช้recfromcsv()ซึ่งสามารถเดาชนิดข้อมูลและส่งกลับอาร์เรย์เร็กคอร์ดที่จัดรูปแบบอย่างถูกต้อง

ขณะที่ฉันลองทั้งสองวิธีโดยใช้ NumPy และ Pandas การใช้แพนด้ามีข้อดีมากมาย:

• ได้เร็วขึ้น
• ใช้งาน CPU น้อยลง
• การใช้ RAM 1/3 1/3 เทียบกับ NumPy genfromtxt

นี่คือรหัสทดสอบของฉัน:

$ for f in test_pandas.py test_numpy_csv.py ; do  /usr/bin/time python $f; done
2.94user 0.41system 0:03.05elapsed 109%CPU (0avgtext+0avgdata 502068maxresident)k
0inputs+24outputs (0major+107147minor)pagefaults 0swaps

23.29user 0.72system 0:23.72elapsed 101%CPU (0avgtext+0avgdata 1680888maxresident)k
0inputs+0outputs (0major+416145minor)pagefaults 0swaps

test_numpy_csv.py

from numpy import genfromtxt
train = genfromtxt('/home/hvn/me/notebook/train.csv', delimiter=',')

test_pandas.py

from pandas import read_csv
df = read_csv('/home/hvn/me/notebook/train.csv')

แฟ้มข้อมูล:

du -h ~/me/notebook/train.csv
 59M    /home/hvn/me/notebook/train.csv

ด้วย NumPy และ pandas ในรุ่น:

$ pip freeze | egrep -i 'pandas|numpy'
numpy==1.13.3
pandas==0.20.2

คุณสามารถใช้รหัสนี้เพื่อส่งข้อมูลไฟล์ CSV ลงในอาร์เรย์:

import numpy as np
csv = np.genfromtxt('test.csv', delimiter=",")
print(csv)

การใช้ numpy.loadtxt

วิธีการค่อนข้างง่าย แต่มันต้องมีองค์ประกอบทั้งหมดที่ลอย (int และอื่น ๆ )

import numpy as np 
data = np.loadtxt('c:\\1.csv',delimiter=',',skiprows=0)  

นี่เป็นวิธีที่ง่ายที่สุด:

import csv with open('testfile.csv', newline='') as csvfile: data = list(csv.reader(csvfile))

ตอนนี้แต่ละรายการในข้อมูลจะถูกบันทึกแสดงเป็นอาร์เรย์ คุณมีอาร์เรย์ 2 มิติ มันช่วยฉันประหยัดเวลาได้มาก

ฉันลองสิ่งนี้:

import pandas as p
import numpy as n

closingValue = p.read_csv("<FILENAME>", usecols=[4], dtype=float)
print(closingValue)

ฉันขอแนะนำให้ใช้ตาราง ( pip3 install tables) คุณสามารถบันทึก.csvไฟล์ของคุณเพื่อ.h5ใช้แพนด้า ( pip3 install pandas)

import pandas as pd
data = pd.read_csv("dataset.csv")
store = pd.HDFStore('dataset.h5')
store['mydata'] = data
store.close()

จากนั้นคุณสามารถได้อย่างง่ายดายและมีเวลาน้อยแม้สำหรับข้อมูลจำนวนมาก, การโหลดข้อมูลของคุณในอาร์เรย์ NumPy

import pandas as pd
store = pd.HDFStore('dataset.h5')
data = store['mydata']
store.close()

# Data in NumPy format
data = data.values

งานนี้เป็นเสน่ห์ ...

import csv
with open("data.csv", 'r') as f:
    data = list(csv.reader(f, delimiter=";"))

import numpy as np
data = np.array(data, dtype=np.float)