เชื่อมต่อรายการดาต้าเฟรมของแพนด้าเข้าด้วยกัน

ฉันมีรายการดาต้าเฟรมของ Pandas ที่อยากจะรวมไว้ในดาต้าเฟรมของ Pandas ฉันใช้ Python 2.7.10 และ Pandas 0.16.2

ฉันสร้างรายการดาต้าเฟรมจาก:

import pandas as pd
dfs = []
sqlall = "select * from mytable"

for chunk in pd.read_sql_query(sqlall , cnxn, chunksize=10000):
    dfs.append(chunk)

สิ่งนี้ส่งคืนรายการของดาต้าเฟรม

type(dfs[0])
Out[6]: pandas.core.frame.DataFrame

type(dfs)
Out[7]: list

len(dfs)
Out[8]: 408

นี่คือข้อมูลตัวอย่างบางส่วน

# sample dataframes
d1 = pd.DataFrame({'one' : [1., 2., 3., 4.], 'two' : [4., 3., 2., 1.]})
d2 = pd.DataFrame({'one' : [5., 6., 7., 8.], 'two' : [9., 10., 11., 12.]})
d3 = pd.DataFrame({'one' : [15., 16., 17., 18.], 'two' : [19., 10., 11., 12.]})

# list of dataframes
mydfs = [d1, d2, d3]

ฉันต้องการที่จะรวมd1, d2และd3เป็นหนึ่งหมีแพนด้า dataframe อีกวิธีหนึ่งคือวิธีการอ่านตารางขนาดใหญ่ลงในดาต้าเฟรมโดยตรงเมื่อใช้chunksizeตัวเลือกนี้จะมีประโยชน์มาก

เนื่องจากดาต้าเฟรมทั้งหมดมีคอลัมน์เดียวกันคุณสามารถทำได้ง่ายๆconcat:

import pandas as pd
df = pd.concat(list_of_dataframes)

หากดาต้าเฟรมไม่มีคอลัมน์เดียวกันทั้งหมดให้ลองทำดังต่อไปนี้:

df = pd.DataFrame.from_dict(map(dict,df_list))

คุณสามารถทำได้ด้วยการเขียนโปรแกรมเชิงฟังก์ชัน:

from functools import reduce
reduce(lambda df1, df2: df1.merge(df2, "outer"), mydfs)

concat ยังใช้งานได้ดีกับความเข้าใจรายการที่ดึงโดยใช้คำสั่ง "loc" เทียบกับดาต้าเฟรมที่มีอยู่

df = pd.read_csv('./data.csv') # ie; Dataframe pulled from csv file with a "userID" column

review_ids = ['1','2','3'] # ie; ID values to grab from DataFrame

# Gets rows in df where IDs match in the userID column and combines them 

dfa = pd.concat([df.loc[df['userID'] == x] for x in review_ids])