รับสถิติสำหรับแต่ละกลุ่ม (เช่นการนับค่าเฉลี่ยเป็นต้น) โดยใช้หมีแพนด้า GroupBy?


438

ฉันมีกรอบข้อมูลdfและฉันใช้หลายคอลัมน์จากgroupby:

df['col1','col2','col3','col4'].groupby(['col1','col2']).mean()

ในวิธีข้างต้นฉันเกือบจะได้รับตาราง (data frame) ที่ฉันต้องการ สิ่งที่ขาดหายไปคือคอลัมน์เพิ่มเติมที่มีจำนวนแถวในแต่ละกลุ่ม กล่าวอีกนัยหนึ่งฉันมีความหมาย แต่ฉันก็อยากจะรู้ว่าจำนวนที่ใช้ในการรับค่าเฉลี่ย ตัวอย่างเช่นในกลุ่มแรกมี 8 ค่าและใน 10 อันดับสองและอื่น ๆ

กล่าวโดยย่อ: ฉันจะรับสถิติกลุ่มอย่างชาญฉลาดสำหรับดาต้าเฟรมได้อย่างไร

คำตอบ:


427

บนgroupbyวัตถุaggฟังก์ชันสามารถใช้รายการเพื่อใช้วิธีการรวมหลายวิธีพร้อมกัน สิ่งนี้จะให้ผลลัพธ์ที่คุณต้องการ:

df[['col1', 'col2', 'col3', 'col4']].groupby(['col1', 'col2']).agg(['mean', 'count'])

2
ฉันคิดว่าคุณต้องการการอ้างอิงคอลัมน์เพื่อเป็นรายการ คุณไม่อาจจะหมายถึง: df[['col1','col2','col3','col4']].groupby(['col1','col2']).agg(['mean', 'count'])
rysqui

43
สิ่งนี้จะสร้างคอลัมน์จำนวนสี่คอลัมน์ แต่จะรับได้เพียงคอลัมน์เดียว (คำถามที่ถามหา "คอลัมน์เพิ่มเติม" และนั่นคือสิ่งที่ฉันต้องการเกินไป.)
Jaan

16
โปรดดูคำตอบของฉันหากคุณต้องการรับเพียงหนึ่งcountคอลัมน์ต่อกลุ่ม
Pedro M Duarte

จะเกิดอะไรขึ้นถ้าฉันมีการแยกที่เรียกว่าการนับและแทนที่จะนับแถวของประเภทที่จัดกลุ่มฉันต้องเพิ่มตามการนับคอลัมน์
Abhishek Bhatia

@Jaan result = df['col1','col2','col3','col4'].groupby(['col1', 'col2']).mean() ; counts = times.groupby(['col1', 'col2']).size() ; result['count'] = counts
alvitawa

912

คำตอบที่รวดเร็ว:

วิธีที่ง่ายที่สุดในการรับจำนวนแถวต่อกลุ่มคือการโทร.size()ออกซึ่งจะส่งคืน a Series:

df.groupby(['col1','col2']).size()


โดยปกติแล้วคุณต้องการให้ผลลัพธ์นี้เป็นDataFrame(แทนที่จะเป็นSeries) ดังนั้นคุณสามารถทำได้:

df.groupby(['col1', 'col2']).size().reset_index(name='counts')


หากคุณต้องการทราบวิธีการคำนวณจำนวนแถวและสถิติอื่น ๆ สำหรับแต่ละกลุ่มอ่านต่อไปด้านล่าง


ตัวอย่างโดยละเอียด:

พิจารณาดาต้าตัวอย่างของตัวอย่างต่อไปนี้:

In [2]: df
Out[2]: 
  col1 col2  col3  col4  col5  col6
0    A    B  0.20 -0.61 -0.49  1.49
1    A    B -1.53 -1.01 -0.39  1.82
2    A    B -0.44  0.27  0.72  0.11
3    A    B  0.28 -1.32  0.38  0.18
4    C    D  0.12  0.59  0.81  0.66
5    C    D -0.13 -1.65 -1.64  0.50
6    C    D -1.42 -0.11 -0.18 -0.44
7    E    F -0.00  1.42 -0.26  1.17
8    E    F  0.91 -0.47  1.35 -0.34
9    G    H  1.48 -0.63 -1.14  0.17

ก่อนอื่นมาใช้.size()เพื่อให้ได้จำนวนแถว:

In [3]: df.groupby(['col1', 'col2']).size()
Out[3]: 
col1  col2
A     B       4
C     D       3
E     F       2
G     H       1
dtype: int64

จากนั้นลองใช้.size().reset_index(name='counts')เพื่อรับจำนวนแถว:

In [4]: df.groupby(['col1', 'col2']).size().reset_index(name='counts')
Out[4]: 
  col1 col2  counts
0    A    B       4
1    C    D       3
2    E    F       2
3    G    H       1


รวมถึงผลลัพธ์สำหรับสถิติเพิ่มเติม

เมื่อคุณต้องการคำนวณสถิติเกี่ยวกับข้อมูลที่จัดกลุ่มมักจะมีลักษณะดังนี้:

In [5]: (df
   ...: .groupby(['col1', 'col2'])
   ...: .agg({
   ...:     'col3': ['mean', 'count'], 
   ...:     'col4': ['median', 'min', 'count']
   ...: }))
Out[5]: 
            col4                  col3      
          median   min count      mean count
col1 col2                                   
A    B    -0.810 -1.32     4 -0.372500     4
C    D    -0.110 -1.65     3 -0.476667     3
E    F     0.475 -0.47     2  0.455000     2
G    H    -0.630 -0.63     1  1.480000     1

ผลลัพธ์ข้างต้นเป็นเรื่องน่ารำคาญเล็กน้อยที่จะจัดการเนื่องจากป้ายชื่อคอลัมน์ที่ซ้อนกันและเนื่องจากจำนวนแถวอยู่บนพื้นฐานของแต่ละคอลัมน์

joinเพื่อให้ได้รับการควบคุมที่มากกว่าการส่งออกฉันมักจะแบ่งออกเป็นสถิติรวมตัวของแต่ละบุคคลที่ผมใช้แล้วรวม ดูเหมือนว่านี้:

In [6]: gb = df.groupby(['col1', 'col2'])
   ...: counts = gb.size().to_frame(name='counts')
   ...: (counts
   ...:  .join(gb.agg({'col3': 'mean'}).rename(columns={'col3': 'col3_mean'}))
   ...:  .join(gb.agg({'col4': 'median'}).rename(columns={'col4': 'col4_median'}))
   ...:  .join(gb.agg({'col4': 'min'}).rename(columns={'col4': 'col4_min'}))
   ...:  .reset_index()
   ...: )
   ...: 
Out[6]: 
  col1 col2  counts  col3_mean  col4_median  col4_min
0    A    B       4  -0.372500       -0.810     -1.32
1    C    D       3  -0.476667       -0.110     -1.65
2    E    F       2   0.455000        0.475     -0.47
3    G    H       1   1.480000       -0.630     -0.63



เชิงอรรถ

รหัสที่ใช้สร้างข้อมูลทดสอบแสดงไว้ด้านล่าง:

In [1]: import numpy as np
   ...: import pandas as pd 
   ...: 
   ...: keys = np.array([
   ...:         ['A', 'B'],
   ...:         ['A', 'B'],
   ...:         ['A', 'B'],
   ...:         ['A', 'B'],
   ...:         ['C', 'D'],
   ...:         ['C', 'D'],
   ...:         ['C', 'D'],
   ...:         ['E', 'F'],
   ...:         ['E', 'F'],
   ...:         ['G', 'H'] 
   ...:         ])
   ...: 
   ...: df = pd.DataFrame(
   ...:     np.hstack([keys,np.random.randn(10,4).round(2)]), 
   ...:     columns = ['col1', 'col2', 'col3', 'col4', 'col5', 'col6']
   ...: )
   ...: 
   ...: df[['col3', 'col4', 'col5', 'col6']] = \
   ...:     df[['col3', 'col4', 'col5', 'col6']].astype(float)
   ...: 


Disclaimer:

หากคอลัมน์บางคอลัมน์ที่คุณกำลังรวบรวมมีค่า Null คุณจะต้องดูว่าแถวกลุ่มนับเป็นการรวมอิสระของแต่ละคอลัมน์หรือไม่ มิฉะนั้นคุณอาจเข้าใจผิดว่ามีการใช้เรคคอร์ดจำนวนเท่าใดในการคำนวณสิ่งต่าง ๆ เช่นค่าเฉลี่ยเนื่องจากแพนด้าจะดรอปNaNรายการในการคำนวณค่าเฉลี่ยโดยไม่ต้องบอกคุณ


1
เฮ้ฉันชอบวิธีการแก้ปัญหาของคุณโดยเฉพาะอย่างยิ่งคนสุดท้ายที่คุณใช้วิธีการผูกมัด อย่างไรก็ตามเนื่องจากมีความจำเป็นบ่อยครั้งที่จะใช้ฟังก์ชั่นการรวมที่แตกต่างกันกับคอลัมน์ที่แตกต่างกันเราจึงสามารถเชื่อมโยงเฟรมข้อมูลผลลัพธ์โดยใช้ pd.concat การอ่านนี้อาจจะง่ายกว่าการผูกมัดแบบพิเศษ
Quickbeam2k1

4
วิธีแก้ปัญหาที่ดี แต่ In [5]: counts_df = pd.DataFrame(df.groupby('col1').size().rename('counts'))อาจจะดีกว่าถ้าตั้งค่าขนาด () เป็นคอลัมน์ใหม่หากคุณต้องการจัดการดาต้าเฟรมสำหรับการวิเคราะห์เพิ่มเติมซึ่งควรจะเป็นcounts_df = pd.DataFrame(df.groupby('col1').size().reset_index(name='counts')
LancelotHolmes

2
ขอบคุณสำหรับบิต "รวมผลลัพธ์สำหรับสถิติเพิ่มเติม"! เนื่องจากการค้นหาครั้งต่อไปของฉันเกี่ยวกับการทำให้ดัชนีหลายดัชนีในคอลัมน์แบนราบฉันจะลิงก์ไปยังคำตอบได้ที่นี่: stackoverflow.com/a/50558529/1026
Nickolay

ที่ดี! คุณช่วยกรุณาบอกคำแนะนำวิธีเพิ่มลงisnullในแบบสอบถามนี้ให้ฉันได้ในคอลัมน์เดียวได้หรือไม่ 'col4': ['median', 'min', 'count', 'isnull']
Peter.k

38

ฟังก์ชั่นเดียวที่จะปกครองพวกเขาทั้งหมด: GroupBy.describe

ผลตอบแทนcount, mean, stdและสถิติที่มีประโยชน์อื่น ๆ ต่อกลุ่ม

df.groupby(['col1', 'col2'])['col3', 'col4'].describe()

# Setup
np.random.seed(0)
df = pd.DataFrame({'A' : ['foo', 'bar', 'foo', 'bar',
                          'foo', 'bar', 'foo', 'foo'],
                   'B' : ['one', 'one', 'two', 'three',
                          'two', 'two', 'one', 'three'],
                   'C' : np.random.randn(8),
                   'D' : np.random.randn(8)})

from IPython.display import display

with pd.option_context('precision', 2):
    display(df.groupby(['A', 'B'])['C'].describe())

           count  mean   std   min   25%   50%   75%   max
A   B                                                     
bar one      1.0  0.40   NaN  0.40  0.40  0.40  0.40  0.40
    three    1.0  2.24   NaN  2.24  2.24  2.24  2.24  2.24
    two      1.0 -0.98   NaN -0.98 -0.98 -0.98 -0.98 -0.98
foo one      2.0  1.36  0.58  0.95  1.15  1.36  1.56  1.76
    three    1.0 -0.15   NaN -0.15 -0.15 -0.15 -0.15 -0.15
    two      2.0  1.42  0.63  0.98  1.20  1.42  1.65  1.87

หากต้องการดูสถิติเฉพาะให้เลือกพวกเขา

df.groupby(['A', 'B'])['C'].describe()[['count', 'mean']]

           count      mean
A   B                     
bar one      1.0  0.400157
    three    1.0  2.240893
    two      1.0 -0.977278
foo one      2.0  1.357070
    three    1.0 -0.151357
    two      2.0  1.423148

describeใช้งานได้กับหลายคอลัมน์ (เปลี่ยน['C']เป็น['C', 'D']- หรือลบออกโดยสิ้นเชิง - และดูว่าเกิดอะไรขึ้นผลลัพธ์คือคอลัมน์ข้อมูลคอลัมน์ MultiIndexed)

คุณยังได้รับสถิติที่แตกต่างกันสำหรับข้อมูลสตริง นี่คือตัวอย่าง

df2 = df.assign(D=list('aaabbccc')).sample(n=100, replace=True)

with pd.option_context('precision', 2):
    display(df2.groupby(['A', 'B'])
               .describe(include='all')
               .dropna(how='all', axis=1))

              C                                                   D                
          count  mean       std   min   25%   50%   75%   max count unique top freq
A   B                                                                              
bar one    14.0  0.40  5.76e-17  0.40  0.40  0.40  0.40  0.40    14      1   a   14
    three  14.0  2.24  4.61e-16  2.24  2.24  2.24  2.24  2.24    14      1   b   14
    two     9.0 -0.98  0.00e+00 -0.98 -0.98 -0.98 -0.98 -0.98     9      1   c    9
foo one    22.0  1.43  4.10e-01  0.95  0.95  1.76  1.76  1.76    22      2   a   13
    three  15.0 -0.15  0.00e+00 -0.15 -0.15 -0.15 -0.15 -0.15    15      1   c   15
    two    26.0  1.49  4.48e-01  0.98  0.98  1.87  1.87  1.87    26      2   b   15

สำหรับข้อมูลเพิ่มเติมโปรดดูที่เอกสาร


การแจกแจงทั้งหมดไม่ใช่เรื่องปกติ IQR น่าทึ่งมาก
แบรด

7

เราสามารถทำได้โดยใช้ groupby และนับ แต่เราควรจำไว้ว่าให้ใช้ reset_index ()

df[['col1','col2','col3','col4']].groupby(['col1','col2']).count().\
reset_index()

3
วิธีนี้ใช้ได้ผลตราบใดที่ไม่มีค่าว่างในคอลัมน์มิฉะนั้นอาจทำให้เข้าใจผิดได้ (การนับจะต่ำกว่าจำนวนการสังเกตจริงตามกลุ่ม)
Adrien Pacifico

4

หากต้องการรับหลายสถิติให้ยุบดัชนีและเก็บชื่อคอลัมน์ไว้:

df = df.groupby(['col1','col2']).agg(['mean', 'count'])
df.columns = [ ' '.join(str(i) for i in col) for col in df.columns]
df.reset_index(inplace=True)
df

ผลิต:

** ใส่คำอธิบายรูปภาพที่นี่ **


1

สร้างวัตถุกลุ่มและวิธีการโทรเช่นตัวอย่างด้านล่าง:

grp = df.groupby(['col1',  'col2',  'col3']) 

grp.max() 
grp.mean() 
grp.describe() 

1

กรุณาลองรหัสนี้

new_column=df[['col1', 'col2', 'col3', 'col4']].groupby(['col1', 'col2']).count()
df['count_it']=new_column
df

ฉันคิดว่ารหัสจะเพิ่มคอลัมน์ที่เรียกว่า 'นับเป็น' ซึ่งนับจากแต่ละกลุ่ม

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.