จะจัดกลุ่มแถวข้อมูลลงในรายการใน pandas groupby ได้อย่างไร?


274

ฉันมีกรอบข้อมูลนุ่นdfเหมือน:

a b
A 1
A 2
B 5
B 5
B 4
C 6

ฉันต้องการจัดกลุ่มตามคอลัมน์แรกและรับคอลัมน์ที่สองเป็นรายการในแถว :

A [1,2]
B [5,5,4]
C [6]

เป็นไปได้ไหมที่จะทำสิ่งนี้โดยใช้นุ่นกลุ่ม

คำตอบ:


394

คุณสามารถทำได้โดยใช้groupbyกลุ่มในคอลัมน์ที่สนใจแล้วapply listไปที่ทุกกลุ่ม:

In [1]: df = pd.DataFrame( {'a':['A','A','B','B','B','C'], 'b':[1,2,5,5,4,6]})
        df

Out[1]: 
   a  b
0  A  1
1  A  2
2  B  5
3  B  5
4  B  4
5  C  6

In [2]: df.groupby('a')['b'].apply(list)
Out[2]: 
a
A       [1, 2]
B    [5, 5, 4]
C          [6]
Name: b, dtype: object

In [3]: df1 = df.groupby('a')['b'].apply(list).reset_index(name='new')
        df1
Out[3]: 
   a        new
0  A     [1, 2]
1  B  [5, 5, 4]
2  C        [6]

7
ใช้เวลามากถ้าชุดข้อมูลมีขนาดใหญ่มากพูดได้ 10 ล้านแถว มีวิธีใดที่เร็วกว่านี้ในการทำเช่นนี้? จำนวนที่ไม่ซ้ำกันใน 'a' มีอยู่ประมาณ 500k
Abhishek Thakur

6
groupby ช้าฉาวโฉ่และหน่วยความจำหิวสิ่งที่คุณทำได้คือจัดเรียงตามคอลัมน์ A จากนั้นหา idxmin และ idxmax (อาจเก็บไว้ใน dict) และใช้มันเพื่อแบ่ง dataframe ของคุณเร็วขึ้นฉันคิดว่า
EdChum

1
เมื่อฉันลองวิธีแก้ปัญหานี้กับปัญหาของฉัน (มีหลายคอลัมน์ให้ groupBy และกลุ่ม) มันไม่ทำงาน - pandas ส่ง 'ฟังก์ชั่นไม่ลด' แล้วฉันจะใช้tupleต่อไปนี้คำตอบที่สองที่นี่: stackoverflow.com/questions/19530568/... ดูคำตอบที่สองใน stackoverflow.com/questions/27439023/…สำหรับคำอธิบาย
Andarin

วิธีการแก้ปัญหานี้ดี แต่มีวิธีจัดเก็บชุดรายการหมายความว่าฉันสามารถลบรายการที่ซ้ำกันแล้วเก็บไว้ได้หรือไม่
Sriram Arvind Lakshmanakumar

1
@PoeteMaudit ขออภัยฉันไม่เข้าใจสิ่งที่คุณถามและถามคำถามในความคิดเห็นเป็นรูปแบบที่ไม่ดีใน SO คุณกำลังถามวิธีการเชื่อมหลายคอลัมน์เข้าด้วยกันในรายการเดียว
EdChum

47

หากประสิทธิภาพเป็นสิ่งสำคัญให้ไปที่ระดับ numpy:

import numpy as np

df = pd.DataFrame({'a': np.random.randint(0, 60, 600), 'b': [1, 2, 5, 5, 4, 6]*100})

def f(df):
         keys, values = df.sort_values('a').values.T
         ukeys, index = np.unique(keys, True)
         arrays = np.split(values, index[1:])
         df2 = pd.DataFrame({'a':ukeys, 'b':[list(a) for a in arrays]})
         return df2

แบบทดสอบ:

In [301]: %timeit f(df)
1000 loops, best of 3: 1.64 ms per loop

In [302]: %timeit df.groupby('a')['b'].apply(list)
100 loops, best of 3: 5.26 ms per loop

8
เราจะใช้สิ่งนี้ได้อย่างไรถ้าเราจัดกลุ่มด้วยปุ่มสองปุ่มขึ้นไปเช่น.groupby([df.index.month, df.index.day])แทนที่จะใช้เพียง.groupby('a')?
ru111

25

วิธีที่สะดวกในการบรรลุเป้าหมายนี้คือ:

df.groupby('a').agg({'b':lambda x: list(x)})

ดูการเขียนการรวมที่กำหนดเอง: https://www.kaggle.com/akshaysehgal/how-to-group-by-aggregate-using-py


5
lambda args: f(args)เทียบเท่ากับf
BallpointBen

6
จริงๆแล้วก็agg(list)เพียงพอแล้ว ดูที่นี่ด้วย
cs95

!! ฉันเพิ่ง googling สำหรับไวยากรณ์และรู้ว่าโน้ตบุ๊คของฉันถูกอ้างอิงสำหรับการแก้ปัญหาฮ่า ๆ ขอบคุณที่เชื่อมโยงสิ่งนี้ เพียงเพื่อเพิ่มตั้งแต่ 'รายการ' ไม่ได้เป็นฟังก์ชั่นชุดที่คุณจะต้องใช้อย่างใดอย่างหนึ่งกับนำไปใช้df.groupby('a').apply(list)หรือใช้กับ AGG เป็นส่วนหนึ่งของ df.groupby('a').agg({'b':list})Dict คุณสามารถใช้มันกับแลมบ์ดา (ซึ่งฉันแนะนำ) เพราะคุณสามารถทำได้มากกว่านี้ ตัวอย่าง: df.groupby('a').agg({'c':'first', 'b': lambda x: x.unique().tolist()})ซึ่งให้คุณใช้ฟังก์ชันอนุกรมกับ col c และฟังก์ชัน list ที่ไม่ซ้ำกันกับ col b
Akshay Sehgal

21

ในขณะที่คุณกำลังพูดถึงgroupbyวิธีการของpd.DataFrameวัตถุที่สามารถทำงานได้

ตัวอย่าง

 L = ['A','A','B','B','B','C']
 N = [1,2,5,5,4,6]

 import pandas as pd
 df = pd.DataFrame(zip(L,N),columns = list('LN'))


 groups = df.groupby(df.L)

 groups.groups
      {'A': [0, 1], 'B': [2, 3, 4], 'C': [5]}

ซึ่งให้และคำอธิบายดัชนีที่ชาญฉลาดของกลุ่ม

ในการรับองค์ประกอบของกลุ่มเดี่ยวคุณสามารถทำได้เช่น

 groups.get_group('A')

     L  N
  0  A  1
  1  A  2

  groups.get_group('B')

     L  N
  2  B  5
  3  B  5
  4  B  4

21

ในการแก้ปัญหานี้สำหรับคอลัมน์หลายคอลัมน์ของ dataframe:

In [5]: df = pd.DataFrame( {'a':['A','A','B','B','B','C'], 'b':[1,2,5,5,4,6],'c'
   ...: :[3,3,3,4,4,4]})

In [6]: df
Out[6]: 
   a  b  c
0  A  1  3
1  A  2  3
2  B  5  3
3  B  5  4
4  B  4  4
5  C  6  4

In [7]: df.groupby('a').agg(lambda x: list(x))
Out[7]: 
           b          c
a                      
A     [1, 2]     [3, 3]
B  [5, 5, 4]  [3, 4, 4]
C        [6]        [4]

คำตอบนี้ได้แรงบันดาลใจจากAnamika Modiคำตอบ 's ขอบคุณ!


12

ใช้ข้อใดข้อหนึ่งต่อไปนี้groupbyและaggสูตรอาหาร

# Setup
df = pd.DataFrame({
  'a': ['A', 'A', 'B', 'B', 'B', 'C'],
  'b': [1, 2, 5, 5, 4, 6],
  'c': ['x', 'y', 'z', 'x', 'y', 'z']
})
df

   a  b  c
0  A  1  x
1  A  2  y
2  B  5  z
3  B  5  x
4  B  4  y
5  C  6  z

หากต้องการรวมหลายคอลัมน์เป็นรายการให้ใช้วิธีใดวิธีหนึ่งต่อไปนี้:

df.groupby('a').agg(list)
df.groupby('a').agg(pd.Series.tolist)

           b          c
a                      
A     [1, 2]     [x, y]
B  [5, 5, 4]  [z, x, y]
C        [6]        [z]

ไปยังกลุ่ม-listify คอลัมน์เดียวเท่านั้นแปลง GroupBy ไปยังวัตถุโทรแล้วSeriesGroupBy SeriesGroupBy.aggใช้,

df.groupby('a').agg({'b': list})  # 4.42 ms 
df.groupby('a')['b'].agg(list)    # 2.76 ms - faster

a
A       [1, 2]
B    [5, 5, 4]
C          [6]
Name: b, dtype: object

วิธีการดังกล่าวรับประกันเพื่อรักษาความสงบเรียบร้อยหรือไม่ หมายความว่าองค์ประกอบจากแถวเดียวกัน (แต่คอลัมน์ต่าง ๆbและcในรหัสของคุณด้านบน) จะมีดัชนีเดียวกันในรายการผลลัพธ์หรือไม่
Kai

@ ไก่โอ้คำถามที่ดี ใช่และไม่. GroupBy เรียงลำดับผลลัพธ์ตามค่าคีย์ grouper อย่างไรก็ตามการเรียงลำดับโดยทั่วไปมีความเสถียรดังนั้นลำดับที่สัมพันธ์กันต่อกลุ่มจะถูกเก็บไว้ groupby(..., sort=False)การปิดการใช้พฤติกรรมการเรียงลำดับทั้งหมดใช้ ที่นี่มันจะไม่สร้างความแตกต่างตั้งแต่ฉันจัดกลุ่มในคอลัมน์ A ซึ่งเรียงลำดับแล้ว
cs95

ฉันขอโทษฉันไม่เข้าใจคำตอบของคุณ คุณช่วยอธิบายรายละเอียดเพิ่มเติมได้ไหม ฉันคิดว่านี่สมควรที่จะเป็นคำถามของตัวเอง ..
Kai

1
นี่เป็นคำตอบที่ดีมาก! นอกจากนี้ยังมีวิธีที่จะทำให้ค่าของรายการไม่ซ้ำกันหรือไม่? บางอย่างเช่น. agg (pd.Series.tolist.unique) อาจจะ?
Federico Gentile

1
@FedericoGentile คุณสามารถใช้แลมบ์ดา นี่เป็นวิธีหนึ่ง:df.groupby('a')['b'].agg(lambda x: list(set(x)))
cs95

7

หากมองหารายการที่ไม่ซ้ำกัน ในขณะที่จัดกลุ่มหลายคอลัมน์สิ่งนี้อาจช่วยได้

df.groupby('a').agg(lambda x: list(set(x))).reset_index()

2

ให้เราใช้df.groupbyกับ list และSeriesconstructor

pd.Series({x : y.b.tolist() for x , y in df.groupby('a')})
Out[664]: 
A       [1, 2]
B    [5, 5, 4]
C          [6]
dtype: object

2

มันเป็นเวลาที่จะใช้แทนaggapply

เมื่อไหร่

df = pd.DataFrame( {'a':['A','A','B','B','B','C'], 'b':[1,2,5,5,4,6], 'c': [1,2,5,5,4,6]})

หากคุณต้องการหลายคอลัมน์สแต็กลงในรายการให้ผลลัพธ์ pd.DataFrame

df.groupby('a')[['b', 'c']].agg(list)
# or 
df.groupby('a').agg(list)

หากคุณต้องการคอลัมน์เดียวในรายการให้ผลลัพธ์ ps.Series

df.groupby('a')['b'].agg(list)
#or
df.groupby('a')['b'].apply(list)

หมายเหตุผลลัพธ์ในpd.DataFrameประมาณ 10 เท่าช้ากว่าผลลัพธ์ps.Seriesเมื่อคุณรวมคอลัมน์เดียวเท่านั้นใช้ในกรณีหลายคอลัมน์


0

ที่นี่ฉันได้จัดกลุ่มองค์ประกอบด้วย "|" เป็นตัวคั่น

    import pandas as pd

    df = pd.read_csv('input.csv')

    df
    Out[1]:
      Area  Keywords
    0  A  1
    1  A  2
    2  B  5
    3  B  5
    4  B  4
    5  C  6

    df.dropna(inplace =  True)
    df['Area']=df['Area'].apply(lambda x:x.lower().strip())
    print df.columns
    df_op = df.groupby('Area').agg({"Keywords":lambda x : "|".join(x)})

    df_op.to_csv('output.csv')
    Out[2]:
    df_op
    Area  Keywords

    A       [1| 2]
    B    [5| 5| 4]
    C          [6]

0

วิธีที่ง่ายที่สุดที่ฉันเห็นไม่ประสบความสำเร็จในสิ่งเดียวกันส่วนใหญ่อย่างน้อยหนึ่งคอลัมน์ซึ่งคล้ายกับคำตอบของ Anamikaเพียงแค่มี tuple syntax สำหรับฟังก์ชันการรวม

df.groupby('a').agg(b=('b','unique'), c=('c','unique'))
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.