การลบแถว DataFrame ในนุ่นตามค่าคอลัมน์


510

ฉันมี DataFrame ต่อไปนี้:

             daysago  line_race rating        rw    wrating
 line_date                                                 
 2007-03-31       62         11     56  1.000000  56.000000
 2007-03-10       83         11     67  1.000000  67.000000
 2007-02-10      111          9     66  1.000000  66.000000
 2007-01-13      139         10     83  0.880678  73.096278
 2006-12-23      160         10     88  0.793033  69.786942
 2006-11-09      204          9     52  0.636655  33.106077
 2006-10-22      222          8     66  0.581946  38.408408
 2006-09-29      245          9     70  0.518825  36.317752
 2006-09-16      258         11     68  0.486226  33.063381
 2006-08-30      275          8     72  0.446667  32.160051
 2006-02-11      475          5     65  0.164591  10.698423
 2006-01-13      504          0     70  0.142409   9.968634
 2006-01-02      515          0     64  0.134800   8.627219
 2005-12-06      542          0     70  0.117803   8.246238
 2005-11-29      549          0     70  0.113758   7.963072
 2005-11-22      556          0     -1  0.109852  -0.109852
 2005-11-01      577          0     -1  0.098919  -0.098919
 2005-10-20      589          0     -1  0.093168  -0.093168
 2005-09-27      612          0     -1  0.083063  -0.083063
 2005-09-07      632          0     -1  0.075171  -0.075171
 2005-06-12      719          0     69  0.048690   3.359623
 2005-05-29      733          0     -1  0.045404  -0.045404
 2005-05-02      760          0     -1  0.039679  -0.039679
 2005-04-02      790          0     -1  0.034160  -0.034160
 2005-03-13      810          0     -1  0.030915  -0.030915
 2004-11-09      934          0     -1  0.016647  -0.016647

ฉันต้องการที่จะลบแถวที่มีค่าเท่ากับline_race 0วิธีที่มีประสิทธิภาพที่สุดในการทำเช่นนี้คืออะไร?


คำตอบ:


878

ถ้าฉันเข้าใจถูกต้องมันควรจะง่ายเหมือน:

df = df[df.line_race != 0]

16
หน่วยความจำนี้จะมีค่าใช้จ่ายมากขึ้นdfหรือไม่หากมีขนาดใหญ่ หรือฉันจะทำมันแทนที่?
ziyuang

10
เพิ่งวิ่งบนdfแถว 2M แล้วมันก็เร็วมาก
Dror

46
@vfxGer หากมีช่องว่างในคอลัมน์เช่น 'line race' คุณสามารถทำได้df = df[df['line race'] != 0]
Paul

3
เราจะแก้ไขคำสั่งนี้ได้อย่างไรหากเราต้องการลบทั้งแถวหากพบค่าที่เป็นปัญหาในคอลัมน์ใด ๆ ในแถวนั้น
อเล็กซ์

3
ขอบคุณ! Fwiw สำหรับฉันนี่ต้องเป็นdf=df[~df['DATE'].isin(['2015-10-30.1', '2015-11-30.1', '2015-12-31.1'])]
เขียนเมือง

181

แต่สำหรับผู้บายพาสในอนาคตคุณอาจกล่าวdf = df[df.line_race != 0]ได้ว่าไม่ได้ทำอะไรเมื่อพยายามกรองNone/ ค่าที่หายไป

ทำงานได้:

df = df[df.line_race != 0]

ไม่ทำอะไรเลย:

df = df[df.line_race != None]

ทำงานได้:

df = df[df.line_race.notnull()]

4
ทำอย่างไรถ้าเราไม่ทราบชื่อคอลัมน์
Piyush S. Wanare

ทำได้df = df[df.columns[2].notnull()]แต่ไม่ทางใดก็ทางหนึ่งคุณจะต้องสามารถสร้างดัชนีคอลัมน์ได้
erekalper

1
df = df[df.line_race != 0]วางแถว แต่ไม่ได้รีเซ็ตดัชนี ดังนั้นเมื่อคุณเพิ่มแถวอื่นใน df มันอาจไม่เพิ่มในตอนท้าย ฉันขอแนะนำให้รีเซ็ตดัชนีหลังจากการดำเนินการนั้น ( df = df.reset_index(drop=True))
the_new_james

คุณไม่ควรเปรียบเทียบกับ None กับ==โอเปอเรเตอร์เพื่อเริ่มต้น stackoverflow.com/questions/3257919/…
Bram Vanroy

40

วิธีที่ดีที่สุดในการทำเช่นนี้คือการกำบังบูลีน:

In [56]: df
Out[56]:
     line_date  daysago  line_race  rating    raw  wrating
0   2007-03-31       62         11      56  1.000   56.000
1   2007-03-10       83         11      67  1.000   67.000
2   2007-02-10      111          9      66  1.000   66.000
3   2007-01-13      139         10      83  0.881   73.096
4   2006-12-23      160         10      88  0.793   69.787
5   2006-11-09      204          9      52  0.637   33.106
6   2006-10-22      222          8      66  0.582   38.408
7   2006-09-29      245          9      70  0.519   36.318
8   2006-09-16      258         11      68  0.486   33.063
9   2006-08-30      275          8      72  0.447   32.160
10  2006-02-11      475          5      65  0.165   10.698
11  2006-01-13      504          0      70  0.142    9.969
12  2006-01-02      515          0      64  0.135    8.627
13  2005-12-06      542          0      70  0.118    8.246
14  2005-11-29      549          0      70  0.114    7.963
15  2005-11-22      556          0      -1  0.110   -0.110
16  2005-11-01      577          0      -1  0.099   -0.099
17  2005-10-20      589          0      -1  0.093   -0.093
18  2005-09-27      612          0      -1  0.083   -0.083
19  2005-09-07      632          0      -1  0.075   -0.075
20  2005-06-12      719          0      69  0.049    3.360
21  2005-05-29      733          0      -1  0.045   -0.045
22  2005-05-02      760          0      -1  0.040   -0.040
23  2005-04-02      790          0      -1  0.034   -0.034
24  2005-03-13      810          0      -1  0.031   -0.031
25  2004-11-09      934          0      -1  0.017   -0.017

In [57]: df[df.line_race != 0]
Out[57]:
     line_date  daysago  line_race  rating    raw  wrating
0   2007-03-31       62         11      56  1.000   56.000
1   2007-03-10       83         11      67  1.000   67.000
2   2007-02-10      111          9      66  1.000   66.000
3   2007-01-13      139         10      83  0.881   73.096
4   2006-12-23      160         10      88  0.793   69.787
5   2006-11-09      204          9      52  0.637   33.106
6   2006-10-22      222          8      66  0.582   38.408
7   2006-09-29      245          9      70  0.519   36.318
8   2006-09-16      258         11      68  0.486   33.063
9   2006-08-30      275          8      72  0.447   32.160
10  2006-02-11      475          5      65  0.165   10.698

UPDATE:ตอนนี้หมีแพนด้า 0.13 df.query('line_race != 0')จะออกวิธีที่จะทำเช่นนี้อีกอย่างก็คือ


df.query ดูมีประโยชน์มาก! ขอบคุณ! pandas.pydata.org/pandas-docs/version/0.13.1/generated/…
fantabolous

14
queryการปรับปรุงที่ดีสำหรับ จะช่วยให้การเกณฑ์การคัดเลือกที่อุดมไปด้วยมากขึ้น (เช่นชุดเหมือนดำเนินการเช่น. df.query('variable in var_list')ที่ 'var_list' เป็นรายการของค่าที่ต้องการ)
philE

1
สิ่งนี้จะเกิดขึ้นได้อย่างไรหากชื่อคอลัมน์มีช่องว่างในชื่อ
iNoob

2
queryไม่มีประโยชน์มากหากชื่อคอลัมน์มีช่องว่างอยู่
Phillip Cloud

3
ฉันจะหลีกเลี่ยงการมีช่องว่างในส่วนหัวด้วยสิ่งนี้df = df.rename(columns=lambda x: x.strip().replace(' ','_'))
Scientist1642

39

เพียงเพื่อเพิ่มวิธีแก้ไขปัญหาอื่นโดยเฉพาะอย่างยิ่งมีประโยชน์ถ้าคุณกำลังใช้ผู้ประเมินแพนด้าใหม่โซลูชั่นอื่น ๆ จะเข้ามาแทนที่แพนด้าเดิมและสูญเสียผู้ประเมิน

df.drop(df.loc[df['line_race']==0].index, inplace=True)

1
จุดประสงค์ในการเขียนดัชนีและ inplace คืออะไร มีใครอธิบายได้ไหม
heman123


ฉันคิดว่าเราจำเป็นต้องทำ.reset_index()เช่นกันหากมีคนลงทะเบียนด้วย accessors index
Ayush

16

หากคุณต้องการลบแถวตามค่าหลายค่าของคอลัมน์คุณสามารถใช้:

df[(df.line_race != 0) & (df.line_race != 10)]

จะลดลงทุกแถวที่มีค่าเป็น 0 และ 10 line_raceสำหรับ


มีวิธีที่มีประสิทธิภาพมากขึ้นในการทำเช่นนี้ถ้าคุณมีหลายค่าที่คุณต้องการที่จะลดลงคือdrop = [0, 10]และจากนั้นสิ่งที่ชอบdf[(df.line_race != drop)]
mikey

14

คำตอบที่ได้รับนั้นถูกต้องอย่างไรก็ตามคนที่กล่าวมาข้างต้นสามารถใช้df.query('line_race != 0')สิ่งที่ขึ้นอยู่กับปัญหาของคุณได้เร็วกว่ามาก ขอเเนะนำ.


มีประโยชน์อย่างยิ่งหากคุณมีDataFrameชื่อตัวแปรยาวๆ อย่างฉัน (และฉันอยากจะเดาว่าทุกคนเมื่อเทียบกับdfตัวอย่างที่ใช้) เพราะคุณต้องเขียนเพียงครั้งเดียว
ijoseph

9

แม้ว่าคำตอบก่อนหน้านี้เกือบจะคล้ายกับสิ่งที่ฉันจะทำ แต่การใช้วิธีการดัชนีไม่จำเป็นต้องใช้วิธีการจัดทำดัชนีอื่น. loc () มันสามารถทำได้ในลักษณะที่คล้ายกัน แต่แม่นยำเป็น

df.drop(df.index[df['line_race'] == 0], inplace = True)

1
วิธีการแก้ปัญหาที่ดีกว่าสำหรับชุดข้อมูลขนาดใหญ่หรือหน่วยความจำ จำกัด +1
davmor

3

อีกวิธีในการทำ อาจไม่ใช่วิธีที่มีประสิทธิภาพที่สุดเนื่องจากรหัสดูซับซ้อนกว่ารหัสที่ระบุในคำตอบอื่น ๆ แต่ก็ยังคงเป็นวิธีการอื่นในการทำสิ่งเดียวกัน

  df = df.drop(df[df['line_race']==0].index)

0

เพียงเพิ่มวิธีอื่นสำหรับ DataFrame ที่ขยายไปทั่วทุกคอลัมน์:

for column in df.columns:
   df = df[df[column]!=0]

ตัวอย่าง:

def z_score(data,count):
   threshold=3
   for column in data.columns:
       mean = np.mean(data[column])
       std = np.std(data[column])
       for i in data[column]:
           zscore = (i-mean)/std
           if(np.abs(zscore)>threshold):
               count=count+1
               data = data[data[column]!=i]
   return data,count
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.