`ValueError: ไม่สามารถทำดัชนีซ้ำจากแกนที่ซ้ำกัน 'หมายถึงอะไร


254

ฉันได้รับValueError: cannot reindex from a duplicate axisเมื่อฉันพยายามตั้งค่าดัชนีให้เป็นค่าที่แน่นอน ฉันพยายามทำซ้ำโดยใช้ตัวอย่างง่ายๆ แต่ไม่สามารถทำได้

นี่คือเซสชั่นของฉันอยู่ในการipdbติดตาม ฉันมี DataFrame พร้อมกับดัชนีสตริงและคอลัมน์จำนวนเต็ม, ค่าทศนิยม อย่างไรก็ตามเมื่อฉันพยายามสร้างsumดัชนีสำหรับผลรวมของคอลัมน์ทั้งหมดที่ฉันได้รับValueError: cannot reindex from a duplicate axisข้อผิดพลาด ฉันสร้าง DataFrame ขนาดเล็กที่มีคุณสมบัติเหมือนกัน แต่ไม่สามารถสร้างปัญหาขึ้นมาใหม่ได้ฉันควรพลาดอะไรบ้าง

ฉันไม่เข้าใจความValueError: cannot reindex from a duplicate axisหมายของข้อความข้อผิดพลาดนี้หมายความว่าอย่างไร บางทีนี่อาจช่วยฉันวิเคราะห์ปัญหาและนี่เป็นส่วนที่ตอบได้มากที่สุดสำหรับคำถามของฉัน

ipdb> type(affinity_matrix)
<class 'pandas.core.frame.DataFrame'>
ipdb> affinity_matrix.shape
(333, 10)
ipdb> affinity_matrix.columns
Int64Index([9315684, 9315597, 9316591, 9320520, 9321163, 9320615, 9321187, 9319487, 9319467, 9320484], dtype='int64')
ipdb> affinity_matrix.index
Index([u'001', u'002', u'003', u'004', u'005', u'008', u'009', u'010', u'011', u'014', u'015', u'016', u'018', u'020', u'021', u'022', u'024', u'025', u'026', u'027', u'028', u'029', u'030', u'032', u'033', u'034', u'035', u'036', u'039', u'040', u'041', u'042', u'043', u'044', u'045', u'047', u'047', u'048', u'050', u'053', u'054', u'055', u'056', u'057', u'058', u'059', u'060', u'061', u'062', u'063', u'065', u'067', u'068', u'069', u'070', u'071', u'072', u'073', u'074', u'075', u'076', u'077', u'078', u'080', u'082', u'083', u'084', u'085', u'086', u'089', u'090', u'091', u'092', u'093', u'094', u'095', u'096', u'097', u'098', u'100', u'101', u'103', u'104', u'105', u'106', u'107', u'108', u'109', u'110', u'111', u'112', u'113', u'114', u'115', u'116', u'117', u'118', u'119', u'121', u'122', ...], dtype='object')

ipdb> affinity_matrix.values.dtype
dtype('float64')
ipdb> 'sums' in affinity_matrix.index
False

นี่คือข้อผิดพลาด:

ipdb> affinity_matrix.loc['sums'] = affinity_matrix.sum(axis=0)
*** ValueError: cannot reindex from a duplicate axis

ฉันพยายามทำสิ่งนี้ด้วยตัวอย่างง่ายๆ แต่ล้มเหลว

In [32]: import pandas as pd

In [33]: import numpy as np

In [34]: a = np.arange(35).reshape(5,7)

In [35]: df = pd.DataFrame(a, ['x', 'y', 'u', 'z', 'w'], range(10, 17))

In [36]: df.values.dtype
Out[36]: dtype('int64')

In [37]: df.loc['sums'] = df.sum(axis=0)

In [38]: df
Out[38]: 
      10  11  12  13  14  15   16
x      0   1   2   3   4   5    6
y      7   8   9  10  11  12   13
u     14  15  16  17  18  19   20
z     21  22  23  24  25  26   27
w     28  29  30  31  32  33   34
sums  70  75  80  85  90  95  100

1
มีโอกาสที่คุณทำให้ชื่อคอลัมน์จริงของเมทริกซ์ความสัมพันธ์ของคุณสับสนหรือไม่? (เช่นแทนที่ค่าจริงด้วยสิ่งอื่นเพื่อซ่อนข้อมูลที่สำคัญ)
Korem

@Korem ฉันไม่คิดว่านี่เป็นความจริง แต่ถึงแม้ว่าจะเป็นจริงทำไมสิ่งนี้จะทำให้เกิดข้อผิดพลาดข้างต้น?
Akavall

2
ฉันมักจะเห็นสิ่งนี้เมื่อดัชนีที่กำหนดให้มีค่าซ้ำกัน เนื่องจากในกรณีของคุณคุณกำลังกำหนดแถวฉันคาดว่าจะซ้ำกันในชื่อคอลัมน์ นั่นเป็นเหตุผลที่ฉันถาม
Korem

@Korem จริงข้อมูลจริงของฉันมีค่าดัชนีซ้ำกันและฉันสามารถทำซ้ำข้อผิดพลาดในตัวอย่างเล็ก ๆ เมื่อค่าดัชนีซ้ำกันอยู่ คุณตอบคำถามของฉันอย่างเต็มที่ ขอบคุณ. คุณคิดว่ามันเป็นคำตอบหรือไม่?
Akavall

คำตอบ:


170

ข้อผิดพลาดนี้มักจะเพิ่มขึ้นเมื่อคุณเข้าร่วม / กำหนดให้กับคอลัมน์เมื่อดัชนีมีค่าซ้ำกัน เนื่องจากคุณกำหนดให้กับแถวฉันสงสัยว่ามีค่าซ้ำกันaffinity_matrix.columnsซึ่งอาจไม่ปรากฏในคำถามของคุณ


20
เพื่อความถูกต้องมากขึ้นในกรณีของฉันมีค่าซ้ำกันอยู่affinity_matrix.indexแต่ฉันคิดว่านี่เป็นแนวคิดเดียวกัน
Akavall

24
สำหรับผู้ที่มาที่นี่ในภายหลังindexหมายความว่าทั้งคู่rowและcolumn namesใช้เวลา 20 นาทีกับดัชนีแถว แต่กลับกลายเป็นว่าฉันได้รับชื่อคอลัมน์ซ้ำที่ทำให้เกิดข้อผิดพลาดนี้
Jason Goal

เพื่อเพิ่มสิ่งนี้ฉันพบข้อผิดพลาดนี้เมื่อฉันพยายามทำดัชนีข้อมูลอีกครั้งในรายการของคอลัมน์ ผิดปกติสำเนาของฉันอยู่ใน dataframe ดั้งเดิมดังนั้นโปรดตรวจสอบทั้งสองอย่าง!
m8_

163

อย่างที่คนอื่น ๆ พูดกันคุณอาจมีค่าซ้ำในดัชนีเดิม ในการค้นหาพวกเขาให้ทำสิ่งนี้:

df[df.index.duplicated()]


39
ในการลบแถวที่มีดัชนีซ้ำให้ใช้:df = df[~df.index.duplicated()]
tuomastik

4
สำหรับDatetimeIndexdataframes เอ็ดคุณสามารถresampleความถี่ที่ต้องการแล้วนำ.first(), .mean()ฯลฯ
BallpointBen

28

ดัชนีที่มีค่าซ้ำกันมักเกิดขึ้นหากคุณสร้าง DataFrame ด้วยการต่อ DataFrames อื่นเข้าด้วยกัน ignore_index=Trueถ้าคุณไม่สนใจเกี่ยวกับการรักษาค่าของดัชนีของคุณและคุณต้องการให้เป็นค่าที่ไม่ซ้ำเมื่อคุณเชื่อมข้อมูลที่ชุด

อีกวิธีหนึ่งคือการเขียนทับดัชนีปัจจุบันของคุณด้วยดัชนีใหม่แทนที่จะใช้df.reindex()ให้ตั้งค่า:

df.index = new_index

8
ฉันใช้ ign_index = จริงเพื่อให้โค้ดทำงานกับดาต้าเฟรมที่ต่อกัน
Gabi Lee

แท้จริงแล้วignore_index=Falseเป็นค่าเริ่มต้น ถ้าใช้ตัวเลือกคือการเปลี่ยนแปลงพฤติกรรมที่ทุกคนก็จะต้องเป็นเพราะคุณตั้งค่าให้append True
เจฟฟรีย์เบนจามินบราวน์

17

สำหรับผู้ที่ยังคงดิ้นรนกับข้อผิดพลาดนี้ก็สามารถเกิดขึ้นได้หากคุณสร้างคอลัมน์ที่ซ้ำกันด้วยชื่อเดียวกันโดยไม่ตั้งใจ ลบคอลัมน์ที่ซ้ำกันออกเช่น:

df = df.loc[:,~df.columns.duplicated()]

12

เพียงข้ามข้อผิดพลาดที่ใช้.valuesในตอนท้าย

affinity_matrix.loc['sums'] = affinity_matrix.sum(axis=0).values

นี่คือว่าสิ่งที่ฉันต้องการ! แค่พยายามสร้างคอลัมน์ใหม่ แต่ฉันมีดัชนีที่มีรายการซ้ำอยู่ในนั้น การใช้.valuesกลอุบาย
Paul Wildenhain

8

ฉันเจอข้อผิดพลาดนี้วันนี้เมื่อฉันต้องการเพิ่มคอลัมน์ใหม่เช่นนี้

df_temp['REMARK_TYPE'] = df.REMARK.apply(lambda v: 1 if str(v)!='nan' else 0)

ฉันต้องการที่จะดำเนินการกับREMARKคอลัมน์ของdf_tempการกลับมา 1 หรือ 0. dfอย่างไรก็ตามผมพิมพ์ผิดปกติกับตัวแปร และมันกลับข้อผิดพลาดเช่นนี้:

----> 1 df_temp['REMARK_TYPE'] = df.REMARK.apply(lambda v: 1 if str(v)!='nan' else 0)

/usr/lib64/python2.7/site-packages/pandas/core/frame.pyc in __setitem__(self, key, value)
   2417         else:
   2418             # set column
-> 2419             self._set_item(key, value)
   2420 
   2421     def _setitem_slice(self, key, value):

/usr/lib64/python2.7/site-packages/pandas/core/frame.pyc in _set_item(self, key, value)
   2483 
   2484         self._ensure_valid_index(value)
-> 2485         value = self._sanitize_column(key, value)
   2486         NDFrame._set_item(self, key, value)
   2487 

/usr/lib64/python2.7/site-packages/pandas/core/frame.pyc in _sanitize_column(self, key, value, broadcast)
   2633 
   2634         if isinstance(value, Series):
-> 2635             value = reindexer(value)
   2636 
   2637         elif isinstance(value, DataFrame):

/usr/lib64/python2.7/site-packages/pandas/core/frame.pyc in reindexer(value)
   2625                     # duplicate axis
   2626                     if not value.index.is_unique:
-> 2627                         raise e
   2628 
   2629                     # other

ValueError: cannot reindex from a duplicate axis

อย่างที่คุณเห็นรหัสที่ถูกต้องควรเป็น

df_temp['REMARK_TYPE'] = df_temp.REMARK.apply(lambda v: 1 if str(v)!='nan' else 0)

เพราะdfและdf_tempมีจำนวนแถวที่แตกต่างกัน ValueError: cannot reindex from a duplicate axisดังนั้นมันจึงกลับมา

หวังว่าคุณจะเข้าใจและคำตอบของฉันสามารถช่วยคนอื่นในการแก้ปัญหารหัสของพวกเขา


4

ในกรณีของฉันข้อผิดพลาดนี้เกิดขึ้นไม่ใช่เพราะค่าซ้ำกัน แต่เพราะฉันพยายามเข้าร่วม Series ที่สั้นกว่ากับ Dataframe: ทั้งคู่มีดัชนีเดียวกัน แต่ Series มีแถวน้อยลง (หายไปเล็กน้อย) ต่อไปนี้ทำงานเพื่อวัตถุประสงค์ของฉัน:

df.head()
                          SensA
date                           
2018-04-03 13:54:47.274   -0.45
2018-04-03 13:55:46.484   -0.42
2018-04-03 13:56:56.235   -0.37
2018-04-03 13:57:57.207   -0.34
2018-04-03 13:59:34.636   -0.33

series.head()
date
2018-04-03 14:09:36.577    62.2
2018-04-03 14:10:28.138    63.5
2018-04-03 14:11:27.400    63.1
2018-04-03 14:12:39.623    62.6
2018-04-03 14:13:27.310    62.5
Name: SensA_rrT, dtype: float64

df = series.to_frame().combine_first(df)

df.head(10)
                          SensA  SensA_rrT
date                           
2018-04-03 13:54:47.274   -0.45        NaN
2018-04-03 13:55:46.484   -0.42        NaN
2018-04-03 13:56:56.235   -0.37        NaN
2018-04-03 13:57:57.207   -0.34        NaN
2018-04-03 13:59:34.636   -0.33        NaN
2018-04-03 14:00:34.565   -0.33        NaN
2018-04-03 14:01:19.994   -0.37        NaN
2018-04-03 14:02:29.636   -0.34        NaN
2018-04-03 14:03:31.599   -0.32        NaN
2018-04-03 14:04:30.779   -0.33        NaN
2018-04-03 14:05:31.733   -0.35        NaN
2018-04-03 14:06:33.290   -0.38        NaN
2018-04-03 14:07:37.459   -0.39        NaN
2018-04-03 14:08:36.361   -0.36        NaN
2018-04-03 14:09:36.577   -0.37       62.2

ขอบคุณ! ฉันคุ้นเคยกับการกรองและการรวม DataFrames และซีรีส์เข้าด้วยกันในภายหลัง: df_larger_dataframe['values'] = df_filtered_dataframe['filtered_values'] และมันก็ไม่ได้ทำงานใน TimeSeries เมื่อเร็ว ๆ นี้ - รหัสของคุณแก้ไขได้!
tw0000

2

ฉันเสียเวลาสองชั่วโมงในเรื่องเดียวกัน ในกรณีของฉันฉันต้องreset_index ()ของ dataframe ก่อนใช้ฟังก์ชั่น Apply ก่อนที่จะผสานหรือค้นหาจากชุดข้อมูลที่มีการจัดทำดัชนีอื่นคุณต้องรีเซ็ตดัชนีเนื่องจากชุดข้อมูล 1 ชุดมีเพียง 1 ดัชนี


2

แก้ไขง่าย ๆ ที่ใช้งานได้สำหรับฉัน

เรียกใช้df.reset_index(inplace=True)ก่อนจัดกลุ่ม

ขอบคุณสำหรับความคิดเห็น GitHub นี้สำหรับการแก้ปัญหา


@Chris_vr ลบส่วน inplace หากคุณต้องการให้ส่งคืน dataframe
Connor
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.