วิธีใดที่มีประสิทธิภาพที่สุดในการสร้างพจนานุกรมของ Dataframe แพนด้าสองคอลัมน์


137

วิธีใดที่มีประสิทธิภาพที่สุดในการจัดระเบียบ Dataframe แพนด้าต่อไปนี้:

ข้อมูล =

Position    Letter
1           a
2           b
3           c
4           d
5           e

ลงในพจนานุกรมเช่นalphabet[1 : 'a', 2 : 'b', 3 : 'c', 4 : 'd', 5 : 'e']?

คำตอบ:


184
In [9]: pd.Series(df.Letter.values,index=df.Position).to_dict()
Out[9]: {1: 'a', 2: 'b', 3: 'c', 4: 'd', 5: 'e'}

การเปรียบเทียบความเร็ว (โดยใช้วิธีของ Wouter)

In [6]: df = pd.DataFrame(randint(0,10,10000).reshape(5000,2),columns=list('AB'))

In [7]: %timeit dict(zip(df.A,df.B))
1000 loops, best of 3: 1.27 ms per loop

In [8]: %timeit pd.Series(df.A.values,index=df.B).to_dict()
1000 loops, best of 3: 987 us per loop

21
โดยไม่ต้องสร้าง Series ก่อน ... dict (zip (df.Position, df.Letter))
Wouter Overmeire

1
FYI ..... วิธีการของฉันใกล้เคียงกับสิ่งที่ Wouter กำลังทำอยู่ความแตกต่างคือการนำไปใช้โดยใช้izipมากกว่าzip; เครื่องกำเนิดสร้างความแตกต่างฉันเดา
เจฟฟ์

1
@WouterOvermeire นี้ใช้งานได้ในแอปพลิเคชันของฉันอย่างสมบูรณ์แบบขอบคุณสำหรับการสนับสนุนของคุณ
user1083734

3
@Jeff dict (zip ... ) เร็วที่สุด
Wouter Overmeire

3
บน DataFrame ที่มีรูปร่าง = (100,2) วิธีการของ Wouter ที่มี dict (zip ... ) เร็วกว่าของ Jeff 3 เท่า - ฉันใช้% timeit
Quetzalcoatl

79

ฉันพบวิธีที่เร็วกว่าในการแก้ปัญหาอย่างน้อยก็ในชุดข้อมูลขนาดใหญ่ที่สมจริงโดยใช้: df.set_index(KEY).to_dict()[VALUE]

หลักฐาน 50,000 แถว:

df = pd.DataFrame(np.random.randint(32, 120, 100000).reshape(50000,2),columns=list('AB'))
df['A'] = df['A'].apply(chr)

%timeit dict(zip(df.A,df.B))
%timeit pd.Series(df.A.values,index=df.B).to_dict()
%timeit df.set_index('A').to_dict()['B']

เอาท์พุท:

100 loops, best of 3: 7.04 ms per loop  # WouterOvermeire
100 loops, best of 3: 9.83 ms per loop  # Jeff
100 loops, best of 3: 4.28 ms per loop  # Kikohs (me)

18
เลื่อนลงเพื่อรับคำตอบที่เร็วกว่าเสมอ!
Nour Wolf

6

ใน Python 3.6 วิธีที่เร็วที่สุดยังคงเป็น WouterOvermeire ข้อเสนอของ Kikohs ช้ากว่าอีกสองตัวเลือก

import timeit

setup = '''
import pandas as pd
import numpy as np
df = pd.DataFrame(np.random.randint(32, 120, 100000).reshape(50000,2),columns=list('AB'))
df['A'] = df['A'].apply(chr)
'''

timeit.Timer('dict(zip(df.A,df.B))', setup=setup).repeat(7,500)
timeit.Timer('pd.Series(df.A.values,index=df.B).to_dict()', setup=setup).repeat(7,500)
timeit.Timer('df.set_index("A").to_dict()["B"]', setup=setup).repeat(7,500)

ผล:

1.1214002349999777 s  # WouterOvermeire
1.1922008498571748 s  # Jeff
1.7034366211428602 s  # Kikohs

4

TL; DR

>>> import pandas as pd
>>> df = pd.DataFrame({'Position':[1,2,3,4,5], 'Letter':['a', 'b', 'c', 'd', 'e']})
>>> dict(sorted(df.values.tolist())) # Sort of sorted... 
{'a': 1, 'b': 2, 'c': 3, 'd': 4, 'e': 5}
>>> from collections import OrderedDict
>>> OrderedDict(df.values.tolist())
OrderedDict([('a', 1), ('b', 2), ('c', 3), ('d', 4), ('e', 5)])

ใน Long

อธิบายวิธีแก้ปัญหา: dict(sorted(df.values.tolist()))

ได้รับ:

df = pd.DataFrame({'Position':[1,2,3,4,5], 'Letter':['a', 'b', 'c', 'd', 'e']})

[ออก]:

 Letter Position
0   a   1
1   b   2
2   c   3
3   d   4
4   e   5

ลอง:

# Get the values out to a 2-D numpy array, 
df.values

[ออก]:

array([['a', 1],
       ['b', 2],
       ['c', 3],
       ['d', 4],
       ['e', 5]], dtype=object)

จากนั้นเลือก:

# Dump it into a list so that you can sort it using `sorted()`
sorted(df.values.tolist()) # Sort by key

หรือ:

# Sort by value:
from operator import itemgetter
sorted(df.values.tolist(), key=itemgetter(1))

[ออก]:

[['a', 1], ['b', 2], ['c', 3], ['d', 4], ['e', 5]]

สุดท้ายให้โยนรายชื่อของ 2 องค์ประกอบเป็นคำสั่ง

dict(sorted(df.values.tolist())) 

[ออก]:

{'a': 1, 'b': 2, 'c': 3, 'd': 4, 'e': 5}

ที่เกี่ยวข้อง

ตอบความคิดเห็นของ @sbradbio:

หากมีหลายค่าสำหรับคีย์หนึ่ง ๆ และคุณต้องการเก็บไว้ทั้งหมดนั่นไม่ใช่วิธีที่มีประสิทธิภาพสูงสุด แต่เป็นวิธีที่เข้าใจง่ายที่สุดคือ:

from collections import defaultdict
import pandas as pd

multivalue_dict = defaultdict(list)

df = pd.DataFrame({'Position':[1,2,4,4,4], 'Letter':['a', 'b', 'd', 'e', 'f']})

for idx,row in df.iterrows():
    multivalue_dict[row['Position']].append(row['Letter'])

[ออก]:

>>> print(multivalue_dict)
defaultdict(list, {1: ['a'], 2: ['b'], 4: ['d', 'e', 'f']})

มีวิธีเพิ่มคอลัมน์มากกว่าหนึ่งคอลัมน์เป็นค่าหรือไม่{'key': [value1, value2]}
sbradbio

1
ตรวจสอบคำตอบต่อท้าย
alvas

ฉันคิดว่า value1 และ value2 เป็นสองคอลัมน์ที่แยกจากกัน คุณช่วยสร้างพจนานุกรมโดยใช้ {'id': ['long', 'lat]} ได้ไหม long และ lat อยู่ในคอลัมน์แยกกัน
กม
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.