ฉันกำลังสร้าง DataFrame จาก csv ดังต่อไปนี้:
stock = pd.read_csv('data_in/' + filename + '.csv', skipinitialspace=True)DataFrame มีคอลัมน์วันที่ มีวิธีการสร้าง DataFrame ใหม่ (หรือเพียงแค่เขียนทับที่มีอยู่เดิม) ซึ่งประกอบด้วยแถวที่มีค่าวันที่ที่อยู่ในช่วงวันที่ที่ระบุหรือระหว่างค่าวันที่ที่ระบุสองค่าหรือไม่
คำตอบ:
มีวิธีแก้ปัญหาสองวิธีที่เป็นไปได้:
df.loc[mask]df[start_date : end_date]ใช้หน้ากากบูลีน :
ตรวจสอบdf['date']ว่าเป็นซีรี่ย์ที่มี dtype datetime64[ns]:
df['date'] = pd.to_datetime(df['date']) ทำหน้ากากบูลีน start_dateและend_dateสามารถdatetime.datetimes,
np.datetime64s, pd.Timestamps, หรือแม้กระทั่งสายวันที่และเวลา:
#greater than the start date and smaller than the end date
mask = (df['date'] > start_date) & (df['date'] <= end_date)เลือก DataFrame ย่อย:
df.loc[mask]หรือมอบหมายให้อีกครั้ง df
df = df.loc[mask]ตัวอย่างเช่น,
import numpy as np
import pandas as pd
df = pd.DataFrame(np.random.random((200,3)))
df['date'] = pd.date_range('2000-1-1', periods=200, freq='D')
mask = (df['date'] > '2000-6-1') & (df['date'] <= '2000-6-10')
print(df.loc[mask])อัตราผลตอบแทน
0 1 2 date
153 0.208875 0.727656 0.037787 2000-06-02
154 0.750800 0.776498 0.237716 2000-06-03
155 0.812008 0.127338 0.397240 2000-06-04
156 0.639937 0.207359 0.533527 2000-06-05
157 0.416998 0.845658 0.872826 2000-06-06
158 0.440069 0.338690 0.847545 2000-06-07
159 0.202354 0.624833 0.740254 2000-06-08
160 0.465746 0.080888 0.155452 2000-06-09
161 0.858232 0.190321 0.432574 2000-06-10ใช้DatetimeIndex :
หากคุณจะทำการเลือกจำนวนมากตามวันที่มันอาจจะเร็วกว่าที่จะตั้งค่า
dateคอลัมน์เป็นดัชนีก่อน df.loc[start_date:end_date]จากนั้นคุณสามารถเลือกแถวตามวันที่ใช้
import numpy as np
import pandas as pd
df = pd.DataFrame(np.random.random((200,3)))
df['date'] = pd.date_range('2000-1-1', periods=200, freq='D')
df = df.set_index(['date'])
print(df.loc['2000-6-1':'2000-6-10'])อัตราผลตอบแทน
0 1 2
date
2000-06-01 0.040457 0.326594 0.492136 # <- includes start_date
2000-06-02 0.279323 0.877446 0.464523
2000-06-03 0.328068 0.837669 0.608559
2000-06-04 0.107959 0.678297 0.517435
2000-06-05 0.131555 0.418380 0.025725
2000-06-06 0.999961 0.619517 0.206108
2000-06-07 0.129270 0.024533 0.154769
2000-06-08 0.441010 0.741781 0.470402
2000-06-09 0.682101 0.375660 0.009916
2000-06-10 0.754488 0.352293 0.339337ในขณะที่การจัดทำดัชนีรายการ Python เช่นseq[start:end]มีstartแต่ไม่ใช่endในทางตรงข้าม Pandas จะdf.loc[start_date : end_date]รวมทั้งจุดสิ้นสุดในผลลัพธ์หากอยู่ในดัชนี ค่าstart_dateมิได้end_dateที่จะอยู่ในดัชนี แต่มี
นอกจากนี้โปรดทราบว่าpd.read_csvมีparse_datesพารามิเตอร์ที่คุณสามารถใช้เพื่อแยกdateคอลัมน์เป็นdatetime64s ดังนั้นถ้าคุณใช้คุณจะไม่จำเป็นต้องใช้parse_datesdf['date'] = pd.to_datetime(df['date'])
df = df.set_index(['date'])ขั้นตอนที่ฉันได้พบดัชนียังต้องมีการแยก (ผ่านdf.sort_index(inplace=True, ascending=True)) เป็นอย่างอื่นคุณจะได้รับน้อยกว่าเต็มรูปแบบหรือแม้กระทั่งผลการ DataFrame df.loc['2000-6-1':'2000-6-10']ว่างจาก และถ้าคุณใช้ascending=Falseมันจะไม่ทำงานเลยแม้ว่าคุณจะย้อนกลับด้วยdf.loc['2000-6-10':'2000-6-1']
ฉันรู้สึกว่าตัวเลือกที่ดีที่สุดคือการใช้การตรวจสอบโดยตรงแทนที่จะใช้ฟังก์ชั่น loc:
df = df[(df['date'] > '2000-6-1') & (df['date'] <= '2000-6-10')]มันใช้งานได้สำหรับฉัน
ปัญหาหลักของฟังก์ชั่น loc ด้วยชิ้นคือขีด จำกัด ควรจะปรากฏในค่าจริงหากไม่ได้จะทำให้ KeyError
locไลซ์เป็นชิ้นที่ยอดเยี่ยม และมันดูเหมือนว่าฉันที่เป็น unutbu กล่าวว่าทั้ง start_date มิได้ end_date จะต้องมีอยู่ในดัชนีอย่างไร
คุณยังสามารถใช้between:
df[df.some_date.between(start_date, end_date)]between_time: pandas.pydata.org/pandas-docs/version/0.20.3/generated/ …
คุณสามารถใช้isinวิธีการในdateคอลัมน์เช่นนี้
df[df["date"].isin(pd.date_range(start_date, end_date))]
หมายเหตุ:ใช้ได้กับวันที่เท่านั้น (ตามที่ถาม) และไม่ใช่การประทับเวลา
ตัวอย่าง:
import numpy as np
import pandas as pd
# Make a DataFrame with dates and random numbers
df = pd.DataFrame(np.random.random((30, 3)))
df['date'] = pd.date_range('2017-1-1', periods=30, freq='D')
# Select the rows between two dates
in_range_df = df[df["date"].isin(pd.date_range("2017-01-15", "2017-01-20"))]
print(in_range_df) # print resultซึ่งจะช่วยให้
0 1 2 date
14 0.960974 0.144271 0.839593 2017-01-15
15 0.814376 0.723757 0.047840 2017-01-16
16 0.911854 0.123130 0.120995 2017-01-17
17 0.505804 0.416935 0.928514 2017-01-18
18 0.204869 0.708258 0.170792 2017-01-19
19 0.014389 0.214510 0.045201 2017-01-20ทำให้การแก้ปัญหาเป็นเรื่องง่ายและรวดเร็วฉันขอแนะนำให้คุณลองทำเช่นนี้
ในกรณีที่คุณจะทำเช่นนี้บ่อยครั้งทางออกที่ดีที่สุดคือตั้งค่าคอลัมน์วันที่เป็นดัชนีซึ่งจะแปลงคอลัมน์ใน DateTimeIndex และใช้เงื่อนไขต่อไปนี้เพื่อแบ่งช่วงวันที่ใด ๆ
import pandas as pd
data_frame = data_frame.set_index('date')
df = data_frame[(data_frame.index > '2017-08-10') & (data_frame.index <= '2017-08-15')]ด้วยการทดสอบของฉันpandasรุ่นตอนนี้คุณสามารถตอบคำถามนี้ได้ง่ายขึ้นด้วยรหัสอ่านได้มากขึ้นโดยเพียงแค่ใช้0.22.0between
# create a single column DataFrame with dates going from Jan 1st 2018 to Jan 1st 2019
df = pd.DataFrame({'dates':pd.date_range('2018-01-01','2019-01-01')})สมมติว่าคุณต้องการคว้าเดทระหว่าง 27 พ.ย. 2561 และ 15 ม. ค. 2562:
# use the between statement to get a boolean mask
df['dates'].between('2018-11-27','2019-01-15', inclusive=False)
0 False
1 False
2 False
3 False
4 False
# you can pass this boolean mask straight to loc
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=False)]
dates
331 2018-11-28
332 2018-11-29
333 2018-11-30
334 2018-12-01
335 2018-12-02สังเกตเห็นอาร์กิวเมนต์รวม มีประโยชน์มากเมื่อคุณต้องการชัดเจนเกี่ยวกับช่วงของคุณ แจ้งให้ทราบเมื่อตั้งค่าเป็น True เราจะส่งคืนวันที่ 27 พฤศจิกายน 2018 เช่นกัน:
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=True)]
dates
330 2018-11-27
331 2018-11-28
332 2018-11-29
333 2018-11-30
334 2018-12-01วิธีนี้ยังเร็วกว่าisinวิธีที่กล่าวถึงก่อนหน้านี้:
%%timeit -n 5
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=True)]
868 µs ± 164 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)
%%timeit -n 5
df.loc[df['dates'].isin(pd.date_range('2018-01-01','2019-01-01'))]
1.53 ms ± 305 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)แต่ก็เป็นไม่ได้เร็วกว่าคำตอบที่ได้รับการยอมรับในขณะนี้ให้บริการโดย unutbu เท่านั้นหากหน้ากากถูกสร้างขึ้นแล้ว แต่ถ้ามาส์กนั้นเป็นแบบไดนามิกและจำเป็นต้องกำหนดใหม่เป็นวรรคเป็นเวรวิธีการของฉันอาจมีประสิทธิภาพมากกว่า:
# already create the mask THEN time the function
start_date = dt.datetime(2018,11,27)
end_date = dt.datetime(2019,1,15)
mask = (df['dates'] > start_date) & (df['dates'] <= end_date)
%%timeit -n 5
df.loc[mask]
191 µs ± 28.5 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)ฉันไม่ต้องการเปลี่ยนแปลง dfฉันไม่ต้องการเปลี่ยนแปลง
ตัวเลือกคือการดึงindexของstartและendวันที่:
import numpy as np
import pandas as pd
#Dummy DataFrame
df = pd.DataFrame(np.random.random((30, 3)))
df['date'] = pd.date_range('2017-1-1', periods=30, freq='D')
#Get the index of the start and end dates respectively
start = df[df['date']=='2017-01-07'].index[0]
end = df[df['date']=='2017-01-14'].index[0]
#Show the sliced df (from 2017-01-07 to 2017-01-14)
df.loc[start:end]ซึ่งผลลัพธ์ใน:
0 1 2 date
6 0.5 0.8 0.8 2017-01-07
7 0.0 0.7 0.3 2017-01-08
8 0.8 0.9 0.0 2017-01-09
9 0.0 0.2 1.0 2017-01-10
10 0.6 0.1 0.9 2017-01-11
11 0.5 0.3 0.9 2017-01-12
12 0.5 0.4 0.3 2017-01-13
13 0.4 0.9 0.9 2017-01-14ตัวเลือกอื่นวิธีทำสิ่งนี้ให้สำเร็จโดยใช้pandas.DataFrame.query()วิธีการ dfผมขอแสดงตัวอย่างในกรอบข้อมูลต่อไปนี้เรียกว่า
>>> df = pd.DataFrame(np.random.random((5, 1)), columns=['col_1'])
>>> df['date'] = pd.date_range('2020-1-1', periods=5, freq='D')
>>> print(df)
col_1 date
0 0.015198 2020-01-01
1 0.638600 2020-01-02
2 0.348485 2020-01-03
3 0.247583 2020-01-04
4 0.581835 2020-01-05ในฐานะที่เป็นอาร์กิวเมนต์ให้ใช้เงื่อนไขในการกรองเช่นนี้
>>> start_date, end_date = '2020-01-02', '2020-01-04'
>>> print(df.query('date >= @start_date and date <= @end_date'))
col_1 date
1 0.244104 2020-01-02
2 0.374775 2020-01-03
3 0.510053 2020-01-04หากคุณไม่ต้องการรวมขอบเขตเพียงแค่เปลี่ยนเงื่อนไขดังนี้:
>>> print(df.query('date > @start_date and date < @end_date'))
col_1 date
2 0.374775 2020-01-03