Выберите строки DataFrame между двумя датами
Я создаю DataFrame из CSV следующим образом:
stock = pd.read_csv('data_in/' + filename + '.csv', skipinitialspace=True)
DataFrame имеет столбец даты. Есть ли способ создать новый DataFrame (или просто перезаписать существующий), который содержит только строки со значениями даты, которые попадают в указанный диапазон дат или между двумя указанными значениями даты?
13 ответов
Есть два возможных решения:
- Используйте булеву маску, затем используйте
df.loc[mask] - Установите столбец даты как DatetimeIndex, затем используйте
df[start_date : end_date]
Использование логической маски:
обеспечивать df['date'] это серия с dtype datetime64[ns]:
df['date'] = pd.to_datetime(df['date'])
Сделайте логическую маску. start_date а также end_date может быть datetime.datetime s, np.datetime64 s, pd.Timestamp s или даже строки даты и времени:
mask = (df['date'] > start_date) & (df['date'] <= end_date)
Выберите подкадр данных:
df.loc[mask]
или переназначить на df
df = df.loc[mask]
Например,
import numpy as np
import pandas as pd
df = pd.DataFrame(np.random.random((200,3)))
df['date'] = pd.date_range('2000-1-1', periods=200, freq='D')
mask = (df['date'] > '2000-6-1') & (df['date'] <= '2000-6-10')
print(df.loc[mask])
доходность
0 1 2 date
153 0.208875 0.727656 0.037787 2000-06-02
154 0.750800 0.776498 0.237716 2000-06-03
155 0.812008 0.127338 0.397240 2000-06-04
156 0.639937 0.207359 0.533527 2000-06-05
157 0.416998 0.845658 0.872826 2000-06-06
158 0.440069 0.338690 0.847545 2000-06-07
159 0.202354 0.624833 0.740254 2000-06-08
160 0.465746 0.080888 0.155452 2000-06-09
161 0.858232 0.190321 0.432574 2000-06-10
Использование DatetimeIndex:
Если вы собираетесь сделать большой выбор по дате, может быть быстрее установить date столбец в качестве индекса первым. Затем вы можете выбрать строки по дате, используя df.loc[start_date:end_date],
import numpy as np
import pandas as pd
df = pd.DataFrame(np.random.random((200,3)))
df['date'] = pd.date_range('2000-1-1', periods=200, freq='D')
df = df.set_index(['date'])
print(df.loc['2000-6-1':'2000-6-10'])
доходность
0 1 2
date
2000-06-01 0.040457 0.326594 0.492136 # <- includes start_date
2000-06-02 0.279323 0.877446 0.464523
2000-06-03 0.328068 0.837669 0.608559
2000-06-04 0.107959 0.678297 0.517435
2000-06-05 0.131555 0.418380 0.025725
2000-06-06 0.999961 0.619517 0.206108
2000-06-07 0.129270 0.024533 0.154769
2000-06-08 0.441010 0.741781 0.470402
2000-06-09 0.682101 0.375660 0.009916
2000-06-10 0.754488 0.352293 0.339337
Хотя индексация списка Python, например, seq[start:end] включает в себя start но нет end в отличие от панд df.loc[start_date : end_date] включает обе конечные точки в результат, если они находятся в индексе. ни start_date ни end_date должен быть в индексе однако.
Также обратите внимание, что pd.read_csv имеет parse_dates параметр, который вы могли бы использовать для анализа date столбец как datetime64 s. Таким образом, если вы используете parse_dates, вам не нужно использовать df['date'] = pd.to_datetime(df['date']),
Я чувствую, что лучшим вариантом будет использование прямых проверок, а не использование функции loc:
df = df[(df['date'] > '2000-6-1') & (df['date'] <= '2000-6-10')]
Меня устраивает.
Основная проблема с функцией loc со срезом заключается в том, что ограничения должны присутствовать в фактических значениях, в противном случае это приведет к KeyError.
Вы также можете использовать between:
df[df.some_date.between(start_date, end_date)]
Вы можете использовать isin метод на date столбец такdf[df["date"].isin(pd.date_range(start_date, end_date))]
Примечание: это работает только с датами (как задает вопрос), а не с отметками времени.
Пример:
import numpy as np
import pandas as pd
# Make a DataFrame with dates and random numbers
df = pd.DataFrame(np.random.random((30, 3)))
df['date'] = pd.date_range('2017-1-1', periods=30, freq='D')
# Select the rows between two dates
in_range_df = df[df["date"].isin(pd.date_range("2017-01-15", "2017-01-20"))]
print(in_range_df) # print result
который дает
0 1 2 date
14 0.960974 0.144271 0.839593 2017-01-15
15 0.814376 0.723757 0.047840 2017-01-16
16 0.911854 0.123130 0.120995 2017-01-17
17 0.505804 0.416935 0.928514 2017-01-18
18 0.204869 0.708258 0.170792 2017-01-19
19 0.014389 0.214510 0.045201 2017-01-20
С моим тестированием pandas версия 0.22.0 теперь вы можете ответить на этот вопрос проще с помощью более читаемого кода, просто используя between,
# create a single column DataFrame with dates going from Jan 1st 2018 to Jan 1st 2019
df = pd.DataFrame({'dates':pd.date_range('2018-01-01','2019-01-01')})
Допустим, вы хотите получить даты между 27 ноября 2018 года и 15 января 2019 года:
# use the between statement to get a boolean mask
df['dates'].between('2018-11-27','2019-01-15', inclusive=False)
0 False
1 False
2 False
3 False
4 False
# you can pass this boolean mask straight to loc
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=False)]
dates
331 2018-11-28
332 2018-11-29
333 2018-11-30
334 2018-12-01
335 2018-12-02
Обратите внимание на включающий аргумент. очень полезно, когда вы хотите четко указать свой диапазон. обратите внимание, что при значении True мы вернемся также 27 ноября 2018 года:
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=True)]
dates
330 2018-11-27
331 2018-11-28
332 2018-11-29
333 2018-11-30
334 2018-12-01
Этот метод также быстрее, чем ранее упомянутый isin метод:
%%timeit -n 5
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=True)]
868 µs ± 164 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)
%%timeit -n 5
df.loc[df['dates'].isin(pd.date_range('2018-01-01','2019-01-01'))]
1.53 ms ± 305 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)
Однако он не быстрее, чем принятый в настоящее время ответ, предоставленный unutbu, только если маска уже создана. но если маска динамическая и ее нужно переназначать снова и снова, мой метод может быть более эффективным:
# already create the mask THEN time the function
start_date = dt.datetime(2018,11,27)
end_date = dt.datetime(2019,1,15)
mask = (df['dates'] > start_date) & (df['dates'] <= end_date)
%%timeit -n 5
df.loc[mask]
191 µs ± 28.5 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)
В случае, если вы собираетесь делать это часто, лучшим решением было бы сначала установить столбец даты в качестве индекса, который преобразует столбец в DateTimeIndex, и использовать следующее условие для нарезки любого диапазона дат.
import pandas as pd
data_frame = data_frame.set_index('date')
df = data_frame[(data_frame.index > '2017-08-10') & (data_frame.index <= '2017-08-15')]
Другой вариант, как этого добиться, - использовать pandas.DataFrame.query() метод. Позвольте мне показать вам пример на следующем фрейме данных под названиемdf.
>>> df = pd.DataFrame(np.random.random((5, 1)), columns=['col_1'])
>>> df['date'] = pd.date_range('2020-1-1', periods=5, freq='D')
>>> print(df)
col_1 date
0 0.015198 2020-01-01
1 0.638600 2020-01-02
2 0.348485 2020-01-03
3 0.247583 2020-01-04
4 0.581835 2020-01-05
В качестве аргумента используйте условие фильтрации следующим образом:
>>> start_date, end_date = '2020-01-02', '2020-01-04'
>>> print(df.query('date >= @start_date and date <= @end_date'))
col_1 date
1 0.244104 2020-01-02
2 0.374775 2020-01-03
3 0.510053 2020-01-04
Если вы не хотите включать границы, просто измените условие следующим образом:
>>> print(df.query('date > @start_date and date < @end_date'))
col_1 date
2 0.374775 2020-01-03
Настоятельно рекомендуется преобразовать столбец даты в индекс.Это даст много возможностей. Один из них — легко выбрать строки между двумя датами, вы можете увидеть этот пример:
import numpy as np
import pandas as pd
# Dataframe with monthly data between 2016 - 2020
df = pd.DataFrame(np.random.random((60, 3)))
df['date'] = pd.date_range('2016-1-1', periods=60, freq='M')
Чтобы выбрать строки между
2017-01-01а также
2019-01-01, вам нужно только преобразовать
dateколонка к
index:
df.set_index('date', inplace=True)
а потом только нарезка:
df.loc['2017':'2019']
Вы можете выбрать столбец даты в качестве индекса при чтении CSV-файла напрямую вместо
df.set_index():
df = pd.read_csv('file_name.csv',index_col='date')
import pandas as pd
technologies = ({
'Courses':["Spark","PySpark","Hadoop","Python","Pandas","Hadoop","Spark"],
'Fee' :[22000,25000,23000,24000,26000,25000,25000],
'Duration':['30days','50days','55days','40days','60days','35days','55days'],
'Discount':[1000,2300,1000,1200,2500,1300,1400],
'InsertedDates':["2021-11-14","2021-11-15","2021-11-16","2021-11-17","2021-11-18","2021-11-19","2021-11-20"]
})
df = pd.DataFrame(technologies)
print(df)
Использование pandas.DataFrame.loc для фильтрации строк по датам
Способ 1:
mask = (df['InsertedDates'] > start_date) & (df['InsertedDates'] <= end_date)
df2 = df.loc[mask]
print(df2)
Способ 2:
start_date = '2021-11-15'
end_date = '2021-11-19'
after_start_date = df["InsertedDates"] >= start_date
before_end_date = df["InsertedDates"] <= end_date
between_two_dates = after_start_date & before_end_date
df2 = df.loc[between_two_dates]
print(df2)
Использование pandas.DataFrame.query() для выбора строк DataFrame
start_date = '2021-11-15'
end_date = '2021-11-18'
df2 = df.query('InsertedDates >= @start_date and InsertedDates <= @end_date')
print(df2)
Выберите строки между двумя датами, используя DataFrame.query()
start_date = '2021-11-15'
end_date = '2021-11-18'
df2 = df.query('InsertedDates > @start_date and InsertedDates < @end_date')
print(df2)
Функция pandas.Series.between() Использование двух дат
df2 = df.loc[df["InsertedDates"].between("2021-11-16", "2021-11-18")]
print(df2)
Выберите строки DataFrame между двумя датами, используя DataFrame.isin()
df2 = df[df["InsertedDates"].isin(pd.date_range("2021-11-15", "2021-11-17"))]
print(df2)
Вы можете использовать метод truncate:
dates = pd.date_range('2016-01-01', '2016-01-06', freq='d')
df = pd.DataFrame(index=dates, data={'A': 1})
A
2016-01-01 1
2016-01-02 1
2016-01-03 1
2016-01-04 1
2016-01-05 1
2016-01-06 1
Выберите данные между двумя датами:
df.truncate(before=pd.Timestamp('2016-01-02'),
after=pd.Timestamp('2016-01-4'))
Выход:
A
2016-01-02 1
2016-01-03 1
2016-01-04 1
Я предпочитаю не изменять df,
Опция заключается в получении index из start а также end даты проведения:
import numpy as np
import pandas as pd
#Dummy DataFrame
df = pd.DataFrame(np.random.random((30, 3)))
df['date'] = pd.date_range('2017-1-1', periods=30, freq='D')
#Get the index of the start and end dates respectively
start = df[df['date']=='2017-01-07'].index[0]
end = df[df['date']=='2017-01-14'].index[0]
#Show the sliced df (from 2017-01-07 to 2017-01-14)
df.loc[start:end]
что приводит к:
0 1 2 date
6 0.5 0.8 0.8 2017-01-07
7 0.0 0.7 0.3 2017-01-08
8 0.8 0.9 0.0 2017-01-09
9 0.0 0.2 1.0 2017-01-10
10 0.6 0.1 0.9 2017-01-11
11 0.5 0.3 0.9 2017-01-12
12 0.5 0.4 0.3 2017-01-13
13 0.4 0.9 0.9 2017-01-14
В духе unutbu
print(df.dtypes) #Make sure the format is 'object'. Rerunning this after index will not show values.
columnName = 'YourColumnName'
df[columnName+'index'] = df[columnName] #Create a new column for index
df.set_index(columnName+'index', inplace=True) #To build index on the timestamp/dates
df.loc['2020-09-03 01:00':'2020-09-06'] #Select range from the index. This is your new Dataframe.
Вы можете сделать это с помощью pd.date_range() и Timestamp. Допустим, вы прочитали CSV-файл со столбцом даты с помощью параметра parse_dates:
df = pd.read_csv('my_file.csv', parse_dates=['my_date_col'])
Затем вы можете определить индекс диапазона дат:
rge = pd.date_range(end='15/6/2020', periods=2)
а затем отфильтруйте свои значения по дате с помощью карты:
df.loc[df['my_date_col'].map(lambda row: row.date() in rge)]