我正在从csv创建一个DataFrame,如下所示:
stock = pd.read_csv('data_in/' + filename + '.csv', skipinitialspace=True)
DataFrame有一个日期列。是否有一种方法可以创建一个新的DataFrame(或者只是覆盖现有的DataFrame),它只包含日期值落在指定日期范围内或两个指定日期值之间的行?
我正在从csv创建一个DataFrame,如下所示:
stock = pd.read_csv('data_in/' + filename + '.csv', skipinitialspace=True)
DataFrame有一个日期列。是否有一种方法可以创建一个新的DataFrame(或者只是覆盖现有的DataFrame),它只包含日期值落在指定日期范围内或两个指定日期值之间的行?
当前回答
你可以使用truncate方法:
dates = pd.date_range('2016-01-01', '2016-01-06', freq='d')
df = pd.DataFrame(index=dates, data={'A': 1})
A
2016-01-01 1
2016-01-02 1
2016-01-03 1
2016-01-04 1
2016-01-05 1
2016-01-06 1
选择两个日期之间的数据:
df.truncate(before=pd.Timestamp('2016-01-02'),
after=pd.Timestamp('2016-01-4'))
输出:
A
2016-01-02 1
2016-01-03 1
2016-01-04 1
其他回答
强烈建议将日期列转换为索引。这样做会提供很多便利。一个是很容易选择两个日期之间的行,你可以看到这个例子:
import numpy as np
import pandas as pd
# Dataframe with monthly data between 2016 - 2020
df = pd.DataFrame(np.random.random((60, 3)))
df['date'] = pd.date_range('2016-1-1', periods=60, freq='M')
如果要选择2017-01-01到2019-01-01之间的行,只需将日期列转换为索引:
df.set_index('date', inplace=True)
然后是切片:
df.loc['2017':'2019']
你可以在直接读取csv文件时选择date列作为索引,而不是df.set_index():
df = pd.read_csv('file_name.csv',index_col='date')
你可以使用truncate方法:
dates = pd.date_range('2016-01-01', '2016-01-06', freq='d')
df = pd.DataFrame(index=dates, data={'A': 1})
A
2016-01-01 1
2016-01-02 1
2016-01-03 1
2016-01-04 1
2016-01-05 1
2016-01-06 1
选择两个日期之间的数据:
df.truncate(before=pd.Timestamp('2016-01-02'),
after=pd.Timestamp('2016-01-4'))
输出:
A
2016-01-02 1
2016-01-03 1
2016-01-04 1
灵感来自unutbu
print(df.dtypes) #Make sure the format is 'object'. Rerunning this after index will not show values.
columnName = 'YourColumnName'
df[columnName+'index'] = df[columnName] #Create a new column for index
df.set_index(columnName+'index', inplace=True) #To build index on the timestamp/dates
df.loc['2020-09-03 01:00':'2020-09-06'] #Select range from the index. This is your new Dataframe.
你可以用pd.date_range()和Timestamp来做。 假设你已经使用parse_dates选项读取了一个带日期列的csv文件:
df = pd.read_csv('my_file.csv', parse_dates=['my_date_col'])
然后你可以定义一个日期范围索引:
rge = pd.date_range(end='15/6/2020', periods=2)
然后通过地图根据日期过滤你的值:
df.loc[df['my_date_col'].map(lambda row: row.date() in rge)]
另一种方法是使用pandas.DataFrame.query()方法。让我给你们看一个关于下面数据帧的例子,叫做df。
>>> df = pd.DataFrame(np.random.random((5, 1)), columns=['col_1'])
>>> df['date'] = pd.date_range('2020-1-1', periods=5, freq='D')
>>> print(df)
col_1 date
0 0.015198 2020-01-01
1 0.638600 2020-01-02
2 0.348485 2020-01-03
3 0.247583 2020-01-04
4 0.581835 2020-01-05
作为参数,使用条件进行过滤,如下所示:
>>> start_date, end_date = '2020-01-02', '2020-01-04'
>>> print(df.query('date >= @start_date and date <= @end_date'))
col_1 date
1 0.244104 2020-01-02
2 0.374775 2020-01-03
3 0.510053 2020-01-04
如果你不想包含边界,只需要像下面这样改变条件:
>>> print(df.query('date > @start_date and date < @end_date'))
col_1 date
2 0.374775 2020-01-03