Pandas - 在包含区间的MultiIndex上做索引。

Question

我有一个熊猫数据框架 df1 与一个MultiIndex组成的 user_id 价值和a start_date, end_date IntervalIndex。我想从 df1 基于第二个数据帧中的相应数值的。df2.

数据帧 df1 和 df2 看起来像这样。

In [1]: df1
Out [1]:
                                 start_date   end_date status  score
user_id                                                             
A       [2017-03-07, 2017-03-11] 2017-03-07 2017-03-11     S1   1000
        [2017-03-12, 2017-04-03] 2017-03-12 2017-04-03     S2   1000
        [2017-04-04, 2017-05-21] 2017-04-04 2017-05-21     S1   1000
        [2017-05-22, 2222-12-31] 2017-05-22 2222-12-31     S3   1000
B       [2018-12-01, 2018-12-22] 2018-12-01 2018-12-22     S1    900
        [2018-12-23, 2018-12-28] 2018-12-23 2018-12-28     S2    900
        [2018-12-29, 2222-12-31] 2018-12-29 2222-12-31     S1   1500


In [2]: df2
Out [2]:
  user_id   ref_date
0       A 2017-04-24
1       B 2018-12-25

我有兴趣选择 user_id从 df1 也在 df2 和 df1 间隔，其中相应的 df2.ref_dates位于其中。在这个例子中，我希望得到第三行和第六行。

如果我使用单行的 df2 我可以在 df1 通过运行下面的程序。

In [3]: df1.loc[['A']].index.get_level_values(1).get_indexer([pd.to_datetime('2017-04-24')])
Out [3]: array([2])

有没有办法用数组来一次完成索引？

这里是创建数据框的代码。

users = {'user_id': ['A','A','A','A', 'B','B','B'],
         'start_date': ['2017-03-07', '2017-03-12', '2017-04-04', '2017-05-22', '2018-12-01', '2018-12-23', '2018-12-29'],
         'end_date': ['2017-03-11', '2017-04-03', '2017-05-21', '2222-12-31', '2018-12-22', '2018-12-28', '2222-12-31'],
         'status': ['S1', 'S2', 'S1', 'S3', 'S1', 'S2', 'S1'],
         'score': [1000, 1000, 1000, 1000, 900, 900, 1500]
        }

df1 = pd.DataFrame(users, columns = ['user_id', 'start_date', 'end_date', 'status', 'score'])

for col in ['start_date', 'end_date']:
    df1[col] = pd.to_datetime(df1[col])

df1.set_index(['user_id', pd.IntervalIndex.from_arrays(df1['start_date'], df1['end_date'], closed='both')], drop=True, inplace=True)



df2 = pd.DataFrame({'user_id': ['A', 'B'], 
                   'ref_date': ['2017-04-24', '2018-12-25']})

df2['ref_date'] = pd.to_datetime(df2['ref_date'])

Answer 1

一种解决方案是将两个数据框合并，然后进行查询。

df1.index.names = ['user_id', 'date_ranges']

df_merged = df1.merge(df2, on='user_id', how='left').\
    query('start_date <= ref_date <= end_date')

df_merged.head()

#   user_id start_date  end_date    status  score   ref_date
# 2 A   2017-04-04  2017-05-21  S1  1000    2017-04-24
# 5 B   2018-12-23  2018-12-28  S2  900 2018-12-25

缺点是合并后的数据框会丢失多索引。然而，如果你保留 how='left 在 merge的整数索引 df_merged 可用于 df1 与 iloc:

df1.iloc[df_merged.index].head()

#     user_id       start_date  end_date    status  score
# A [2017-04-04, 2017-05-21]    2017-04-04  2017-05-21  S1  1000
# B [2018-12-23, 2018-12-28]    2018-12-23  2018-12-28  S2  900