如何仅聚合混合 dtypes 数据框中的数字列

Question

我有一个混合

pd.DataFrame

：

import pandas as pd
import numpy as np
df = pd.DataFrame({ 'A' : 1.,
                     'B' : pd.Timestamp('20130102'),
                     'C' : pd.Timestamp('20180101'),
                     'D' : np.random.rand(10),
                     'F' : 'foo' })

df
Out[12]: 
     A          B          C         D    F
0  1.0 2013-01-02 2018-01-01  0.592533  foo
1  1.0 2013-01-02 2018-01-01  0.819248  foo
2  1.0 2013-01-02 2018-01-01  0.298035  foo
3  1.0 2013-01-02 2018-01-01  0.330128  foo
4  1.0 2013-01-02 2018-01-01  0.371705  foo
5  1.0 2013-01-02 2018-01-01  0.541246  foo
6  1.0 2013-01-02 2018-01-01  0.976108  foo
7  1.0 2013-01-02 2018-01-01  0.423069  foo
8  1.0 2013-01-02 2018-01-01  0.863764  foo
9  1.0 2013-01-02 2018-01-01  0.037085  foo

我想汇总我的数字列，但也保留非数字列。 如果我做一个

gropuby

，然后是

agg

。 我得到：

df.groupby('B').agg(np.median)
Out[13]: 
              A         D
B                        
2013-01-02  1.0  0.482157

这很好，我知道这是期望的行为，因为其他 dtype 可能在 np.median 期间引发异常，但我也想获得我的原始专栏

F

，其值为

foo

，以及

C

与

 2018-01-01

到目前为止，我已经用自定义包装器解决了我的数值聚合函数，例如如果我想对我的数据框做一个 nanmean：

def my_nan_median(x):
    if isinstance(x.values[0], np.datetime64):
        return np.min(x) # let the first datetime pass! 
    elif isinstance(x.values[0], str):
        return x.values[0] # let the strings pass!
    else:
        return np.nanmedian(x) 

但它看起来很糟糕。 这样做的正确方法是什么？

Answer 1

通过使用

select_dtypes

：

df.groupby(list(df.select_dtypes(exclude=[np.number]))).agg(np.median).reset_index()

或者像这样的东西：

df1 = df.groupby('B',as_index=False).agg(np.median)
pd.concat([df1,df.drop_duplicates(['B']).drop(list(df1),1).reset_index(drop=True)],axis=1)

Answer 2

如果'C'，'F'对于'B'的每个值都相同，那么您可以将其包含在groupby列中，如下所示：

df.groupby(['B','C','F']).agg(np.median).reset_index()

或者正如@BradSolomn 所建议的那样：

df.groupby(['B','C','F'], as_index=False).agg(np.median)

输出：

           B          C    F    A         D
0 2013-01-02 2018-01-01  foo  1.0  0.392723

如果不是，那么您需要以某种方式聚合“C”、“F”，例如从“C”、“F”中获取第一个值

df.groupby('B').agg({'D':np.median,'A':np.median,'C':'first','F':'last'}).reset_index() 

           B          C    F    A         D
0 2013-01-02 2018-01-01  foo  1.0  0.392723

Answer 3

这很适合我。

numerics = [col for col in df.columns 
    if isinstance(df[col].loc[0], (int, float, complex)))]

df.groupby('grouping field')[numerics].agg([np.mean, np.median])

实际上，如果第一个条目是 NaN，这可能会失败。我找到了一个更好的方法：使用 df.select_dtypes

numeric_cols = list(df.select_dtypes(include=np.number).columns)

df.groupby('grouping_field')[numeric_cols].agg([np.mean,np.median])