【Python】分组统计GroupBy技术详解

摘要

进行数据分析时，GroupBy分组统计是非常常用的操作，也是十分重要的操作之一。基本上大部分的数据分析都会用到该操作，本文将对Python的GroupBy分组统计操作进行讲解。 码字不易，喜欢请点赞，谢谢！！！

1.GroupBy过程
首先看看分组聚合的过程，主要包括拆分（split）、应用（Apply）和合并（Combine）

2.创建DataFrame

            
              import pandas as pd
ipl_data = {'Team': ['Riders', 'Riders', 'Devils', 'Devils', 'Kings',
         'kings', 'Kings', 'Kings', 'Riders', 'Royals', 'Royals', 'Riders'],
         'Rank': [1, 2, 2, 3, 3,4 ,1 ,1,2 , 4,1,2],
         'Year': [2014,2015,2014,2015,2014,2015,2016,2017,2016,2014,2015,2017],
         'Points':[876,789,863,673,741,812,756,788,694,701,804,690]}
df = pd.DataFrame(ipl_data)
df

            
          

3.将df按照Team列分组
分组之后的grouped是个DataFrameGroupBy对象

            
              grouped = df.groupby('Team')
grouped

            
          

4.查看df按照Team分组之后结果
按照不同的Team值来分组

            
              grouped.groups

            
          

5.分组后的结果对Points求和

            
              grouped['Points'].sum()

            
          

分组后常用操作包括：求和(sum)、平均值(mean)、计数(count)等等，如下图。

6.根据任意长度适当的数组分组

            
              import numpy as np
key1 = np.array(list('abababbaaabb'))
df.groupby(key1).Team.count()

            
          

7.对分组进行迭代
GroupBy分组产生的是一组二元元组，有分组名和数据块组成。即(分组名、数据块)。

            
              for name,group in df.groupby('Team'):
    print(name)
    print(group)
    print('*******分隔符*********')

            
          

另外，对于多重建分组的情况，元组的第一个元素将是由元组组成。
即（(分组名1,分组名2)、数据块）。

            
              for (name1,name2),group in df.groupby(['Team','Rank']):
    print(name1)
    print(name2)
    print(group)
    print('*******分隔符*********')

            
          

图片结果太长，只显示了部分。

8.在不同轴上分组
GroupBy默认是在axis=0轴上进行分组的，也可以在axis=1轴上进行分组聚合，不过用的相对较少。

            
              df.dtypes

            
          

            
              grouped = df.groupby(df.dtypes, axis=1)
grouped.groups

            
          

9.通过字典或Series进行分组

            
              people = pd.DataFrame(np.random.randn(5, 5),
                      columns=['a', 'b', 'c', 'd', 'e'],
                      index=['Joe', 'Steve', 'Wes', 'Jim','Travis'])
people.iloc[2:3, [1, 2]] = np.nan
people

            
          

根据字典聚合

            
              mapping = {'a': 'red', 'b': 'red', 'c': 'blue',
           'd': 'blue', 'e': 'red', 'f' : 'orange'}
by_column = people.groupby(mapping, axis=1)
by_column.sum()

            
          

根据Series聚合

            
              map_series = pd.Series(mapping)
people.groupby(map_series, axis=1).count()

            
          

10.通过函数进行分组

            
              people.groupby(len).sum()

            
          

11.函数、数组、列表、字典、Series组合分组

            
              key_list = ['one', 'one', 'one', 'two', 'two']
people.groupby([len, key_list]).min()

            
          

12.根据索引级别分组
回到最初的DataFrame，给他重新定义成双层索引，并且给索引命名

            
              df.columns = ([['a','a','a','b'],['Team', 'Rank', 'Year', 'Points']])
df.columns.names = ['one','two']
df

            
          

之后对索引名为one的进行分组聚合

            
              df.groupby(level='one',axis=1).count()

            
          

12.多函数聚合
其中多函数聚合中也可以使用自定义函数。

            
              df.columns = ['Team','Rank','Year','Points']
df.groupby('Team')['Points'].agg(['sum','mean','std'])

            
          

13.apply：一般性的“拆分-应用-合并”
定义函数：

            
              def top(df,n=2,column='Points'):
    return df.sort_index(by=column,ascending=False)[:n]

            
          

应用：

            
              df.groupby('Team').apply(top)

            
          

同时给apply函数传入参数：

            
              df.groupby('Team').apply(top,n=3)