实用的Pandas技巧,估计80%的人不知道,


之前跟大家分享了在 pandas 的 apply 函数中用 pd.Series 功能来拆分文本,文章链接如下:

  • Pandas 的这个知识点,估计 80% 的人都得挂!

数据来源于 akshare,由于 akshare 版本的更新,部分接口发生变化,致使上面文章里的代码运行会出错。因此今天也会更新下代码。

此外,在上面文章里应用到了 apply 使用自定义函数的功能,之前文章里,自定义函数只有一个参数。有同学提了一个问题,如果自定义函数有两个参数,该怎么办?

嗯嗯嗯,这是一个好问题!

今天,Lemon也会分享下自定义函数有两个参数的情况,该如何解决。

接下来,还是先更新此前文章的代码。

01 使用apply拆分文本

Pandas 中 apply 函数,应用广泛,今天要跟大家分享一个使用的技巧,使用 apply 将 dataframe 中内容为 list 的列拆分为多列。

拆分前的数据情况,如下图红色标注所示:

拆分后,如下图所示:

这个案例中,Lemon 使用的数据来自 akshare ,在开始前,引入相关 package :

  1. # -*- coding: utf-8 -*-  
  2. """  
  3. @Author: Lemon  
  4. @出品:Python数据之道  
  5. @Homepage: liyangbit.com  
  6. """  
  7. import numpy as np  
  8. import pandas as pd  
  9. import akshare as ak 

Lemon 使用的几个 Python 库的版本信息如下:

  1. print('numpy版本:{}'.format(np.__version__))  
  2. print('pandas版本:{}'.format(pd.__version__))  
  3. print('akshare版本:{}'.format(ak.__version__)) 
  4. # numpy版本:1.18.1  
  5. # pandas版本:1.0.3  
  6. # akshare版本:0.7.53 

如果代码运行出现问题,请先检查下这几个Python库的版本是否与上面的一致

先从 akshare 获取需要的数据,分为两步,第一步是获取基金代码的列表,如下:

  1. df = ak.fund_em_fund_name().head(20).tail(5)  
  2. dfdf = df[['基金代码','基金简称']]  
  3. print(df) 

第二步是获取基金净值数据和净值日期,通过一个自定义函数来获取,自定义函数如下:

  1. # 自定义函数只有一个参数的情形  
  2. # 获取基金单位净值以及净值日期  
  3. def get_mutual_fund(code):  
  4.     df = ak.fund_em_open_fund_info(fund=code, indicator="单位净值走势")  
  5.     dfdf = df[['净值日期', '单位净值','日增长率']]  
  6.     # df.columns = ['净值日期', '单位净值', 'equityReturn', 'unitMoney']  
  7.     df['净值日期'] = pd.to_datetime(df['净值日期'])  
  8.     dfdf = df.sort_values('净值日期',ascending=False)  
  9.     unit_equity = df.head(1)['单位净值'].values[0]  
  10.     date_latest = df.head(1)['净值日期'].values[0]  
  11.     return [unit_equity, date_latest] 

对于这个自定义函数,在 pandas 使用 apply 来应用自定义函数,这是使用 apply 的一种常用的方法,如下:

  1. # 获取基金最新的单位净值和净值日期  
  2. df['tmp'] = df['基金代码'].apply(get_mutual_fund)  
  3. print(df) 

获取的数据截图如下:

文本拆分

上图中的 tmp 列,就是我们这次需要进行处理的对象。

处理方法可以有多种,这里 Lemon 使用 pandas 中的 apply 来处理,相对来说,也是比较便捷的方式。

在 apply 函数中,使用 pd.Series 就可以达到我们的目的。

  1. # 将单位净值和净值日期单独成列  
  2. df[['最新单位净值','净值日期']] = df['tmp'].apply(pd.Series)  
  3. dfdf = df.drop('tmp',axis=1)  
  4. print(df) 

结果如下:

02 有两个参数的函数

pandas 中的 apply 函数应用自定义函数时,通常情况下,都是没有参数或者一个参数,那么如果有两个参数,是否还可以使用apply函数呢?

答案是可以的。

这里我们也来探讨下。

还是以上面的案例为基础雏形,同样的,先从 akshare 获取数据

  1. df1 = ak.fund_em_fund_name().head(20).tail(5)  
  2. df1df1 = df1[['基金代码','基金简称']] 

接下来,自定义一个带有两个参数的函数,如下:

  1. # 自定义函数有两个参数的情形  
  2. # 获取年度年底基金净值数据  
  3. def get_mutual_fund_year(code,year):  
  4.     year = str(year)  
  5.     df = ak.fund_em_open_fund_info(fund=code, indicator="单位净值走势")  
  6.     dfdf = df[['净值日期', '单位净值', '日增长率']]  
  7.     # df.columns = ['净值日期', '单位净值', 'equityReturn', 'unitMoney']  
  8.     df['净值日期'] = pd.to_datetime(df['净值日期']) 
  9.     dfdf = df.sort_values('净值日期',ascending=False)  
  10.     dfdf = df.set_index('净值日期')[year] 
  11.     dfdf = df.reset_index()  
  12.     unit_equity = df.head(1)['单位净值'].values[0]  
  13.     date = df.head(1)['净值日期'].values[0]  
  14.     return [unit_equity,date] 

带有两个参数的自定义函数

然后,使用 apply 来应用上面这个带两个参数的自定义函数,核心要点就是嵌套使用 lambda 函数,固定其中一个参数,具体如下

  1. df1['tmp'] = df1['基金代码'].apply(lambda code: get_mutual_fund_year(code, 2019)) 

后续,依旧是文本拆分,实现代码如下:

  1. # 将单位净值和净值日期单独成列  
  2. df1[['最新单位净值','净值日期']] = df1['tmp'].apply(pd.Series)  
  3. df1df1 = df1.drop('tmp',axis=1)  
  4. print(df1) 

应用场景

有同学可能会问,使用两个参数的自定义函数,有什么用呢?

这里,Lemon 也分享一个应用场景:

根据上面的基础雏形数据,针对具体的年度,建立一个下拉列表,选择不同的年份时,返回不同年份的结果,包括文本数据、表格数据以及图表等。

效果如下:

涉及到一些个人的数据,就没有完整展示啦~~

其他的应用场景,欢迎大家来分享!

评论关闭