功能强大的python包(二):Pandas
2021-07-12 本文已影响0人
可爱多多少
功能强大的python包(二):Pandas
1. Pandas简介
Pandas图标Pandas是一个强大的分析结构化数据的工具集;它的使用基础是Numpy(提供高性能的矩阵运算)。
Pandas是一种结构化数据工具集,可以用于数据挖掘、数据分析、数据清洗、数据可视化等。
2. 数据类型
Pandas库最重要的两种数据结构是Series、DataFrame。
Series:一种类似于一维数组的对象, 是由一组Numpy数据及该数据对应的数字序列构成;可以通过该数字序列访问Numpy数据。
DadaFrame:一种表格型的数据结构,是由一组有序的列构成,每一列可以是不同的数据类型,相当于Series数据结构集合;与表格数据类似,DadaFrame数据有行索引和列索引;结合行、列索引可以访问其中单个数据元素。
数据结构 | 定义 |
---|---|
Series | 带标签的一维同构数组 |
DataFrame | 带标签、大小可变的二维异构表格 |
3. Pandas总览
-
对象生成
生成Series对象和DataFrame对象
函数 | 实例 |
---|---|
pd.Series | pd.Series([1,2,3,4],index=['一','二','三','四'] |
pd.DataFrame | pd.DataFrame([[1,2,3],[1,2,3]]) |
import pandas as pd
pd.Series([1,2,3,4],index=['一','二','三','四']
pd.DataFrame([[1,2,3],[1,2,3]])
-
数据访问
访问Series对象和DataFrame对象中的数据元素
函数 | 作用 |
---|---|
df.head( ) | 访问对象头部数据 |
df.tail( ) | 访问对象尾部数据 |
df.describe( ) | 访问对象的多个统计数据 |
df.index | 访问对象的行索引 |
df.columns | 访问对象的列索引 |
df.values | 访问对象的数据元素 |
df.loc[ ] | 按索引访问对象的数据 |
df.iloc[ ] | 按位置访问对象的数据 |
df[条件] | 通过条件筛选数据 |
df.isin([ ]) | 通过条件筛选数据 |
import pandas as pd
import pandas as pd
df = pd.DataFrame({'公号名':['人类之奴','十点美剧','韩剧剧场','果壳网','十点读书','胖胖啊'],'领域':['科技','影视','影视','科普','阅读','情感'],'粉丝数':[100000,964,1232,543,9990,200],'更新':['日更','周更','日更','月更','周更','日更']})
df.head()
df.tail(1)
df['粉丝数'].describe()
df.index
df.columns
df.values
df.loc[0]
df.loc[:]['公号名']
df.iloc[1:3]
df.iloc[1:4,0:2]
df[df['粉丝数']>9000]
df[df['领域'].isin(['科技'])]
-
文件读写
Pandas可以读写.csv、.xlsx等常用文件;读取的同时将数据转换成DataFrame数据结构,用于后续处理。
函数 | 作用 |
---|---|
pd.read_csv( ) | 读取.csv文将 |
pd.to_csv( ) | 将数据保存为.csv文件 |
pd.read_excel( ) | 读取.xlsx文件 |
pd.to_excel( ) | 将数据保存为.xlsx文件 |
pd.read_hdf( ) | 读取.h5文件 |
pd.to_hdf( ) | 将数据保存为.h5文件 |
import pandas as pd
path = 'D:\\桌面\\pd0.csv'
#GB18030可以解码包含中文的文件
df_csv = pd.read_csv(path,encoding='GB18030')
df_csv.to_csv('人类之奴.csv')
df_xlsx = pd.read_excel('D:\\桌面\\python包.xlsx',sheet_name=0)
df_xlsx.to_excel('人类之奴.xlsx')
df_hdf = pd.read_hdf('人类之奴.h5')
df_csv.to_hdf('人类之奴.h5','a')
-
数据清洗
对对象中缺失的、有问题的数据进行处理(删除、填充、替换)。
函数 | 作用 |
---|---|
df.dropna( ) | 删除有缺失值的数据项 |
df.fillna( ) | 填充缺失值 |
import pandas as pd
df = pd.DataFrame({'公号名':['人类之奴','十点美剧','韩剧剧场','果壳网','十点读书','胖胖啊'],'领域':['科技',None,'影视','科普',None,'情感'],'粉丝数':[100000,964,None,543,9990,200],'更新':['日更','周更','日更','月更','周更','日更']})
df.head()
df.dropna()
df.fillna('科技')
-
数据处理
数据处理包括数据拼接、数据重排、数据分析等。
函数 | 作用 |
---|---|
pd.concat([ ]) | 拼接Series/DataFrame对象 |
pd.merge( ) | 合并Series/DataFrame对象 |
pd.join( ) | 合并Series/DataFrame对象 |
df.sort_index( ) | 按索引重排数据 |
df.sort_values( ) | 按值重排数据 |
Numpy方法 | Series/DataFrame对象可以调用Numpy方法 |
df.groupby([ ]).function( ) | 分组进行function处理 |
df.apply(function) | 对对象整体调用function处理 |
import pandas as pd
import numpy as np
df1 = pd.DataFrame({'名称':['甲','乙','丙','丁'],'语文':[56,34,67,89]})
df2 = pd.DataFrame({'名称':['甲','乙','丙','丁'],'数学':[98,97,89,35]})
pd.concat([df1,df2],axis=1)
pd.merge(df1,df2)
df = pd.merge(df1,df2)
df.sort_index(1,ascending=False)
df.sort_values(by='数学')
df.groupby(['数学']).mean()
df['数学'].apply(np.median)
-
数据可视化
对Series/DataFrame对象进行可视化。
函数 | 作用 |
---|---|
pd.plot( ) | 绘制折线图 |
pd.plot.hist( ) | 绘制直方图 |
pd.plot.scatter( ) | 绘制散点图 |
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
df1 = pd.DataFrame({'语文':[56,34,67,89]})
df2 = pd.DataFrame({'数学':[98,97,89,35]})
pd.concat([df1,df2],axis=1)
pd.merge(df1,df2)
df.plot()
df.plot.hist()
df.plot.scatter()
#运行出错,没有解决这个问题,希望懂得朋友评论区帮忙解决一下