本文将解释Pandas
对excel
文件处理; 解释如下:
Python数据分析之Excel文件
- 1.Pandas安装
- 2.阅读和写入文件
- 3.数据操作
- 4.数据筛选
- 5.删除数据
思考:
在
python
中,读写excel
有很多数据方法,比如xlrd
、xlwt
和openpyxl
,实际上限制比较多,不太方便openpyxl
也不支持csv格式
。有没有更好的方法?
答:
可以使用更好的方法
pandas
,虽然pandas
不专门处理excel
但是处理数据excel
数据确实很方便。
本文使用excel来自网络的数据内容如下:
1.Pandas安装
使用
pip
进行安装。
pip3 install pandas
导入
pandas
:
import pandas as pd
下文使用
pd
进行pandas
的操作。
2.阅读和写入文件
读写文件 例如,阅读文件
excel
,csv
文件
# df是pandas.core.frame.DataFrame类型 df = pd.read_excel('./data/2020-suv.xlsx')
# read_csv可指定分割符、编码方法等 df2 = pd.read_csv('./data/2020-suv.csv')
写入文件:
df.to_excel('./data/2020-suv-new.xlsx') df.to_csv('./data/2020-suv-new.csv')
3.数据操作
all_cols = df.columns print(all_cols)
# 输出,df.columns并非list类型 Index(['销量排名', '车系', '官方价', 从属品牌, '1-12月销量'], dtype='object')
# df.columns并非list可转换的类型list cols = list(df.columns)
获取列数据
col_data = df[u'车系'] mul_col_data = df[ [u车系', u'1-12月销量'] ]
获取行数据
row_data = df.iloc[row_index]
获取所有行数据
all_data = df.values
切片获取多行数据
mul_row_data = df.iloc[2:4]
获取单元格数据
cell_data = df.iloc[row_index][col_index]
4.数据的筛选
Excel
数据筛选比较实用,用pandas
同样可以,并且筛选代码保存后,下次可以直接使用。
某个字段包含指定值
# 包含一个值,na表示是否需要填充,case表示是否区分大小写,更强大的是contains还支持正则表达式
sub_df = df[ df[col_name].str.contains('key1', na=False, case=False) ]
# 包含多个值,多次调用即可
sub_df1 = df[ df[col_name].str.contains('key1', na=False, case=False) ]
sub_df2 = sub_df1[ sub_df1[col_name].str.contains('key2', na=False, case=False) ]
# 包含多个值(或) sub_df = df[ df[col_name].str.contains('key1|key2|key3', na=False, case=False) ]
# 不包含,也就是非的过滤
sub_df = df[ ~df[col_name].str.contains('key1', na=False, case=False) ]
上述操作,都假设字段类型是字符串类型,不然会抛异常。可以通过以下的方法,可以判断字段是否是字符类型:
pd.api.types.is_string_dtype(df[u'车系'])
# 其他类型也有类似的函数,可以用dir查看有哪些类型判断
print(dir(pd.api.types))
# 可以通过dtypes查看字段的类型
pd.dtypes
pd[u'1-12月销量'].dtypes
条件过滤
# 大于
df[ df['1-12月销量'] > 50000 ] .values
# 相等
df[ df['1-12月销量'] == 50000 ] .values
数据写入
添加一行数据:
# 插在最后,row_datas是list
df.loc[len(df.index)] = row_datas
插入一列数据
# 在指定列前面插上一列数据
df.insert( col_index, col_name, col_datas, True)
更新某个单元值
df.iloc[row][col] = u'new-data'
5.数据的删除
删除一列
df2 = df.drop('官方价', axis=1, inplace=False)
print(df2)
# 输出 销量排名 车系 从属品牌 1-12月销量 0 1 哈弗H6 哈弗 376864 1 2 本田CR-V 本田 249983 2 3 博越 吉利汽车 240811 3 4 途观L 大众 178574 4 5 长安CS75 PLUS 长安汽车 266824 .. ... ... ... ... 282 283 北汽
新能源EX 北汽新能源 879 283 284 奔腾X40 奔腾 20412 284 285 标致2008新能源 标致 37 285 286 猎豹CS10 猎豹汽车 14 286 287 森雅R7 一汽 1 [287 rows x 4 columns]
删除一行
df3 = df.drop(2, axis=0, inplace=False)
print(df3)
# 输出
销量排名 车系 官方价 从属品牌 1-12月销量
0 1 哈弗H6 9.80-15.49万 哈弗 376864
1 2 本田CR-V 16.98-27.68万 本田 249983
3 4 途观L 21.58-28.58万 大众 178574
4 5 长安CS75 PLUS 10.69-15.49万 长安汽车 266824
5 6 本田XR-V 12.79-17.59万 本田 168272
.. ... ... ... ... ...
282 283 北汽新能源EX 18.39-20.29万 北汽新能源 879
283 284 奔腾X40 暂无报价 奔腾 20412
284 285 标致2008新能源 16.60-18.80万 标致 37
285 286 猎豹CS10 7.98-11.98万 猎豹汽车 14
286 287 森雅R7 6.69-10.69万 一汽 1
[286 rows x 5 columns]
讨论
pandas
库用于大数据分析和AI,库本身比较复杂,很多功能未必用得上,日常使用可以简单的封装,能够读、写、搜索excel
或csv
数据,pandas
比起专门操作excel
的库要好用得多,简单封装一下即可。详细的使用说明,可以参见pandas官方文档。