300字范文,内容丰富有趣,生活中的好帮手!
300字范文 > 【Python】读取rdata类型数据转为csv excel格式文件 无需安装r语言基于pyreadr+pa

【Python】读取rdata类型数据转为csv excel格式文件 无需安装r语言基于pyreadr+pa

时间:2019-02-18 02:17:37

相关推荐

【Python】读取rdata类型数据转为csv excel格式文件  无需安装r语言基于pyreadr+pa

目录

环境配置取得数据名 datas.keys()取得pandas的DataFrame类型数据一些数据分析例程供入门同学学习转化为csv excel格式所有数据 转化为csv取前面100行数据 快速测试能否转化csv取前面100行数据 快速测试能否转化xlsx 完整例程总结

欢迎关注 『Python』 系列,持续更新中

欢迎关注 『Python』 系列,持续更新中

近期有不少数学专业的同学做统计方向的毕设有咨询,特此整理本文,所以讲的比较细,计算机专业的直接看文末的代码即可。

环境配置

虽然核心是pyreadr库,但是它有不少的前置库,最好是建议你通过我导出的requirement.txt安装所有库

pip install pyreadr

在项目目录下新建一个requirement.txt文件,内容如下:

et-xmlfile==1.1.0numpy==1.24.2openpyxl==3.1.2pandas==2.0.0pyreadr==0.4.7python-dateutil==2.8.2pytz==.3six==1.16.0tzdata==.3

在你的项目下打开cmd(输入cmd后按下回车键即可)

快速批量安装所有库包,并且版本和我一致(当然最好装在venv虚拟环境中 有需求可以参看我关于venv的博文,无伤大雅)

pip install -r requirements.txt


## 从文件中读取数据pyreadr.read_r() ```python in_file_path="TCGA_BRCA_expr_raw.RData"#输入文件名 datas = pyreadr.read_r(in_file_path) ``` 参数 in_file_path 是你的rdata文件路径,如果和py文件在同一文件夹下,就填写rdata文件名就行了返回值:<class ‘collections.OrderedDict’>类型数据

取得数据名 datas.keys()

print(datas.keys()) #输出数据名

输出内容:odict_keys([‘BRCA.expr’])

这里面是一个列表可以存放很多数据,但是我们这个列表恰好只有一个'BRCA.expr'

取得pandas的DataFrame类型数据

df = datas["BRCA.expr"] # 根据数据名得到数据,数据类型是 <class 'pandas.core.frame.DataFrame'>print(type(df))# <class 'pandas.core.frame.DataFrame'>print(df) #打印数据展示

这里要根据前面得到的数据名获取df

一些数据分析例程供入门同学学习

df是前文代码得到的数据

col_names = df.columnsprint("展示列名\n",col_names)#展示行名index_names = df.indexprint("展示行名\n",index_names)# 取前面X行数据test_df=df.head(10)#取前面10行数据print("取前面10行数据\n",test_df)#取前面10行数据# df.iloc方法按照切片取指定X行数据# 注意:pandas的1.0.0版本后,已经对ix函数进行了升级和重构。 老版本这里不是df.iloc而是df.ix# 现在都是新版本了,如果你看到 df.ix这种操作也不要惊讶test_df=df.iloc[0:5, :] # 使用 iloc 函数 ,切片类似matlab 取得第0-4行,所有列数据print("df.iloc方法按照切片取指定X行数据\n",test_df)#取指定X行数据 [5 rows x 1222 columns]# df.loc方法,按照行和列的标签取数据test_df=df.loc[df.index[0:5], "TCGA.E9.A1N3.01A.12R.A157.07"] # 取得第0-4行,"TCGA.E9.A1N3.01A.12R.A157.07"这一列的数据,其实就是第一列print("df.loc方法,按照行和列的标签取数据\n",test_df)

转化为csv excel格式

我的rdata源文件有200+MB大小

导出的csv文件有 400MB+

excel肯定会更大·····

为什么不推荐导出excel呢?转化时间很慢,比csv慢50倍,而且对内存要求大。而且csv文件也一样能用excel办公软件打开。

所有数据 转化为csv

out_file_path="转化后的文件.csv"print("开始转化")df.to_csv(out_file_path)print("转化完成")#这个转化过程比较久,没有出现输出转化完成之前不要动文件,可能因为文件的只读导致文件损坏!!

取前面100行数据 快速测试能否转化csv

#取前面100行数据 快速测试能否转化out_file_path="转化后的文件.csv"print("开始转化")test_df=df.head(100)#取前面100行数据 快速测试能否转化test_df.to_csv(out_file_path)#如果需要,取前面100行数据 快速测试能否转化print("转化完成")

取前面100行数据 快速测试能否转化xlsx

# 如果你一定要抓excel,也有解决方案out_file_path="取前面100行数据转化后的文件.xlsx"print("开始转化")test_df=df.head(100)#取前面100行数据 快速测试能否转化test_df.to_excel(out_file_path)#如果需要,取前面100行数据 快速测试能否转化print("转化完成")


完整例程

# @Time : /4/19 8:19# @Author : 南黎# @FileName: 基于pyreadr读入r语言数据转为csv数据.pyimport pyreadrimport pandas as pdin_file_path="TCGA_BRCA_expr_raw.RData"#输入文件名datas = pyreadr.read_r(in_file_path)#print(type(datas))# <class 'collections.OrderedDict'># print(datas.keys()) #输出数据名 odict_keys(['BRCA.expr']) 本文的数据只有 BRCA.expr 有些文件可能是一个列表 有多个数据项df = datas["BRCA.expr"] # 根据数据名得到数据,数据类型是 <class 'pandas.core.frame.DataFrame'># print(type(df))# <class 'pandas.core.frame.DataFrame'># print(df) #打印数据展示#展示列名col_names = df.columnsprint("展示列名\n",col_names)#展示行名index_names = df.indexprint("展示行名\n",index_names)# # 取前面X行数据# test_df=df.head(10)#取前面10行数据# print("取前面10行数据\n",test_df)#取前面10行数据# # df.iloc方法按照切片取指定X行数据# # 注意:pandas的1.0.0版本后,已经对ix函数进行了升级和重构。 老版本这里不是df.iloc而是df.ix# # 现在都是新版本了,如果你看到 df.ix这种操作也不要惊讶# test_df=df.iloc[0:5, :] # 使用 iloc 函数 ,切片类似matlab 取得第0-4行,所有列数据# print("df.iloc方法按照切片取指定X行数据\n",test_df)#取指定X行数据 [5 rows x 1222 columns]## # df.loc方法,按照行和列的标签取数据# test_df=df.loc[df.index[0:5], "TCGA.E9.A1N3.01A.12R.A157.07"] # 取得第0-4行,"TCGA.E9.A1N3.01A.12R.A157.07"这一列的数据,其实就是第一列# print("df.loc方法,按照行和列的标签取数据\n",test_df)# 导出csv文件的流程(为什么不选择excel呢? csv处理数据更快,csv比excel快50倍,数据量太大了这里)out_file_path="转化后的文件.csv"print("开始转化")df.to_csv(out_file_path)print("转化完成")#这个转化过程比较久,没有出现输出转化完成之前不要动文件,可能因为文件的只读导致文件损坏!!# #取前面100行数据 快速测试能否转化# out_file_path="转化后的文件.csv"# print("开始转化")# test_df=df.head(100)#取前面100行数据 快速测试能否转化# test_df.to_csv(out_file_path)#如果需要,取前面100行数据 快速测试能否转化# print("转化完成")# # 如果你一定要抓excel,也有解决方案# out_file_path="取前面100行数据转化后的文件.xlsx"# print("开始转化")# test_df=df.head(100)#取前面100行数据 快速测试能否转化# test_df.to_excel(out_file_path)#如果需要,取前面100行数据 快速测试能否转化# print("转化完成")


总结

大家喜欢的话,给个👍,点个关注!继续跟大家分享敲代码过程中遇到的问题!

版权声明:

发现你走远了@mzh原创作品,转载必须标注原文链接

Copyright mzh

Crated:-1-10

欢迎关注 『Python』 系列,持续更新中

欢迎关注 『Python』 系列,持续更新中

【Python安装第三方库一行命令永久提高速度】

【使用PyInstaller打包Python文件】

【更多内容敬请期待】


【Python】读取rdata类型数据转为csv excel格式文件 无需安装r语言基于pyreadr+pandas实现数据分析(保姆级注释)

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。