时间:2021-05-22
下面给大家介绍下pandas读取CSV文件时查看修改各列的数据类型格式,具体内容如下所述:
我们在调bug的时候会经常查看、修改pandas列数据的数据类型,今天就总结一下:
1.查看:
Numpy和Pandas的查看方式略有不同,一个是dtype,一个是dtypes
print(Array.dtype)#输出int64print(df.dtypes)#输出Df下所有列的数据格式 a:int64,b:int642.修改
import pandas as pdimport numpy as npdf = pd.read_csv('000917.csv',encoding='gbk')df = df[df['涨跌幅']!='None']df['涨跌幅'] = df['涨跌幅'].astype(np.float64)print(df[df['涨跌幅']>5])ps:在Pandas中更改列的数据类型
先看一个非常简单的例子:
a = [['a', '1.2', '4.2'], ['b', '70', '0.03'], ['x', '5', '0']]df = pd.DataFrame(a)有什么方法可以将列转换为适当的类型?例如,上面的例子,如何将列2和3转为浮点数?有没有办法将数据转换为DataFrame格式时指定类型?或者是创建DataFrame,然后通过某种方法更改每列的类型?理想情况下,希望以动态的方式做到这一点,因为可以有数百个列,明确指定哪些列是哪种类型太麻烦。可以假定每列都包含相同类型的值。
解决方法
可以用的方法简单列举如下:
对于创建DataFrame的情形
如果要创建一个DataFrame,可以直接通过dtype参数指定类型:
df = pd.DataFrame(a, dtype='float') #示例1df = pd.DataFrame(data=d, dtype=np.int8) #示例2df = pd.read_csv("somefile.csv", dtype = {'column_name' : str})对于单列或者Series
下面是一个字符串Seriess的例子,它的dtype为object:
>>> s = pd.Series(['1', '2', '4.7', 'pandas', '10'])>>> s0 11 22 4.73 pandas4 10dtype: object使用to_numeric转为数值。默认情况下,它不能处理字母型的字符串'pandas':
>>> pd.to_numeric(s) # or pd.to_numeric(s, errors='raise')ValueError: Unable to parse string可以将无效值强制转换为NaN,如下所示:
>>> pd.to_numeric(s, errors='coerce')0 1.01 2.02 4.73 NaN4 10.0dtype: float64如果遇到无效值,第三个选项就是忽略该操作:
>>> pd.to_numeric(s, errors='ignore')# the original Series is returned untouched对于多列或者整个DataFrame
如果想要将这个操作应用到多个列,依次处理每一列是非常繁琐的,所以可以使用DataFrame.apply处理每一列。
对于某个DataFrame:
>>> a = [['a', '1.2', '4.2'], ['b', '70', '0.03'], ['x', '5', '0']]>>> df = pd.DataFrame(a, columns=['col1','col2','col3'])>>> df col1 col2 col30 a 1.2 4.21 b 70 0.032 x 5 0然后可以写:
df[['col2','col3']] = df[['col2','col3']].apply(pd.to_numeric)那么'col2'和'col3'根据需要具有float64类型。
但是,可能不知道哪些列可以可靠地转换为数字类型。在这种情况下,设置参数:
df.apply(pd.to_numeric, errors='ignore')然后该函数将被应用于整个DataFrame,可以转换为数字类型的列将被转换,而不能(例如,它们包含非数字字符串或日期)的列将被单独保留。
另外pd.to_datetime和pd.to_timedelta可将数据转换为日期和时间戳。
软转换——类型自动推断
版本0.21.0引入了infer_objects()方法,用于将具有对象数据类型的DataFrame的列转换为更具体的类型。
例如,用两列对象类型创建一个DataFrame,其中一个保存整数,另一个保存整数的字符串:
>>> df = pd.DataFrame({'a': [7, 1, 5], 'b': ['3','2','1']}, dtype='object')>>> df.dtypesa objectb objectdtype: object然后使用infer_objects(),可以将列'a'的类型更改为int64:
>>> df = df.infer_objects()>>> df.dtypesa int64b objectdtype: object由于'b'的值是字符串,而不是整数,因此'b'一直保留。
astype强制转换
如果试图强制将两列转换为整数类型,可以使用df.astype(int)。
示例如下:
a = [['a', '1.2', '4.2'], ['b', '70', '0.03'], ['x', '5', '0']]df = pd.DataFrame(a, columns=['one', 'two', 'three'])dfOut[16]: one two three0 a 1.2 4.21 b 70 0.032 x 5 0df.dtypesOut[17]: one objecttwo objectthree objectdf[['two', 'three']] = df[['two', 'three']].astype(float)df.dtypesOut[19]: one objecttwo float64three float64总结
以上所述是小编给大家介绍的pandas读取CSV文件时查看修改各列的数据类型格式,希望对大家有所帮助,如果有任何疑问欢迎给我留言,小编会及时回复大家的!
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
1.读取数据用pandas中的read_csv()函数读取出csv文件中的数据:importpandasaspddf=pd.read_csv("comments
1、问题在使用Python中pandas读取csv文件时,由于文件编码格式出现以下问题:Traceback(mostrecentcalllast):File"p
数据加载、存储与文件格式pandas提供了一些用于将表格型数据读取为DataFrame对象的函数。其中read_csv和read_talbe用得最多pandas
项目实现知识点:Pandas库及pyecharts库Pandas:数据分析和处理工具。pd.read_csv():读取csv文件。pyecharts:绘图库,提
第一:pandas.read_csv读取本地csv文件为数据框形式data=pd.read_csv('G:\data_operation\python_book