时间:2021-05-22
The original dataframe
需求:hour代表一天的24小时,现在要将hour列展开,每一个小时都作为一个列
实现:
val pivots = beijingGeoHourPopAfterDrop.groupBy("geoHash").pivot("hour").sum("countGeoPerHour").na.fill(0)并且统计了对应的countGeoPerHour的和,如果有些行没有这个新列对应的数据,将用null填充
The new dataframe
以上这篇spark dataframe 将一列展开,把该列所有值都变成新列的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
Python实现按某一列关键字分组,并计算各列的平均值,并用该值填充该分类该列的nan值。DataFrame数据格式fillna方式实现groupby方式实现D
pandas列转换为字典,但将相同第一列(键)的所有值合并为一个键形式一:importpandasaspd#datadata=pd.DataFrame({'co
查看DataFrame中每一列是否存在空值:temp=data.isnull().any()#列中是否存在空值print(type(temp))print(te
背景:dataFrame的数据,想对某一个列做逻辑处理,生成新的列,或覆盖原有列的值下面例子中的df均为pandas.DataFrame()的数据1、增加新列,
Dataframe结构放在numpy来看应该是二维矩阵的形式,每一列是一个特征,上面会有个列标题,每一行是一个样本。对Dataframe结构的某一列进行排序方法