草庐IT

Dataframe

全部标签

python - 对象 `astype(float)` 的 DataFrame 行为因列表或数组而异

我会先声明我一开始不会这样做,我在帮助friend时遇到了这个问题。考虑数据框dfdf=pd.DataFrame(pd.Series([[1.2]]))df00[1.2]这是对象的数据框,其中对象是列表。在我friend的代码中,他们有:df.astype(float)如我所愿,它坏了ValueError:settinganarrayelementwithasequence.但是,如果这些值是numpy数组:df=pd.DataFrame(pd.Series([np.array([1.2])]))df00[1.2]我也尝试过同样的事情:df.astype(float)001.2很高兴做

python - pyspark 在将 rdd 转换为数据帧时对 mapPartitions 使用一个任务

我很困惑为什么在将生成的RDD转换为DataFrame时,Spark似乎对rdd.mapPartitions使用了1个任务。这对我来说是个问题,因为我想从:DataFrame-->RDD-->rdd.mapPartitions-->DataFrame这样我就可以读取数据(DataFrame),将非SQL函数应用于数据block(RDD上的mapPartitions),然后转换回DataFrame,这样我就可以使用DataFrame.write过程。我可以从DataFrame-->mapPartitions开始,然后使用像saveAsTextFile这样的RDD编写器,但这不太理想,因为

python - Julia 数据框与 Python Pandas

我目前正在使用pythonpandas,想知道是否有办法将pandas中的数据输出到juliaDataframes中,反之亦然。(我想你可以用Pycall从Julia调用python但我不确定它是否适用于数据帧)有没有办法从python调用Julia并让它接受panda数据框?(无需保存为其他文件格式,如csv)什么时候使用JuliaDataframes比使用Pandas更有优势,除了非常大的数据集和运行有很多循环的东西(比如神经网络)? 最佳答案 所以有专门为此开发的库PyJulia是一个用于使用Python2和3与Julia交互

python - Julia 数据框与 Python Pandas

我目前正在使用pythonpandas,想知道是否有办法将pandas中的数据输出到juliaDataframes中,反之亦然。(我想你可以用Pycall从Julia调用python但我不确定它是否适用于数据帧)有没有办法从python调用Julia并让它接受panda数据框?(无需保存为其他文件格式,如csv)什么时候使用JuliaDataframes比使用Pandas更有优势,除了非常大的数据集和运行有很多循环的东西(比如神经网络)? 最佳答案 所以有专门为此开发的库PyJulia是一个用于使用Python2和3与Julia交互

python - 为什么groupby这么快?

这是对thisone的后续问题,其中jezrael使用pandas.DataFrame.groupby将列表创建速度提高了数百倍。具体来说,设df是一个大的dataframe,那么index=list(set(df.index))list_df=[df.loc(x)forxinindex]和list_df=[xfori,xindf.groupby(level=0,sort=False)]产生相同的结果,后者比前者快200多倍,甚至忽略列表创建步骤。为什么?如果有人能让我理解为什么会有如此巨大的性能差异,我将非常高兴。提前致谢!编辑:正如AlexRiley在他的评论中所建议的,我确认测试

python - 为什么groupby这么快?

这是对thisone的后续问题,其中jezrael使用pandas.DataFrame.groupby将列表创建速度提高了数百倍。具体来说,设df是一个大的dataframe,那么index=list(set(df.index))list_df=[df.loc(x)forxinindex]和list_df=[xfori,xindf.groupby(level=0,sort=False)]产生相同的结果,后者比前者快200多倍,甚至忽略列表创建步骤。为什么?如果有人能让我理解为什么会有如此巨大的性能差异,我将非常高兴。提前致谢!编辑:正如AlexRiley在他的评论中所建议的,我确认测试

python - 在 Pandas Read_CSV 中使用 UseCols 时按指定顺序保留列

我有一个包含50列数据的csv文件。我正在使用Pandasread_csv函数提取这些列的子集,使用usecols参数来选择我想要的列:cols_to_use=[0,1,5,16,8]df_ret=pd.read_csv(filepath,index_col=False,usecols=cols_to_use)问题是df_ret包含正确的列,但不是按照我指定的顺序。它们按升序排列,因此[0,1,5,8,16]。(顺便说一句,列号可以在每次运行时改变,这只是一个例子。)这是一个问题,因为代码的其余部分具有“正确”顺序的数组,我宁愿不必重新排序所有他们中的。是否有任何聪明的pandas方法

python - 在 Pandas Read_CSV 中使用 UseCols 时按指定顺序保留列

我有一个包含50列数据的csv文件。我正在使用Pandasread_csv函数提取这些列的子集,使用usecols参数来选择我想要的列:cols_to_use=[0,1,5,16,8]df_ret=pd.read_csv(filepath,index_col=False,usecols=cols_to_use)问题是df_ret包含正确的列,但不是按照我指定的顺序。它们按升序排列,因此[0,1,5,8,16]。(顺便说一句,列号可以在每次运行时改变,这只是一个例子。)这是一个问题,因为代码的其余部分具有“正确”顺序的数组,我宁愿不必重新排序所有他们中的。是否有任何聪明的pandas方法

python:删除 Pandas 数据框中包含字符串的所有行

我有一个名为data的pandas数据框,我想删除任何列中包含字符串的所有行。例如,下面我们看到“gdp”列在索引3处有一个字符串,在索引1处有一个“cap”。data=ygdpcap0125123ab287233bc746775483...我一直在尝试使用类似于此脚本的东西,因为我无法提前知道exp_list中包含的内容。不幸的是,“data.var_name”抛出了这个错误:“DataFrame”对象没有属性“var_name”。我也不知道提前的字符串是什么,所以无论如何也可以概括它吗?exp_list=['gdp','cap']forvar_nameinexp_list:data

python:删除 Pandas 数据框中包含字符串的所有行

我有一个名为data的pandas数据框,我想删除任何列中包含字符串的所有行。例如,下面我们看到“gdp”列在索引3处有一个字符串,在索引1处有一个“cap”。data=ygdpcap0125123ab287233bc746775483...我一直在尝试使用类似于此脚本的东西,因为我无法提前知道exp_list中包含的内容。不幸的是,“data.var_name”抛出了这个错误:“DataFrame”对象没有属性“var_name”。我也不知道提前的字符串是什么,所以无论如何也可以概括它吗?exp_list=['gdp','cap']forvar_nameinexp_list:data