草庐IT

panda_link

全部标签

python - pandas 在 to_latex 时用任意数字替换 NAN

我有一个大型多索引多列数据框df,我没有在这里展示。我像这样生成一片索引:subDf=df.sort_index(level=0).loc[:'e']然后该切片在索引的第二层包含NaN:>>>subDf.iloc[0:1]changerobustnessvaluebaselineNaN-14.5to_csv()生成的csv似乎是正确的:>>>subDf.iloc[0:1].to_csv()Out[15]:'robustness,value,change\nbaseline,,-14.5\n'同样,to_html()的功能与预期的一样。但是,当我尝试获取latex_output时,NaN

python - 如何使用 pandas 查找内存泄漏

我有一个程序重复循环pandas数据框,如下所示:monts=[somemonths]formonthinmonths:df=original_df[original_df.month==month].copy()result=some_function(df)print(result)然而,每次迭代所需的内存不断增加types|#objects|totalsize================================================|===========|============您对如何查找内存泄漏有一些建议吗?编辑请注意,在每次迭代时手动调用gc.col

带有 SKLEARN、PANDAS 和 NUMPY 问题的 Python 部署包?

我是AWS和Python的新手,正在尝试使用AWSLambda函数实现一个简单的ML推荐系统以进行自学。我被困在sklearn、numpy和pandas的组合包装上。如果组合任何两个库意味着(Pandas和Numpy)或(Numpy和Skype)工作正常并且部署完美。因为我使用的是ML系统,所以我需要sklearn(scipy、pandas和numpy),它无法工作并在awslambda测试中出现此错误。到目前为止我做了什么:我的部署包来自python3.6virtualenv,而不是直接来自主机。(已安装/配置python3.6、virtualenv和awscli,并且您的lambd

python - 如何在遵守列表顺序的同时将 pandas .replace() 与正则表达式列表一起使用?

我有2个数据帧:一个(A)带有正则表达式形式的一些白名单主机名(即(.*)microsoft.com、(*.)go.microsoft.com...)和另一个(B)具有站点的实际完整主机名。我想用白名单(第一个)数据框的正则表达式文本向第二个数据框添加一个新列。但是,Pandas的.replace()方法似乎并不关心其to_replace和value参数的订单项。我的数据是这样的:In[1]AOut[1]:wildcards\42(.*)activation.playready.microsoft.com35(.*)v10.vortex-win.data.microsoft.com40

python - Pandas导入CSV和Excel文件报错

我正在尝试使用PythonPandas导入CSV文件。此文件中的示例数据如下,其中第一行是用逗号分隔的列名。EndCustomerOrganizationID,EndCustomerOrganizationName,EndCustomerTopParentOrganizationID,EndCustomerTopParentOrganizationName,ResellerTopParentID,ResellerTopParentName,Business,RevSumDivision,RevSumCategory,ProductFamily,Version,PricingLevel,

python - Pandas 作为 Flask 应用程序的快速数据存储

Pandas运行转换、加载数据的速度和易用性给我留下了深刻印象,我想利用所有这些不错的属性(以及其他属性)来为一些大型数据集建模(~100-200k行,Flask在浏览器中提供数据集的View。我目前正在使用Postgres数据库来存储数据,但是数据的导入(来自csv文件)缓慢、乏味且容易出错,从数据库中取出数据并进行处理也不容易.数据一旦导入就永远不会改变(没有CRUD操作),所以我认为将它存储为多个pandasDataFrame(以hdf5格式存储并通过pytables加载)是理想的。问题是:(1)这是个好主意吗?需要注意什么?(例如,我不希望出现并发问题,因为DataFrame是

python - 将两个指数不匹配的 Pandas 系列相乘

从df创建了两个系列:s1和s2。每个都有相同的长度但不同的索引。s1.multiply(s2)合并不匹配的索引,而不是与它们相乘。我只想将s1与s2相乘,忽略不匹配的索引。我可以运行s1.reset_index()和s2.reset_index()然后从这两个dfs中取出我想要的列,因为它将原始索引转换为一个单独的专栏,但这很乏味,我认为可能有更简单的方法来做到这一点。s1.multiply(s2,axis='columns')好像也没用 最佳答案 我认为使用reset_index()是正确的方法,但是有一个选项可以删除索引,而不

python - Pandas df 的流数据

我正在尝试模拟使用pandas来访问不断变化的文件。我有一个文件读取一个csv文件,向其中添加一行,然后随机休眠一段时间以模拟批量输入。importpandasaspdfromtimeimportsleepimportrandomdf2=pd.DataFrame(data=[['test','trial']],index=None)whileTrue:df=pd.read_csv('data.csv',header=None)df.append(df2)df.to_csv('data.csv',index=False)sleep(random.uniform(0.025,0.3))第二

Python - 在 Pandas DataFrame 中取消嵌套单元格

假设我有DataFramedf:abcvf3|4|5v26vf4|5我想生成这个df:abcvf3vf4vf5v26vf4vf5我知道如何使用tidyr包在R中进行这种转换。在pandas中有没有一种简单的方法可以做到这一点? 最佳答案 你可以:importnumpyasnpdf=df.set_index(['a','b'])df=df.astype(str)+'|'#There'saspace''tomatchthereplacelaterdf=df.c.str.split('|',expand=True).stack().res

python - 使用 pandas.DataFrame 设置值

拥有这个DataFrame:importpandasdates=pandas.date_range('2016-01-01',periods=5,freq='H')s=pandas.Series([0,1,2,3,4],index=dates)df=pandas.DataFrame([(1,2,s,8)],columns=['a','b','foo','bar'])df.set_index(['a','b'],inplace=True)df我想用一个简单的旧系列替换那里的系列,但重新采样到一天的时间段(即x.resample('D').sum().dropna())。当我尝试时:df[