草庐IT

python - Pandas:知道操作何时影响原始数据帧

coder 2023-05-22 原文

我喜欢 pandas 并且已经使用了多年,并且我非常有信心我能够很好地处理如何对数据帧进行子集化以及适本地处理 View 与副本(尽管我使用了很多断言来确定)。我也知道有很多关于 SettingWithCopyWarning 的问题,例如How to deal with SettingWithCopyWarning in Pandas? 以及最近一些很棒的指南,可以在发生这种情况时将头缠住,例如Understanding SettingWithCopyWarning in pandas .

但我也知道一些具体的事情,比如来自 this answer 的引用。不再在最新的文档 (0.22.0) 中,并且多年来许多东西已被弃用(导致一些不合适的旧 SO 答案),并且这些东西是 continuing to change .

最近在教 pandas 完成新手的学习后,他们掌握了非常基本的 Python 知识,比如避免链式索引(以及使用 .iloc/.loc),我已经仍然难以提供一般经验法则以了解何时需要注意 SettingWithCopyWarning(例如何时可以安全地忽略它)。

我个人发现,根据某些规则(例如切片或 bool 运算)对数据帧进行子集化然后修改该子集的特定模式,独立于原始数据帧比文档建议的常见操作。在这种情况下,我们希望修改副本而不是原件,并且警告会让新手感到困惑/害怕。

我知道提前知道何时返回 View 与副本并非易事,例如
What rules does Pandas use to generate a view vs a copy?
Checking whether data frame is copy or view in Pandas

因此,我正在寻找更一般(初学者友好)问题的答案:何时对子集数据帧执行操作会影响创建它的原始数据帧,它们何时独立?

我在下面创建了一些我认为合理的案例,但我不确定我是否遗漏了“陷阱”,或者是否有任何更简单的方法来思考/检查这一点。我希望有人可以确认我对以下用例的直觉与我上面的问题有关。

import pandas as pd
df1 = pd.DataFrame({'A':[2,4,6,8,10],'B':[1,3,5,7,9],'C':[10,20,30,40,50]})

1) 警告:否
原始更改:否

# df1 will be unaffected because we use .copy() method explicitly 
df2 = df1.copy()
#
# Reference: docs
df2.iloc[0,1] = 100

2) 警告:是的(我不太明白为什么)
原始更改:否

# df1 will be unaffected because .query() always returns a copy
#
# Reference:
# https://stackoverflow.com/a/23296545/8022335
df2 = df1.query('A < 10')
df2.iloc[0,1] = 100

3) 警告:是
原始更改:否

# df1 will be unaffected because boolean indexing with .loc
# always returns a copy
#
# Reference:
# https://stackoverflow.com/a/17961468/8022335
df2 = df1.loc[df1['A'] < 10,:]
df2.iloc[0,1] = 100

4) 警告:否
原始更改:否

# df1 will be unaffected because list indexing with .loc (or .iloc)
# always returns a copy
#
# Reference:
# Same as 4)
df2 = df1.loc[[0,3,4],:]
df2.iloc[0,1] = 100

5) 警告:否
原作改动:是(让新手感到困惑,但有道理)

# df1 will be affected because scalar/slice indexing with .iloc/.loc
# always references the original dataframe, but may sometimes 
# provide a view and sometimes provide a copy
#
# Reference: docs
df2 = df1.loc[:10,:]
df2.iloc[0,1] = 100

tl;博士 从原始数据框创建新数据框时,更改新数据框:
标量/切片索引与 .loc/.iloc 用于创建新数据帧时,将更改原始数据
不会使用.loc、.query().copy()的 bool 索引来创建新的数据框

最佳答案

这对 pandas 来说有点令人困惑甚至令人沮丧,但如果您遵循一些简单的工作流程规则,在大多数情况下您不必担心这一点。特别要注意,当您有两个数据帧时,这里只有两种一般情况,其中一个是另一个的子集。

在这种情况下,Python 的禅宗规则“显式优于隐式”是一个很好的指导方针。

案例 A:对 df2 的更改不应影响 df1

当然,这是微不足道的。您需要两个完全独立的数据框,因此您只需明确地制作一个副本:

df2 = df1.copy()

在此之后,您对 df2 所做的任何事情都只会影响 df2 而不会影响 df1,反之亦然。

案例 B:对 df2 的更改也会影响 df1

在这种情况下,我认为没有一种通用的方法可以解决问题,因为这完全取决于您想要做什么。但是,有一些标准方法非常简单明了,它们的工作方式不应有任何歧义。

方法一:复制df1到df2,然后用df2更新df1

在这种情况下,您基本上可以对上面的示例进行一对一的转换。这是示例 #2:

df2 = df1.copy()
df2 = df1.query('A < 10')
df2.iloc[0,1] = 100

df1 = df2.append(df1).reset_index().drop_duplicates(subset='index').drop(columns='index')

不幸的是,通过 append 重新合并有点冗长。您可以使用以下方法更简洁地完成此操作,尽管它具有将整数转换为 float 的副作用。

df1.update(df2)   # note that this is an inplace operation

方法2:使用掩码(根本不要创建df2)

我认为这里最好的通用方法根本不是创建 df2,而是让它成为 df1 的掩码版本。有点遗憾的是,您无法直接翻译上述代码,因为它混合了 lociloc,这对于本示例来说很好,但对于实际使用可能不切实际。

优点是可以编写非常简单易读的代码。这是上面示例 #2 的替代版本,其中 df2 实际上只是 df1 的掩码版本。但不是通过 iloc 进行更改,而是在列“C”== 10 时进行更改。

df2_mask = df1['A'] < 10
df1.loc[ df2_mask & (df1['C'] == 10), 'B'] = 100

现在,如果您打印 df1df1[df2_mask],您将看到每个数据帧第一行的“B”列 = 100。显然这在这里并不令人惊讶,但这就是遵循“显式胜于隐式”的固有优势。

关于python - Pandas:知道操作何时影响原始数据帧,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/48173980/

有关python - Pandas:知道操作何时影响原始数据帧的更多相关文章

  1. python - 如何使用 Ruby 或 Python 创建一系列高音调和低音调的蜂鸣声? - 2

    关闭。这个问题是opinion-based.它目前不接受答案。想要改进这个问题?更新问题,以便editingthispost可以用事实和引用来回答它.关闭4年前。Improvethisquestion我想在固定时间创建一系列低音和高音调的哔哔声。例如:在150毫秒时发出高音调的蜂鸣声在151毫秒时发出低音调的蜂鸣声200毫秒时发出低音调的蜂鸣声250毫秒的高音调蜂鸣声有没有办法在Ruby或Python中做到这一点?我真的不在乎输出编码是什么(.wav、.mp3、.ogg等等),但我确实想创建一个输出文件。

  2. ruby-on-rails - 添加回形针新样式不影响旧上传的图像 - 2

    我有带有Logo图像的公司模型has_attached_file:logo我用他们的Logo创建了许多公司。现在,我需要添加新样式has_attached_file:logo,:styles=>{:small=>"30x15>",:medium=>"155x85>"}我是否应该重新上传所有旧数据以重新生成新样式?我不这么认为……或者有什么rake任务可以重新生成样式吗? 最佳答案 参见Thumbnail-Generation.如果rake任务不适合你,你应该能够在控制台中使用一个片段来调用重新处理!关于相关公司

  3. Python 相当于 Perl/Ruby ||= - 2

    这个问题在这里已经有了答案:关闭10年前。PossibleDuplicate:Pythonconditionalassignmentoperator对于这样一个简单的问题表示歉意,但是谷歌搜索||=并不是很有帮助;)Python中是否有与Ruby和Perl中的||=语句等效的语句?例如:foo="hey"foo||="what"#assignfooifit'sundefined#fooisstill"hey"bar||="yeah"#baris"yeah"另外,类似这样的东西的通用术语是什么?条件分配是我的第一个猜测,但Wikipediapage跟我想的不太一样。

  4. java - 什么相当于 ruby​​ 的 rack 或 python 的 Java wsgi? - 2

    什么是ruby​​的rack或python的Java的wsgi?还有一个路由库。 最佳答案 来自Python标准PEP333:Bycontrast,althoughJavahasjustasmanywebapplicationframeworksavailable,Java's"servlet"APImakesitpossibleforapplicationswrittenwithanyJavawebapplicationframeworktoruninanywebserverthatsupportstheservletAPI.ht

  5. 华为OD机试用Python实现 -【明明的随机数】 2023Q1A - 2

    华为OD机试题本篇题目:明明的随机数题目输入描述输出描述:示例1输入输出说明代码编写思路最近更新的博客华为od2023|什么是华为od,od薪资待遇,od机试题清单华为OD机试真题大全,用Python解华为机试题|机试宝典【华为OD机试】全流程解析+经验分享,题型分享,防作弊指南华为o

  6. python - 如何读取 MIDI 文件、更改其乐器并将其写回? - 2

    我想解析一个已经存在的.mid文件,改变它的乐器,例如从“acousticgrandpiano”到“violin”,然后将它保存回去或作为另一个.mid文件。根据我在文档中看到的内容,该乐器通过program_change或patch_change指令进行了更改,但我找不到任何在已经存在的MIDI文件中执行此操作的库.他们似乎都只支持从头开始创建的MIDI文件。 最佳答案 MIDIpackage会为您完成此操作,但具体方法取决于midi文件的原始内容。一个MIDI文件由一个或多个音轨组成,每个音轨是十六个channel中任何一个上的

  7. 「Python|Selenium|场景案例」如何定位iframe中的元素? - 2

    本文主要介绍在使用Selenium进行自动化测试或者任务时,对于使用了iframe的页面,如何定位iframe中的元素文章目录场景描述解决方案具体代码场景描述当我们在使用Selenium进行自动化测试的时候,可能会遇到一些界面或者窗体是使用HTML的iframe标签进行承载的。对于iframe中的标签,如果直接查找是无法找到的,会抛出没有找到元素的异常。比如近在咫尺的例子就是,CSDN的登录窗体就是使用的iframe,大家可以尝试通过F12开发者模式查看到的tag_name,class_name,id或者xpath来定位中的页面元素,会抛出NoSuchElementException异常。解决

  8. python ffmpeg 使用 pyav 转换 一组图像 到 视频 - 2

    2022/8/4更新支持加入水印水印必须包含透明图像,并且水印图像大小要等于原图像的大小pythonconvert_image_to_video.py-f30-mwatermark.pngim_dirout.mkv2022/6/21更新让命令行参数更加易用新的命令行使用方法pythonconvert_image_to_video.py-f30im_dirout.mkvFFMPEG命令行转换一组JPG图像到视频时,是将这组图像视为MJPG流。我需要转换一组PNG图像到视频,FFMPEG就不认了。pyav内置了ffmpeg库,不需要系统带有ffmpeg工具因此我使用ffmpeg的python包装p

  9. Python 刷Leetcode题库,顺带学英语单词(31) - 2

    ValidPalindromeGivenastring,determineifitisapalindrome,consideringonlyalphanumericcharactersandignoringcases. [#125]Example:"Aman,aplan,acanal:Panama"isapalindrome."raceacar"isnotapalindrome.Haveyouconsiderthatthestringmightbeempty?Thisisagoodquestiontoaskduringaninterview.Forthepurposeofthisproblem

  10. python - 是否可以使用 Ruby 或 Python 禁用 anchor /引用来发出有效的 YAML? - 2

    是否可以在PyYAML或Ruby的Psych引擎中禁用创建anchor和引用(并有效地显式列出冗余数据)?也许我在网上搜索时遗漏了一些东西,但在Psych中似乎没有太多可用的选项,而且我也无法确定PyYAML是否允许这样做.基本原理是我必须序列化一些数据并将其以可读的形式传递给一个不是真正的技术同事进行手动验证。有些数据是多余的,但我需要以最明确的方式列出它们以提高可读性(anchor和引用是提高效率的好概念,但不是人类可读性)。Ruby和Python是我选择的工具,但如果有其他一些相当简单的方法来“展开”YAML文档,它可能就可以了。 最佳答案

随机推荐