草庐IT

管道合并python中的多个熊猫数据框

程序员大本营 2024-04-07 原文

假设我生成了三个我想合并的熊猫数据框:

import pandas as pdimport numpy as npdf1 = pd.DataFrame(np.random.randn(10, 2),                   columns=['a', 'b'])df2 = df1.assign(b= np.random.randn(10)).rename(columns={'a': 'z', 'b': 'd'})df3 = df2.assign(d= np.random.randn(10)).rename(columns={'z': 'f', 'd': 'e'})

这产生以下三个数据范围:

df1:      a         b0  1.919799  1.0674771  0.719339  1.6957292 -0.957719  0.9671263  0.071723 -0.1714634 -1.168568  0.1935775  1.422793  0.9478296  1.491163 -1.0530557 -0.453266  0.1513108  0.265600  0.5796689 -0.379263 -0.971077df2:          z         d0  1.919799 -1.0266331  0.719339 -0.0322802 -0.957719 -1.0053913  0.071723 -1.2796604 -1.168568 -0.3427925  1.422793  0.2656166  1.491163  0.1107477 -0.453266  0.3249868  0.265600 -1.5577939 -0.379263  0.950179df3:          f         e0  1.919799  2.4408091  0.719339 -0.2813592 -0.957719  0.2789843  0.071723 -0.5096534 -1.168568 -2.6635835  1.422793  0.4102506  1.491163  1.5322367 -0.453266 -0.0433238  0.265600 -1.0787049 -0.379263 -0.569662

接下来,我做以下操作:

  1. 通过A和Z合并DF1和DF2(相同但名称不同)。因此,我不能做DF.Join。
  2. 将其管道输入lambda函数,该函数将点1与DF3合并了DF1和DF2(具有与Z。E.E.相同的变量。

我的合并操作代码如下:

df4 = pd.merge(df1, df2, left_on=['a'], right_on=['z'], how='left')\    .pipe(lambda df_: pd.merge(df_, df3, left_on=['z'], right_on=['f'], how='left'))\    .drop(['z', 'f'], axis=1)

因此,我的问题是,如果这是合并这三个数据范围的最佳方法。

我的主要目标是避免使用几行代码,而是使用管道操作员,以便我可以继续操纵DF4,但是如果存在其他可能性,请告诉我!

我习惯于在R中进行编码,因此我喜欢管道%>%操作员的框架。

最终输出是:

          a         b         d         e0  1.919799  1.067477 -1.026633  2.4408091  0.719339  1.695729 -0.032280 -0.2813592 -0.957719  0.967126 -1.005391  0.2789843  0.071723 -0.171463 -1.279660 -0.5096534 -1.168568  0.193577 -0.342792 -2.6635835  1.422793  0.947829  0.265616  0.4102506  1.491163 -1.053055  0.110747  1.5322367 -0.453266  0.151310  0.324986 -0.0433238  0.265600  0.579668 -1.557793 -1.0787049 -0.379263 -0.971077  0.950179 -0.569662

更新: 感谢您的回复。

也许我最初的问题还不够清楚。

我主要有兴趣避免使用PD。命令(例如pd.concat),因为我想在对数据进行操作后,我想离开加入,例如在.ASSIGN之后。这就是使用.pipe操作员的原因。

在这方面,我无法使用DF3.JOIN操作,因为我对两个相同的列有不同的名称。此外,如果我想能够与.join合并多数指数,我会收到以下错误:

NotImplementedError: merging with both multi-indexes is not implemented

希望这阐明这个问题。

看答案

替代方案,不使用 .pipe,可以说更可读性:

df4 = df1.merge(df2.rename_axis({'z':'a'}, axis=1),                on='a',                how='left').merge(df3.rename_axis({'f':'a'}, axis=1),                                  on='a',                                  how='left')

通过重命名加入专栏 df2df3,您可以加入通用的列名,并避免后不得不将其放置。作为第一个 merge 操作返回a DataFrame 对象,您可以与另一个 merge 手术。

有关管道合并python中的多个熊猫数据框的更多相关文章

  1. ruby - 如何从 ruby​​ 中的字符串运行任意对象方法? - 2

    总的来说,我对ruby​​还比较陌生,我正在为我正在创建的对象编写一些rspec测试用例。许多测试用例都非常基础,我只是想确保正确填充和返回值。我想知道是否有办法使用循环结构来执行此操作。不必为我要测试的每个方法都设置一个assertEquals。例如:describeitem,"TestingtheItem"doit"willhaveanullvaluetostart"doitem=Item.new#HereIcoulddotheitem.name.shouldbe_nil#thenIcoulddoitem.category.shouldbe_nilendend但我想要一些方法来使用

  2. ruby - 其他文件中的 Rake 任务 - 2

    我试图在一个项目中使用rake,如果我把所有东西都放到Rakefile中,它会很大并且很难读取/找到东西,所以我试着将每个命名空间放在lib/rake中它自己的文件中,我添加了这个到我的rake文件的顶部:Dir['#{File.dirname(__FILE__)}/lib/rake/*.rake'].map{|f|requiref}它加载文件没问题,但没有任务。我现在只有一个.rake文件作为测试,名为“servers.rake”,它看起来像这样:namespace:serverdotask:testdoputs"test"endend所以当我运行rakeserver:testid时

  3. ruby-on-rails - Ruby net/ldap 模块中的内存泄漏 - 2

    作为我的Rails应用程序的一部分,我编写了一个小导入程序,它从我们的LDAP系统中吸取数据并将其塞入一个用户表中。不幸的是,与LDAP相关的代码在遍历我们的32K用户时泄漏了大量内存,我一直无法弄清楚如何解决这个问题。这个问题似乎在某种程度上与LDAP库有关,因为当我删除对LDAP内容的调用时,内存使用情况会很好地稳定下来。此外,不断增加的对象是Net::BER::BerIdentifiedString和Net::BER::BerIdentifiedArray,它们都是LDAP库的一部分。当我运行导入时,内存使用量最终达到超过1GB的峰值。如果问题存在,我需要找到一些方法来更正我的代

  4. python - 如何使用 Ruby 或 Python 创建一系列高音调和低音调的蜂鸣声? - 2

    关闭。这个问题是opinion-based.它目前不接受答案。想要改进这个问题?更新问题,以便editingthispost可以用事实和引用来回答它.关闭4年前。Improvethisquestion我想在固定时间创建一系列低音和高音调的哔哔声。例如:在150毫秒时发出高音调的蜂鸣声在151毫秒时发出低音调的蜂鸣声200毫秒时发出低音调的蜂鸣声250毫秒的高音调蜂鸣声有没有办法在Ruby或Python中做到这一点?我真的不在乎输出编码是什么(.wav、.mp3、.ogg等等),但我确实想创建一个输出文件。

  5. ruby-on-rails - Rails 3 中的多个路由文件 - 2

    Rails2.3可以选择随时使用RouteSet#add_configuration_file添加更多路由。是否可以在Rails3项目中做同样的事情? 最佳答案 在config/application.rb中:config.paths.config.routes在Rails3.2(也可能是Rails3.1)中,使用:config.paths["config/routes"] 关于ruby-on-rails-Rails3中的多个路由文件,我们在StackOverflow上找到一个类似的问题

  6. ruby-on-rails - 在 Ruby 中循环遍历多个数组 - 2

    我有多个ActiveRecord子类Item的实例数组,我需要根据最早的事件循环打印。在这种情况下,我需要打印付款和维护日期,如下所示:ItemAmaintenancerequiredin5daysItemBpaymentrequiredin6daysItemApaymentrequiredin7daysItemBmaintenancerequiredin8days我目前有两个查询,用于查找maintenance和payment项目(非排他性查询),并输出如下内容:paymentrequiredin...maintenancerequiredin...有什么方法可以改善上述(丑陋的)代

  7. ruby - 解析 RDFa、微数据等的最佳方式是什么,使用统一的模式/词汇(例如 schema.org)存储和显示信息 - 2

    我主要使用Ruby来执行此操作,但到目前为止我的攻击计划如下:使用gemsrdf、rdf-rdfa和rdf-microdata或mida来解析给定任何URI的数据。我认为最好映射到像schema.org这样的统一模式,例如使用这个yaml文件,它试图描述数据词汇表和opengraph到schema.org之间的转换:#SchemaXtoschema.orgconversion#data-vocabularyDV:name:namestreet-address:streetAddressregion:addressRegionlocality:addressLocalityphoto:i

  8. ruby-on-rails - Rails - 一个 View 中的多个模型 - 2

    我需要从一个View访问多个模型。以前,我的links_controller仅用于提供以不同方式排序的链接资源。现在我想包括一个部分(我假设)显示按分数排序的顶级用户(@users=User.all.sort_by(&:score))我知道我可以将此代码插入每个链接操作并从View访问它,但这似乎不是“ruby方式”,我将需要在不久的将来访问更多模型。这可能会变得很脏,是否有针对这种情况的任何技术?注意事项:我认为我的应用程序正朝着单一格式和动态页面内容的方向发展,本质上是一个典型的网络应用程序。我知道before_filter但考虑到我希望应用程序进入的方向,这似乎很麻烦。最终从任何

  9. ruby-on-rails - Rails 3.2.1 中 ActionMailer 中的未定义方法 'default_content_type=' - 2

    我在我的项目中添加了一个系统来重置用户密码并通过电子邮件将密码发送给他,以防他忘记密码。昨天它运行良好(当我实现它时)。当我今天尝试启动服务器时,出现以下错误。=>BootingWEBrick=>Rails3.2.1applicationstartingindevelopmentonhttp://0.0.0.0:3000=>Callwith-dtodetach=>Ctrl-CtoshutdownserverExiting/Users/vinayshenoy/.rvm/gems/ruby-1.9.3-p0/gems/actionmailer-3.2.1/lib/action_mailer

  10. ruby-on-rails - Rails 应用程序中的 Rails : How are you using application_controller. rb 是新手吗? - 2

    刚入门rails,开始慢慢理解。有人可以解释或给我一些关于在application_controller中编码的好处或时间和原因的想法吗?有哪些用例。您如何为Rails应用程序使用应用程序Controller?我不想在那里放太多代码,因为据我了解,每个请求都会调用此Controller。这是真的? 最佳答案 ApplicationController实际上是您应用程序中的每个其他Controller都将从中继承的类(尽管这不是强制性的)。我同意不要用太多代码弄乱它并保持干净整洁的态度,尽管在某些情况下ApplicationContr

随机推荐