草庐IT

因果启发的可解释框架:大模型解释的高效之路

为了深入了解大模型的科学原理并确保其安全,可解释变得日益重要。解释大模型带来了很多独特挑战:(1)大模型参数特别多,怎么尽可能确保解释速度?(2)大模型涉及的样本特别多,如何让用户尽可能少看一些样本的解释也能了解大模型的全貌?这两个问题都指向了对大模型解释效率的要求,而我们希望通过新的范式,为构建大模型高效解释之路提供一个思路。我们的高效新范式是通过从因果角度重新审视模型来获得的。我们首先从因果的视角重新审视知名可解释方法(比如LIME、ShapleyValue等),发现他们的解释得分对应于因果推理中的因果效应(treatmenteffect),明确构建了这些方法和因果的联系。这不仅让我们可以

时序与因果模型在复杂仓储控制策略的前沿探索

一、库存管理的抽象理解一般来讲,供应链管理的基本目标是为客户提供高价值服务,同时做好成本控制。为了解决这样的问题可以从客户的大量历史数据以及相关其它信息入手。在一个决策时刻,如下右图T1,系统会根据对于当前库存状态的观测判断是否需要做出补货的策略,以及补多少的决策。在这个过程中隐含了一个中间步骤,每天的初始库存计算会被消费市场所消耗掉一部分。对这样的需求做出准确的预判或预测,是高质量库存的关键问题之一。除此之外还会有其它一些因素影响库存管理,比如当前库存管理状态的观测是否精准,搜集到数据是来自单一场景还是多个场景的混合,是单商品还是多商品的库存管理,特别是在需求预测出现相关性的时候就不得不考虑

因果推断-PSM的原理及python实现

目录一、背景:员工技能培训真的是浪费时间吗二、PSM的原理及python实现1、PSM的原理1.1计算倾向性得分1.2匹配对照组样本1.3平衡性检查1.4敏感度分析2、PSM的python实现一、背景:员工技能培训真的是浪费时间吗假设你是一家大企业的老板,你希望知道员工技能培训对员工生产率的提升有多大帮助。已知参加培训的员工有500人,于是你又随机抽取了500个未参加培训的员工,观察两组之间生产率的差值(ATE),并打算以此作为培训对生产率提升的因果效应。结果发现,两组员工的生产率相差不大,于是你得出“员工培训都是浪费时间”的结论。试问,这个老板得到的结论正确吗?我们且不说结论本身是否正确,但

大咖观点| AIGC与因果推断的双向赋能

近日,由DataFun主办的第三届数据科学在线峰会盛大举办。聚焦机器学习与数据挖掘、AB实验、因果推断、数据中台与数字化转型、用户增长与运营、数据科学最佳实践等6大数据科学主题,数十位国内外一线数据科学家围绕数据科学前沿技术成果和应用实践经验深入分享和交流。九章云极DataCanvas公司深度参与峰会,并分享前沿数据科学技术的最新研究进展。峰会上,九章云极DataCanvas公司AI架构师何刚发表“AIGC与因果推断的双向赋能”主题演讲,探讨近期人工智能高热技术AIGC和经典技术因果推断的融合创新可能。何刚表示,AIGC在非结构化内容的生成中表现惊艳,对于结构化数据分析目前还处于空白状态,而因

携程火车票基于因果推断的业务实践

作者简介Seven,数据分析师,专注用户增长、数据科学等领域。一、背景携程作为旅游平台,跟用户需求息息相关,理解和识别各个策略/系统对转化/收益的因果关系尤为重要,在这个过程中需要将影响因变量的其他因素进行控制,但这些因素通常是复杂且难以测量的。在关系识别困难的情况下,如何使用更为科学的方法,对策略进行微观和宏观的建模分析,如何系统性的评估各种策略的长期影响,是要解决的重要问题。在火车票BG我们现阶段已经遇到的需要探究因果的问题有五类:产品功能迭代评估、虚拟产品价值评估、精准营销和运营、无AB实验增量效果评估、外部环境变化影响评估。遇到这些问题我们通常有几种方式来解决: 在产品设计上构建正确的

【人工智能】— 贝叶斯网络、概率图模型、全局语义、因果链、朴素贝叶斯模型、枚举推理、变量消元

【人工智能】—贝叶斯网络频率学派vs.贝叶斯学派贝叶斯学派Probability(概率):独立性/条件独立性:ProbabilityTheory(概率论):Graphicalmodels(概率图模型)什么是图模型(GraphicalModels)图是什么计算机科学中的图模型:为什么图模型有用?图模型:统一框架图模型在机器学习中的作用:图的方向性:贝叶斯网络举例说明:举例说明:Compactness(紧致性)全局语义局部语义因果链共同原因共同效应构建贝叶斯网络构建贝叶斯网络举例因果方向因果性?贝叶斯网络中的推理推理任务枚举推理枚举推理举例枚举效率不高变量消元精确推理的复杂度举例:朴素贝叶斯模型举

【Causality】因果图入门

这部分主要讲了causaldiscovery的算法描述和图论相关表达。下一篇会整理intervention相关的理论,欢迎大家一起学习。因果图入门初始因果发现因果发现问题因果发现算法因果图模型的相关定义因果图因果边假设结构因果模型马尔可夫性D-faithfulnessD-separationCPDAGAncestralgraph初始因果发现了解系统中现象的规律实际上就是以因果的角度取建模变量间的内在联系。尤其在进行决策时,我们需要考虑干预(intervention)造成的潜在影响。实际上,一个研究的主要目的往往都是在评估一个“动作”(action)的影响,而不是关联性。因此,因果研究的过程时,

黑盒测试之因果图法

因果图法一、定义一种描述输入条件的组合及每种组合对应的输出的图形化工具,用来处理等价类划分和边界值考虑不到的情况,适用描述多种条件的组合,产生多个相应动作的测试方法;从程序规格说明书的描述中找出因果关系。二、因果图说明因:表示输入条件果:表示输出条件三、基本符号1、因果之间的关系Ci表示因,Ei表示果(1)恒等若C1=1,则E1=1若C1=0,则E1=0(2)非若C1=1,则E1=0若C1=0,则E1=1(3)或若C1,C2,C3中只要有一个为真,则E1为真若C1,C2,C3都不为真,则E1为假(4)且若C1和C2同时为真,则E1真若C1,C2不同时为真,则E1为假2、约束条件(因与因,果与果

因果,因果推断,因果关系是什么?

因果关系是什么?当我们在问「为什么」的时候,我们在问什么?Shallowmenbelieveinluckorincircumstance.Strongmenbelieveincauseandeffect. ―RalphWaldoEmerson目录第一章——前言:用通俗的语言介绍「什么是因果关系?」这一问题的讨论背景,并概括若干个传统的哲学观点,以及和下文的统计因果模型相比,这些传统定义存在的缺陷。第二章——事件性因果2.1.随机对照试验2.2.介入主义的因果观2.3.虚拟事实模型(RCM)2.4.贝叶斯网络2.5.结构方程(SEM)+结构因果模型(SCM)2.6.SCM的反事实推理第三章——过

因果推断在微视激励和供需场景的应用

一、因果推断与激励算法1、业务背景与业务建模首先简单地介绍一下腾讯微视的红包激励业务背景。与其他的产品和场景类似,在给定的预算之下,我们向腾讯微视的用户发放一些现金激励,希望通过现金激励最大化用户的次日留存和当天使用时长。现金激励的形式主要是以不定的时间间隔为用户发放不定数量和不定金额的现金红包。以上提到的3个“不定”最终由算法来确定。这三个“不定”也称红包激励策略的三要素。接下来讲一下不同的现金激励策略的抽象形式。第一种以红包序列的形式来表示策略,比如对红包序列进行编号,然后用one-hot的形式为每个treatment独立编号。它的优点是能够刻画更多细节,例如每一个红包之间的金额等细致的策