科百科
当前位置: 首页 范文大全

离散事件分析(对稀有事件数据分析的讨论)

时间:2023-07-26 作者: 小编 阅读量: 1 栏目名: 范文大全

二分变量可以诠释为有或无,发生或没有发生等。在流行病学或社会科学中,有一些事件会发生,但是出现的频次比较低,比如战争、罕见病症以及政体变迁等。核心的参数是样本的稀有事件比例和总体的稀少事件比例。为此小编采用仿真模拟的方法,构建了不同比例的稀少事件数据集,分别使用普通的logistic方法和GaryKing的rareeventlogit方法来得到解答。低于该比例的,目前尚无可信的估计方法。

在社会科学的数据分析中,有那么一类变量比较常见,即0-1的二分变量。当它是自变量时,则称为虚拟变量回归模型,当它是因变量时,此时常用的模型是logistic或probit回归(这两种模型的区别在于对方差的假定不同,二者估计的结果差异不大,但是在更为复杂的模型中可能会有不同的功能)。二分变量可以诠释为有或无,发生或没有发生等。在流行病学或社会科学中,有一些事件会发生,但是出现的频次比较低,比如战争、罕见病症以及政体变迁等。很多时候定性研究在这种重要的罕见事情上大放光彩,通过深入的资料档案分析与小案例比较方法来探究这些事件的成因,总结出具有一定普适性的理论。

在定量研究中,稀有事件的logistic分析往往存在困难,这点在数学上可以解释,即频率派方法求解待估计系数矩阵时(公式如下),如果事件发生概率过低,矩阵中就会有很多元素约等于0,那么在求矩阵的逆矩阵时就容易出问题,造成估计结果的可信度不高。现在的问题是:什么样的数据算是稀有事件数据?

加里·金(Gary King)2000年左右与其合作者发表的两篇文章讨论了对稀有事件回归模型的估计修正。当然,他们也没有指出多小的比例算是稀有事件(不过他们文章中使用的数据集比例是0.34%,的确算比较小了)。他们文章的核心观点是,通过先验调整(prior correction)或者加权(weighting)的方式来调整估计系数使得样本估计更接近总体。核心的参数是样本的稀有事件比例和总体的稀少事件比例。因为他们认为稀有事件数据在数据收集过程中会面临样本量和变量数目的权衡,因此在估计上可能会低估了稀少事件的出现频次,因此这个调整方案目的和功能也只是让估计更接近真实参数而非优化估计。

那么核心问题是,多少比例的稀有事件才需要修正呢?为此小编采用仿真模拟(simulation)的方法,构建了不同比例的稀少事件数据集,分别使用普通的logistic方法和Gary King的rare event logit方法来得到解答。数据分析使用R,基础包的glm()函数提供了logistic回归的程序,Zelig包中的relogit()函数提供了rare event logit的程序(这个包的其他函数出了问题,近期刚刚下架,但是错误报告里面没有提relogit()的问题,因此可以用之前版本的进行计算)。

小编设定了从0.001到0.01的以0.001为步长的比例值和从0.01到0.20的以0.01为步长的比例值,最终共得到29个比例值,分别看这两种估计方法在不同稀少比例下的表现。由于logistic固定了常用阈值,因此设计阵xβ和比例p之间存在某种函数关系,这种函数关系没有解析解,只能通过仿真方法求得数值解进行比较。这里小编还设定了随机数种子666(希望获得好运)使得结果可重复,并虚拟了100000个样本量的数据集,变量服从最小值为0,最大值为10的均匀分布(正态分布最终会导致估计比例收敛到0.5,没有办法达到想要的比例)。下图是仿真模拟的结果。

这幅图展示的是给定数据集的β和比例p之间的真实关系(红线)、logit回归的估计(绿线),rare event logit回归的估计(蓝线)。为了看得更清晰,截取上左图的部分结果放到右图,可以看到尽管估计上有差异,但是由于关键回归系数的标准误巨大,因此真实值也依然在估计的不确定范围(uncertainty)内。为了进一步观察,小编计算了估计值和真实值之间的差异占真实值的比例,结果如下图。

这张图我们大概可以看出来,当p比较小的时候,估计值和真实值的差异非常大。而且更为关键的是,rare event logit表现也没比正常的回归方法要好到哪里去。所以至少目前的仿真模拟结果呈现出来的结果是,如果以偏差10%为标准,至少比例要达到1%,如果稀有事件数据比例低于1%,两种方法估计上比较不出谁优谁劣。

所以目前能够初步得出的(未经系统检验的)结论是,如果稀有数据的比例达到1%,那么logit模型一般不会有非常大的估计偏差(形象地想一下,如果有3000个样本量的观测,某个二分变量只有30个不到的1,是不是很多人都有选择扔掉的冲动)。低于该比例的,目前尚无可信的估计方法。当然,小编也尝试了一下贝叶斯(Bayesian)方法,贝叶斯给出的结果同样有比较偏离的估计和较大的可信区间,由于一次贝叶斯估计的时间过长,因此小编没有把所有29个比例全部跑完。此外,贝叶斯的结果也取决于先验(prior)的设定,如果先验设定得好那拟合就非常棒,但是现实的结果是,我们并不知道待估计参数的真实值,即使将普通回归的结果作为一个弱先验给贝叶斯也没有明显的改善。不过这种仿真模拟还比较简单的,其中可能存在一些因个人水平有限而没有意识到的问题与错误,如果有愿意讨论的师友想要进一步讨论,还望不吝赐教!

撰文:刘天祥

    推荐阅读
  • 养鱼循环水泵推荐(观赏鱼用水泵几款经典耐用水泵分享)

    养鱼循环水泵推荐?跟着小编一起来看一看吧!我是七彩神仙鱼管家,养殖热带鱼的发烧友,闲暇时每天会分享一些自己养鱼过程中的感同身受,有关更多饲养观赏鱼的话题,请点关注好友,我会知无不尽的同鱼友们分享交流,谢谢大家!!!

  • 二十年校友聚会感言一句话(相邀40载共忆同窗情)

    光阴似箭、日月如梭,弹指间,昔日同窗,当年意气风发的青涩少男少女如今已是鬓角飘雪,儿孙绕膝,青春不再。本次“相邀40载、共忆同窗情、牵手悟人生”活动由文端超同学提议,陈嘉武同学全程发起和策划,活动地点定在郴州,方案已发至本群,欢迎大家踊跃报名参加!活动时间:2021年10月15—17日活动地点:湖南郴州欢迎大家对本次活动多提宝贵意见和建议。同学聚会筹备工作小组2021年6月7日

  • 真实世界中的达芬奇密码(500年后达芬奇密码仍未完全解开)

    今年恰逢“文艺复兴三巨匠”之首的列奥纳多·达·芬奇逝世500周年,艺术界俨然迎来“达·芬奇年”。包括卢浮宫博物馆、乌菲齐美术馆在内的众多博物馆,将以此起彼伏、多达数十个的达芬奇特展以示致敬。由于展期相撞,租借相关作品甚至引发了博物馆之间前所未有的激烈竞争。此前意法双方签署的协议显示,卢浮宫此次还将从意大利租借除《三博士来朝》以外所有的达·芬奇绘画以及主要的手稿。

  • 描写长安的古诗词你最喜欢哪一首(写长安秋冬最好的唐诗)

    我的印象中,曾经有过一本儿,叫“唐代诗人咏长安”,是我的母校西北大学出版的。后两幅为《唐代诗人咏长安》一书部分。根据作者的说法,这本唐代诗人咏长安,完全从《全唐诗》选编而来,一共辑有171首诗。秋风生渭水,落叶满长安。落叶满长安,更成为描写长安秋色的千古名句。林表明霁色,城中增暮寒。每每读到贾岛和祖咏这样意境深远,思想深刻。己亥春月逍逍客于古长安之忙闲居

  • 绵绵思远道上一句是什么(绵绵思远道原文及翻译)

    绵绵思远道上一句:青青河畔草原文:《饮马长城窟行》,今天小编就来聊一聊关于绵绵思远道上一句是什么?上言加餐食,下言长相忆。远在外乡的丈夫不能终日思念,但在梦里很快就能见到他。他乡各有不同的地区,丈夫在他乡漂泊不能见到。桑树枯萎知道天风已到,海水也知道天寒的滋味。书信的前一部分是说要增加饭量保重身体,书信的后一部分是说经常想念。

  • 终于被你推到心碎的边缘什么歌(第一滴泪歌曲歌词)

    跟着小编一起来看一看吧!终于被你推到心碎的边缘什么歌终于被你推到心碎的边缘是由曾一鸣演唱的第一滴泪。

  • 鸡蛋怎么做保存(鸡蛋怎样长期保存)

    鸡蛋怎么做保存摆放不要一股脑的把一袋鸡蛋放入冰箱,摆放鸡蛋时让鸡蛋的,小头在下,大头在上,这样蛋黄就会上浮,微生物不容易入侵到鸡蛋里面,并且让蛋黄贴近气室不和蛋壳接触,这样可以保证鸡蛋的营养不流失。分类摆放不仅仅是鸡蛋,放入冰箱的食物最好做到分类,这样可以减少食物之间的交叉污染,饺子之类的食物,用保鲜盒装好放入冰箱,可以防止破皮保持饺子的鲜味。

  • 好的白茶是什么口感(白茶是什么灵魂拷问来了)

    采用特定茶树品种的芽、叶、嫩茎为原料,包括了大白茶、水仙茶树和群体种茶树。经过萎凋、干燥、拣剔等特定工艺过程制成的产品,称为白茶。非白茶树种,以及非白茶工艺所制成的茶叶,并不能称其为白茶。分别是白毫银针、白牡丹、寿眉和贡眉四种品类。白茶国标中对它们的介绍,十分的详细。微妙的差距,造成了白毫银针和白牡丹之间,截然不同的两种风味特点。但从2018年5月1日开始,新国标正式施行。

  • 明日之子赫兹(明日四季选手演唱会)

    前不久明日之子乐团季才刚刚结束,这便迎来了明日之子四季选手演唱会,前三届选手的回归,也让广大网友们纷纷怀念起当年明日刚刚开播时的盛况。周震南也在创造营2019里面成功以男团c位最终出道,到现在也成为了明日之子乐团季的导师。但是一想到周震南这样的实力选手,唱的竟然还没有音效合成器来的好,就更加让人觉得他的实力水平也不过如此。

  • 怀念父亲的筷子兄弟(筷子兄弟父亲我愿用我一切)

    一如此刻,我十分牵挂我的父亲。将近半年没有见到父亲了。匆匆流年,一生要强的父亲,为了撑起一个家,后背有了岁月的曲线。只在过年的短短几天,装作很孝顺的样子,陪父亲喝茶聊天。一向寡言的父亲,在那几天,却变成了话唠。其实,我心里明白,父亲是在心疼钱。曾想过很多次,把藏在心头二十多年那些想对父亲说却久久不敢开口的话,全都变成文字里微不足道的关心。因为,岁月正在逐渐地把我曾经的孤独和寂寞,转移到父亲身上。